电子安全专员在全国记者俱乐部演讲的五个要点

澳大利亚电子安全专员朱莉·英曼·格兰特在国家新闻俱乐部发表讲话，讨论了儿童面临的网络危害以及即将实施的青少年社交媒体禁令。

英曼·格兰特的演讲题为：在数字旗帜间游泳：帮助澳大利亚年轻人应对社交媒体的危险暗流。

演讲中她多次使用隐喻手法。

"让我们确保旗帜升起，救生员在岗，离岸流被明确标记——因为在保护孩子上网安全这件事上，我们每个人都责无旁贷。"她说。

以下是演讲的五个要点。

不应排除任何平台预计TikTok、Instagram、Facebook、X和Snapchat等社交媒体平台都将被纳入禁令范围，最终决定将在禁令生效前由通信部长做出。

YouTube最初被排除在该立法之外，但英曼·格兰特周二表示政府不应指定任何平台获得豁免。

"这不仅关乎YouTube，"她说。

"我们的建议是不应豁免任何特定平台，因为相关风险和危害随时可能发生变化。

专员表示YouTube已掌握"诱导性设计功能"，这些功能会使用户陷入算法构建的信息茧房。

"这是个非常流行且普遍的平台，是儿童使用最多的平台，相应地也是他们遭受最多伤害的地方，"她说。

"我认为任何宣称绝对安全的平台都是在玩文字游戏。"

她补充说这项建议不会阻止教师在退出平台登录状态下展示YouTube教育内容。

YouTube母公司谷歌表示该平台被澳大利亚各地教室使用。

"YouTube不是社交媒体平台；它是拥有海量免费优质内容的视频流媒体平台，电视屏幕正日益成为最受欢迎的观看场所，"公司发言人表示。

"电子安全专员的建议违背了政府自身承诺、其对社区情绪的调研、独立研究以及这场辩论中关键利益相关方的观点，包括推动该立法的"36个月运动"。

"电子安全专员今日立场代表的是前后矛盾的建议。"

谷歌已敦促政府允许澳大利亚年轻人继续使用YouTube。

"隐私、安全与权利协同"电子安全专员谈到承认儿童数字权利的重要性，包括"参与权、尊严权、免受网络暴力权以及隐私权"。

"毫无疑问社交媒体提供了包括人际连接与归属感在内的益处和机会——这些都是我们希望保留的重要数字权利，"英曼·格兰特说。

莉齐·奥谢等专家表示对年龄验证技术使用引发的隐私问题存在担忧。

这些技术通过上传身份证或生物特征面部扫描等方式评估用户网络年龄。

"许多澳大利亚人和年轻人本能地支持禁令，但如果进一步询问包括隐私安全担忧在内的问题，他们的顾虑也很高，"她说。

"是否存在既能保护隐私安全又无需获取大量信息就能实现年龄验证的技术？我不确定是否存在。"

数字权利观察组织创始人兼主席表示对禁令实际执行方式存在担忧。

"我们非常关注禁令的实施方式、运作机制以及实际可操作性，"奥谢说。

"年轻人需要经常使用这类媒体网站获取学校教育等内容。

"这从政策和实践层面凸显了实施社交媒体禁令的真实挑战。"

多数儿童接触过有害网络内容电子安全专员办公室新研究显示，70%儿童接触过与伤害相关的内容——包括厌女内容、仇恨材料及宣扬饮食失调的内容。

数据来自对2600多名10至15岁儿童的调查。

"儿童告诉我们75%的这类内容最近是在社交媒体接触到的，"英曼·格兰特说。

"YouTube是最常被提及的平台，近40%儿童报告在该平台接触过有害内容。

"或许最令人不安的发现是，七分之一受访儿童表示经历过成年人或其他至少年长四岁的儿童实施的网络诱导行为。"

电子安全专员表示这些伤害发生在社交媒体内外。

"虽然36%儿童最近在社交媒体遭遇同龄人网络霸凌，但另有36%在通讯应用遭遇网络欺凌，26%通过网络游戏平台。"

"这表明这种人性的阴暗面会蔓延到儿童所在的任何网络空间。"

将责任转移至平台英曼·格兰特表示最低年龄立法将义务置于平台而非家长身上。

"我们试图在这个几乎毫无防护的系统中建立一些保护儿童的屏障，"专员说。

"通过这样做，我们也能为困扰于这些问题的家长和看护者提供亟需的支持。

"对家长而言，平衡禁止使用可能有害服务的冲动与孩子遭受社交排斥的焦虑是持续挑战。"

专员表示管理责任"理应由平台自身承担，对未能采取合理措施防止未成年用户注册的公司将处以最高4950万澳元的巨额罚款"。

"我们正将科技巨头视为其已成为的榨取性行业，"她说。

"澳大利亚合理要求企业提供我们期待几乎所有面向消费者行业都应具备的救生衣和安全护栏。"

专员表示儿童需要时间学习关键数字技能。

"教授数字和算法素养是最接近网络游泳课程的存在，"她说。

生成式AI的监管缺失危害电子安全专员还谈到未受监管的AI模型，特别指出AI伴侣的风险。

"通过拟人化设计产生类人回应，以及工程化谄媚提供持续肯定和深度连接感，AI伴侣被刻意设计成容易引发情感依赖，"英曼·格兰特说。

"海外案例凸显了这些聊天机器人与青少年建立准恋爱关系最终导致自杀的悲剧。"

英曼·格兰特表示使用生成式AI的应用程序同样存在儿童风险。

"所谓"脱衣应用"或使用生成式AI制作色情内容/"裸体化"图片却缺乏有效管控的服务激增，这引发严重关切，"她说。

"这类应用不存在任何积极用途——它们已开始对澳大利亚青少年（主要是女孩）造成系统性伤害。"