独家-澳大利亚称可能在人工智能时代的打击行动中对应用程序商店和搜索引擎下手

Byron Kaye

路透悉尼3月1日 - 澳大利亚互联网监管机构表示，它可能会推动搜索引擎和应用商店屏蔽那些未能验证用户年龄的人工智能服务，因为路透的审查发现，在下周的最后期限之前，半数以上的平台没有公布任何合规措施。

这一警告反映了全球为控制人工智能公司所做的最积极的努力之一，这些公司面临着越来越多的诉讼 (link)，因为它们未能阻止--甚至鼓励--自残或暴力，而研究人员警告说，这些平台对青少年心理健康的危害比社交媒体更大。

12 月，澳大利亚成为第一个 禁止青少年使用社交媒体的国家 (link) ，理由是心理健康问题，这引起了 世界各国领导人 (link) ，纷纷表示他们也将这样做。澳大利亚现在表示，它将带头对人工智能进行类似的打击，对人们可以使用该技术访问的内容设置年龄限制。

从3月9日起， 澳大利亚的互联网服务，包括OpenAI的ChatGPT等搜索工具和不太知名的伴侣聊天机器人必须 限制18岁以下的澳大利亚人接收色情、极端暴力、自残和饮食失调等内容，否则将面临高达4950万澳元的罚款（3500万美元）。

该专员的一位发言人表示："eSafety 将在出现违规行为时使用我们的全部权力"，包括 "对把关服务采取行动，如搜索引擎和应用程序商店，它们提供了获取特定服务的关键点"。

OpenAI和配套聊天机器人初创公司Character.AI因与年轻用户互动而面临过失致死诉讼，而OpenAI本周承认 (link)，它在加拿大大规模枪击案发生前几个月，在未告知当局的情况下停用了一名青少年嫌犯的ChatGPT账户。

澳大利亚尚未接到与聊天机器人相关的暴力或自残报告，但监管机构已接到报告称，有年仅 10 岁的儿童每天与人工智能交互工具交谈长达 6 小时。

eSafety 发言人说，"人工智能公司正在利用情感操纵、拟人化和其他先进技术来引诱、诱导和巩固青少年过度使用聊天机器人"。

顶级应用商店运营商苹果AAPL.O没有回应，但 上周 在其网站上表示，它将使用 "合理的方法 "阻止未成年人在澳大利亚和其他引入年龄限制的司法管辖区下载18岁以上的应用，但没有说明具体方法。

谷歌GOOGL.O是澳大利亚主要的搜索引擎提供商和第二大应用程序商店运营商，该公司发言人拒绝发表评论。

互联网行业组织DIGI的政策主管珍妮弗-达克斯伯里（Jennifer Duxbury）在监管机构签署人工智能守则之前领导了该守则的起草工作，她说，eSafety正在努力通知聊天机器人服务有关新规则，但 "最终，在澳大利亚运营的任何服务都有责任了解其法律义务并确保履行这些义务"。

合规者占少数

路透的审查发现，在澳大利亚的最后期限前一周，在 50 个最受欢迎的基于文本的人工智能产品中，有 9 个已经推出或宣布了年龄保证系统计划。路透的审查基于各平台对限制内容和审核政策提示的回复、发布的声明（包括服务条款）以及对路透的声明。

审查发现，另有 11 个平台有全面的内容过滤器，或计划阻止所有澳大利亚人使用其服务，这些措施通过阻止所有用户使用受限内容来遵守新法律，剩下的 30 个平台没有采取明显措施来遵守新规则。

大多数基于聊天的大型搜索助手，如 ChatGPT、Replika 和 Anthropic's Claude，都已开始推出年龄保证系统或全面过滤器。聊天机器人提供商 Character.AI 关闭了针对 18 岁以下青少年的开放式聊天。

同伴聊天机器人提供商 Candy AI、Pi、Kindroid 和 Nomi 告诉路透，他们计划遵守规定，但没有详细说明，而 HammerAI 表示，它最初会阻止澳大利亚用户使用其服务以遵守该守则。

但这只是少数。在配套的聊天机器人中，四分之三没有运行或计划运行过滤或年龄保证功能，而六分之一没有公布用于报告可疑违规行为的电子邮件地址，而这也是要求的。

路透发现，埃隆-马斯克（Elon Musk）的聊天搜索工具 Grok 因涉嫌未能停止制作儿童合成性图像而在全球范围内受到调查，该工具没有年龄保证措施或基于文本的内容过滤器。Grok 的母公司 xAI 没有回应置评请求。

皇家墨尔本理工大学人类-人工智能信息环境中心（Centre for Human-AI Information Environments）主任丽莎-纪梵（Lisa Given）说，路透的发现并不令人惊讶，因为 "这些工具中的大多数在设计时都没有考虑到潜在的危害以及对此类安全控制的需求"。

"她说："感觉就好像......我们在为这些公司测试所有这些东西，他们想看看社会愿意被推到什么程度。"

(1美元 = 1.4085澳元)