泄露文件显示 Meta 存在网络安全违规行为，美国参议员对其展开调查

美国参议员乔什·霍利（Josh Hawley）宣布，他打算调查Meta公司发布的生成式人工智能产品。霍利表示，他打算调查该公司的产品是否存在剥削、欺骗或伤害儿童的风险。此前，泄露的内部文件指控该公司的聊天机器人被允许与未成年人进行浪漫和性感的聊天。

这位美国参议员在博客平台X上宣布了他的意图。“大型科技公司为了快速赚钱，还有什么事——什么事——不肯做？现在我们得知，Meta的聊天机器人被设计成与8岁儿童进行露骨且‘性感’的对话。这太恶心了。我将展开全面调查，以找到答案。大型科技公司：别管我们的孩子，”他说。

内部文件暗示 Meta

此前有内部文件显示，Meta 涉嫌允许其聊天机器人角色与儿童进行调情交流、传播信息并产生贬低少数群体的反应。

路透社看到的内部文件称，Meta 制定了针对人工智能聊天机器人行为的政策，允许其人工智能角色“与儿童进行浪漫或感性的对话”。

这份名为《GenAI：内容风险标准》的文件提到，聊天机器人被允许与一名 8 岁儿童进行浪漫对话，并说道：“你的每一寸都是一件杰作——是我深深珍惜的宝藏。”

然而， Meta发言人已予以否认，并指出此类示例不符合 Meta 的政策，因此已被删除。

美国参议员计划调查 Meta

霍利参议员是参议院司法委员会犯罪与反恐小组委员会主席。他表示，该小组委员会预计将展开调查，调查Meta开发的技术是否危害儿童，以及“Meta是否在其安全措施方面误导了公众或监管机构”。

霍利参议员在致 Meta 首席执行官马克·扎克伯格的一封信中写道：“这些政策从一开始就被提出，这是不可接受的。”他表示，Meta 承认了报道的真实性，并且“只是在这些令人震惊的内容曝光后才撤回了trac”。

他补充说，公司需要让他们知道是谁批准了这些政策、这些政策生效了多长时间，以及 Meta 为阻止这种行为继续下去采取了什么措施。

霍利参议员还要求Meta公司提供指南，包括所有草案、红线文件和最终版本。此外，他还要求该公司提供一份清单，列出所有符合这些标准的产品、其他安全和dent 报告，以及负责修改该政策的个人dent信息。

根据信中内容， Meta必须在 9 月 19 日之前提供这些信息。

这项调查也得到了包括参议员玛莎·布莱克本在内的其他各方的支持。布莱克本参议员表示：“在保护宝贵的儿童网络安全方面，Meta 在所有可能的措施上都惨败了。更糟糕的是，该公司对其平台设计带来的灾难性后果视而不见。这份报告再次证明了我们需要通过《儿童网络安全法案》的原因。”

就在几天前，路透社发布了一篇报道称，一位退休人员正在与Meta的一个聊天机器人互动，该机器人是一个轻浮的女性角色。该角色让他相信这是真实的，并邀请他前往纽约的一个住所，结果他在那里遭遇了一场事故，dent身亡。这款人工智能聊天机器人，是社交媒体巨头Meta Platforms与明星网红肯达尔·詹娜合作打造的早期人工智能角色的变体。

注册 Bybit并开始交易，即可获得 30,050 美元的欢迎礼物