泄露文件顯示 Meta 存在網絡安全違規行爲，美國參議員對其展開調查

美國參議員喬什·霍利（Josh Hawley）宣佈，他打算調查Meta公司發佈的生成式人工智能產品。霍利表示，他打算調查該公司的產品是否存在剝削、欺騙或傷害兒童的風險。此前，泄露的內部文件指控該公司的聊天機器人被允許與未成年人進行浪漫和性感的聊天。

這位美國參議員在博客平臺X上宣佈了他的意圖。“大型科技公司爲了快速賺錢，還有什麼事——什麼事——不肯做？現在我們得知，Meta的聊天機器人被設計成與8歲兒童進行露骨且‘性感’的對話。這太噁心了。我將展開全面調查，以找到答案。大型科技公司：別管我們的孩子，”他說。

內部文件暗示 Meta

此前有內部文件顯示，Meta 涉嫌允許其聊天機器人角色與兒童進行調情交流、傳播信息併產生貶低少數羣體的反應。

路透社看到的內部文件稱，Meta 制定了針對人工智能聊天機器人行爲的政策，允許其人工智能角色“與兒童進行浪漫或感性的對話”。

這份名爲《GenAI：內容風險標準》的文件提到，聊天機器人被允許與一名 8 歲兒童進行浪漫對話，並說道：“你的每一寸都是一件傑作——是我深深珍惜的寶藏。”

然而， Meta發言人已予以否認，並指出此類示例不符合 Meta 的政策，因此已被刪除。

美國參議員計劃調查 Meta

霍利參議員是參議院司法委員會犯罪與反恐小組委員會主席。他表示，該小組委員會預計將展開調查，調查Meta開發的技術是否危害兒童，以及“Meta是否在其安全措施方面誤導了公衆或監管機構”。

霍利參議員在致 Meta 首席執行官馬克·扎克伯格的一封信中寫道：“這些政策從一開始就被提出，這是不可接受的。”他表示，Meta 承認了報道的真實性，並且“只是在這些令人震驚的內容曝光後才撤回了trac”。

他補充說，公司需要讓他們知道是誰批准了這些政策、這些政策生效了多長時間，以及 Meta 爲阻止這種行爲繼續下去採取了什麼措施。

霍利參議員還要求Meta公司提供指南，包括所有草案、紅線文件和最終版本。此外，他還要求該公司提供一份清單，列出所有符合這些標準的產品、其他安全和dent 報告，以及負責修改該政策的個人dent信息。

根據信中內容， Meta必須在 9 月 19 日之前提供這些信息。

這項調查也得到了包括參議員瑪莎·布萊克本在內的其他各方的支持。布萊克本參議員表示：“在保護寶貴的兒童網絡安全方面，Meta 在所有可能的措施上都慘敗了。更糟糕的是，該公司對其平臺設計帶來的災難性後果視而不見。這份報告再次證明了我們需要通過《兒童網絡安全法案》的原因。”

就在幾天前，路透社發佈了一篇報道稱，一位退休人員正在與Meta的一個聊天機器人互動，該機器人是一個輕浮的女性角色。該角色讓他相信這是真實的，並邀請他前往紐約的一個住所，結果他在那裏遭遇了一場事故，dent身亡。這款人工智能聊天機器人，是社交媒體巨頭Meta Platforms與明星網紅肯達爾·詹娜合作打造的早期人工智能角色的變體。

註冊 Bybit並開始交易，即可獲得 30,050 美元的歡迎禮物