OpenAI 和 Common Sense Media 聯手推動加州人工智能兒童安全投票提案

OpenAI 和 Common Sense Media 在技術政策上存在分歧，但雙方於週五宣佈，他們將聯合發起一項投票提案，旨在保護加州使用人工智能聊天機器人的兒童。.

這兩個團體表示，他們將放棄原計劃於今年11月提交給加州選民的各自提案，轉而支持他們共同制定的單一提案。.

該協議避免了兩個組織之間可能爆發的代價高昂的政治鬥爭，OpenAI 計劃至少出資 1000 萬美元，以確保該措施能夠進入投票程序。

新提案將賦予家長更大的權力來控制孩子如何使用人工智能聊天機器人。然而，它刪減了常識媒體（Common Sense Media）在其最初版本中提出的一些條款。這些被刪除的條款包括禁止在學校使用手機，以及允許家長和孩子在聊天機器人造成傷害時對大型人工智能公司提起訴訟的條款。.

“與其讓選民對人工智能方面的相互競爭的投票提案感到困惑，我們決定攜手合作，”Common Sense Media的創始人兼負責人吉姆·斯泰爾（Jim Steyer）說道。他在週五的新聞發佈會上談到了這項合作。.

要讓這項提案提交給選民，需要大約87.5萬名加州dent的簽名。OpenAI負責全球政策事務的克里斯·萊恩表示，雙方將成立一個活動組織，從2月初開始收集簽名。萊恩和斯泰爾都指出，如果加州立法者迅速通過立法解決兒童聊天機器人安全問題，他們可能會撤回這項提案。.

此次合作標誌着這兩個組織在技術問題上立場經常對立的雙方關係發生了轉變。.

Common Sense Media 已成爲推動美國各地科技公司監管規則的重要力量。該組織曾於 2018 年協助制定了加州《消費者隱私法案》。就在上個月，它還支持紐約州一項法律，該法律要求在某些社交媒體網站上添加有關心理健康的警告標籤。.

該組織也一直積極倡導對人工智能聊天機器人進行監管。去年，他們支持加州一項法案，該法案旨在禁止流行的AI陪伴聊天機器人與兒童交談，除非這些程序“可預見地”不會進行露骨的性對話或宣揚諸如自殘、暴力和飲食失調等有害行爲。.

科技行業團體曾極力反對這項法案。

民主黨籍州長加文·紐森拒絕了這項提議，稱其限制性太強。.

紐森表示，他希望立法者在 2026 年解決這個問題，但他補充說，加州“不能通過完全阻止年輕人使用這些工具來讓他們爲人工智能無處不在的未來做好準備”。

Common Sense Media 於 10 月提交了投票倡議提案，並以被否決的法案爲藍本。OpenAI 則於 12 月提交了一份範圍更窄的關於兒童安全的倡議提案作爲回應。.

據知情人士透露，OpenAI 在夏季組建了一個專注於加州投票提案的團隊，預計其改變組織結構的計劃會遭到抵制。.

加州商會（其成員包括谷歌、Meta 和亞馬遜等財力雄厚的科技公司）在 12 月投票反對 Common Sense Media 的提議。.

同月，萊恩與斯泰爾坐下來商討折中方案。.

這兩個組織已經就此進行了一年多的磋商，並已達成合作協議，共同制定人工智能指南和教學材料。在討論可能的妥協方案時，OpenAI 進一步闡述了其領導人 Sam Altman 在 9 月份與加州總檢察長 Rob Bonta 討論過的兒童安全概念。這些概念包括該公司計劃開發用於dent18 歲以下用戶的技術。.

新措施需要什麼

更新後的投票提案將取代OpenAI此前提交的提案，該提案要求人工智能公司向被識別爲未滿18歲的用戶提供不同版本的服務dent即使這些用戶聲稱自己已年滿18歲。此外，該提案還要求公司提供家長控制功能、接受獨立dent兒童安全審查、停止針對兒童的廣告投放，以及其他一些要求。

這一妥協對 OpenAI 有所幫助，該公司在過去一年中面臨多起家庭訴訟，聲稱 ChatGPT 的互動傷害了他們的親屬，其中包括一些自殺的年輕人。.

OpenAI 將這些訴訟中描述的情況稱爲“令人無比心碎的情況”，並提到了最近對 ChatGPT 進行的更新，以便更好地處理遭受精神困擾的用戶。.

11 月， Common Sense Media發表了一篇評論，指出包括 ChatGPT、谷歌的 Gemini、Anthropic 的 Claude 和 Meta Platforms 的 Meta AI 在內的 AI 聊天機器人“從根本上來說對青少年心理健康支持是不安全的”。

Steyer 於 2003 年創立了自己的組織，他一直努力在與科技和媒體公司對抗的同時，也與他們合作解決安全問題。.

通過指導和每日想法來完善您的策略 - 30 天免費訪問我們的交易計劃