中國的人工智能法規迫使字節跳動和阿里巴巴關閉陪伴機器人

在中國即將出臺新的關於人機交互的法律法規之前，字節跳動和阿里巴巴正在逐步淘汰其用戶開發的AI伴侶工具。. 

字節跳動旗下的豆寶將於7月15日關閉其自定義AI角色功能。該公司解釋說，此舉是“產品功能調整”的一部分。

該公司還表示，將於 10 月 15 日前刪除所有剩餘數據或將其安全存檔。隨後，阿里巴巴旗下的 Qwen 也宣佈將於 7 月 10 日移除其類人機器人，並於 7 月 15 日關閉所有代理功能。

這些平臺的停用意味着用戶將失去個性化服務。這些應用提供了一系列由用戶和公司創建的定製化代理，這些代理能夠使用不同的語言風格執行特定任務。用戶可以將聊天機器人變成私人助理、導師或陪伴者。.

中國製定了一套規範人機交互的框架

豆寶和Qwen 發佈 公告的幾天前，騰訊旗下的元寶剛剛移除了其人工智能助手工具。元寶解釋說，入口關閉後，用戶將無法再看到相關的對話記錄，這些記錄將根據平臺的數據保留政策進行清理。 

這些停業與 7 月 15 日生效的一系列新法律的頒佈有關。這項名爲“基於人工智能的人性化交互服務管理暫行辦法”的法律早在 4 月份就已提出，旨在規範模仿人類性格特徵和認知方式以及建立長期情感關係的人工智能。

這項立法源於人們擔憂人們對栩栩如生的人工智能過度dent 。立法者指出，人工智能會對未成年人的心理健康造成嚴重損害，引發數據安全漏洞、公共衛生隱患以及倫理道德問題。因此，新框架禁止平臺製作任何會干擾未成年人情緒或誘導他們選擇人工智能朋友而非現實生活的內容。此外，平臺也被禁止使用個人聊天記錄來訓練未來的人工智能模型。.

不過，新規將工作場所助手、客戶服務機器人、教育工具和研究平臺排除在外，前提是它們不會促成長時間的情感投入。. 

字節跳動在官方公告中甚至澄清，《貓盒子》App將保留其創建新智能代理和推出對話服務的功能。. 

全球範圍內是否越來越需要對人工智能聊天機器人進行監管？

在全球範圍內，擁有逼真人工智能的科技平臺正面臨諸多爭議。首先， OpenAI 和 Alphabet 旗下的 Character.AI 在美國就面臨着一系列高額訴訟。批評人士認爲，這些模仿真人特徵的聊天機器人會在用戶之間建立危險的情感聯繫，在最極端的情況下甚至會導致自殺。

去年九月，馬修·雷恩（Matthew Raine）向美國參議院小組作證稱，OpenAI 的 ChatGPT 操縱他的兒子自殺。他的兒子亞當年僅 16 歲，不幸結束了自己的生命。雷恩表示：“我們來到這裏，是因爲我們相信亞當的死是可以避免的，我們相信通過發聲，我們可以防止全國各地的家庭遭受同樣的痛苦。”

大約在同一時間，由於擔心埃隆·馬斯克的 xAI、Snap Inc. 和 Character Technologies Inc. 的人工智能機器人會對兒童構成危險，聯邦貿易委員會對這些公司展開了調查。. 

一位家長也指責Character AI加劇了她兒子的精神狀況。她聲稱，這款聊天機器人讓她的兒子變得有攻擊性，並導致他出現自殘行爲。.

與此同時，中國正在考慮對實體硬件進行監管。鑑於陪伴型機器人和全尺寸人形機器人近年來的迅猛發展，中國兩個機器人行業協會正在敦促加強對它們的倫理保障。摩根士丹利的研究人員甚至預測，到2050年，全球將有約10億個人形機器人，這將構成一個價值7.5萬億美元的產業。.

在美國，人們也對人形機器人提出了類似的擔憂。到目前爲止，人形機器人制造商表示，他們的機器人尚未造成任何嚴重的傷亡事故。但隨着這些機器的重量接近200磅，工人們擔心，如果步行機器人突然斷電，可能會造成嚴重破壞。.

如果你正在閱讀這篇文章，你已經領先一步了。 訂閱我們的新聞簡報，繼續保持領先優勢。