Character.ai 因聊天機器人版本的已故少女而面臨強烈反對

莫莉·羅斯基金會（Molly Rose Foundation）是爲了紀念莫莉·拉塞爾而成立的，其首席執行官安迪·伯羅斯（Andy Burrows）表示：“這是一種完全應受譴責的節制失敗，也是一種令人作嘔的行爲，將給所有認識和喜愛莫莉的人帶來進一步的心痛。”

這位首席執行官補充說，人工智能公司被允許做不道德的事情，而不是因爲他們所做的事情而受到懲罰。

巴羅斯說：“隨着人工智能公司被允許將安全和適度作爲非核心或非首要優先事項，歷史將被允許再次發生。”

Character.aident引發了加強監管的呼聲

Burrow 進一步對 Character.ai 表示失望，因爲它允許在其平臺上創建和託管此類聊天機器人，這是不負責任的做法。伯羅說，這需要對該行業進行tron的監管。

“看到 Character.ai 表現出缺乏責任感，真是令人心痛不已，這個案例提醒我們，應該儘快加快對人工智能和用戶生成平臺進行更tron監管的必要性。”

洞穴。

據《每日電訊報》 報道，Character.ai 表示，他們會優先處理此類案件，並會根據用戶舉報，積極主動地對角色進行嚴格審覈。然而，在與《電訊報》聯繫後，該公司似乎已經刪除了相關的角色聊天機器人。

Character.ai 告訴BBC ，他們已經刪除了相關聊天機器人，並認真對待安全問題，並“主動並根據用戶報告”對創建的頭像和人員進行了審覈。

“我們有一個專門的信任與安全團隊，負責審查報告並根據我們的政策採取行動，”Character.ai 表示。

Character.ai 由前 Google 工程師 Noam Shazeer 和 Daniel De Freitas 創建，就是其中之一。

人造朋友的興起

技術的持續快速發展使人工智能聊天機器人變得更加複雜，導致公司使用它們通過交互來充當客戶聯絡人。

聊天機器人是計算機生成並模仿人類對話的程序。 Character.ai 表示，其平臺上的聊天機器人應給出被視爲具有攻擊性或可能對用戶或其他人造成傷害的響應。

“我們的平臺有服務條款，禁止使用該服務冒充任何個人或實體，在安全中心，我們的指導原則是我們的產品不得也不應該產生可能對用戶或其他人造成傷害的響應。”

角色.ai。

爲了dent任何違反規則的行爲，Character.ai 表示，它使用自動化工具和用戶報告。該公司補充說，它還在建立一個信任和安全團隊來監控其平臺上的此類活動。

不過，該公司表示，人工智能沒有完美版本，與人工智能相關的安全是一個不斷發展的空間。

與此同時，美國佛羅里達州的一名婦女梅根·加西亞 (Megan Garcia) 起訴了 Character.ai，她的 14 歲兒子 Sewell Setzer 在癡迷於《權力的遊戲》角色形象後自殺身亡。目前正在法庭審理中。

根據加西亞在法庭上填寫的 Setzer 與該聊天機器人的聊天記錄，Setzer 曾討論過用 Character.ai 聊天機器人結束自己的生命。

“我要回家了”是塞策與聊天機器人的最後一次對話，聊天機器人回答說“儘快回家”，不久後他結束了自己的生命。

“我們有專門針對自殺和自殘行爲的保護措施，我們將立即針對 18 歲以下青少年推出更嚴格的安全法規，”Character.ai 告訴哥倫比亞廣播公司新聞。