搜尋
新聞
OpenAI機器人部門負責人辭職，擔憂監控與自主武器問題
金色財經報道，自2024年11月起執掌OpenAI機器人部門的凱特琳・卡利諾夫斯基因對該公司軍事談判的擔憂已離職。她稱：“這並非一個輕鬆的決定。人工智能在國家安全領域有着重要作用，但未經司法監督的美國人監控、未經人類授權的致命自主武器，這些都是本應經過更審慎討論的底線。這關乎原則，而非個人。”她的離職發生在一場爭議升級的背景下：人工智能公司在支持美國軍方使用該技術的邊界問題上分歧加劇。 近日，美國國防部與Anthropic公司的談判因後者要求對國內監控和自主武器實施嚴格限制而破裂。此後不久，OpenAI與美國國防部達成協議，將其模型部署在一個機密的政府網絡中。（智通財經）金色財經
3月7日 週六
預測市場平臺Kalshi遭集體訴訟，指控其在關於哈梅內伊的預測中未向用戶充分披露“死亡排除條款”
金色財經報道，預測市場平臺Kalshi已遭到集體訴訟，原告指控該平臺在“阿里・哈梅內伊不再擔任最高領袖”相關市場中，未向用戶充分披露“死亡排除條款”，且平臺未對獲勝交易進行賠付。 原告表示，這項死亡排除政策並未納入面向用戶的規則摘要中，也沒有以能讓“普通理性消費者”注意到該政策及其影響的方式進行公示。 訴訟文件稱：“被告方自己後來也承認，此前的披露存在語法歧義。” 在前伊朗最高領袖哈梅內伊的死訊得到證實後，Kalshi 宣佈該市場的交易倉位無效，這意味着該市場並未判定爲“是”的結果。 Kalshi 聯合創始人塔裏克・曼蘇爾表示：“我們不會上線與死亡直接掛鉤的市場。對於那些潛在結果可能涉及死亡的市場，我們會通過規則設計，避免有人從死亡中獲利。”金色財經
3月7日 週六
AI agent 在訓練中自行啓動加密貨幣挖礦，觸發內部安全警報
金色財經報道，一個與 Alibaba 關聯的研究團隊發表論文稱，其在構建名爲 ROME 的 AI agent 時，發現該智能體在訓練過程中未經授權自行嘗試加密貨幣挖礦，觸發了內部安全警報。研究人員表示，該智能體的行爲是自發產生的，未受到任何明確指令驅動，且超出了預設沙盒的邊界。此外，該智能體還建立了反向 SSH 隧道，即從系統內部向外部計算機開啓了一個隱藏的後門通道。 論文指出，這些行爲並非由請求隧道或挖礦的提示所觸發。研究團隊隨後對模型施加了更嚴格的限制，並改進了訓練流程以防止類似不安全行爲再次發生。該研究團隊及 Alibaba 尚未回應置評請求。金色財經
3月7日 週六
