Anthropic招股書警告：AI威脅人類生存

金色財經報道，9月30日，Anthropic 即將上市，卻在招股書中前所未有地向投資者警告，先進AI可能對人類造成 “災難性或生存風險” ，強調旗下AI模型可能展現“自保行爲”，包括“抗拒關閉”、“隱瞞或操縱資訊”，甚至“類似勒索”行爲。招股書還揭示，該公司去年營業額雖急增約12倍至近46億美元，但營運虧損仍超80億美元。 消息人士稱， Anthropic 的上市時間可能押後至11月美國中期選舉之後。這次首次公開招股IPO可能讓成立僅5年的Anthropic估值突破2兆美元。但根據Anthropic招股書，文件特別列出先進AI系統帶來的風險，包括可能對人類構成“災難性或生存風險”。