Anthropic宣佈禁止“虐待”其旗下AI

金色財經報道，10月9日，據美國科技媒體The Verge報道，Anthropic對其AI使用政策作出調整，以應對新的高風險濫用行爲，包括選舉干預、武器開發、監控，以及醫療和金融領域的應用。但其中一項最重要的變化是，禁止對Claude進行“持續且不必要的虐待或殘忍行爲”。去年8月，該公司宣佈，作爲其“模型福祉”研究的一部分，將允許Claude終止與“持續實施有害或辱罵行爲”的用戶的對話。此次更新指出，終止對話仍是“主要執行機制”；對於是否會採取進一步的執行措施（例如可能封禁用戶），Anthropic未予置評。Anthropic表示，新政策更新“僅適用於極端情況，即用戶在毫無明顯目的的情況下反覆對我們的模型實施殘酷行爲。該政策不適用於用戶常見的不滿、反駁、黑暗創意主題，以及模型測試和研究等情況。”