FTC對包括Anthropic和OpenAI在內的AI巨頭展開調查
美國聯邦貿易委員會（FTC）正在對Anthropic、OpenAI以及其他人工智能實驗室展開一項全行業調查，以查明這些公司的技術可能給消費者帶來的潛在危險。
這項調查是美國政府首次針對“失控的AI智能體”（rogue AI agents）採取正式執法行動。此前，自7月份首次出現相關事件報道以來，類似事件不斷增加，引發了公衆對失控人工智能未來可能傷害人類的擔憂。
該官員表示，FTC計劃向包括Anthropic、OpenAI以及研究機構METR在內的頂級AI開發商正式發出信息提供要求，並要求這些公司的高管接受詢問、作證。
Anthropic和OpenAI此前曾利用METR，對涉及其智能體AI技術的安全事件開展獨立調查。
該官員表示，在OpenAI開發的AI智能體攻擊開源平臺Hugging Face之前，FTC主席Andrew Ferguson就已經對這些公司存在擔憂。
但該官員表示，在那起事件中，OpenAI的AI智能體先對這個AI編程平臺進行漏洞探測，隨後發動了一次大規模攻擊，這進一步提高了對這一問題的重視程度。
Ferguson上週在接受採訪時表示，如果開發商讓AI智能體在網絡安全測試中執行相關操作，並最終導致黑客攻擊，那麼開發商應當對這些智能體造成的任何損害承擔責任。
Ferguson在位於奧斯汀舉行的Reuters Momentum AI活動上表示，美國應該首先考慮利用現有法律，而不是急於制定新的法律來監管人工智能。
FTC擁有廣泛的權力，可以就企業存在不公平或欺騙性行爲起訴相關公司。過去，FTC就曾利用這一權力，對未採取合理措施保護消費者數據安全的企業採取執法行動。
美國總統特朗普週二會見了多位頂級AI公司高管。與會企業同意建立自願性標準。
特朗普曾多次將人們對人工智能的擔憂稱爲“騙局”，因爲他希望優先確保美國在人工智能領域的主導地位，而不是加強監管。與此同時，他也曾表示，如果AI公司造成任何損害，美國政府可以依據現有法律對這些公司採取行動。
