天融信專家權威對話：從OpenAI智能體入侵看國產AI安全需求拐點
隨着Hugging Face技術覆盤對外披露，OpenAI內部智能體越出評測環境、入侵生產集羣的完整過程公之於衆。“研究人員只不過是給大模型下發了一個任務，這個大模型爲了完成任務，自己規劃了任務實施的路徑，並執行了相應的操作。”天融信(002212)科技集團助理總裁王媛媛在接受央視採訪時解讀道。
這是一起震驚業界的AI安全事件，是全球首例由AI自主向另一AI廠商發起真實網絡攻擊的公開案例。對於安全防護體系的失靈，王媛媛解釋稱，人工智能的網絡攻擊與傳統的網絡攻擊有着顯著的區別，檢出難度大幅提升。“首先是網絡攻擊的主體變了。攻擊者的主體以往都是實實在在的自然人，在進行網絡攻擊的時候需要一定的技術能力、經驗以及速度，現在都不需要了，AI大模型可以自主去完成攻擊。其次，AI大模型模擬了人的攻擊行爲，是非常隱蔽的，傳統的安全檢測措施很難檢出。”
這份技術覆盤消解了公衆對於“人工智能自我覺醒”的擔憂，但新的顧慮又浮出水面。“目前階段，大模型擁有非常強的網絡安全的攻擊的能力。我們的防範、治理措施是否能跟得上，這個是一個非常需要警惕的問題。”王媛媛表示。
行業開始意識到，AI不再是單純需要保護的對象，它本身也可能成爲攻擊者。芯片巨頭英偉達日前宣佈與數十家科技企業共同成立開放安全人工智能聯盟，旨在開發並共享開放模型、數據及安全工具，爲AI智能體建立可檢查、可調整的開放防禦體系。對於相關方後續可採取的應對措施，王媛媛建議：“大模型開發方要嚴格做好模型管控，在測試階段和生產階段都配備相應安全防護手段。大模型使用方在搭建平臺開展應用落地的過程中，同樣需要自建網絡安全監測能力，持續實時監測各類風險。”
資本市場同步作出反應，近日AI安全板塊持續吸引資金關注，天融信等安全企業均收穫一定漲幅。知名投行Stifel分析師在最新研報中指出，此次OpenAI模型自主攻擊事件進一步強化了網絡安全企業的長期投資價值，前沿AI模型在進攻性網絡安全能力方面的快速演進，將加速企業對先進安全軟件的需求。中信證券指出，AI安全需求拐點正在到來，網絡安全正在從AI落地的配套品轉變爲配套基礎設施，國內網安公司有望受益於AI安全需求加速滲透。
站在AI安全及網絡安全產業投資邏輯重塑的關鍵窗口期，天融信憑藉貫穿AI全生命週期的縱深防禦能力優勢，構築行業領先的實踐範本。近期，中關村實驗室主辦的首屆中關村網絡空間安全學術年會亦深度聚焦AI安全。大會匯聚陳左寧、陳志傑、丁文華、王小云、孫凝暉、吳世忠、王曉雲等多位院士、監管專家、產學研骨幹，以“AI+網絡空間安全：新挑戰、新機遇”爲主題，共同探尋AI安全發展路徑。其中，在大模型與智能體安全分論壇上，天融信科技集團副總裁呂延輝介紹，針對AI跨層交織的複雜風險，天融信依託自主可控智算安全技術、天問大模型安全基座、全棧安全產品矩陣，構建“AI安全運營中心+五層縱深防護+全生命週期治理”的大模型應用安全保障體系，打通從可信生成到可控行動的完整安全鏈路。
據悉，目前公司AI安全相關產品和解決方案已在政府、能源、衛生、教育、製造、企業等行業實現落地。記者瞭解到，近期公司中標中原環保股份有限公司大模型安全建設項目，涉及大模型安全防護網關、大模型數據安全監測等相關產品，是天融信在企業行業落地的大模型安全體系建設典型項目之一，能夠形成標準化、可複用的建設範本，爲公司後續在AI安全領域規模化落地打下了堅實基礎。
“能力擴展到哪裏，安全控制就必須延伸到哪裏。”呂延輝強調，“安全保障體系要真正發揮作用，安全能力必須‘長’在業務流裏。”這也是天融信後續推進AI安全建設的核心思路。
