亞利桑那州法院因AI生成的受害者視頻撤銷判決
亞利桑那州上訴法院撤銷了對加布裏埃爾·霍卡西塔斯判處10.5年監禁的判決。霍卡西塔斯因2021年一起路怒槍擊事件被判定犯有過失殺人罪，法院裁定量刑法官不應考慮一份由人工智能生成的受害者克里斯托弗·佩爾基的視頻。
判決仍然有效，但案件將發回重審量刑，據 路透社和 案情摘要報道。
合議庭認爲，一段寬恕信息污染了量刑過程。
三名法官組成的合議庭表示，該人工智能生成的視頻不當影響了量刑決定。
雖然記錄並未確切反映該人工智能視頻在量刑考量中具體如何發揮作用，但毫無疑問它確實起到了作用。
——亞利桑那州上訴法院法官 D. Steven Williams，據 路透社報道
法院認定該視頻對Horcasitas造成了足夠的不利影響，使量刑程序在根本上不公平。路透社報道稱，亞利桑那州總檢察長和Horcasitas的公設辯護人拒絕發表評論。
佩爾基家屬如何構建虛擬形象
劇本由Pelkey的妹妹Stacey Wales撰寫，她發現難以用文字表達她認爲哥哥在那種情況下會說的話。據 美國國家公共電臺報道，家人通過一段短視頻、一張葬禮照片以及多種AI工具創建了該虛擬形象。
該虛擬形象首先表明自己是人工智能的產物，隨後對霍卡西塔斯說道：
在另一個人生裏，我們或許本可以成爲朋友。
隨後，審判法官對家屬製作該視頻表示感謝。
法院尚無關於合成視頻的通用規則
這一決定出臺之際，法院正面臨人工合成證據帶來的挑戰。科羅拉多大學博爾德分校發佈的一份報告顯示，美國超過80%的法庭案件部分基於視頻證據，但法院尚未制定統一的規則來處理由人工智能生成或增強的影像內容。
研究人員還關注所謂的“深度僞造防禦”機制，即真實視頻因AI生成的說法顯得合理而被判定爲虛假。
這種擔憂是創建 CIFAR 合成證據語料庫的原因之一，該計劃於2026年6月啓動，因爲研究人員意識到之前的數據集不適合用於教導技術檢測證據材料中可能出現的細微操縱。
溯源、水印與爭分奪秒的檢測市場
NIST將溯源追蹤、水印和合成內容檢測確定爲管理AI生成媒體的關鍵方式。歐洲走得更遠：歐盟《人工智能法案》第50條要求某些合成內容必須機器可讀，並需披露深度僞造爲人工生成或經過篡改。
商業聯繫正變得越來越清晰。SNS Insider評估深度僞造檢測市場在2026年價值爲 11.9億美元，並預測到2035年將增長至 121.4億美元，年複合增長率（CAGR）爲 29.5%。
亞利桑那州的一項裁決本身不足以催生該市場。然而，當超過五分之四的案件依賴視頻證據時，任何關於證據真實性的爭議都會加劇對驗證工具的迫切需求。
這使得法庭上的深度僞造從法律難題轉變爲向銷售法醫驗證的公司出售的真實商業機會。中國也在朝同一方向邁進，Cryptopolitan報道稱，9月出臺了針對AI深度僞造和語音克隆的新責任規則。
如果您正在閱讀這篇文章，說明您已經領先一步。請繼續通過我們的通訊保持關注。
