TikTok被指控在青少年和兒童身上測試失效的安全功能

據週三解封的紐約州總檢察長萊蒂蒂亞·詹姆斯（Letitia James）的訴訟指控，數千名開啓安全工具“算法刷新”（Algo Refresh）的用戶收到的是一個無效的版本。 據路透社報道.

算法刷新旨在當用戶希望遠離不受歡迎或有害的視頻時，重置其推薦內容。

訴訟稱，在所謂的幽靈或安慰劑實驗中，安慰劑組的用戶收到了算法刷新已激活的確認信息，儘管他們的推薦內容並未被重置。

紐約州稱用戶受到誤導

訴訟指控TikTok向用戶保證安全是其首要任務，且該平臺適合兒童和青少年使用，同時卻明知故犯地向某些羣體（包括特意尋求避免有害內容的用戶）隱瞞安全工具。

根據訴訟文件，該公司在Algo Refresh的功能上誤導了用戶，而實際上它只是對用於推薦內容的算法進行的臨時重置。

據起訴書稱，TikTok在整個2023年持續對數千名用戶進行實驗，比較使用該功能與未使用該功能的羣體，分析用戶在平臺上的停留時間以及該配置對廣告收入的影響。

一位發言人表示，公司正在進行持續的改進，並且像大多數公司一樣，定期測試新產品和功能，以驗證用戶體驗並瞭解其在現實世界中的運作方式。

TikTok在法庭文件中廣泛否認了紐約州的指控，並表示保障年輕用戶的安全是其首要任務。

TikTok員工警告說，安慰劑測試可能會誤導用戶

據訴訟指控，數字健康產品經理告訴同事，對Algo Refresh進行安慰劑測試存在問題，用戶可能會覺得具有誤導性。

“這項功能關乎算法的透明度和控制權，”該人士在內部聊天中寫道。“一個安慰劑組完全與此相沖突。”該公司仍然進行了測試。

這些指控在投訴書被解封后浮出水面

司法總長詹姆斯於2024年提起此案，而最新指控包含在2026年8月底以密封形式提交的補充投訴書中。直到法官下令解封投訴書後，相關內容才公開。

據路透社報道，其他州針對TikTok的訴訟中的許多文件也被密封或高度刪減，試圖掩蓋該公司內部運作的信息。

解封后的投訴書還指控了另一項實驗：TikTok似乎對部分隨機用戶關閉了一些安全措施。根據訴訟中引用的內部調查結果，一名來自紐約、參與該測試的青少年自殺身亡，其賬戶充斥着關於自殺和自殘的內容。

這項實驗也引起了華盛頓的關注。8月，參議員瑪莎·布萊克本（Marsha Blackburn）和理查德·布盧門撒爾（Richard Blumenthal）稱其爲“令人髮指”。這兩位參議員向TikTok提出了13個問題，旨在瞭解該測試的設計方式、批准人員以及所謂的保障措施。

紐約州的訴訟是更廣泛法律挑戰的一部分。20多個州指控TikTok設計了促使用戶（尤其是青少年）產生強迫性使用的功能，儘管該公司對其安全措施的宣傳存在誇大成分。

這種壓力已促成和解。今年9月，TikTok同意向阿拉巴馬州支付高達3億美元，並修改其平臺針對青少年的運作方式，從而解決了首個原定於開庭審理的州級案件。

如果您正在閱讀這篇文章，說明您已經領先一步。請繼續通過我們的通訊保持關注。