OpenAI发现恶意使用ChatGPT的中国组织数量增加

路透旧金山6月5日 - OpenAI在周四发布的一份报告中指出，越来越多的中国组织利用其人工智能技术开展秘密行动。

这家总部位于旧金山的初创公司表示，虽然这些组织使用的范围和策略有所扩大，但被侦查到的行动一般规模较小，针对的受众有限。

自从ChatGPT在2022年底崭露头角以来，人们一直在担心生成式人工智能(AI)技术的潜在后果，因这种技术可以快速、轻松地生成类似人类产出的文本及影音作品。

OpenAI定期发布其平台上侦查到的恶意活动报告，如创造恶意软件并为其除错，或为网站和社交媒体平台生成虚假内容。

举例来说，OpenAI封禁了一些ChatGPT账号，这些账号在社交媒体上发布与中国相关的政治和地缘政治话题，包括批评一款以台湾为主体的视频游戏、对一名巴基斯坦活动人士的不实指控，以及与美国国际发展署(USAID)关闭有关的内容。

一些内容还批评了美国总统特朗普的全面关税，生成在社群媒体平台X发布的帖子，如 "关税让进口商品贵得离谱，政府却在海外援助上大肆挥霍。”

在另一个例子中，与中国有关联的威胁行为者利用AI支持其网络行动的各个阶段，包括开源研究、脚本修改、系统配置故障排除、并开发密码暴力破解和社交媒体自动化工具。

OpenAI发现的第三个例子是源于中国的影响力操作，这项操作行动生成极端的社交媒体内容，包括文本和人工智能生成的个人资料图像，用于支持美国政治分歧话题的双方。

路透请求中国外交部对OpenAI的调查结果发表评论，但中国外交部没有立即回应。

OpenAI在宣布一轮400亿美元的融资后，估值达到 3,000 亿美元，巩固其作为全球最有价值私营公司之一的地位。(完)