Openai报告中国链接的错误信息组的CHATGPT越来越多

Openai透露，秘密使用其工具，尤其是与中国群体相关的，这些中国团体由于恶意原因而利用其Chatgpt平台。

自Chatgpt于2022年11月推出即时成功以来，人们一直担心其潜在的后果基于其产生类似人类的音频，文本，图像和视频的能力。 Openai定期发布了有关其平台上任何恶意活动的报告，例如For Websites的虚假内容。

Openai拆除10个单独的广告系列，滥用其工具

这家总部位于旧金山的公司在周四发布的一份报告中透露，它最近拆除了十项单独的广告系列，利用其AI工具。其中，有四个是由与中国相关的团体安排的，而较小规模的计划与其他国家相关。

根据Ben Nimmo，这些与中国有联系的运营在多个在线场所中部署了广泛的战术。

他告诉记者：“我们正在观察一个不断扩大的工具包。”

“一些活动融合了影响运营，社会工程和监视，他们跨越了从Tiktok和X到Reddit和Facebook的平台。”

Nimmo。

冷笑评论的主要示例之一，使用Chatgpt推出了英语，中文和乌尔都语的简短帖子和评论。这些涵盖的主题，例如美国国际发展机构解散，交替鼓掌和批评这一决定，并批评台湾战略视频游戏，以攻击中国执政党。

根据Openai的报告，在大多数情况下，该操作不仅创建了原始帖子，还会创建回答，使其看起来像是“真正的”辩论。同一小组还创建了一篇长格式的文章，声称对该游戏进行了广泛的公众骚动。

“冷笑评论”还使用Chatgpt来起草内部文档和绩效评论，详细介绍了广告系列执行的每个步骤。 OpenAI的分析师发现，实际的社交媒体行为紧密地呼应了这些自我评估，强调了AI如何简化前线影响和后台管理。

该报告还表明，与中国有关的另一个网络专注于情报收集，假装是记者和地缘政治评论员。他们使用聊天机器人在X上创建帐户传记，翻译中文和英语之间的通信，甚至创建了针对美国参议员关于联邦提名的消息。

来自其他国家的小组也滥用了Openai的工具

该报告还指出，俄罗斯和伊朗演员还试图将Chatgpt用于与选举有关的影响力，这与对生成AI在塑造公众舆论中的作用的关注相呼应。

在菲律宾，一家商业营销装置与垃圾邮件活动相连，而招聘骗局的链接也浮出水面。该公司还标记了另一项具有朝鲜利益的就业倡议。

所有这些威胁恰逢2月起的先前报告，在该报告中，Openai发现了一项与中国相关的监视计划。据报道，这项运动实时监视了西方抗议活动，对中国安全机构进行了摘要，Chatgpt促进了从代码调试到起草销售销量以进行监视软件的一切。

Nimmo表示，尽管它们似乎使用了复杂的工具，但其中大多数这些操作都被检测到并停止了。

他观察到：“先进的AI不一定会转化为更有效的结果。”确实，OpenAI的常规威胁报告表明，尽管生成模型可以加速创建内容，但它们不能保证真正的影响力或广泛的 trac。

为了回应这些发现，OpenAI继续完善其监控和执行机制。该公司禁止与检测到的操作相关的帐户，并删除所有参与创建恶意软件，自动化政治信息或误导性内容的帐户。

Openai在其最新一轮中删除了与中国有关的地缘政治争议，包括针对巴基斯坦激进主义者的虚假指控以及有关特朗普的关税政策的评论。

尽管Openai取得了成功，但该公司还承认了生成AI的双刃本质，作为创新的工具，也是虚假信息的工具。

钥匙差线：秘密工具加密项目用于获得保证媒体覆盖