Anthropic披露Claude危险使用案例 声称有伊朗账户用于威胁美军目标

金色财经报道，9月11日，据美媒报道，美国AI公司Anthropic周四表示，已阻止一些科学家使用其Claude人工智能模型用于“可能支持生物武器开发”。这一消息披露于一份详尽的报告中。报告列举了五个案例，其中一个案例涉及研究如何增强某种蚊媒疾病的传播能力。Anthropic表示，很难确切断定这些案例是否与制造生物武器的计划有关，但指出公司已阻止了相关活动，并将相关信息通报给了有关部门及行业合作伙伴。报告还披露了涉及监控、诈骗、常规武器研发及宣传活动的其他行为。Anthropic声称，已识别并封禁了利用Claude开展旨在引导舆论的“影响力行动”的账户，其中包括三个与伊朗有关联的账户。Anthropic透露，其中一个与伊朗有关联的威胁行为者利用Claude制定了针对该地区美军海军力量的攻击目标建议。