Anthropic的首席执行官Dario Amodei在DeepSeek的R1模型中发现了一个风险更大的弱点,可能会导致使用聊天机器人重新考虑消费者。他声称聊天机器人可以生成与生物武器相关的信息,这在不久的将来可能是危险的。
在接受采访时, DeepSeek在人类安全测试中产生了有关生物武器的罕见信息。当他谈到AI初创企业的表现时,他提到:“最糟糕的是,我们经过测试过的任何模型[…]绝对没有任何障碍,可以通过生成此信息。”
人类定期测试不同的AI模型,以评估其对国家安全的可能风险。他们通过检查模型是否可以产生有关生物武器的信息来做到这一点,这些信息在Google或教科书中不易获得。
此外,思科还成功地黑客入侵了DeepSeek R1而没有任何失败。这与其他高级类型(例如O1)不同,O1可以防止大多数具有保护性功能的攻击。
但是,Amodei说,弱点目前还不是威胁。他还提到,除非有明确的危险证明,否则将有充分的理由继续改善它。他敦促工程师和公司真正关注AI安全。 DeepSeek已经在某些国家(例如意大利)面临着敌对的态度。
另一方面,AWS和Microsoft等公司宣布,他们将R1添加到云服务中。有些人可能将其视为对公司学习的一部分,而另一些人可能会更加认真。对新发现还没有任何回应或反对。
根据拟人化的首席执行官的说法,“现在美国有三到五家公司在中国。他们是否继续制作近乎范围的模型取决于他们可以使用多少芯片,以及是否可以比现在能够访问的筹码访问筹码大得多。”
在美国限制之前购买了他们对NVIDIA芯片根据Amodei的说法,“出口控制措施从未真正旨在防止DeepSeek或任何其他中国公司获得数以万计的筹码数量。”
他补充说:“我们应该合理地期望走私会发生。出口控制可能会更成功地预防更大的收购 - 它们不可能拥有一百万筹码,因为这很容易在数百亿美元的经济活动中,接近1000亿。”
DeepSeek声称使用了H100的混合物,这是美国的标准芯片。他们使用了大约10,000个。这意味着他们不应该受到太大影响。
他说,在中国变得dent 的筹码,尤其是华为筹码的问题时,他说这将需要10到15年。他补充说:“实际上很难与新的NVIDIA B100 […]做竞争力的芯片,我的感觉是,华为芯片不太可能在很快就会与我们相似的任何地方。”
Amodei提出了对美国法律的担忧。他解释说,正在努力评估和可能限制AI系统的风险。
这包括对他们的危险,个人滥用的担忧,例如在生物攻击中以及系统本身带来的风险。在过去的一年中,美国有几项新法律。这就提出了DeepSeek市场在美国生存的问题吗?
此外,阿莫迪(Amodei)称赞了美国AI公司,他解释说他们共同努力。他说,他们都遵循相同的规则。 OpenAI,Meta, Google和XAI都必须遵守美国法规。他说:“您可以知道您正在从事必要的安全实践,而其他人也将参与其中。”
相反,他说:“我认为美国和中国之间不可能。我们有点像霍布斯国际无政府状态。”
Amodei揭示了“我知道美国政府为派遣代表团与中国讨论与AI安全有关的主题的努力。同样,我的理解显然不是这些代表团的一部分,是从中国方面没有那么多兴趣。”
出于安全原因,DeepSeek即将被另一项禁令袭击。这次是美国政府。Tiktok类似,美国的两党组组织提出了一项法律,以阻止中国AI App Seepseek在政府设备上使用。
来自新泽西州的民主党人乔什·戈特·戴维姆(Josh Gottheimer)和来自伊利诺伊州的共和党人达林·拉霍德(Darin Lahood)提出了一项名为“无索取政府设备法案”的法案。
该法案将使联邦工人在政府拥有的设备上中国AI应用程序他们指出,中国政府可以使用该应用程序间谍和传播虚假信息。
Gottheimer说:“中国共产党已经大量明确表示,它将利用任何旨在破坏我们国家安全的工具,散发出有害的虚假信息,并收集有关美国人的数据[…],我们根本不能冒险侵入CCP。我们政府官员的设备,并危及我们的国家安全。”
Cryptopolitan Academy:您是否犯过这些 Web3 简历错误? -在这里找到答案