
网络犯罪分子正利用人工智能实施更加复杂的犯罪活动。他们的目标无所不包,从退休储蓄到公司机密,无所不包,而且作案手法也越来越难以察觉。.
用于向网络购物者定制广告的技术,如今也被不法分子用来快速收集个人信息并发起定制诈骗。速度真的非常快。.
包括 Anthropic、OpenAI 和 Google 在内的多家大型人工智能公司报告称,犯罪分子正在利用其平台策划复杂的网络钓鱼活动、开发恶意软件并实施各种网络攻击。安全专家警告说,犯罪分子还在制作公司领导人的虚假音频和视频片段,诱骗员工泄露敏感信息。.
企业和政府机构可能很快就会面临大量人工智能驱动的系统,这些系统可以发现计算机网络中的弱点,然后几乎无需人工帮助即可计划和执行攻击。.
科技正在改变网络犯罪分子的作案方式。dent 科技研究机构“数据与社会”(Data & Society)的研究主管爱丽丝·马维克(Alice Marwick)告诉《华尔街日报》,最大的变化在于规模和范围。“真正的改变在于范围和规模。诈骗规模更大、目标更明确、更具迷惑性。”
布莱恩·辛格是卡内基梅隆大学的dent 。他研究大型语言模型在网络攻击和防御中的应用。据他估计,目前全球一半到四分之三的垃圾邮件和钓鱼邮件都来自人工智能系统。.
这些攻击本身也变得越来越逼真。经过公司内部沟通训练的人工智能系统可以生成数千条听起来自然、风格与公司一模一样的信息。它们模仿高管的写作方式,并提及公开记录中披露的最新新闻。.
这项技术还能帮助海外诈骗分子掩盖以往容易暴露其诈骗意图的语言错误。犯罪分子可以通过伪造视频和复制语音。他们使用同一个虚假dent同时针对多人行骗。
约翰·赫尔奎斯特是谷歌威胁情报小组的首席分析师。他将这一主要转变描述为“大规模可信度”。
不法分子在选择目标方面也越来越高明。他们利用人工智能浏览社交媒体,寻找那些正经历重大生活困境的人,例如离婚、亲人去世、失业,以及其他可能使人更容易落入爱情骗局、投资诈骗或虚假工作邀请的境况。.
网络犯罪的准入门槛已经降低。如今,地下市场以每月低至90美元的价格出售
他表示,这些平台提供不同的定价方案和客户服务。“开发者通过分级定价和客户支持,向攻击平台出售订阅服务。”
这些服务名称诸如 WormGPT、FraudGPT 和 DarkGPT。它们可以创建恶意软件并发起网络钓鱼活动。有些甚至包含黑客技术教学材料。.
玛格丽特·坎宁安是安全公司Darktrac的安全和人工智能战略副dent 。她说这很简单。“你不需要懂编程,只需要知道在哪里能找到工具。”
最近出现了一种名为vibe -coding”或vibe -hacking”的技术。它可以让一些不法分子利用人工智能自行编写恶意程序,而无需从地下渠道购买。今年早些时候,Anthropic公司披露,他们已经阻止了多起“技术水平有限的犯罪分子”利用其Claude人工智能程序创建勒索软件的企图。
犯罪活动本身也在发生变化。据专家称,网络犯罪多年来一直像一个商业市场一样运作。典型的勒索软件攻击涉及不同的团伙:入侵公司网络并出售访问权限的“访问掮客”;在系统中窃取数据的入侵小组;以及发布恶意软件、处理谈判并瓜分赎金的“勒索软件即服务”提供商。.
人工智能提升了该系统的速度、规模和可用性。以往需要技术人员完成的工作现在可以自动运行matic这使得这些团队能够以更少的人力、更低的风险和更高的利润运作。“可以把它看作是工业化的下一个阶段。人工智能提高了生产效率,而无需更多熟练劳动力,”克里斯汀解释道。
人工智能能否完全自主地发动攻击?目前还不行。专家将这种情况比作全自动驾驶汽车的发展。前95%的目标已经实现,但要让汽车随时随地自主行驶,最后一部分仍然遥不可及。.
研究人员正在实验室环境中测试人工智能的黑客攻击能力。今年早些时候,卡内基梅隆大学的一个团队在Anthropic公司的支持下,重现了著名的Equifax数据泄露事件。辛格领导了卡内基梅隆大学网络安全与隐私研究所(CyLab)的这项工作。他称之为“一次巨大的飞跃”。
犯罪分子利用人工智能进行有害活动。但人工智能公司表示,同样的工具也能帮助企业加强网络安全防御。.
Anthropologie 和 OpenAI 正在构建人工智能系统,这些系统能够持续检查软件代码,以发现犯罪分子可能利用的漏洞。不过,任何修复仍需人工审核。斯坦福大学研究人员最近开发的一个人工智能程序在网络安全问题检测方面,表现优于一些人类测试人员。.
即使是人工智能也无法阻止所有安全漏洞。因此,Hultquist表示,企业必须专注于构建强大的网络,确保其在遭受攻击时也能持续运行。.
想让你的项目出现在加密货币领域的顶尖人才面前吗?欢迎在我们的下一份行业报告中进行专题报道,让数据与影响力相遇。