有望改变我们生活的技术也让诈骗者更容易创建从语音克隆和深度伪造到令人信服的网络钓鱼电子邮件的一切内容。但 ChatGPT 的到来是否会让网络犯罪分子更容易上手？
忘掉大科技和 TikTok 的巨大成功吧，城里来了一位新警长，名字叫 ChatGPT。在短短两个月的时间里，OpenAI 开发的聊天机器人就获得了 1 亿活跃用户，并打破了记录，获得了历史上增长最快的消费者应用程序的称号。此前，TikTok 花了 9 个月才完成这项壮举。但 ChatGPT 在未来的网络犯罪中能扮演什么角色？
任何经常光顾暗网论坛的人都会遇到过用户希望利用 OpenAI 的聊天机器人来帮助创建更隐蔽的恶意软件的对话。不出所料，黑莓最近发布了一项针对 1,500 名 IT 决策者的调查，结果显示 51% 的人认为使用 ChatGPT 的成功网络攻击将在年内发生。此外，71% 的人还担心外国已经将该技术用于恶意目的。
许多企业领导者非常担心人工智能和机器学习的进步将如何帮助黑客创建更可信的网络钓鱼电子邮件。根据调查结果，82% 的 IT 决策者计划在未来两年内投资于人工智能驱动的网络安全。此外，95% 的人认为政府必须通过监管新一波先进技术迅速加强并承担责任。但技术变革与监管之间的节奏问题逐年扩大。
ChatGPT 是否允许脚本小子编写恶意软件？
重要的是要强调 ChatGPT 具有强大的内容策略过滤器，可以限制想成为网络罪犯的人做坏事。但 ChatBots 很容易被坚定的用户蒙蔽，他们总能找到绕过过滤器的方法。例如，Check Point Research和我们的Cybernews 内部调查最近显示，很少或没有编码专业知识的个人正在利用 ChatGPT 创建可部署的恶意软件。
目前，网络犯罪论坛中的对话主要由希望编写恶意软件和电子邮件以进行间谍活动、勒索软件攻击、恶意垃圾邮件和其他邪恶活动的用户主导。狡猾的黑客已经在使用 ChatGPT 创建随着每次突变而进化的恶意代码。CyberArk证明这不再只是一个理论上的威胁，而是一个已经让网络安全专家头疼的紧迫问题。
为了展示他们的能力，一名网络罪犯分享了他们使用 ChatGPT 创建的信息窃取程序的代码。这个用 Python 编写的恶意软件被证明能够从受感染的系统中定位、复制和提取 12 种标准文件格式，包括 Office 文档、PDF 和图像。
生成式人工智能将继续降低新一代网络犯罪分子的门槛。然而，首先，个人和组织必须了解潜在的危险并采取措施防范这些危险。这可以包括教育用户识别和避免攻击、实施适当的安全措施和协议，以及不断改进和更新对策技术。
大规模社会工程
对于意图欺骗弱势群体的恶意行为者来说，对约会网站的大规模社会工程攻击变得更加容易。这些攻击者使用诸如冒充有吸引力的个人、建立信任和操纵情绪等策略从他们的目标中获取敏感信息、金钱或其他利益。但直到现在，英语的有限使用使他们很容易被发现。
ChatGPT 允许每个用户以任何语气或语言以吸引目标受害者的方式进行交谈。例如，攻击者只需几秒钟就可以创作出独特的浪漫诗歌或歌曲来赢得受害者的芳心、思想和钱包。
对于约会网站用户来说，了解这些策略并采取预防措施至关重要，例如验证与他们交流的人的身份并且不共享敏感信息。交友网站还应实施背景调查、双因素身份验证和定期安全更新等措施，以保护用户免受这些攻击。
生成专业的类人文本的能力也将使通过定制攻击瞄准企业变得更加容易。在错误的人手中，ChatGPT 可以帮助任何人制作令人信服的网络钓鱼电子邮件，甚至可以编写恶意软件攻击代码。不幸的是，无论您的技能水平或语言如何，网络罪犯都相对容易将他们新创建的恶意代码嵌入到看似无害的电子邮件附件中。
人工智能问责制：谁负责？
预测 ChatGPT 和其他 AI 对未来网络犯罪的影响是很困难的。但是，必须认识到技术只是一种工具。有些人会善用它，而另一些人会出于恶意目的使用它，但这更多地反映了人性，而不是机器、聊天机器人或人工智能。
当我问 ChatGPT，谁应该为平台的不当使用负责时，它回答说，“作为一个 AI 语言模型，我没有意图、欲望或情感，所以我不能对任何行为负责。对我生成的内容的责任完全在于使用我的个人或组织，因为他们可以控制使用我的环境和使用我的输出的方式。”
具有讽刺意味的是，这种将责任推给别人是我所能预料到的最人性化的反应。最终，人工智能对威胁格局的影响将取决于它的开发、实施和监管方式。但谁将为此负责是另一回事了。
