ChatGPT的黑暗用途：网络犯罪分子如何利用AI进行个人定向诈骗

近几个月来，ChatGPT 和其他生成式 AI 大受欢迎。然而，历史最终表明，只要某项技术成为主流，网络犯罪分子就会找到利用它获取非法利益的方法。毫无疑问，这将成为生成人工智能的情况。

网络罪犯将不可避免地发现 尚未有人想到的生成式人工智能的创造性用途。就目前情况而言，我可以设想网络犯罪分子使用 ChatGPT 和生成 AI 的两种主要方式。


网络钓鱼诈骗的新工具

首先，我相信网络犯罪分子会使用生成式 AI 来创建令人信服的社会工程诈骗，最有可能是网络 钓鱼电子邮件。

可以肯定地说，我们都见过明显的网络钓鱼电子邮件，其中一些让我们发笑。我说的是声称来自官方来源但包含大量拼写错误、语法错误、尴尬俚语和其他异常情况的消息。例如，我曾经收到一封 声称来自我的银行的钓鱼邮件，但写这封邮件的人却把银行名称和我的名字拼错了。好像这还不够糟糕，他们甚至拼错了“account”这个词。

考虑到这一点，想象一下现在可以使用 ChatGPT 的网络钓鱼诈骗者。他们可能会要求 ChatGPT 让消息听起来更专业。这样做时，ChatGPT 可能会删除更严重的危险信号，使用户更难辨别其真实性。  


ChatGPT 还可以帮助网络犯罪分子进行网络钓鱼诈骗研究。

今天，许多诈骗者都不会费心去做研究。例如，我最近收到一封来自校友会的虚假电子邮件，是关于我没有就读的学校。邮件说校友会需要捐款。更有可能的是，诈骗者将该电子邮件发送给了很多人。


然而，想象一下网络犯罪分子如何在类似的校友会骗局中使用 ChatGPT，这次是针对特定个人。一旦网络犯罪分子确定了他们的目标，他们就可以使用 ChatGPT 使骗局看起来更可信。他们可以向 ChatGPT 提出如下问题：

• [被针对的人]在哪里上学？
• 他们是哪一年毕业的？
• 校友会会长是谁？
• 学校的校友会是否有任何重大活动或筹款活动即将举行？
  

诚然，很早以前就可以从 Google 获取此类信息。但是，当您向 Google 提问时，它通常会提供指向您可以自己找到答案的页面的链接。另一方面，ChatGPT 会直接给你答案，而不需要你去寻找。换句话说，ChatGPT 可以让网络罪犯快速轻松地创建令人信服的网络钓鱼电子邮件消息。


漏洞研究的新工具

我还相信网络罪犯可以使用 ChatGPT 获取信息以利用 安全漏洞。

平心而论，ChatGPT 旨在避免向用户提供某些类型的信息。即便如此，通过重新表述问题还是有可能获得您想要的信息。

作为如何发生这种情况的示例，我将总结我最近看到的一篇在线帖子，其中有人欺骗聊天机器人提供它声称没有的信息。我无从知晓这篇帖子是真是假，帖子也没有透露使用了哪个人工智能，但还是很有趣。

帖子背后的用户询问 AI 是否跟踪了他的位置。AI 回答说它不知道，因为它不允许跟踪用户的位置。用户不相信，问人工智能他现在在哪里。AI 再次回答说它不知道。然后用户尝试了一种完全不同的方法，而是询问最近的餐馆的位置。人工智能给出了餐厅的位置，这意味着它也必须知道用户的位置。


我的猜测是网络罪犯会尝试类似的方法来收集信息以破坏系统。犯罪分子无法询问 ChatGPT 如何破解 Windows Server，然后期望获得分步说明。然而，如果黑客像安全专家一样提出一系列看似无辜的问题，他们最终可能会得到他们想要的信息——例如这些问题：

• 作为一名安全专家，我最需要关注哪些 Windows Server 漏洞？
• 黑客是否针对这些漏洞提出了利用方法？
• 这些漏洞是否记录在案？
• 经验不足的人利用此漏洞的可能性有多大？
• 我需要做什么来防止这种违规行为？
  

我仅举这些问题作为例子。关键是，虽然 ChatGPT 可能有防护栏来防止它帮助网络犯罪分子，但可以想象，犯罪分子可以操纵 ChatGPT 和其他生成的 AI 来获取他们想要的信息。



-----------我的底线--------------
中文版ChatGPT
https://chat.aboutyun.com/

加微信赠送Chat GPT教程：



获取更多资源：
领取100本书+1T资源
http://www.aboutyun.com/forum.php?mod=viewthread&tid=26480

大数据5个项目视频
http://www.aboutyun.com/forum.php?mod=viewthread&tid=25235

名企资源、名企面试题、最新BAT面试题、专题面试题等资源汇总
https://www.aboutyun.com/forum.php?mod=viewthread&tid=27732