黑客瞄准ChatGPT 制造欺诈信息和危险软件

在网络“秘密论坛”上，黑客解释了如何攻击近日非常受欢迎的人工智能软件ChatGPT，他们的目标是：创建欺诈性消息或危险软件。

法媒tf1info报道，在该软件推出几周后，网络犯罪分子似乎已经将ChatGPT作为他们的新“游乐场”，危及到广告甚至学校作业。与此同时，据专门研究网络威胁的专家团队Check Point Research的一项研究显示，它也成为了恶意用户的牺牲品，这些用户设法绕过它的一些安全限制。

网络犯罪分子使用ChatGPT API躲过安全限制

推出ChatGPT的美国人工智能研究公司OpenAI设置了障碍来控制用户所提交的请求。例如，在其用户界面上，你不可能要求人工智能编写网络钓鱼电子邮件、欺诈邮件，也不可能让它创建能够削弱计算机系统的“恶意软件”。如遇这些问题，人工智能随后会以错误消息回应，并附有预防建议，例如：“这些电子邮件是非法的、不道德的和有害的”。

但是还有另一种访问ChatGPT的方法：通过其应用程序编程接口（API）。美国国家计算与自由委员会(CNIL)在其网站上解释说，这个界面“允许你将一个软件或服务‘连接’到另一个软件或服务，以交换数据和功能”。然而，Check Point Software“威胁”团队负责人Sergey Shykevich在一份新闻稿中说:“当前版本的OpenAI API被外部应用程序使用，并且几乎没有反滥用设备。”

正是因为这个漏洞，网络犯罪分子蜂拥而至。在黑客论坛上，令人担忧的消息比比皆是：他们解释了如何使用ChatGPT API来绕过这些限制。因此，网络罪犯通常使用来自Telegram消息应用程序的机器人，换句话说，自动响应系统将使用此API，他们将征求这些聊天机器人，而不是通过软件的用户界面。

机器人收费：“每100个请求5.5美元”

“因此，它允许恶意内容的创建，如钓鱼电子邮件和恶意软件代码，它们不受ChatGPT对其用户界面施加的限制或障碍，”Sergey Shykevich继续说道。黑客因此能够创建非常逼真的网络钓鱼电子邮件。例如，有恶意用户创建成来自银行的假的紧急消息，要求其客户连接到一个链接，以找到访问被封锁账户的权限。

网络罪犯随后在地下论坛上推广这些机器人，甚至对其服务收费：“机器人制造商目前允许多达20个免费请求，但随后每100个请求收取5.50美元，”新闻稿指出。

专家一直在为恶意软件而头疼。1月初，部分专家在美国《福布斯》杂志上报道称，黑客已经开始使用ChatGPT创建恶意软件。还有一些人在交友网站上猖獗，伪造个人数据，他们利用这个软件来写信息，目的是欺骗或者吸引用户。

通常，黑客攻击需要扎实的编程知识，但据纽约时报Check Point的工程总监Mark Ostrowski认为，“ChatGPT对新手程序员来说更容易使用”。据《美国日报》报道，该工具还将被用于制造阴谋论和宣传虚假信息。