【科技资讯】05月23日消息，据科技资讯了解，随着人工智能聊天模型的广泛应用，犯罪分子也开始利用相关内容和域名进行诈骗活动。
根据Palo Alto (派拓网络)的威胁情报团队Unit 42的监测，从去年11月到今年4月初，与相关的域名注册量每月暴涨910%。团队还发现，盗用这些域名的行为增长了17,818%，通过DNS安全日志收集到的恶意域名也多达118个。
Unit 42研究了多个案例后发现，诈骗者采用了各种手段，旨在诱使用户下载恶意软件或分享机密信息。尤其在于今年3月1日正式公布的API之后，可疑应用的数量也有所增加。
这些诈骗者制作了伪造的官方网站，看起来与的官方网站非常相似，以此诱使用户下载恶意软件或分享敏感信息。
此外，犯罪分子还可能利用与相关的”社交工程”手法来窃取用户身份和骗取钱财。尽管提供了免费版本的，但诈骗者会引导受害人访问虚假网站，声称用户需要付费才能使用服务。这些伪造的网站试图诱使受害人提供隐私信息，例如信用卡资料和电子邮箱。
近期市场上还涌现出越来越多的仿冒AI聊天机器人应用程序。其中一些声称提供大型语言模型，并通过公开API提供服务。然而，使用这些仿冒的聊天机器人可能带来安全风险。
在的API发布之前，已有一些开源项目允许用户通过各种自动化工具与进行连接。由于某些国家和地区的用户无法直接访问，这些自动化工具和使用API创建的网站可能会吸引大量用户，同时也给攻击者提供了利用代理服务谋取私利的机会。
值得注意的是，无论是免费还是收费的仿冒聊天机器人都不可信。它们大多是基于2020年6月发布的GPT-3，相比于更新的GPT-4和GPT-3.5版本来说，性能较弱。
此外，使用聊天机器人还存在另一个重要风险，即可能收集和窃取用户提供的个人信息。因此，提供任何敏感或机密资料都可能带来潜在风险。此外，聊天机器人的回答也可能被操控，给出错误答案或误导信息。
因此，Unit 42团队强调，的用户需要保持警惕，避免陷入仿冒聊天机器人设置的陷阱中。
发表回复