2023年5月23日--ChatGPT已经成为有史以来增长最快的消费者应用程序之一。Palo Alto Networks（派拓网络）的威胁情报团队Unit 42对与其相关的新注册及抢注的域名进行监测后发现，随着ChatGPT的热度居高不下，犯罪分子也愈发趋于利用相关内容及域名进行诈骗。
基于Unit 42的观察，从2022年11月至2023年4月初，ChatGPT相关域名注册量每月暴涨910%。期间，团队从DNS安全日志中发现相关抢注域名的盗用增长高达17,818%。Palo Alto Networks（派拓网络）的高级URL过滤系统每天监测到多达118个ChatGPT相关的恶意URL。
通过研究不同案例，Unit 42发现诈骗者的行骗手段层出不穷，其目的在于引诱用户下载恶意软件和分享机密信息。在OpenAI于今年3月1日正式公布ChatGPT的API后，利用其的可疑应用也随之增加。因此，ChatGPT用户需要时刻保持警惕，避免掉入仿冒聊天机器人设下的陷阱。
Palo Alto Networks（派拓网络）的下一代防火墙和Prisma Access用户可以通过采用高级URL过滤系统、DNS安全服务和WildFire恶意软件防护引擎，抵御和ChatGPT相关的骗局威胁。这些安全服务已经涵盖了包括域名、IP、URL和hashes在内的恶意指标。
ChatGPT骗局日渐增多
随著OpenAI迅速崛起成为人工智能领域最著名的公司之一，Unit 42发现已经有攻击者将“openai”和“chatgpti”用作域名，例如，openai[.]us、openai[.]xyz和chatgpt[.]jobs。
截至今年4月初，这类域名大多没有恶意内容。但令人担忧的是，它们并非由 OpenAI或其他真实的域名管理公司控制，一旦被滥用或成为不法分子的工具，那么威胁也会随之而来。
图1展示了ChatGPT问世后相关抢注域名注册的趋势。研究期间，Unit 42注意到每天的域名注册量发生显著上涨。今年2月7日，在微软发布新版必应后不久，就有超过300个与ChatGPT相关的域名被注册。
图1 ChatGPT抢注域名注册趋势
图2的趋势类似，对ChatGPT的接受和普及导致DNS安全服务日志纪录明显增加。
图2 ChatGPT抢注域名的 DNS 流量趋势
Unit 42还通过高级URL过滤系统进行了关键词搜索。图3显示在OpenAI发布ChatGPT官方API和GPT-4的当天出现了两个明显的上升峰值。
图3 含ChatGPT关键词的恶意检测趋势
ChatGPT诈骗案例
Unit 42发现了多个仿冒OpenAI官方网站的钓鱼URL。多数情况下，诈骗者会创建虚假网站，它们看起来与ChatGPT的官方网站十分相似，来诱骗用户下载恶意软件或分享敏感信息。
图4展示了诈骗者用来发送恶意软件的常见招数。用户一旦点击“下载 Windows 版本”的弹窗，就会在无意识的情况下下载特洛伊木马软件至其设备。
图4 仿冒软件：chat-gpt-online-pc[.]com
此外，不法分子还可能利用与ChatGPT相关的“社交工程”盗窃用户身份和诈骗钱财。尽管OpenAI为用户提供了ChatGPT的免费版本，但诈骗者会将受害人引导至虚假网站，声称用户需要为这些服务付费。如图5所示，伪造的ChatGPT网站试图引诱受害人提供隐私信息，例如信用卡资料和邮箱。
图5 金融诈骗：pay[.]chatgpt-oracle[.]com
Unit 42还注意到，一些诈骗者利用OpenAI的日益普及进行加密货币诈骗。图6显示的是通过滥用 OpenAI 标志和马斯克的名字吸引受害人参加一项赠送加密货币的欺诈活动。
图6 加密货币骗局：x2chatgpt[.]org
仿冒AI聊天机器人的风险
随着ChatGPT成为今年最火爆的应用之一，市面上也出现了越来越多的仿冒AI聊天机器人应用程序。其中一些提供大型语言模型，还有的声称通过在3月1日公布的公共 API提供ChatGPT服务。然而，使用仿冒AI聊天机器人可能会带来安全风险。
在ChatGPT API发布之前，已有数个开源项目允许用户通过各种自动化工具连接到ChatGPT。由于一些国家和地区的用户无法访问ChatGPT，这些自动化工具和API创建的网站可能会吸引这些地区的大量用户，但也同时为攻击者提供了通过代理其服务谋取利益的机会。图7就是一个提供付费聊天机器人服务的中文网站。
图7 付费聊天机器人服务：chatgpt[.]appleshop[.]top
事实上，无论是否免费，仿冒聊天机器人都不可信。它们很多是基于2020年6月推出的GPT-3创建，比GPT-4和GPT-3.5更弱。
此外，使用聊天机器人还存在另一个重大风险：它们可能会收集和窃取用户提供的信息。换言之，提供任何敏感或机密资料都可能导致风险隐患。聊天机器人的回应也有可能被操纵给出错误答案或误导信息。
在图8中，抢注域名chatgptforchrome[.]com托管了ChatGPT Chrome扩展功能的介绍页面，并使用了官方OpenAI扩展功能的信息和视频。Unit 42下载了图8中的“AI ChatGPT”扩展功能，发现它在受害人的浏览器中添加了一个后台脚本，其中包含一个极具迷惑性的JavaScript。对该JavaScript的分析显示，它通过调用Facebook Graph API窃取受害人的账户信息，并可能进一步访问其社交媒体账户。其他研究人员也报告过类似涉及恶意浏览器扩展功能的活动。
图8 ChatGPT扩展功能：chatgptforchrome[.]com
结论
随着ChatGPT的使用日益广泛，它也逐渐成为网络犯罪分子的目标。数量急剧增加的ChatGPT相关新域名和网站都可能被用来行不法之事。
为了确保网络安全，ChatGPT用户需要警惕与ChatGPT有关的可疑邮件和链接，避免使用仿冒聊天机器人，应由官方OpenAI网站进入聊天室。
Palo Alto Networks（派拓网络）的下一代防火墙和Prisma Access用户可以通过采用高级URL过滤系统、DNS安全解决方案和防护引擎WildFire，远离ChatGPT相关骗局的侵害。
关于Palo Alto Networks（派拓网络）
Palo Alto Networks（派拓网络）是全球网络安全领导者。我们持续创新，防范网络威胁于未然，让企业放心拥抱技术。凭借行业领先的威胁情报和先进自动化技术，我们为全球各行各业成千上万的客户提供下一代网络安全平台和服务，并成为众多企业首选的网络安全合作伙伴。从部署我们的解决方案以实现零信任企业、响应安全事件，到通过一流的合作伙伴生态系统获得更佳的安全效果，我们的愿景是构建一个日益安全的世界。
肩负为网络安全保驾护航的使命，Palo Alto Networks（派拓网络）一直致力于与优秀人才携手同行。我们很荣幸成为首选网络安全工作场所，获得《新闻周刊》“最受喜爱的工作场所（2021年）”、Comparably“最佳多元化公司（2021 年）”和人权运动基金会“LGBTQ平等的最佳工作场所（2022 年）”等殊荣。更多内容，敬请登录Palo Alto Networks（派拓网络）官网www.paloaltonetworks.cn。
新闻来源：Compotech，文中所述为作者独立观点，不代表icspec立场。更多精彩资讯请下载icspec App。如对本稿件有异议，请联系微信客服specltkj。
