【ITBEAR科技資訊】05月23日消息，據(jù)ITBEAR科技資訊了解，隨著人工智能聊天模型ChatGPT的廣泛應(yīng)用，犯罪分子也開始利用相關(guān)內(nèi)容和域名進行詐騙活動。
根據(jù)Palo Alto Networks(派拓網(wǎng)絡(luò))的威脅情報團隊Unit 42的監(jiān)測，從去年11月到今年4月初，與ChatGPT相關(guān)的域名注冊量每月暴漲910%。團隊還發(fā)現(xiàn)，盜用這些域名的行為增長了17,818%，通過DNS安全日志收集到的惡意域名也多達118個。
Unit 42研究了多個案例后發(fā)現(xiàn)，詐騙者采用了各種手段，旨在誘使用戶下載惡意軟件或分享機密信息。尤其在OpenAI于今年3月1日正式公布ChatGPT的API之后，可疑應(yīng)用的數(shù)量也有所增加。
這些詐騙者制作了偽造的OpenAI官方網(wǎng)站，看起來與ChatGPT的官方網(wǎng)站非常相似，以此誘使用戶下載惡意軟件或分享敏感信息。
此外，犯罪分子還可能利用與ChatGPT相關(guān)的"社交工程"手法來竊取用戶身份和騙取錢財。盡管OpenAI提供了免費版本的ChatGPT，但詐騙者會引導(dǎo)受害人訪問虛假網(wǎng)站，聲稱用戶需要付費才能使用服務(wù)。這些偽造的ChatGPT網(wǎng)站試圖誘使受害人提供隱私信息，例如信用卡資料和電子郵箱。
近期市場上還涌現(xiàn)出越來越多的仿冒AI聊天機器人應(yīng)用程序。其中一些聲稱提供大型語言模型，并通過公開API提供ChatGPT服務(wù)。然而，使用這些仿冒的聊天機器人可能帶來安全風(fēng)險。
在ChatGPT的API發(fā)布之前，已有一些開源項目允許用戶通過各種自動化工具與ChatGPT進行連接。由于某些國家和地區(qū)的用戶無法直接訪問ChatGPT，這些自動化工具和使用API創(chuàng)建的網(wǎng)站可能會吸引大量用戶，同時也給攻擊者提供了利用代理服務(wù)謀取私利的機會。
值得注意的是，無論是免費還是收費的仿冒聊天機器人都不可信。它們大多是基于2020年6月發(fā)布的GPT-3，相比于更新的GPT-4和GPT-3.5版本來說，性能較弱。
此外，使用聊天機器人還存在另一個重要風(fēng)險，即可能收集和竊取用戶提供的個人信息。因此，提供任何敏感或機密資料都可能帶來潛在風(fēng)險。此外，聊天機器人的回答也可能被操控，給出錯誤答案或誤導(dǎo)信息。
因此，Unit 42團隊強調(diào)，ChatGPT的用戶需要保持警惕，避免陷入仿冒聊天機器人設(shè)置的陷阱中。
