【ITBEAR科技資訊】05月23日消息，據(jù)ITBEAR科技資訊了解，隨著人工智能聊天模型ChatGPT的廣泛應(yīng)用，犯罪分子也開始利用相關(guān)內(nèi)容和域名進(jìn)行詐騙活動(dòng)。
根據(jù)Palo Alto Networks(派拓網(wǎng)絡(luò))的威脅情報(bào)團(tuán)隊(duì)Unit 42的監(jiān)測(cè)，從去年11月到今年4月初，與ChatGPT相關(guān)的域名注冊(cè)量每月暴漲910%。團(tuán)隊(duì)還發(fā)現(xiàn)，盜用這些域名的行為增長(zhǎng)了17,818%，通過DNS安全日志收集到的惡意域名也多達(dá)118個(gè)。
Unit 42研究了多個(gè)案例后發(fā)現(xiàn)，詐騙者采用了各種手段，旨在誘使用戶下載惡意軟件或分享機(jī)密信息。尤其在OpenAI于今年3月1日正式公布ChatGPT的API之后，可疑應(yīng)用的數(shù)量也有所增加。
這些詐騙者制作了偽造的OpenAI官方網(wǎng)站，看起來與ChatGPT的官方網(wǎng)站非常相似，以此誘使用戶下載惡意軟件或分享敏感信息。
此外，犯罪分子還可能利用與ChatGPT相關(guān)的"社交工程"手法來竊取用戶身份和騙取錢財(cái)。盡管OpenAI提供了免費(fèi)版本的ChatGPT，但詐騙者會(huì)引導(dǎo)受害人訪問虛假網(wǎng)站，聲稱用戶需要付費(fèi)才能使用服務(wù)。這些偽造的ChatGPT網(wǎng)站試圖誘使受害人提供隱私信息，例如信用卡資料和電子郵箱。
近期市場(chǎng)上還涌現(xiàn)出越來越多的仿冒AI聊天機(jī)器人應(yīng)用程序。其中一些聲稱提供大型語言模型，并通過公開API提供ChatGPT服務(wù)。然而，使用這些仿冒的聊天機(jī)器人可能帶來安全風(fēng)險(xiǎn)。
在ChatGPT的API發(fā)布之前，已有一些開源項(xiàng)目允許用戶通過各種自動(dòng)化工具與ChatGPT進(jìn)行連接。由于某些國(guó)家和地區(qū)的用戶無法直接訪問ChatGPT，這些自動(dòng)化工具和使用API創(chuàng)建的網(wǎng)站可能會(huì)吸引大量用戶，同時(shí)也給攻擊者提供了利用代理服務(wù)謀取私利的機(jī)會(huì)。
值得注意的是，無論是免費(fèi)還是收費(fèi)的仿冒聊天機(jī)器人都不可信。它們大多是基于2020年6月發(fā)布的GPT-3，相比于更新的GPT-4和GPT-3.5版本來說，性能較弱。
此外，使用聊天機(jī)器人還存在另一個(gè)重要風(fēng)險(xiǎn)，即可能收集和竊取用戶提供的個(gè)人信息。因此，提供任何敏感或機(jī)密資料都可能帶來潛在風(fēng)險(xiǎn)。此外，聊天機(jī)器人的回答也可能被操控，給出錯(cuò)誤答案或誤導(dǎo)信息。
因此，Unit 42團(tuán)隊(duì)強(qiáng)調(diào)，ChatGPT的用戶需要保持警惕，避免陷入仿冒聊天機(jī)器人設(shè)置的陷阱中。
