【ITBEAR】8月11日消息，近日，安全領(lǐng)域的一項(xiàng)新發(fā)現(xiàn)引起了廣泛關(guān)注。據(jù)Futurism報(bào)道，微軟Windows系統(tǒng)中內(nèi)置的Copilot AI存在安全漏洞，可能被不法分子利用，導(dǎo)致企業(yè)敏感數(shù)據(jù)泄露，甚至變身成為強(qiáng)大的釣魚攻擊工具。
這一驚人發(fā)現(xiàn)由安全公司Zenity的聯(lián)合創(chuàng)始人兼CTO Michael Bargury在拉斯維加斯黑帽安全大會(huì)上披露。他表示，“利用這一漏洞，我可以輕松獲取你的所有聯(lián)系人信息，并替你發(fā)送數(shù)百封電子郵件。”他指出，相比傳統(tǒng)黑客需要花費(fèi)數(shù)天時(shí)間精心制作釣魚郵件，利用Copilot，幾分鐘內(nèi)即可生成大量具有欺騙性的郵件。
據(jù)ITBEAR了解，研究人員通過(guò)演示展示了攻擊者如何利用這一漏洞。他們無(wú)需獲取企業(yè)賬戶，只需發(fā)送一封惡意郵件，即可誘騙Copilot修改銀行轉(zhuǎn)賬收款人信息，甚至無(wú)需目標(biāo)員工打開(kāi)郵件即可實(shí)施攻擊。在另一個(gè)演示中，Bargury在獲取員工賬戶后，通過(guò)簡(jiǎn)單的提問(wèn)，成功獲取了敏感數(shù)據(jù)，并利用這些數(shù)據(jù)冒充員工發(fā)起網(wǎng)絡(luò)釣魚攻擊。他首先獲取了同事Jane的郵箱地址，了解了與Jane的最近一次對(duì)話內(nèi)容，并誘導(dǎo)Copilot泄露該對(duì)話中的抄送人員郵箱。隨后，他指示Copilot以被攻擊員工的風(fēng)格撰寫一封發(fā)送給Jane的郵件，并提取了兩人最近一次郵件的準(zhǔn)確主題。短短幾分鐘內(nèi)，他就創(chuàng)建了一封具有高度可信度的釣魚郵件，可向網(wǎng)絡(luò)中的任何用戶發(fā)送惡意附件，而這一切都得益于Copilot的積極配合。
微軟Copilot AI，特別是Copilot Studio，允許企業(yè)定制聊天機(jī)器人以滿足特定需求。然而，這也意味著AI需要訪問(wèn)企業(yè)數(shù)據(jù)，從而引發(fā)了安全隱患。大量聊天機(jī)器人默認(rèn)情況下可被在線搜索到，成為黑客的攻擊目標(biāo)。攻擊者還可以通過(guò)間接提示注入繞過(guò)Copilot的防護(hù)措施。簡(jiǎn)單來(lái)說(shuō)，可以通過(guò)外部來(lái)源的惡意數(shù)據(jù)，例如讓聊天機(jī)器人訪問(wèn)包含提示的網(wǎng)站，來(lái)使其執(zhí)行禁止的操作。Bargury強(qiáng)調(diào)：“這里存在一個(gè)根本問(wèn)題。當(dāng)給AI提供數(shù)據(jù)訪問(wèn)權(quán)限時(shí)，這些數(shù)據(jù)就成為了提示注入的攻擊面。某種程度上來(lái)說(shuō)，如果一個(gè)機(jī)器人有用，那么它就是脆弱的；如果它不脆弱，它就沒(méi)有用?！?/p>
