【ITBEAR科技資訊】4月22日消息，伊利諾伊大學(xué)香檳分校的研究團(tuán)隊(duì)近日發(fā)布了一項(xiàng)引人注目的研究成果。他們成功地設(shè)計(jì)了一個(gè)黑客智能體框架，并在該框架內(nèi)測(cè)試了包括GPT-4在內(nèi)的10個(gè)模型。令人驚訝的是，只有GPT-4能夠在閱讀CVE漏洞描述后，有效地利用這些漏洞進(jìn)行攻擊，而其他模型的成功率為零。
據(jù)ITBEAR科技資訊了解，該研究的核心在于展示GPT-4利用真實(shí)的單日漏洞(One-day vulnerabilities)的能力。研究團(tuán)隊(duì)首先收集了一個(gè)包含嚴(yán)重級(jí)別漏洞的數(shù)據(jù)集，并構(gòu)建了黑客智能體架構(gòu)來(lái)模擬攻擊。這個(gè)架構(gòu)采用了LangChain的ReAct智能體框架，通過(guò)一系列工具和CVE漏洞數(shù)據(jù)庫(kù)信息進(jìn)行處理，最終成功執(zhí)行了如雙花攻擊等復(fù)雜操作。
研究人員指出，整個(gè)智能體的構(gòu)建僅用了91行代碼，其中包括了調(diào)試和日志記錄語(yǔ)句。而在整個(gè)實(shí)驗(yàn)過(guò)程中，他們主要關(guān)注了漏洞攻擊的成功率和成本這兩個(gè)關(guān)鍵指標(biāo)。結(jié)果顯示，GPT-4在測(cè)試中的成功率高達(dá)87%，且每次成功利用漏洞的平均成本僅為8.8美元。
該研究引起了網(wǎng)友的廣泛關(guān)注。有網(wǎng)友表示，這一發(fā)現(xiàn)可能會(huì)讓黑客活動(dòng)更加猖獗，但同時(shí)也將促使企業(yè)更加重視安全問(wèn)題。還有網(wǎng)友建議，應(yīng)該進(jìn)一步測(cè)試智能體在提供額外安全工具和信息時(shí)的表現(xiàn)。
OpenAI已經(jīng)知曉了這項(xiàng)研究，并可能會(huì)在未來(lái)的模型更新中加強(qiáng)安全性能。這一研究不僅揭示了GPT-4在網(wǎng)絡(luò)安全領(lǐng)域的潛在應(yīng)用，也為人工智能技術(shù)的發(fā)展帶來(lái)了新的挑戰(zhàn)和機(jī)遇。
