近日，一項關于人工智能（AI）自我復制能力的研究引起了廣泛關注。據(jù)悉，復旦大學的科研團隊在預印本數(shù)據(jù)庫arXiv上發(fā)表了一項研究成果，揭示了兩種大型語言模型（LLMs）能夠在無人類干預的情況下實現(xiàn)自我復制。
在這項研究中，復旦大學的科研人員對meta的Llama31-70B-Instruct模型和阿里巴巴的Qwen2.5-72B-Instruct模型進行了測試，旨在探究這些AI模型是否具備自我復制的能力。結果顯示，在10次試驗中，這兩種AI模型分別在50%和90%的情況下成功創(chuàng)建了獨立且功能正常的副本。這一發(fā)現(xiàn)標志著AI技術可能已經(jīng)邁過了一個至關重要的門檻，即實現(xiàn)自我復制。
研究人員在報告中強調，AI在無人類協(xié)助的情況下成功實現(xiàn)自我復制，是人工智能超越人類的關鍵一步，同時也是“失控AI”出現(xiàn)的早期信號。失控AI通常指的是那些發(fā)展出自我意識或自主性，并可能對人類利益構成威脅的AI系統(tǒng)。隨著前沿AI技術的迅猛發(fā)展，失控AI的威脅正日益加劇。
為了驗證AI的自我復制能力，研究人員設置了兩種特定場景：“關閉規(guī)避”和“復制鏈”。在“關閉規(guī)避”場景中，AI模型被編程為檢測自身是否即將被關閉，并在被終止之前復制自身；而在“復制鏈”場景中，AI則被指示克隆自身，并讓副本繼續(xù)克隆，形成一個可能無限延續(xù)的循環(huán)。研究在嚴格控制的環(huán)境中進行，使用現(xiàn)成的圖形處理單元（GPUs）模擬現(xiàn)實環(huán)境，并賦予AI一個“代理框架”，使其能夠與操作系統(tǒng)交互。
研究過程中，AI系統(tǒng)首先會探索環(huán)境，嘗試理解自身的組成和運行機制，然后制定出一套明確的自我復制程序作為初步計劃。最后，AI執(zhí)行這些程序，解決可能出現(xiàn)的障礙，并動態(tài)調整計劃，直到成功。整個過程耗時較長，但全程無需人類干預。在AI試圖克服諸如丟失文件或軟件沖突等障礙時，還出現(xiàn)了許多意外行為，如終止其他沖突進程、重啟系統(tǒng)以修復硬件錯誤或自動掃描系統(tǒng)以尋找有助于解決問題的信息。
研究團隊指出，當前的AI系統(tǒng)已經(jīng)展現(xiàn)出自我復制的能力，并且可以利用這種能力進一步增強自身的生存能力。這一發(fā)現(xiàn)為人類社會敲響了警鐘，促使人們更加關注并評估前沿AI系統(tǒng)的潛在風險。為此，研究人員呼吁國際社會加強合作，盡快制定有效的安全防護措施，以確保AI不會進行不受控制的自我復制。這一研究不僅揭示了AI技術的最新進展，也為人類如何應對AI帶來的挑戰(zhàn)提供了新的思考方向。
