近日，阿里巴巴集團聯(lián)合發(fā)布了《大模型技術發(fā)展及治理實踐報告》，深入探討了AI技術快速發(fā)展所帶來的治理與安全挑戰(zhàn)。隨著ChatGPT在全球范圍內的火爆，AI大模型已成為科技界的焦點。截至2023年上半年，全球AI企業(yè)數(shù)量已達到3.6萬家，其中美國占比最高，為33.6%，而中國則以16%的比例緊隨其后，擁有5734家企業(yè)。
在中國，AI大模型的發(fā)展尤為迅猛。據(jù)數(shù)據(jù)顯示，目前已有超過270個AI大模型完成備案并對外提供服務，總注冊賬戶數(shù)突破13億。其中，北京市作為國內大模型產業(yè)的領頭羊，備案大模型數(shù)量已達到105個，占全國的一半以上。這些大模型不僅數(shù)量眾多，而且在實際應用中表現(xiàn)出色，已經為超過1.4萬家企業(yè)提供了賦能服務。
然而，在AI大模型技術不斷突破的同時，其安全風險與治理問題也日益凸顯。如何確保大模型始終處在人類控制之下，不斷降低安全風險，成為了全球范圍內的共識。對此，報告提出了多項治理措施，包括建立健全大模型研發(fā)、上線、運行等全生命周期管理體系，以及協(xié)同各方夯實AI發(fā)展的基礎等。
值得注意的是，在AI大模型的發(fā)展過程中，自主創(chuàng)新問題也備受關注。有觀點認為，當前大量國產模型采用國外的開源架構進行訓練，導致與國際頂尖水平存在一定的差距。對此，北京市互聯(lián)網信息辦公室副主任潘鋒表示，在“百模大戰(zhàn)”之下，真正有競爭力的模型并不多，不少企業(yè)還未找到可持續(xù)的商業(yè)模式，面臨較大的生存壓力。因此，加強自主創(chuàng)新，提升國產AI大模型的競爭力，成為了當前亟待解決的問題。
在開源方面，阿里巴巴集團作為頭部AI和云服務商，積極推動了AI大模型的開源發(fā)展。據(jù)阿里安全總裁錢磊透露，過去一年，阿里投入大量資源到AI算力基礎設施建設當中，并持續(xù)建立安全架構。目前，“通義千問”API的調用價格已大幅下降97%，吸引了包括中國一汽、聯(lián)想、微博等在內的30多萬家企業(yè)接入。
在提升AI大模型安全性方面，報告也提出了新的概念——憲法人工智能（Constitutional AI）。該技術通過人為設定憲法準則，對模型進行微調和強化學習，使模型與憲法準則進行對齊。這一技術的提出，為AI大模型的安全性提供了新的解決方案。通過利用少量人類定義的原則或規(guī)則來引導大模型生成響應，可以極大地減少人工監(jiān)督的工作量。
對于AI大模型的未來發(fā)展與安全治理，中國電子技術標準化研究院副院長范科峰表示，發(fā)展與安全從來都不是對立的，而是相輔相成的。AI安全標準化工作既是AI安全治理的重要支撐，也是推動技術健康發(fā)展的基本保證。因此，加強AI技術的標準化工作，提升AI大模型的安全性與可靠性，將是未來發(fā)展的重要方向。
