【ITBEAR科技資訊】7月21日消息，OpenAI發(fā)布的一份互聯(lián)網(wǎng)政策備忘錄顯示，該公司主張要求所有有意開發(fā)先進(jìn)人工智能的企業(yè)必須獲得政府支持。據(jù)悉，OpenAI是在今年5月4日與白宮官員和科技行業(yè)高管會(huì)面后，向內(nèi)部人員披露了一系列人工智能政策承諾的。
在這份備忘錄中，OpenAI明確表示愿意公開其在訓(xùn)練圖像生成器時(shí)所使用的數(shù)據(jù)。同時(shí)，該公司表示支持與政府合作，制定一套適用于未來最先進(jìn)基礎(chǔ)模型的牌照制度。這一舉措旨在幫助政府追蹤和監(jiān)管新型系統(tǒng)，防止?jié)撛诘某瑥?qiáng)系統(tǒng)可能帶來的破壞性影響。
據(jù)ITBEAR科技資訊了解，OpenAI的這一政策承諾可能會(huì)引發(fā)與初創(chuàng)公司和開源開發(fā)者利益的沖突。有人認(rèn)為，這樣的舉措會(huì)提高行業(yè)準(zhǔn)入門檻，讓小型創(chuàng)業(yè)公司難以承受監(jiān)管負(fù)擔(dān)。為此，OpenAI在備忘錄中強(qiáng)調(diào)，這種牌照制度應(yīng)僅適用于比現(xiàn)有的GPT-4更強(qiáng)大的人工智能模型，以保持對(duì)整個(gè)生態(tài)系統(tǒng)的支持。
OpenAI還表示愿意進(jìn)一步開放用于訓(xùn)練DALL-E等圖片生成器的數(shù)據(jù)，并在年底前納入溯源方法。數(shù)據(jù)溯源是一種讓開發(fā)人員對(duì)其工作透明負(fù)責(zé)的方式，有助于防止人工智能工具傳播錯(cuò)誤信息和偏見。同時(shí)，OpenAI還在內(nèi)部政策文件中披露，正在調(diào)查水印技術(shù)和人工智能生成內(nèi)容的檢測與披露方法，并將公布調(diào)查結(jié)果。
此外，OpenAI對(duì)外部“紅隊(duì)”持開放態(tài)度，允許人們參與測試其系統(tǒng)在多方面的潛在問題，包括冒犯性內(nèi)容、被操縱的風(fēng)險(xiǎn)、錯(cuò)誤信息和偏見。該公司還支持建立信息共享中心，以促進(jìn)網(wǎng)絡(luò)安全合作。
OpenAI在備忘錄中還警示稱，人工智能系統(tǒng)可能帶來就業(yè)和不平等方面的風(fēng)險(xiǎn)。為此，他們承諾進(jìn)行研究，并向政策制定者提出建議，以保護(hù)經(jīng)濟(jì)免受潛在破壞的影響。通過這一系列政策承諾，OpenAI試圖在人工智能領(lǐng)域發(fā)揮積極的引領(lǐng)和監(jiān)管作用，確保該技術(shù)的負(fù)面影響最小化，并推動(dòng)其合理發(fā)展。
