我們對(duì)于AI威脅的擔(dān)憂從未停歇，但這并不妨礙威脅不斷加劇。
事實(shí)上，不論專家們?nèi)绾涡沟桌锏睾粲?，很多人工智能武器和?guó)防項(xiàng)目都在快馬加鞭地推進(jìn)，美國(guó)作為人工智能的橋頭堡，這個(gè)棘手的問(wèn)題很快擺在了決策者的辦公桌上，谷歌、微軟、亞馬遜等科技巨頭無(wú)一幸免……
那么，到底是誰(shuí)出了錯(cuò)?科技巨頭遭到連環(huán)抵制又將對(duì)AI行業(yè)帶來(lái)哪些影響?面臨挑戰(zhàn)的AI道德又將何去何從?
1
首先引起員工強(qiáng)烈反彈的是“不作惡”的谷歌，谷歌云首席科學(xué)家李飛飛在政府AI項(xiàng)目簽訂之初就擔(dān)心：這是媒體損壞谷歌聲譽(yù)的絕佳機(jī)會(huì)，你們大概聽(tīng)說(shuō)過(guò)伊隆·馬斯克的評(píng)論，他認(rèn)為人工智能可能引發(fā)第三次世界大戰(zhàn)，我不知道如果媒體開(kāi)始渲染谷歌秘密開(kāi)發(fā)人工智能武器，或者用人工智能為國(guó)防行業(yè)開(kāi)發(fā)武器會(huì)發(fā)生什么事情。
然而，令谷歌管理層揪心的事情還是發(fā)生了。從今年三月份開(kāi)始，就有媒體曝出谷歌參與政府的AI項(xiàng)目訂單，將人工智能技術(shù)應(yīng)用于戰(zhàn)爭(zhēng)中的無(wú)人機(jī)控制，彼時(shí)引發(fā)了數(shù)千名谷歌員工的聯(lián)名上書(shū)，谷歌云CEO戴安·格林(Diane Greene)為了安穩(wěn)員工情緒，試圖敷衍過(guò)去，表示合同其實(shí)只有900萬(wàn)美金。她希望大家心里明白，900萬(wàn)美金的小項(xiàng)目對(duì)于谷歌這樣的龐然大物來(lái)說(shuō)確實(shí)不值一提了。
The Intercept于3月7日?qǐng)?bào)道了谷歌悄悄獲得國(guó)防部的新算法戰(zhàn)爭(zhēng)試驗(yàn)項(xiàng)目
不過(guò)，隨著The Intercept的爆料，谷歌管理層的敷衍做法沒(méi)有得逞，爆料顯示，谷歌預(yù)計(jì)的項(xiàng)目收入從開(kāi)始的15000美金增加到了2.5億美金，如果900萬(wàn)是小項(xiàng)目，那2.5億美金的項(xiàng)目則牽動(dòng)了整個(gè)谷歌。
接下來(lái)發(fā)生的事情大家應(yīng)該知道了，這件事在谷歌內(nèi)部迅速蔓延，隨即爆發(fā)了更大規(guī)模的抗議，更有很多員工以離職相威脅。
眼看事態(tài)無(wú)法控制，谷歌管理層終于在事情爆發(fā)的三個(gè)月后作出讓步，谷歌CEO皮查伊在官網(wǎng)發(fā)布了一篇名為《Google人工智能：我們的原則》的文章，并宣布不再與國(guó)防部續(xù)約合同。
皮查伊表示，人工智能技術(shù)的應(yīng)用目標(biāo)應(yīng)該是：對(duì)社會(huì)有益;避免制造或加劇偏見(jiàn);提前測(cè)試以保證安全;由人類擔(dān)責(zé);保證隱私;堅(jiān)持科學(xué)高標(biāo)準(zhǔn)。
而不應(yīng)該將人工智能技術(shù)應(yīng)用于：制造整體傷害之處，如一項(xiàng)技術(shù)可能造成傷害，我們只會(huì)在其好處大大超過(guò)傷害的情況下進(jìn)行研發(fā)，并提供安全保護(hù)措施;武器或其他用于直接傷害人類的產(chǎn)品;收集使用信息，以實(shí)現(xiàn)違反國(guó)際規(guī)范的監(jiān)控的技術(shù);目標(biāo)違反被廣泛接受的國(guó)際法與人權(quán)原則的技術(shù)。
他們希望以這些框架為準(zhǔn)繩，避免谷歌的人工智能技術(shù)再次觸碰紅線。
2
無(wú)獨(dú)有偶，另一位巨頭亞馬遜的政府人臉識(shí)別項(xiàng)目同樣遭到抵制。
據(jù)Futurism的報(bào)道，早在2016年亞馬遜就推出了Rekognition，它是一種人工智能驅(qū)動(dòng)的面部識(shí)別軟件，掃描視頻或照片來(lái)檢測(cè)人或物體，該技術(shù)可以分析一個(gè)人的臉部以確定他的情緒，還可以在一張照片中識(shí)別出100張臉孔，并在整個(gè)視頻中跟蹤一個(gè)人，即使他們離開(kāi)并重新進(jìn)入視野。
亞馬遜官網(wǎng)對(duì)于Rekognition技術(shù)的介紹，圖為人臉識(shí)別
換句話說(shuō)，這是一個(gè)強(qiáng)大的監(jiān)控工具，政府機(jī)構(gòu)和執(zhí)法機(jī)構(gòu)顯然是亞馬遜的目標(biāo)客戶，如今，在美國(guó)反對(duì)科技公司參與政府AI項(xiàng)目的浪潮下，亞馬遜的項(xiàng)目也不可避免的卷了進(jìn)來(lái)。
目前，美國(guó)公民自由聯(lián)盟(ACLU)華盛頓基金會(huì)的署名信和亞馬遜19位股東的簽署信已經(jīng)呈上亞馬遜CEO貝索斯的辦公桌。
但這位被稱為世界上“最糟糕”的老板還沒(méi)有表態(tài)。
3
當(dāng)然，這樣的糟心事兒也被剛從“失去移動(dòng)互聯(lián)網(wǎng)”中緩過(guò)勁來(lái)的微軟趕上了，而且微軟的AI項(xiàng)目抵制危機(jī)來(lái)的更加直接。
事件起因是在美國(guó)當(dāng)?shù)貢r(shí)間6月24日，美國(guó)總統(tǒng)特朗普發(fā)推：我們不能讓這些人侵入我們的國(guó)家，當(dāng)有人來(lái)了，我們必須立即在沒(méi)有法院和立案的情況下，把他們送回他們來(lái)的地方。
“零容忍”大棒之下，美國(guó)國(guó)土安全部證實(shí)，在4月19日到5月31日期間，美國(guó)邊境巡邏隊(duì)已經(jīng)把近2000名非法移民兒童從他們的父母身邊帶走，而子女與父母走的是完全截然不同的兩種程序——對(duì)兒童提供必要的幫助，成人則關(guān)押起來(lái)等待被直接遣返。
《時(shí)代》周刊雜志封面：“零容忍”邊境政策下哭泣的兩歲孩子和特朗普
事件發(fā)生后，指責(zé)甚至謾罵鋪天蓋地，最引人關(guān)注的是五位前第一夫人的發(fā)聲，她們紛紛指責(zé)特朗普政府的不人道行徑，更有很多州政府宣布不會(huì)向美國(guó)西南邊境派駐國(guó)民警衛(wèi)隊(duì)。
截止目前，雖然特朗普簽署了不再將兒童從非法移民手中奪走的政府文件，但該事件還在持續(xù)發(fā)酵，民眾憤怒的對(duì)象燒向了為政府提供AI技術(shù)的微軟公司，資料顯示，微軟為移民和海關(guān)執(zhí)法局(ICE)提供云服務(wù)和人臉識(shí)別技術(shù)，他們被指是ICE的幫兇。
同樣，微軟的員工也不買帳，他們紛紛站出來(lái)發(fā)聲指責(zé)，并且有人說(shuō)：是時(shí)候認(rèn)真考慮離職的事情了。
面對(duì)壓力，微軟官方的回應(yīng)顯得拖泥帶水，沒(méi)有谷歌那樣果斷，微軟在針對(duì)該事件的聲明中表示，我們不知道政府用我們的技術(shù)干了這樣的事情，我們也沒(méi)有和ICE合作破壞別人的家庭，發(fā)生這樣的事我們也很驚訝。
4
你可能不清楚人工智能技術(shù)，但你一定聽(tīng)說(shuō)過(guò)AI威脅論，霍金、馬斯克們的預(yù)言和警醒以及《西部世界》這類AI倫理電影都輸出著這樣的觀點(diǎn)，他們擔(dān)憂人類被人工智能替代、統(tǒng)治甚至消滅。
人工智能威脅真的到了最緊迫的時(shí)候?
上文提到的擔(dān)憂應(yīng)該是AI威脅的2.0版本了，其實(shí)，在更多時(shí)候大家討論的是AI如果奪取我們工作應(yīng)該怎么辦，據(jù)布魯金斯學(xué)會(huì)(the Brookings Institution)研究人員進(jìn)行的一項(xiàng)調(diào)查顯示，52%的被調(diào)查者相信，30年內(nèi)機(jī)器人將進(jìn)化到可以完成目前人類大部分活動(dòng)的階段。民意調(diào)查還發(fā)現(xiàn)，對(duì)于美國(guó)政府是否應(yīng)該設(shè)立一個(gè)聯(lián)邦機(jī)器人委員會(huì)(Federal Robotics Commission)來(lái)管理機(jī)器人的開(kāi)發(fā)和使用，有29%至32%的人持支持態(tài)度。
如果說(shuō)1.0版本的AI威脅大家還可以坐下來(lái)心平氣和的爭(zhēng)論，那現(xiàn)在美國(guó)討論的AI威脅則是真正意義上的威脅，它運(yùn)用到戰(zhàn)爭(zhēng)和統(tǒng)治當(dāng)中，進(jìn)而威脅人類的生命權(quán)以及自由權(quán)，后果不堪設(shè)想。
你可能不禁要問(wèn)，谷歌、亞馬遜、微軟發(fā)生這樣的事情，到底是誰(shuí)錯(cuò)了?我們看看，其中的參與方包括政府、AI巨頭、員工、普通民眾，仔細(xì)琢磨好像都沒(méi)有錯(cuò)——政府出于安全目的(侵略行為另當(dāng)別論);AI巨頭出于商業(yè)利益目的;員工和普通民眾出于擔(dān)憂AI技術(shù)泛濫，保護(hù)人類不受AI技術(shù)侵犯目的。
筆者認(rèn)為，這里的關(guān)鍵是美國(guó)政府的意志，他們?cè)谥贫▏?guó)防戰(zhàn)略和商業(yè)訂單的時(shí)候，需要在頂層設(shè)計(jì)時(shí)將AI倫理問(wèn)題考慮進(jìn)去，讓AI技術(shù)在合理的地方發(fā)揮價(jià)值，如果微軟的技術(shù)沒(méi)有幫助政府將偷渡者“骨肉分離”，而是進(jìn)行城鎮(zhèn)布控和抓捕逃犯，那民眾的反彈一定會(huì)微小很多
同樣，如果谷歌的技術(shù)沒(méi)有用于無(wú)人機(jī)攻擊而是民用領(lǐng)域，那員工肯定舉雙手贊成，而谷歌的AI項(xiàng)目事件特殊性還在于，戰(zhàn)爭(zhēng)是有原罪的，它一定是建立在流血的基礎(chǔ)上。
畢竟，任何的AI威脅言論都是危言聳聽(tīng)，除非有人故意指使，將AI武器嚴(yán)格管控起來(lái)，就像核武器那樣，人類還需要一點(diǎn)時(shí)間。
在此之前，我們就寄希望于人類社會(huì)的容錯(cuò)機(jī)制吧。
