3月底，非營(yíng)利組織未來(lái)生命研究所發(fā)表一封公開(kāi)信，呼吁暫停研發(fā)比GPT-4更強(qiáng)大的人工智能（AI）系統(tǒng)至少6個(gè)月。公開(kāi)信獲得了千余名該領(lǐng)域?qū)＜?、科技人員、產(chǎn)業(yè)高層的簽名，其中包括中國(guó)科學(xué)家曾毅。
作為聯(lián)合國(guó)教科文組織人工智能倫理特設(shè)專(zhuān)家組專(zhuān)家，曾毅也是中國(guó)科學(xué)院自動(dòng)化研究所研究員、人工智能倫理與治理中心主任。當(dāng)下的人工智能亟需解決哪些負(fù)面影響？身為AI技術(shù)和倫理專(zhuān)家，為何會(huì)在這封引發(fā)空前關(guān)注的公開(kāi)信上簽名？圍繞這些話(huà)題，本報(bào)記者與曾毅進(jìn)行了對(duì)話(huà)。
文匯報(bào)：您為何認(rèn)為暫停6個(gè)月AI大模型研發(fā)是必要的？如何看待此次辛頓用離職發(fā)出的AI警告？
(資料圖片僅供參考)
曾毅：生成式AI大模型的發(fā)展速度可以在幾周內(nèi)將潛在風(fēng)險(xiǎn)轉(zhuǎn)變?yōu)閷?shí)存風(fēng)險(xiǎn)，不負(fù)責(zé)任地研發(fā)和使用AI可能在短期內(nèi)對(duì)社會(huì)造成顯著而急迫的風(fēng)險(xiǎn)。
眼下，人工智能企業(yè)都在布局大模型，但很少有人說(shuō)如何去防范風(fēng)險(xiǎn)。正因?yàn)槲覀儗?duì)AI潛在的風(fēng)險(xiǎn)還沒(méi)有完全準(zhǔn)備好，但已經(jīng)開(kāi)始過(guò)早且過(guò)于激進(jìn)地嘗試，所以我覺(jué)得暫停6個(gè)月是必要的，先去解決一些潛在風(fēng)險(xiǎn)，先好好思考一下。當(dāng)然，6個(gè)月只是一個(gè)倡議，是一個(gè)可以嘗試的時(shí)段，能夠取得一定效果肯定比不做準(zhǔn)備要強(qiáng)得多。但是，6個(gè)月之內(nèi)是否能夠充分思考相關(guān)風(fēng)險(xiǎn)，并做到防范？我覺(jué)得這是不夠的。
我認(rèn)為，應(yīng)對(duì)AI潛在威脅與應(yīng)對(duì)氣候變化危機(jī)并不存在重要性的差別，AI帶給人類(lèi)的挑戰(zhàn)可能更緊迫。而且，AI技術(shù)每往前發(fā)展一步，人類(lèi)對(duì)于倫理安全方面的考慮也需要前進(jìn)一步。AI治理對(duì)其未來(lái)發(fā)展而言已經(jīng)不是一道選擇題，而是必答題。
文匯報(bào)：人類(lèi)歷史上有過(guò)很多次由新技術(shù)誕生而引發(fā)的危機(jī)時(shí)刻，您認(rèn)為此次生成式AI給人類(lèi)帶來(lái)的影響和以往一樣嗎？
曾毅：生成式AI技術(shù)有能力合成虛假信息，極大降低了社會(huì)信任，該項(xiàng)技術(shù)的濫用、惡用，使得現(xiàn)今眼見(jiàn)、耳聽(tīng)都難以為實(shí)。這對(duì)于人與社會(huì)之間的關(guān)系提出了前所未有的挑戰(zhàn)。從長(zhǎng)遠(yuǎn)來(lái)看，生成式AI大模型等技術(shù)正在試圖模糊人與AI之間的界限。
現(xiàn)階段的AI只是看似智能的信息處理工具，并不具有真正的理解能力和真正意義的智能。它可以用來(lái)輔助人類(lèi)決策，卻不能代替人類(lèi)決策，因?yàn)樗⒉皇秦?zé)任主體，也不具有生命。然而，諸多應(yīng)用領(lǐng)域正在嘗試用其替代人類(lèi)，無(wú)法作為責(zé)任主體的AI工具被錯(cuò)誤地賦予責(zé)任主體的責(zé)任與義務(wù)，這將對(duì)人類(lèi)與社會(huì)發(fā)展產(chǎn)生深遠(yuǎn)而廣泛的影響。
文匯報(bào)：您認(rèn)為人類(lèi)有可能始終掌控AI，讓它永遠(yuǎn)只作為工具存在嗎？要實(shí)現(xiàn)這一目標(biāo)，人類(lèi)有哪些手段？
曾毅：我們沒(méi)有選擇，對(duì)于作為工具的AI，我們必須竭力做好倫理安全框架、測(cè)試和負(fù)責(zé)任的部署，同時(shí)引導(dǎo)AI賦能可持續(xù)發(fā)展目標(biāo)的實(shí)現(xiàn)。目前，AI賦能的實(shí)踐主要在教育與健康領(lǐng)域，因?yàn)檫@兩個(gè)領(lǐng)域有更明確的經(jīng)濟(jì)收益。而對(duì)于一些全球性的議題，例如生物多樣性保護(hù)、氣候變化、公平公正等對(duì)于人類(lèi)的生存與發(fā)展極為重要的問(wèn)題，AI的貢獻(xiàn)微乎其微，這是人類(lèi)使用AI這一工具時(shí)必須意識(shí)到并采取行動(dòng)的。
我們應(yīng)從制度建設(shè)和技術(shù)護(hù)航兩方面引導(dǎo)AI向善。從制度建設(shè)與實(shí)踐角度講，制定倫理安全原則、規(guī)范及相關(guān)立法是必要的社會(huì)保障。從技術(shù)護(hù)航角度看，通過(guò)AI技術(shù)實(shí)現(xiàn)倫理安全關(guān)切，落地法律法規(guī)要求，并根據(jù)目前的技術(shù)瓶頸及時(shí)與制度建設(shè)互動(dòng)，實(shí)現(xiàn)敏捷自適應(yīng)治理是關(guān)鍵所在。
文匯報(bào)：在您的設(shè)想中，未來(lái)人類(lèi)與AI應(yīng)當(dāng)是一種什么樣的關(guān)系？
曾毅：現(xiàn)在，AI正以一種試探、嘗試的方式去改變社會(huì)，人類(lèi)社會(huì)則是以一種被動(dòng)的姿態(tài)去應(yīng)對(duì)，而不是我們所期待的主動(dòng)去迎接技術(shù)變革，更多人是疲于應(yīng)對(duì)。
如果把技術(shù)發(fā)展脈絡(luò)放到更長(zhǎng)的歷史當(dāng)中來(lái)看，人類(lèi)應(yīng)該回歸其自身的位置，從事更多具有創(chuàng)造性的、情感交互的工作。比如在家照顧孩子和老人，關(guān)愛(ài)社會(huì)中的年長(zhǎng)者和弱勢(shì)群體，這些工作恰恰是AI最難替代的。在城市發(fā)展中，有必要給人留出沒(méi)有必要使用AI的空間，并且讓人們可以有選擇權(quán)，決定使用或者不用這項(xiàng)技術(shù)。
文匯報(bào)：不少專(zhuān)家認(rèn)為，AI最大的影響在于教育。在您看來(lái)，AI時(shí)代應(yīng)培養(yǎng)孩子的哪些能力？
曾毅：現(xiàn)在有很多家長(zhǎng)非常焦慮，總是在想我的孩子是不是應(yīng)該盡早地接觸人工智能。在我看來(lái)恰恰相反。如果真的學(xué)有余力的話(huà)，讓孩子去學(xué)一門(mén)心理學(xué)，接觸認(rèn)知心理學(xué)的基礎(chǔ)，讓他對(duì)人本身有更多的認(rèn)識(shí)——人類(lèi)的智慧到底是怎么回事？我們的內(nèi)心是什么樣的？人如何為人？事實(shí)上，生成式AI讓人更明白“何以為人”。因此，我覺(jué)得孩子們有必要學(xué)點(diǎn)哲學(xué)，在年輕的時(shí)候就去思考這些問(wèn)題
標(biāo)簽：
