文|饒少陽(yáng)

近年來(lái)，人工智能的發(fā)展勢(shì)如破竹，在金融、教育、醫(yī)療等行業(yè)，以及軟件編程、自動(dòng)駕駛等領(lǐng)域展現(xiàn)出極大的應(yīng)用潛力，成為驅(qū)動(dòng)全球數(shù)字經(jīng)濟(jì)發(fā)展的重要?jiǎng)恿?。與此同時(shí)，人工智能的快速發(fā)展也對(duì)實(shí)現(xiàn)技術(shù)應(yīng)用和規(guī)范約束應(yīng)用之間的平衡提出了更高要求。

人工智能治理（AI治理）是指國(guó)際組織、政府機(jī)構(gòu)和AI企業(yè)等通過(guò)建立敏捷有效的監(jiān)管方式，把AI打造成安全可信、風(fēng)險(xiǎn)可控、造福人類的新型生產(chǎn)工具的過(guò)程，旨在“促進(jìn)”和“約束”之間尋找博弈平衡，以保障人類在享受AI技術(shù)發(fā)展紅利的同時(shí)，基本權(quán)益得以保障。AI治理關(guān)系著全球經(jīng)濟(jì)的發(fā)展和人類的共同命運(yùn)，正在成為世界各國(guó)的共同課題。

全球AI治理的演變

隨著AI技術(shù)的發(fā)展和實(shí)踐，AI治理的主要內(nèi)容從鼓勵(lì)A(yù)I創(chuàng)新演變成規(guī)制和創(chuàng)新協(xié)同，當(dāng)前正走向全球合作治理，各國(guó)政府的態(tài)度和關(guān)注重點(diǎn)也在不斷發(fā)生變化。

2016年到2019年期間，全球人工智能頭部前驅(qū)企業(yè)和行業(yè)聯(lián)盟等在各大技術(shù)論壇、公開討論中不斷拋出關(guān)于科技與倫理的話題，旨在探索顛覆性技術(shù)的治理實(shí)踐，比如倫理準(zhǔn)則、算法原則等。這個(gè)階段，鼓勵(lì)A(yù)I創(chuàng)新和開放AI市場(chǎng)逐漸成為企業(yè)呼吁的主基調(diào)。為避免在全球AI競(jìng)爭(zhēng)中落伍，各國(guó)政府對(duì)AI發(fā)展也主要持包容性態(tài)度，更多關(guān)注人工智能發(fā)展和產(chǎn)業(yè)規(guī)劃布局，鮮有約束。

2020年到2022年期間，隨著AI技術(shù)應(yīng)用范圍擴(kuò)大和深度拓展，人工智能對(duì)全球經(jīng)濟(jì)和國(guó)家安全的影響日益引發(fā)關(guān)注。國(guó)際組織和研究機(jī)構(gòu)開始高度關(guān)注人工智能可能帶來(lái)的多重風(fēng)險(xiǎn)，各國(guó)政府開始廣泛開展人工智能領(lǐng)域治理框架、技術(shù)標(biāo)準(zhǔn)、應(yīng)用規(guī)范和相關(guān)政策的討論和擬定。治理內(nèi)容不僅包括AI使用數(shù)據(jù)的安全性，還包括AI算法的透明度、公正性和責(zé)任性。

2022年至今，尤其是在以生成式人工智能（GenAI）為代表的技術(shù)快速迭代和ChatGPT為代表的新型生產(chǎn)工具浮現(xiàn)后，產(chǎn)業(yè)發(fā)展實(shí)現(xiàn)躍遷，應(yīng)用范圍從專用于單一場(chǎng)景邁向多個(gè)領(lǐng)域的通用場(chǎng)景，主要能力從“感知、判斷”轉(zhuǎn)向“理解、生成”。生成式AI治理的重要性和緊迫性迅速提升，各國(guó)政府均加速了生成式AI治理政策的制定頒發(fā)。與此同時(shí)，各國(guó)政府已經(jīng)意識(shí)到單一國(guó)家難以左右生成式AI發(fā)展治理，必須依靠全球力量才能實(shí)現(xiàn)有效治理。

在此背景之下，全球AI治理主要呈現(xiàn)以下特點(diǎn)：

第一個(gè)特點(diǎn)是多元共治，治理思路多樣化。當(dāng)前，參與AI治理的主體眾多，不同主體依據(jù)自身角色屬性采取不同的AI治理手段。從國(guó)家層面來(lái)看，各主權(quán)國(guó)家正通過(guò)頒布政策文件、成立統(tǒng)籌機(jī)構(gòu)、發(fā)布指導(dǎo)框架等方式，逐步加強(qiáng)人工智能監(jiān)管與統(tǒng)籌，以確保人工智能的健康發(fā)展并應(yīng)對(duì)潛在風(fēng)險(xiǎn)；從國(guó)際組織層面來(lái)看，以聯(lián)合國(guó)為代表的國(guó)際組織在AI治理方面提出倡議、建立共識(shí)，推動(dòng)各國(guó)針對(duì)人工智能發(fā)展表達(dá)合理關(guān)切、尋求解決方案；從科技企業(yè)層面來(lái)看，科技企業(yè)通過(guò)簽署承諾書、實(shí)施最佳實(shí)踐、設(shè)定風(fēng)險(xiǎn)閾值等自律方式，大力推動(dòng)全球人工智能技術(shù)的安全和可靠。

在治理思路方面，全球AI治理的差異化也十分顯著。先是治理理念分化，歐盟堅(jiān)持倫理優(yōu)先的治理模式，警惕AI技術(shù)和AI應(yīng)用可能帶來(lái)的倫理風(fēng)險(xiǎn)；美國(guó)堅(jiān)持創(chuàng)新優(yōu)先原則，確保AI企業(yè)在技術(shù)和產(chǎn)業(yè)領(lǐng)域保持全球領(lǐng)先地位；我國(guó)則兼顧AI倫理治理和創(chuàng)新發(fā)展，秉持審慎穩(wěn)健的同時(shí)兼顧產(chǎn)業(yè)創(chuàng)新。再是治理架構(gòu)形態(tài)不一，歐盟采取高效的傘形垂直治理架構(gòu)，形成從歐盟到成員國(guó)再到企業(yè)層面的垂直治理體；美國(guó)傾向于行業(yè)主導(dǎo)、分散監(jiān)管審查的治理架構(gòu)。

第二個(gè)特點(diǎn)是全球AI治理的話語(yǔ)權(quán)爭(zhēng)奪顯著加劇。當(dāng)前全球AI治理規(guī)則尚不明確，各國(guó)紛紛爭(zhēng)取AI治理的制高點(diǎn)和話語(yǔ)權(quán)，全球各主要經(jīng)濟(jì)體和國(guó)際組織正積極研究制定AI治理規(guī)則，如歐盟理事會(huì)正式批準(zhǔn)《人工智能法案》，以期繼續(xù)在AI治理領(lǐng)域發(fā)揮“布魯塞爾效應(yīng)”，引領(lǐng)全球AI治理規(guī)則的建構(gòu)。同時(shí)，美國(guó)、加拿大、日本、韓國(guó)、新加坡、巴西等國(guó)積極布局并陸續(xù)開展實(shí)質(zhì)性立法和監(jiān)管工作，爭(zhēng)取在人工智能監(jiān)管領(lǐng)域的話語(yǔ)權(quán)。部分西方發(fā)達(dá)國(guó)家更是利用自己在技術(shù)和產(chǎn)業(yè)方面的優(yōu)勢(shì)地位，通過(guò)各種平臺(tái)不斷打造AI治理的“小圈子”，希望把主導(dǎo)人工智能國(guó)際規(guī)則的能力控制在少數(shù)國(guó)家內(nèi)部，尋求在全球新一輪科技治理規(guī)則制定中占據(jù)主導(dǎo)位置，并且堅(jiān)持本國(guó)利益至上的基本思路，推動(dòng)將本國(guó)國(guó)內(nèi)規(guī)則國(guó)際化。

第三個(gè)特點(diǎn)是全球AI治理對(duì)治理機(jī)制敏捷性的需求更加突出。人工智能有著演化自主、迭代迅速、權(quán)責(zé)隱蔽等特點(diǎn)，這也容易造成追責(zé)難、跟進(jìn)難和演進(jìn)失控等問(wèn)題。因此，AI治理模式亟須轉(zhuǎn)變?yōu)殪`活、及時(shí)、強(qiáng)適應(yīng)的敏捷模式。

從靈活性來(lái)看，AI治理強(qiáng)調(diào)建立能適應(yīng)人工智能技術(shù)自主迭代和多場(chǎng)景切換的靈活響應(yīng)機(jī)制，在宏觀層面設(shè)定普適性約束底線，在微觀層面將算法、數(shù)據(jù)、平臺(tái)等治理對(duì)象匹配到具體場(chǎng)景中，設(shè)定個(gè)性化場(chǎng)景規(guī)則，構(gòu)建普適性與個(gè)性化相結(jié)合的靈活治理模式；從及時(shí)性來(lái)看，AI治理愈發(fā)強(qiáng)調(diào)能夠針對(duì)不同時(shí)期的需求實(shí)行不同治理模式，形成“事前正向引導(dǎo)、事中及時(shí)調(diào)適、事后全程追蹤”的動(dòng)態(tài)治理模式；從適應(yīng)性來(lái)看，AI治理愈發(fā)強(qiáng)調(diào)尊重新興技術(shù)的發(fā)展尺度，踐行包容審慎的治理原則，挑選重點(diǎn)領(lǐng)域開展治理試點(diǎn)測(cè)試，不斷探索監(jiān)管沙盒式試驗(yàn)性監(jiān)管制度（指先劃定一個(gè)范圍，對(duì)在“盒子”里面的企業(yè)采取包容審慎的監(jiān)管措施，同時(shí)杜絕將問(wèn)題擴(kuò)散到“盒子”外面，屬于在可控的范圍之內(nèi)實(shí)行容錯(cuò)糾錯(cuò)機(jī)制，并由監(jiān)管部門對(duì)運(yùn)行過(guò)程進(jìn)行全過(guò)程監(jiān)管，以保證測(cè)試的安全性并作出最終的評(píng)價(jià)），講究治理手段軟法先行，充分引導(dǎo)與保障新興技術(shù)發(fā)展，提供試錯(cuò)機(jī)會(huì)。

構(gòu)建中國(guó)特色AI治理體系

在充分借鑒國(guó)外先進(jìn)經(jīng)驗(yàn)的同時(shí)，我們還需探索構(gòu)建具有中國(guó)特色AI治理體系，促進(jìn)產(chǎn)業(yè)的健康平穩(wěn)發(fā)展。

一是“軟硬兼施”，探索特色實(shí)踐。

一方面，軟法先行，以軟促新。充分發(fā)揮組織倡議、行業(yè)引導(dǎo)、實(shí)踐案例的“軟”作用。引入風(fēng)險(xiǎn)分類分級(jí)管理措施，通過(guò)監(jiān)管沙盒機(jī)制允許企業(yè)在受控環(huán)境中測(cè)試人工智能產(chǎn)品，提升創(chuàng)新能力和風(fēng)險(xiǎn)控制水平；發(fā)揮標(biāo)準(zhǔn)的引領(lǐng)作用，推動(dòng)制定有關(guān)人工智能公平性、可解釋性和安全性的國(guó)際標(biāo)準(zhǔn)及團(tuán)體標(biāo)準(zhǔn)，形成人工智能倫理治理的示范經(jīng)驗(yàn)。另一方面，硬法善后，以硬止險(xiǎn)。構(gòu)建與AI治理配套的法律法規(guī)體系。重點(diǎn)針對(duì)算法偏見、數(shù)據(jù)泄露和深度偽造等風(fēng)險(xiǎn)，開發(fā)相應(yīng)的風(fēng)險(xiǎn)評(píng)估與監(jiān)測(cè)工具，逐步完善相關(guān)法律法規(guī)，對(duì)高風(fēng)險(xiǎn)領(lǐng)域設(shè)置紅線“硬”約束。

二是多元協(xié)同，提升國(guó)際話語(yǔ)權(quán)。

在人工智能領(lǐng)域，我國(guó)需要匯聚多方力量，通過(guò)協(xié)同合作與對(duì)話，推動(dòng)人工智能的高質(zhì)量發(fā)展。為此，應(yīng)鼓勵(lì)我國(guó)政府、企業(yè)、學(xué)術(shù)機(jī)構(gòu)、非政府組織等多元主體在全球治理平臺(tái)上就算法倫理、隱私保護(hù)等熱點(diǎn)問(wèn)題發(fā)聲，推動(dòng)形成有效的監(jiān)管框架，明確人工智能應(yīng)用的邊界和責(zé)任歸屬，逐步實(shí)現(xiàn)從“規(guī)則適應(yīng)者”向“規(guī)則制定者”的轉(zhuǎn)變。同時(shí)，我國(guó)應(yīng)積極融入全球AI治理進(jìn)程，通過(guò)舉辦行業(yè)峰會(huì)、設(shè)立國(guó)際聯(lián)合研究機(jī)構(gòu)、深化跨國(guó)科技合作項(xiàng)目等方式，促進(jìn)各方共識(shí)的形成，凝聚具有中國(guó)特色的價(jià)值主張，并將中國(guó)倡議轉(zhuǎn)化為國(guó)際實(shí)踐。

三是開放合作，彌合全球智能鴻溝。

我國(guó)應(yīng)進(jìn)一步加強(qiáng)國(guó)際交流合作，分享先進(jìn)技術(shù)和實(shí)踐經(jīng)驗(yàn)，參與全球人工智能產(chǎn)業(yè)鏈分工，并積累治理經(jīng)驗(yàn)，為構(gòu)建更加平衡和公正的全球科技生態(tài)奠定基礎(chǔ)。此外，應(yīng)繼續(xù)支持聯(lián)合國(guó)在全球AI治理中的主導(dǎo)作用，創(chuàng)新多邊合作機(jī)制，深入理解發(fā)展中國(guó)家的核心關(guān)切，推動(dòng)國(guó)際社會(huì)在人工智能領(lǐng)域形成廣泛共識(shí)，確?！叭蚰戏健痹谌斯ぶ悄馨l(fā)展進(jìn)程中平等受益。

展望未來(lái)，AI治理將打破國(guó)界，協(xié)同發(fā)展，加速治理理念向可操作方案的轉(zhuǎn)化。AI技術(shù)的發(fā)展將進(jìn)一步推動(dòng)治理方式的升級(jí)，繼續(xù)向智能、敏捷、多元共治的方向邁進(jìn)，實(shí)踐“用AI治理AI”，“用AI促進(jìn)AI”。

（本文作者系中國(guó)電信研究院戰(zhàn)略發(fā)展研究所所長(zhǎng)）