【科學(xué)向未來】

作者：蘇竣（清華大學(xué)智庫中心主任、清華大學(xué)公共管理學(xué)院教授）；黃萃（浙江大學(xué)公共管理學(xué)院教授、信息資源管理系主任）

作為引領(lǐng)未來的戰(zhàn)略性技術(shù)，人工智能的迅猛發(fā)展將進(jìn)一步釋放歷次科技革命和產(chǎn)業(yè)變革積蓄的巨大能量，給全球經(jīng)濟(jì)發(fā)展、國家治理、社會建設(shè)和人民生活帶來重大而深遠(yuǎn)的影響，推動人類邁入以科技進(jìn)步與產(chǎn)業(yè)革新為基礎(chǔ)的智能社會。但也應(yīng)該看到，人工智能在創(chuàng)造經(jīng)濟(jì)發(fā)展新引擎、推動人類文明邁上新臺階的同時，模糊了虛擬與現(xiàn)實、數(shù)字和實體的界限，給人類社會的法律規(guī)范、道德倫理、公共治理等方面帶來了挑戰(zhàn)。

人工智能時代呼喚全新的治理理念和治理形式。當(dāng)前人工智能技術(shù)正深入發(fā)展，人工智能應(yīng)用場景不斷豐富，人工智能開放創(chuàng)新平臺、人工智能創(chuàng)新發(fā)展試驗區(qū)建設(shè)正如火如荼推進(jìn)。利用好這一有利契機(jī)，加強(qiáng)人工智能技術(shù)發(fā)展過程中的人文社會影響研究，開展人工智能社會實驗，建設(shè)更具有人文溫度的智能社會意義重大而深遠(yuǎn)。

2019世界人工智能大會 新華社發(fā)

建設(shè)有人文溫度的智能社會是大勢所趨

自16世紀(jì)科學(xué)革命以來，科學(xué)技術(shù)的“雙刃劍”效應(yīng)就成為人類社會發(fā)展進(jìn)程中一個揮之不去的議題?？萍歼M(jìn)步使得生產(chǎn)力得以飛速發(fā)展，為人們的生產(chǎn)和生活都帶來了極大的便利。但科技創(chuàng)新帶來的兩極分化、社會摩擦、生態(tài)破壞、倫理失范等負(fù)面影響也一直縈繞難散。英國著名科學(xué)家貝爾納在其著作《科學(xué)的社會功能》中指出：“科學(xué)技術(shù)的發(fā)展本身既為我們揭開了改善人類生活的前景，也為我們開辟了毀滅人類的可能性?！比缃?，伴隨智能時代的到來，科技的正負(fù)效應(yīng)都在不斷強(qiáng)化，形成巨大的張力，使得人類文明的前景更加迷茫。

2019世界人工智能大會 新華社發(fā)

隨著人工智能發(fā)展與應(yīng)用的深入，人—機(jī)器的社會結(jié)構(gòu)，終將為人—智能機(jī)器—機(jī)器的社會結(jié)構(gòu)所取代?？梢钥隙ǖ氖?，人工智能超強(qiáng)的信息儲存、超級模仿和深度自我學(xué)習(xí)能力，會把人類從各種危險、精密、煩瑣、重復(fù)的體力和腦力勞動中極大地解放出來。其發(fā)展與推廣應(yīng)用會改變“不勞動者不得食”的人類社會基石，不勞動者照樣可以豐衣足食，人類想象中的“烏托邦”甚至?xí)驗槿斯ぶ悄芗夹g(shù)成為現(xiàn)實。但值得注意的是，與傳統(tǒng)科技相比，新一代人工智能技術(shù)最大的特色在于它能夠具有和人一樣進(jìn)行思考和決策的能力。這種能力正是人類區(qū)別于動物，并能夠建立起燦爛文明的核心因素。在歷史的長河里，人類智慧的偉大之處不僅在于其對自然科學(xué)的孜孜以求，也在于其在技術(shù)、人文、社會科學(xué)領(lǐng)域創(chuàng)造出的累累碩果。然而，當(dāng)人工智能開始替代人類進(jìn)行思考與決策時，它們能否像人類一樣，在理性之上兼顧感性認(rèn)知，在追求效率的同時也顧及倫理、價值觀、情感和文化。

新華社發(fā)

一個有人文溫度的人工智能社會，不僅要擁有更加高效的生產(chǎn)力，也要有更加豐富多彩的精神空間，更加深厚悠久的文化底蘊(yùn)，更加公平公正的制度保障，更加包容和諧的人文關(guān)懷。這需要我們抓住人工智能技術(shù)應(yīng)用剛剛起步、尚未形成鎖定效應(yīng)的這一良好時機(jī)，樹立正確的價值觀念，深入開展基于科學(xué)循證邏輯的實證研究，構(gòu)建全新的人工智能治理體系，并對技術(shù)和產(chǎn)業(yè)發(fā)展形成反饋和規(guī)制，引導(dǎo)人工智能技術(shù)良性發(fā)展，及時規(guī)避大規(guī)模失業(yè)失能、資源財富分化加劇、數(shù)字和信息鴻溝加深、人類精神文化生活停滯、人工智能技術(shù)失控等潛在風(fēng)險和危機(jī)。

消解人工智能技術(shù)發(fā)展中的隱憂

作為第四次工業(yè)革命的技術(shù)基石，新一代人工智能技術(shù)發(fā)展與應(yīng)用給人類社會帶來的好處自不必說，但我們也必須對人工智能所衍生出的風(fēng)險和威脅保持警惕。人類對于人工智能技術(shù)負(fù)面影響的憂慮主要包括兩個方面，一是對人工智能技術(shù)失控的擔(dān)憂，二是對社會結(jié)構(gòu)與社會秩序的重塑的擔(dān)憂。英國科學(xué)家斯蒂芬·霍金和美國創(chuàng)新企業(yè)家埃隆·馬斯克都曾不斷發(fā)出對人工智能威脅的警告?；艚鹫J(rèn)為，人工智能會是“人類歷史上最重大的事件，不幸的是，也可能會是最后的重大事件”。馬斯克也指出人工智能之險尤甚于核武器。他們普遍擔(dān)心具有人類決策能力的機(jī)器人最終將擺脫人類的控制，反過來奴役人類甚至滅絕人類。電影《流浪地球》里，宇航員懷疑國際空間站控制系統(tǒng)叛逃的情節(jié)，就反映了我們可能面臨的這種隱患。創(chuàng)新工場創(chuàng)始人李開復(fù)則認(rèn)為，人工智能對人類社會真正的威脅不在于技術(shù)層面，而在于對工作的含義、財富的創(chuàng)造和分配方式的打碎、重塑，由此“引發(fā)前所未有的經(jīng)濟(jì)不平等，甚至改變?nèi)蛄α烤鶆荨?。人工智能的發(fā)展會使大量工作被機(jī)器人取代，從制造業(yè)到服務(wù)業(yè)，各層面都可能有大量工作崗位消失。大規(guī)模失業(yè)的同時，財富迅速并大量集中到少數(shù)人手里，進(jìn)一步加劇兩極分化，帶來嚴(yán)重的民生和政治問題。

科技進(jìn)步既改變著人類社會，也塑造著人本身。對于人工智能的發(fā)展，我們首先應(yīng)當(dāng)樹立正確的價值觀念，防患于未然，應(yīng)對科技創(chuàng)新帶來的巨大沖擊。一方面，我們應(yīng)積極倡導(dǎo)建立負(fù)責(zé)任的研發(fā)和創(chuàng)新價值體系，在人工智能的研發(fā)創(chuàng)新階段以及后續(xù)技術(shù)全生命周期，加強(qiáng)對科技創(chuàng)新過程中倫理問題的關(guān)注和控制，避免人工智能可能造成的不利影響。另一方面，要從人文社會科學(xué)的角度，加強(qiáng)人工智能的社會影響機(jī)理、規(guī)律與趨勢研究，完善和強(qiáng)化人工智能發(fā)展的社會政策體系。人工智能技術(shù)給人類社會帶來的負(fù)面影響，歸根到底是對人類歷經(jīng)千百年所建立的具有深厚人文情懷的文明架構(gòu)的全面沖擊。因此，在大力推動科技研發(fā)的同時，我們也必須促進(jìn)與新興技術(shù)相關(guān)的人文社會科學(xué)研究的發(fā)展，實現(xiàn)自然科學(xué)與社會科學(xué)的交融共振，只有這樣，才能從根本上消解人工智能技術(shù)發(fā)展中的隱憂。

深入開展社會實驗研究，提升智能社會認(rèn)知水平

要想解決人工智能技術(shù)的負(fù)面效應(yīng)，實現(xiàn)對人工智能的有效治理，需要我們對人工智能時代的社會形態(tài)和特征具有全面而系統(tǒng)的把握和認(rèn)知。而這種認(rèn)知的建立，有賴于以實踐證據(jù)為基礎(chǔ)的實證研究，特別是社會實驗研究的開展。

社會實驗是種典型的社會科學(xué)研究方法，是以現(xiàn)實情境下的人、組織作為研究對象所開展的研究活動，目的在于通過某些社會、政治過程或技術(shù)變革導(dǎo)致的近似于理想實驗的場景來研究社會科學(xué)的問題。約一百年前，為研究工業(yè)化社會所帶來的影響，美國就曾通過組織大規(guī)模社會實驗，史稱“霍桑實驗”，對進(jìn)入工業(yè)文明時代后，人類的心理和行為問題進(jìn)行了深入的解析。

如今人工智能技術(shù)已經(jīng)融入當(dāng)下人類社會和生活，而且正在以幾何級增長的速度擴(kuò)展自己的存在，人類社會正面臨百年未有之大變局，快速邁入智能化的新時代。人工智能技術(shù)創(chuàng)新給人類社會帶來的巨大變革，為開展智能化時代的社會實驗提供了理想的要素和場景。

近年來，清華大學(xué)、浙江大學(xué)等單位的專家學(xué)者，匯集全國計算機(jī)科學(xué)、社會學(xué)、心理學(xué)、醫(yī)學(xué)等領(lǐng)域的智力資源，在大量前期工作的基礎(chǔ)上，針對人工智能社會影響的問題，率先提出了開展長周期、寬領(lǐng)域、多學(xué)科人工智能社會實驗的政策建議。科技部組織制定了《國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)建設(shè)工作指引》，將社會實驗作為新一代人工智能創(chuàng)新發(fā)展試驗區(qū)建設(shè)的重要工作。中央網(wǎng)信辦等有關(guān)部委也制定行動方案，在全國開展人工智能社會治理實驗。

近日，第一屆全國人工智能社會實驗學(xué)術(shù)會議在清華大學(xué)召開，100余位專家學(xué)者交流分享了人工智能社會實驗的最新成果，研究討論了人工智能社會實驗的工作方案和行動計劃。開展長周期、寬領(lǐng)域、多學(xué)科人工智能社會實驗，有助于我們從小切入，在不對人類社會造成較大規(guī)模影響的情況下，準(zhǔn)確識別人工智能對人類社會帶來的挑戰(zhàn)和沖擊，深入理解人工智能的社會影響特征與態(tài)勢，深刻把握人工智能時代社會演進(jìn)的規(guī)律，從而為建立有人文溫度的智能社會提供科學(xué)的參考依據(jù)。

建立智能社會治理體系，實現(xiàn)對技術(shù)和產(chǎn)業(yè)的積極回饋

在人類社會面臨轉(zhuǎn)型的關(guān)鍵節(jié)點和重大關(guān)口，在應(yīng)對人工智能等科技變革帶來的全新公共治理挑戰(zhàn)的情境下，我們要從人文社會科學(xué)的角度出發(fā)，以人工智能社會實驗為起點，加強(qiáng)人工智能的社會影響機(jī)理、規(guī)律與趨勢的研究與探索，在人工智能的研發(fā)階段以及后續(xù)技術(shù)全生命周期，加強(qiáng)對科技倫理問題的關(guān)注和控制，進(jìn)一步完善負(fù)責(zé)任的研發(fā)創(chuàng)新價值體系，推動應(yīng)對技術(shù)變革的公共政策創(chuàng)新，建立智能社會治理體系，實現(xiàn)對技術(shù)和產(chǎn)業(yè)的積極回饋。

當(dāng)前，世界各國政府都陸續(xù)出臺了相關(guān)政策以推動并規(guī)范人工智能的發(fā)展。美國頒布了《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》和《為人工智能的未來做好準(zhǔn)備》兩個國家級政策框架，日本出臺了《第五期（2016-2020年度）科學(xué)技術(shù)基本計劃》，提出了超智能社會5.0的概念，英國政府發(fā)布了《人工智能：未來決策制定的機(jī)遇與影響》，法國發(fā)布了《人工智能戰(zhàn)略》，我國也發(fā)布了《新一代人工智能發(fā)展規(guī)劃》等相關(guān)政策。不同國家對于人工智能發(fā)展的態(tài)度不同，但都高度關(guān)注人工智能的社會影響與治理問題。

我國是一個擁有近14億人口的大國，并處在經(jīng)濟(jì)社會轉(zhuǎn)型升級的關(guān)鍵時期，具有龐大的人工智能市場需求。我們必須保持以市場為主導(dǎo)的“冒險取向的制度設(shè)計”和以人文社會為主導(dǎo)的“安全取向的制度設(shè)計”間的平衡，這要求我們不斷地根據(jù)出現(xiàn)的社會問題對人工智能帶來的影響進(jìn)行評估，在此基礎(chǔ)上進(jìn)一步優(yōu)化人工智能在數(shù)據(jù)治理、算法責(zé)任、技術(shù)路徑等方面的科學(xué)規(guī)范與技術(shù)標(biāo)準(zhǔn)，構(gòu)建兼顧理論與實踐的全鏈條研究路徑，以保障相關(guān)治理及時跟進(jìn)，從而為人工智能技術(shù)發(fā)展打造開放有序的環(huán)境，推動建立有人文溫度的智能社會治理體系。

盡管世界各國在人工智能治理上目前還處于起步階段，但在不遠(yuǎn)的將來，一些重要大國參與的人工智能國際治理機(jī)制會很快建構(gòu)并完善起來，這是全球人工智能規(guī)范、有序發(fā)展的必由之路。尤其是人工智能與物聯(lián)網(wǎng)、云計算、大數(shù)據(jù)、互聯(lián)網(wǎng)等技術(shù)深度融合，人工智能所造成的社會影響將會超越一國的邊界而成為全球共同關(guān)注的公共問題，因此人工智能客觀上需要全球性協(xié)調(diào)機(jī)制、全球性協(xié)作平臺以及全球性的標(biāo)準(zhǔn)和規(guī)則，同樣也需要國際范圍內(nèi)人工智能的道德倫理系統(tǒng)和價值理念的碰撞與討論，這些都是人工智能全球治理的發(fā)展趨勢。

我國是全世界發(fā)展人工智能技術(shù)行動最早、動作最快的國家之一，面對全球科技創(chuàng)新的新態(tài)勢，我們要牢牢抓住人工智能發(fā)展的重大歷史機(jī)遇，緊扣發(fā)展、研判大勢，主動謀劃、搶占先機(jī)，引領(lǐng)世界人工智能發(fā)展新潮流。我們要加快開展以理論探索為導(dǎo)向，以指導(dǎo)實踐為目標(biāo)的人工智能社會實驗，在對人工智能綜合影響進(jìn)行持續(xù)觀測和數(shù)據(jù)收集、分析的基礎(chǔ)上，探索人工智能全球治理的“中國方案”，促進(jìn)人工智能技術(shù)、產(chǎn)業(yè)和治理的良性發(fā)展，建設(shè)有人文溫度的智能社會。

《光明日報》（ 2019年12月26日 16版）