《AI未來指北》欄目由騰訊新聞推出，邀約全球業(yè)內(nèi)專家、創(chuàng)業(yè)者、投資人，探討AI領(lǐng)域的技術(shù)發(fā)展、商業(yè)模式、應(yīng)用場景、倫理及版權(quán)爭議。
劃重點(diǎn)
(資料圖片)
文 / 劉永謀 中國人民大學(xué)哲學(xué)院教授、國家發(fā)展與戰(zhàn)略研究院研究員
2023年3月，包括埃隆.馬斯克在內(nèi)的千名專家聯(lián)合簽署公開信，呼吁暫停訓(xùn)練GPT-4后續(xù)人工智能（AI）模型至少6個(gè)月。消息一出，引爆全球網(wǎng)絡(luò)和媒體，很快引來吳恩達(dá)等“AI大?！钡姆磳ΑＷ詈?，此事也沒有下文，暫停GPT-4被懷疑就是OpenAI的一波炒作。
4月份，又傳出意大利要全面禁止ChatGPT，不久的結(jié)果是罰款了事。
5月份，美國總統(tǒng)拜登和副總統(tǒng)哈里斯也來湊熱鬧，與頂級(jí)人工智能企業(yè)谷歌母公司Alphabet、微軟、OpenAI和Anthropic的首席執(zhí)行官舉行會(huì)議，向企業(yè)施壓圍繞人工智能實(shí)施保障措施，表示支持新的法規(guī)或立法，減輕AI技術(shù)的潛在危害。
用戶利用生成式AI工具制作的“馬斯克和他的AI女友” 圖源：網(wǎng)絡(luò)
一切看起來山雨欲來，似乎ChatGPT、Midjourney、DALL-E 2為代表的生成式人工智能（GAI，Generated AI）催生了新的、更嚴(yán)重的社會(huì)風(fēng)險(xiǎn)，使得人類社會(huì)發(fā)展和應(yīng)用AI技術(shù)的總體局面發(fā)生了根本性改變，需要采取新的戰(zhàn)略、措施和辦法來應(yīng)對，比如全面暫停新的AI技術(shù)的研發(fā)。
真的是這樣的嗎？否。
第一，GAI并沒有產(chǎn)生什么新風(fēng)險(xiǎn)，它可能導(dǎo)致的問題早已也一直被學(xué)界所討論、所呼吁。
第二，應(yīng)對GAI風(fēng)險(xiǎn)并不需要什么新方法，應(yīng)對AI風(fēng)險(xiǎn)的關(guān)鍵一直都是落實(shí)。
4月11日，國家互聯(lián)網(wǎng)信息辦公室公開發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》，以前所未有的速度對GAI作出治理反應(yīng)，佐證GAI應(yīng)用社會(huì)影響巨大，必須認(rèn)真研究，審慎地而迅速地加以應(yīng)對。
01 謹(jǐn)防AI失控——全球科技領(lǐng)域的“政治正確”
就目前已經(jīng)暴露出來的跡象來看，GAI挑戰(zhàn)最大的領(lǐng)域至少包括3個(gè)：
1）失業(yè)問題，即它可能導(dǎo)致文案策劃人員、原畫師、工業(yè)設(shè)計(jì)人員、程序員、媒體從業(yè)人員和翻譯人員等腦力工作者大量失業(yè)。
2）教育問題，即它可能沖擊既有-的教育科研系統(tǒng)，比如學(xué)生可以用ChatGPT代替自己做作業(yè)。
3）信息安全問題，即GAI自動(dòng)生成海量的人工智能生產(chǎn)內(nèi)容（AIGC，AI Generated Content），真?zhèn)坞y辨、立場可疑，權(quán)屬不清、追責(zé)困難，甚至可能成為挑戰(zhàn)主流價(jià)值觀和意識(shí)形態(tài)的危險(xiǎn)工具。
AI風(fēng)險(xiǎn)早就被各國政府所重視，近年來更是成為全社會(huì)的關(guān)注焦點(diǎn)。顯然，上述GAI導(dǎo)致的三大沖擊都不是什么新問題，早在ChatGPT爆火之間就已經(jīng)被學(xué)界和政府所關(guān)注、所研究。
近十年來，從物聯(lián)網(wǎng)到大數(shù)據(jù)、云計(jì)算、區(qū)塊鏈、元宇宙、ChatGPT，一波波的AI熱潮中，從來沒有缺少關(guān)注風(fēng)險(xiǎn)的呼聲。
本人專業(yè)關(guān)注新科技社會(huì)沖擊問題，花了大量精力提醒大家注意AI可能導(dǎo)致的技術(shù)風(fēng)險(xiǎn)。比如，曾寫過專著《技術(shù)治理通論》《物聯(lián)網(wǎng)與泛在社會(huì)的來臨》《技術(shù)有病我沒藥》《元宇宙陷阱》《科技與社會(huì)十四講》，面向非專業(yè)人士提示ICT（信息與通訊技術(shù)）的社會(huì)沖擊和技術(shù)風(fēng)險(xiǎn)。
可以說，警惕AI發(fā)展，防止AI失控，正在成為全球范圍內(nèi)科技領(lǐng)域的“政治正確”。在此氛圍之下，公開宣稱“AI無禁區(qū)”的聲音被極大地抑制。對此，作為技術(shù)控制的選擇論者，我完全贊同。
就目前的發(fā)展態(tài)勢而言，ChatGPT究竟存在什么嚴(yán)重的風(fēng)險(xiǎn)，必須以“加碼”的方式比如暫停至少六個(gè)月加以應(yīng)對呢？
有人說，ChatGPT是超級(jí)AI出現(xiàn)的征兆，如果現(xiàn)在不停止（注意：不僅是暫停），“潘多拉的魔盒”一旦打開，人類很快會(huì)被超級(jí)AI統(tǒng)治甚至滅絕。這種幻想色彩濃厚的念頭，很難讓人予以嚴(yán)肅的對待。尤其是，很多專業(yè)人員不承認(rèn)ChatGPT是通用AI，更別說它是超級(jí)AI的雛形了。
超級(jí)AI可能是個(gè)問題，但在嚴(yán)防人類自我滅絕的問題上，很多風(fēng)險(xiǎn)如核大戰(zhàn)、氣候變化、致命病毒傳播、生物科技濫用等要排在超級(jí)AI之前。我們是不是先把它們都停止了？就算停止不了，暫停一下也行，起碼可以呼吁暫停。
既然沒有什么新的情況，就不必采取暫停發(fā)展的極端方法，為什么？
第一，暫停是沒有道理。有人說，ChatGPT風(fēng)險(xiǎn)應(yīng)對措施沒有想清楚，所以先暫停。錯(cuò)！不是沒想清楚，而是沒有落實(shí)到位。
第二，暫停是不可能真正實(shí)現(xiàn)的，肯定會(huì)有AI公司會(huì)違反禁令，結(jié)果是不公平的競爭。
第三，暫停解決不了問題。就算所有AI公司真的都暫停GAI科研，風(fēng)險(xiǎn)問題就解決了嗎？沒有！除非徹底停止和取締LLMs（Large Language Models，大語言模型），否則風(fēng)險(xiǎn)不會(huì)消失。重新啟動(dòng)之時(shí)，仍然得直面風(fēng)險(xiǎn)。
如今，新科技是人類生存和發(fā)展最重要的不可須臾離開的工具。GAI對社會(huì)生產(chǎn)力的推動(dòng)作用已經(jīng)昭然若揭，我們?yōu)槭裁匆蛞瓘U食，為什么不能控制地利用呢？
20世紀(jì)就有人提出——當(dāng)時(shí)的科技人類已經(jīng)完全夠用了，繼續(xù)發(fā)展會(huì)導(dǎo)致很多新問題，應(yīng)該讓科技靜止下來，科學(xué)家不要再搞研究了。此類極端非理性想法，從來沒有被社會(huì)嚴(yán)肅對待過。
02 暫停GAI研發(fā)實(shí)現(xiàn)不了，純屬無效的“嘴炮”
AI可能導(dǎo)致各種社會(huì)風(fēng)險(xiǎn)，學(xué)界早已指出，各種應(yīng)對建議也早被提出來。因此，現(xiàn)在的問題是根據(jù)國情落實(shí)AI治理措施，而不是暫停AI研發(fā)。事實(shí)已經(jīng)證明：暫停GAI研發(fā)的想法簡單粗暴，作用不大，也實(shí)現(xiàn)不了，純屬無效的“嘴炮”。
舉AI失業(yè)問題為例。AI失業(yè)問題，即人工智能的推進(jìn)伴隨著越來越多的人失去工作，是AI社會(huì)沖擊中最大的問題，涉及到整個(gè)社會(huì)的綜合性制度創(chuàng)新。既有文獻(xiàn)對AI失業(yè)問題的討論，可謂汗牛充棟，具體的應(yīng)對措施不一而足，如學(xué)生的職業(yè)規(guī)劃、勞動(dòng)者AI素養(yǎng)提升、失業(yè)人員社會(huì)保障和再就業(yè)、產(chǎn)業(yè)結(jié)構(gòu)升級(jí)改造等。
長遠(yuǎn)的戰(zhàn)略規(guī)劃亦蔚為大觀，如制度性地減少勞動(dòng)者工作時(shí)間（有些地方已經(jīng)在嘗試一周工作4天），征收AI稅（AI是全人類智力結(jié)晶，向AI公司征收重稅全民共享），靈活退休制度（勞動(dòng)者一輩子可以短暫退休幾次）等。
AI應(yīng)用對當(dāng)代治理活動(dòng)最大的影響在于：擴(kuò)大經(jīng)濟(jì)自由，增加閑暇時(shí)間，極大地改變公共治理的前提條件，從而改變社會(huì)運(yùn)行的根本面貌。但是，這種影響也意味“AI失業(yè)問題”越來越嚴(yán)重，給整個(gè)社會(huì)的治理活動(dòng)帶來嚴(yán)重挑戰(zhàn)，必須審慎地加以處置。AIGC產(chǎn)業(yè)化將再一次證明AI失業(yè)問題的嚴(yán)峻性。如果不做政策上的總體安排，ChatGPT肯定會(huì)導(dǎo)致大量“AI失業(yè)”，反過來“AI失業(yè)”又會(huì)阻礙ChatGPT的進(jìn)一步應(yīng)用。
漫畫：機(jī)器人接管重復(fù)性工作，例如制造和包裝 圖源：TC
“AI失業(yè)問題”的解決，必須同時(shí)考慮遠(yuǎn)景和現(xiàn)實(shí)兩方面。
從遠(yuǎn)景來看，“AI失業(yè)問題”要解決，牽涉到人類社會(huì)制度的根本性變革，而不是僅僅靠智能技術(shù)和智能治理的發(fā)展所能解決的。根據(jù)馬克思主義基本原理，“AI失業(yè)問題”反映出科技生產(chǎn)力發(fā)展與既有生產(chǎn)關(guān)系之間的矛盾。機(jī)器人能夠取代人類勞動(dòng)，并不等于實(shí)際取代人類勞動(dòng)，因?yàn)榇朔N取代意味著取消少數(shù)人通過制度安排強(qiáng)迫大多數(shù)人進(jìn)行勞動(dòng)的剝削制度。從本質(zhì)上說，解決“AI失業(yè)問題”，要不斷減少勞動(dòng)者的工作時(shí)間，給人們更多的閑暇時(shí)間，最終必須要徹底消滅剝削制度。20世紀(jì)的勞動(dòng)史表明：現(xiàn)代科技在生產(chǎn)中的運(yùn)用，持續(xù)減少著社會(huì)必要總勞動(dòng)時(shí)間，推動(dòng)“八小時(shí)工作制”和“雙休制”被越來越多國家所實(shí)施。
從現(xiàn)實(shí)來看，社會(huì)制度進(jìn)化需要很長的時(shí)間，必須逐步穩(wěn)妥地前進(jìn)，而且也要等待智能技術(shù)不斷地發(fā)展，所以當(dāng)務(wù)之急的問題是給受到人工智能沖擊的勞動(dòng)者找到新的工作崗位，保證他們能享受科技進(jìn)步創(chuàng)造的物質(zhì)財(cái)富。
因此，在AIGC產(chǎn)業(yè)化爆發(fā)之初，國家、政府和社會(huì)應(yīng)該深入研究，全盤規(guī)劃，積極應(yīng)對可能出現(xiàn)的失業(yè)就業(yè)壓力。
比如，完善失業(yè)保障和提供再就業(yè)培訓(xùn)服務(wù)，加強(qiáng)青年人的職業(yè)規(guī)劃和創(chuàng)造性素質(zhì)提升，調(diào)整學(xué)校人才尤其人文、藝術(shù)等學(xué)科的人才培養(yǎng)方向，不端推動(dòng)產(chǎn)業(yè)升級(jí)創(chuàng)造新的就業(yè)崗位等?？傊?，面對AI可能伴隨的失業(yè)風(fēng)險(xiǎn)，必須要放棄非此即彼的極端思維，努力規(guī)避，實(shí)時(shí)調(diào)整。
03 中國的AI如何治理？
建設(shè)數(shù)字中國是數(shù)字時(shí)代推進(jìn)中國式現(xiàn)代化的重要引擎，是構(gòu)筑國家競爭新優(yōu)勢的有力支撐。
在數(shù)字中國建設(shè)中，必須推進(jìn)“以人民為中心”的AI治理，使得AI能真正地造福社會(huì)。為此，首先就要呼吁全社會(huì)都來關(guān)注AI風(fēng)險(xiǎn)問題，政府、企業(yè)、NGO、科技界和公眾按照職責(zé)分工，完善政策措施，強(qiáng)化資源整合和力量協(xié)同，形成行動(dòng)合力，把治理AI風(fēng)險(xiǎn)的各項(xiàng)方案真正落實(shí)下去。
除此之外，治理AI風(fēng)險(xiǎn)還可以考慮如下原則性建議：
第一，貫徹有限工具原則。必須清醒認(rèn)識(shí)智能治理的作用——智能治理并非萬能的“完美利器”，在很多情況下同樣會(huì)“失靈”，甚至走向妨礙社會(huì)效率的反面。因此，既要承認(rèn)在某些領(lǐng)域、某些問題和某些場合下智能技術(shù)提高治理效率的作用，力主優(yōu)先考慮技術(shù)治理手段解決問題，又時(shí)刻謹(jǐn)記智能技術(shù)作用的有限性。堅(jiān)持科技謙遜主義，警惕“大數(shù)據(jù)迷信”，采取具體語境具體分析的審度態(tài)度，重視治理活動(dòng)實(shí)際的效果反饋和風(fēng)險(xiǎn)控制。
第二，堅(jiān)持利用與控制并重。既要發(fā)揮智能治理作用，又要對具體的智能治理進(jìn)行控制，防止智能平臺(tái)和技治專家權(quán)力失控。同時(shí)，應(yīng)運(yùn)用制度-技術(shù)的方法，規(guī)避智能治理可能導(dǎo)致的社會(huì)風(fēng)險(xiǎn)。
第三，妥善處理“AI失業(yè)問題”。智能技術(shù)應(yīng)用對當(dāng)代治理活動(dòng)最大的影響在于：擴(kuò)大經(jīng)濟(jì)自由，增加閑暇時(shí)間，極大地改變公共治理的前提條件，從而改變社會(huì)運(yùn)行的根本面貌。但是，這種影響也意味“AI失業(yè)問題”越來越嚴(yán)重，給整個(gè)社會(huì)的治理活動(dòng)帶來嚴(yán)重挑戰(zhàn)，引起全社會(huì)的關(guān)注，必須審慎地加以處置。
第四，緊密融合“智慧城市”和“數(shù)字鄉(xiāng)村”建設(shè)?？茖W(xué)地運(yùn)行城市是當(dāng)代技術(shù)治理重要的戰(zhàn)略措施，智慧城市則是科學(xué)城市的高級(jí)形態(tài)。由于當(dāng)前人類主要生活在城市尤其是大型和超大型城市之中，因而當(dāng)前的智能治理主要圍繞建設(shè)“智慧城市”而推進(jìn)，或者說以“智慧城市”的建設(shè)為主要載體。數(shù)字中國建設(shè)尤其不可忽視數(shù)字鄉(xiāng)村建設(shè)，要努力以數(shù)字化縮小城鄉(xiāng)差距。
第五，注重智能技術(shù)與人的融合。在技術(shù)治理活動(dòng)中，技術(shù)與人結(jié)合得越好，治理效率越高。加強(qiáng)智能治理活動(dòng)中人與技術(shù)因素的融合，需要從各種智能技術(shù)的特點(diǎn)以及相關(guān)倫理、法律、心理、危機(jī)管理等諸多層面進(jìn)行系統(tǒng)反思，推進(jìn)制度建設(shè)、技術(shù)研發(fā)和人才儲(chǔ)備，加強(qiáng)組織領(lǐng)導(dǎo)、專家咨詢和實(shí)戰(zhàn)演練，不斷系統(tǒng)地提升中國的智能治理能力。
第六，在具體語境中區(qū)別治理與操控。智能治理有限度，超過限度就成為智能操控，侵害公民的基本權(quán)利。智能治理的未來發(fā)展，必須要具體考慮各種應(yīng)用的限度，這不僅涉及治理目標(biāo)，還涉及所采用的手段，只能在具體的社會(huì)語境中加以冷靜、客觀和謹(jǐn)慎的審度。防止智能治理走向智能操控，一個(gè)很重要的問題在于：必須在一定程度上容忍智能治理的反治理行為。
本文獨(dú)家發(fā)布騰訊新聞，未經(jīng)授權(quán)，請勿轉(zhuǎn)載。