當(dāng)前位置:首頁 > 今日熱點 > 熱點追蹤 > 正文

    天天訊息:擔(dān)心AI統(tǒng)治人類,馬斯克呼吁暫停開發(fā) 專家:實現(xiàn)不了,純屬“嘴炮”

    2023-05-24 10:26:50    來源:騰訊科技    

    《AI未來指北》欄目由騰訊新聞推出,邀約全球業(yè)內(nèi)專家、創(chuàng)業(yè)者、投資人,探討AI領(lǐng)域的技術(shù)發(fā)展、商業(yè)模式、應(yīng)用場景、倫理及版權(quán)爭議。

    劃重點


    (資料圖片)

    1警惕AI發(fā)展,防止AI失控,正在成為全球范圍內(nèi)科技領(lǐng)域的“政治正確”; 2在嚴(yán)防人類自我滅絕的問題上,很多風(fēng)險如核大戰(zhàn)、氣候變化、致命病毒傳播、生物科技濫用等要排在超級AI之前; 3AI可能導(dǎo)致各種社會風(fēng)險,學(xué)界早已指出,各種應(yīng)對建議也早被提出來,現(xiàn)在的問題是根據(jù)國情落實AI治理措施,不是暫停研發(fā); 4如果不做政策上的總體安排,ChatGPT肯定會導(dǎo)致大量“AI失業(yè)”,反過來“AI失業(yè)”又會阻礙ChatGPT的進(jìn)一步應(yīng)用。

    文 / 劉永謀 中國人民大學(xué)哲學(xué)院教授、國家發(fā)展與戰(zhàn)略研究院研究員

    2023年3月,包括埃隆.馬斯克在內(nèi)的千名專家聯(lián)合簽署公開信,呼吁暫停訓(xùn)練GPT-4后續(xù)人工智能(AI)模型至少6個月。消息一出,引爆全球網(wǎng)絡(luò)和媒體,很快引來吳恩達(dá)等“AI大牛”的反對。最后,此事也沒有下文,暫停GPT-4被懷疑就是OpenAI的一波炒作。

    4月份,又傳出意大利要全面禁止ChatGPT,不久的結(jié)果是罰款了事。

    5月份,美國總統(tǒng)拜登和副總統(tǒng)哈里斯也來湊熱鬧,與頂級人工智能企業(yè)谷歌母公司Alphabet、微軟、OpenAI和Anthropic的首席執(zhí)行官舉行會議,向企業(yè)施壓圍繞人工智能實施保障措施,表示支持新的法規(guī)或立法,減輕AI技術(shù)的潛在危害。

    用戶利用生成式AI工具制作的“馬斯克和他的AI女友” 圖源:網(wǎng)絡(luò)

    一切看起來山雨欲來,似乎ChatGPT、Midjourney、DALL-E 2為代表的生成式人工智能(GAI,Generated AI)催生了新的、更嚴(yán)重的社會風(fēng)險,使得人類社會發(fā)展和應(yīng)用AI技術(shù)的總體局面發(fā)生了根本性改變,需要采取新的戰(zhàn)略、措施和辦法來應(yīng)對,比如全面暫停新的AI技術(shù)的研發(fā)。

    真的是這樣的嗎?否。

    第一,GAI并沒有產(chǎn)生什么新風(fēng)險,它可能導(dǎo)致的問題早已也一直被學(xué)界所討論、所呼吁。

    第二,應(yīng)對GAI風(fēng)險并不需要什么新方法,應(yīng)對AI風(fēng)險的關(guān)鍵一直都是落實。

    4月11日,國家互聯(lián)網(wǎng)信息辦公室公開發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見稿)》,以前所未有的速度對GAI作出治理反應(yīng),佐證GAI應(yīng)用社會影響巨大,必須認(rèn)真研究,審慎地而迅速地加以應(yīng)對。

    01 謹(jǐn)防AI失控——全球科技領(lǐng)域的“政治正確”

    就目前已經(jīng)暴露出來的跡象來看,GAI挑戰(zhàn)最大的領(lǐng)域至少包括3個:

    1)失業(yè)問題,即它可能導(dǎo)致文案策劃人員、原畫師、工業(yè)設(shè)計人員、程序員、媒體從業(yè)人員和翻譯人員等腦力工作者大量失業(yè)。

    2)教育問題,即它可能沖擊既有-的教育科研系統(tǒng),比如學(xué)生可以用ChatGPT代替自己做作業(yè)。

    3)信息安全問題,即GAI自動生成海量的人工智能生產(chǎn)內(nèi)容(AIGC,AI Generated Content),真?zhèn)坞y辨、立場可疑,權(quán)屬不清、追責(zé)困難,甚至可能成為挑戰(zhàn)主流價值觀和意識形態(tài)的危險工具。

    AI風(fēng)險早就被各國政府所重視,近年來更是成為全社會的關(guān)注焦點。顯然,上述GAI導(dǎo)致的三大沖擊都不是什么新問題,早在ChatGPT爆火之間就已經(jīng)被學(xué)界和政府所關(guān)注、所研究。

    近十年來,從物聯(lián)網(wǎng)到大數(shù)據(jù)、云計算、區(qū)塊鏈、元宇宙、ChatGPT,一波波的AI熱潮中,從來沒有缺少關(guān)注風(fēng)險的呼聲。

    本人專業(yè)關(guān)注新科技社會沖擊問題,花了大量精力提醒大家注意AI可能導(dǎo)致的技術(shù)風(fēng)險。比如,曾寫過專著《技術(shù)治理通論》《物聯(lián)網(wǎng)與泛在社會的來臨》《技術(shù)有病我沒藥》《元宇宙陷阱》《科技與社會十四講》,面向非專業(yè)人士提示ICT(信息與通訊技術(shù))的社會沖擊和技術(shù)風(fēng)險。

    可以說,警惕AI發(fā)展,防止AI失控,正在成為全球范圍內(nèi)科技領(lǐng)域的“政治正確”。在此氛圍之下,公開宣稱“AI無禁區(qū)”的聲音被極大地抑制。對此,作為技術(shù)控制的選擇論者,我完全贊同。

    就目前的發(fā)展態(tài)勢而言,ChatGPT究竟存在什么嚴(yán)重的風(fēng)險,必須以“加碼”的方式比如暫停至少六個月加以應(yīng)對呢?

    有人說,ChatGPT是超級AI出現(xiàn)的征兆,如果現(xiàn)在不停止(注意:不僅是暫停),“潘多拉的魔盒”一旦打開,人類很快會被超級AI統(tǒng)治甚至滅絕。這種幻想色彩濃厚的念頭,很難讓人予以嚴(yán)肅的對待。尤其是,很多專業(yè)人員不承認(rèn)ChatGPT是通用AI,更別說它是超級AI的雛形了。

    超級AI可能是個問題,但在嚴(yán)防人類自我滅絕的問題上,很多風(fēng)險如核大戰(zhàn)、氣候變化、致命病毒傳播、生物科技濫用等要排在超級AI之前。我們是不是先把它們都停止了?就算停止不了,暫停一下也行,起碼可以呼吁暫停。

    既然沒有什么新的情況,就不必采取暫停發(fā)展的極端方法,為什么?

    第一,暫停是沒有道理。有人說,ChatGPT風(fēng)險應(yīng)對措施沒有想清楚,所以先暫停。錯!不是沒想清楚,而是沒有落實到位。

    第二,暫停是不可能真正實現(xiàn)的,肯定會有AI公司會違反禁令,結(jié)果是不公平的競爭。

    第三,暫停解決不了問題。就算所有AI公司真的都暫停GAI科研,風(fēng)險問題就解決了嗎?沒有!除非徹底停止和取締LLMs(Large Language Models,大語言模型),否則風(fēng)險不會消失。重新啟動之時,仍然得直面風(fēng)險。

    如今,新科技是人類生存和發(fā)展最重要的不可須臾離開的工具。GAI對社會生產(chǎn)力的推動作用已經(jīng)昭然若揭,我們?yōu)槭裁匆蛞瓘U食,為什么不能控制地利用呢?

    20世紀(jì)就有人提出——當(dāng)時的科技人類已經(jīng)完全夠用了,繼續(xù)發(fā)展會導(dǎo)致很多新問題,應(yīng)該讓科技靜止下來,科學(xué)家不要再搞研究了。此類極端非理性想法,從來沒有被社會嚴(yán)肅對待過。

    02 暫停GAI研發(fā)實現(xiàn)不了,純屬無效的“嘴炮”

    AI可能導(dǎo)致各種社會風(fēng)險,學(xué)界早已指出,各種應(yīng)對建議也早被提出來。因此,現(xiàn)在的問題是根據(jù)國情落實AI治理措施,而不是暫停AI研發(fā)。事實已經(jīng)證明:暫停GAI研發(fā)的想法簡單粗暴,作用不大,也實現(xiàn)不了,純屬無效的“嘴炮”。

    舉AI失業(yè)問題為例。AI失業(yè)問題,即人工智能的推進(jìn)伴隨著越來越多的人失去工作,是AI社會沖擊中最大的問題,涉及到整個社會的綜合性制度創(chuàng)新。既有文獻(xiàn)對AI失業(yè)問題的討論,可謂汗牛充棟,具體的應(yīng)對措施不一而足,如學(xué)生的職業(yè)規(guī)劃、勞動者AI素養(yǎng)提升、失業(yè)人員社會保障和再就業(yè)、產(chǎn)業(yè)結(jié)構(gòu)升級改造等。

    長遠(yuǎn)的戰(zhàn)略規(guī)劃亦蔚為大觀,如制度性地減少勞動者工作時間(有些地方已經(jīng)在嘗試一周工作4天),征收AI稅(AI是全人類智力結(jié)晶,向AI公司征收重稅全民共享),靈活退休制度(勞動者一輩子可以短暫退休幾次)等。

    AI應(yīng)用對當(dāng)代治理活動最大的影響在于:擴大經(jīng)濟(jì)自由,增加閑暇時間,極大地改變公共治理的前提條件,從而改變社會運行的根本面貌。但是,這種影響也意味“AI失業(yè)問題”越來越嚴(yán)重,給整個社會的治理活動帶來嚴(yán)重挑戰(zhàn),必須審慎地加以處置。AIGC產(chǎn)業(yè)化將再一次證明AI失業(yè)問題的嚴(yán)峻性。如果不做政策上的總體安排,ChatGPT肯定會導(dǎo)致大量“AI失業(yè)”,反過來“AI失業(yè)”又會阻礙ChatGPT的進(jìn)一步應(yīng)用。

    漫畫:機器人接管重復(fù)性工作,例如制造和包裝 圖源:TC

    “AI失業(yè)問題”的解決,必須同時考慮遠(yuǎn)景和現(xiàn)實兩方面。

    從遠(yuǎn)景來看,“AI失業(yè)問題”要解決,牽涉到人類社會制度的根本性變革,而不是僅僅靠智能技術(shù)和智能治理的發(fā)展所能解決的。根據(jù)馬克思主義基本原理,“AI失業(yè)問題”反映出科技生產(chǎn)力發(fā)展與既有生產(chǎn)關(guān)系之間的矛盾。機器人能夠取代人類勞動,并不等于實際取代人類勞動,因為此種取代意味著取消少數(shù)人通過制度安排強迫大多數(shù)人進(jìn)行勞動的剝削制度。從本質(zhì)上說,解決“AI失業(yè)問題”,要不斷減少勞動者的工作時間,給人們更多的閑暇時間,最終必須要徹底消滅剝削制度。20世紀(jì)的勞動史表明:現(xiàn)代科技在生產(chǎn)中的運用,持續(xù)減少著社會必要總勞動時間,推動“八小時工作制”和“雙休制”被越來越多國家所實施。

    從現(xiàn)實來看,社會制度進(jìn)化需要很長的時間,必須逐步穩(wěn)妥地前進(jìn),而且也要等待智能技術(shù)不斷地發(fā)展,所以當(dāng)務(wù)之急的問題是給受到人工智能沖擊的勞動者找到新的工作崗位,保證他們能享受科技進(jìn)步創(chuàng)造的物質(zhì)財富。

    因此,在AIGC產(chǎn)業(yè)化爆發(fā)之初,國家、政府和社會應(yīng)該深入研究,全盤規(guī)劃,積極應(yīng)對可能出現(xiàn)的失業(yè)就業(yè)壓力。

    比如,完善失業(yè)保障和提供再就業(yè)培訓(xùn)服務(wù),加強青年人的職業(yè)規(guī)劃和創(chuàng)造性素質(zhì)提升,調(diào)整學(xué)校人才尤其人文、藝術(shù)等學(xué)科的人才培養(yǎng)方向,不端推動產(chǎn)業(yè)升級創(chuàng)造新的就業(yè)崗位等。總之,面對AI可能伴隨的失業(yè)風(fēng)險,必須要放棄非此即彼的極端思維,努力規(guī)避,實時調(diào)整。

    03 中國的AI如何治理?

    建設(shè)數(shù)字中國是數(shù)字時代推進(jìn)中國式現(xiàn)代化的重要引擎,是構(gòu)筑國家競爭新優(yōu)勢的有力支撐。

    在數(shù)字中國建設(shè)中,必須推進(jìn)“以人民為中心”的AI治理,使得AI能真正地造福社會。為此,首先就要呼吁全社會都來關(guān)注AI風(fēng)險問題,政府、企業(yè)、NGO、科技界和公眾按照職責(zé)分工,完善政策措施,強化資源整合和力量協(xié)同,形成行動合力,把治理AI風(fēng)險的各項方案真正落實下去。

    除此之外,治理AI風(fēng)險還可以考慮如下原則性建議:

    第一,貫徹有限工具原則。必須清醒認(rèn)識智能治理的作用——智能治理并非萬能的“完美利器”,在很多情況下同樣會“失靈”,甚至走向妨礙社會效率的反面。因此,既要承認(rèn)在某些領(lǐng)域、某些問題和某些場合下智能技術(shù)提高治理效率的作用,力主優(yōu)先考慮技術(shù)治理手段解決問題,又時刻謹(jǐn)記智能技術(shù)作用的有限性。堅持科技謙遜主義,警惕“大數(shù)據(jù)迷信”,采取具體語境具體分析的審度態(tài)度,重視治理活動實際的效果反饋和風(fēng)險控制。

    第二,堅持利用與控制并重。既要發(fā)揮智能治理作用,又要對具體的智能治理進(jìn)行控制,防止智能平臺和技治專家權(quán)力失控。同時,應(yīng)運用制度-技術(shù)的方法,規(guī)避智能治理可能導(dǎo)致的社會風(fēng)險。

    第三,妥善處理“AI失業(yè)問題”。智能技術(shù)應(yīng)用對當(dāng)代治理活動最大的影響在于:擴大經(jīng)濟(jì)自由,增加閑暇時間,極大地改變公共治理的前提條件,從而改變社會運行的根本面貌。但是,這種影響也意味“AI失業(yè)問題”越來越嚴(yán)重,給整個社會的治理活動帶來嚴(yán)重挑戰(zhàn),引起全社會的關(guān)注,必須審慎地加以處置。

    第四,緊密融合“智慧城市”和“數(shù)字鄉(xiāng)村”建設(shè)。科學(xué)地運行城市是當(dāng)代技術(shù)治理重要的戰(zhàn)略措施,智慧城市則是科學(xué)城市的高級形態(tài)。由于當(dāng)前人類主要生活在城市尤其是大型和超大型城市之中,因而當(dāng)前的智能治理主要圍繞建設(shè)“智慧城市”而推進(jìn),或者說以“智慧城市”的建設(shè)為主要載體。數(shù)字中國建設(shè)尤其不可忽視數(shù)字鄉(xiāng)村建設(shè),要努力以數(shù)字化縮小城鄉(xiāng)差距。

    第五,注重智能技術(shù)與人的融合。在技術(shù)治理活動中,技術(shù)與人結(jié)合得越好,治理效率越高。加強智能治理活動中人與技術(shù)因素的融合,需要從各種智能技術(shù)的特點以及相關(guān)倫理、法律、心理、危機管理等諸多層面進(jìn)行系統(tǒng)反思,推進(jìn)制度建設(shè)、技術(shù)研發(fā)和人才儲備,加強組織領(lǐng)導(dǎo)、專家咨詢和實戰(zhàn)演練,不斷系統(tǒng)地提升中國的智能治理能力。

    第六,在具體語境中區(qū)別治理與操控。智能治理有限度,超過限度就成為智能操控,侵害公民的基本權(quán)利。智能治理的未來發(fā)展,必須要具體考慮各種應(yīng)用的限度,這不僅涉及治理目標(biāo),還涉及所采用的手段,只能在具體的社會語境中加以冷靜、客觀和謹(jǐn)慎的審度。防止智能治理走向智能操控,一個很重要的問題在于:必須在一定程度上容忍智能治理的反治理行為。

    本文獨家發(fā)布騰訊新聞,未經(jīng)授權(quán),請勿轉(zhuǎn)載。

    關(guān)鍵詞:

    上一篇:精選!港股恒生指數(shù)跌0.78%恒生科技指數(shù)跌1% 金山云跌超8.5%
    下一篇:最后一頁

    亚洲国产精品碰碰| 在线看亚洲十八禁网站| 久久久久亚洲爆乳少妇无| 亚洲av无码av在线播放| 亚洲日韩AV一区二区三区四区| 亚洲中字慕日产2020| 亚洲婷婷综合色高清在线| 久久精品国产亚洲av麻豆色欲| 亚洲爱情岛论坛永久| 亚洲国产二区三区久久| 亚洲最大成人网色| 久久亚洲AV成人无码软件 | 亚洲综合男人的天堂色婷婷| 久久精品九九亚洲精品| 亚洲黄色网站视频| 亚洲不卡中文字幕| 丁香婷婷亚洲六月综合色| 精品亚洲456在线播放| 亚洲欧美日韩综合久久久久| 亚洲AV无码一区二区三区网址 | 亚洲日韩中文字幕无码一区| 亚洲av日韩av永久无码电影| 精品亚洲成A人在线观看青青| mm1313亚洲国产精品美女| 亚洲欧洲国产成人综合在线观看| 国产成人精品亚洲精品| 亚洲精品夜夜夜妓女网| 亚洲AV成人一区二区三区AV| 亚洲黄色片免费看| 日韩亚洲不卡在线视频中文字幕在线观看| 亚洲喷奶水中文字幕电影| 亚洲色在线无码国产精品不卡| 亚洲AV无码一区二区三区牲色 | 亚洲国产精品成人| 亚洲午夜福利AV一区二区无码| 亚洲AV无码专区在线播放中文| 337p欧洲亚洲大胆艺术| 亚洲1234区乱码| 国产精品亚洲专区无码唯爱网 | 亚洲国色天香视频| 亚洲综合色婷婷在线观看|