如果用AI技術“復活”去世的人,你能接受嗎?近日,在參與相關調(diào)查的約3.2萬名網(wǎng)友中,接受者與拒絕者不相上下。而現(xiàn)實中,上海24歲小伙用AI技術“復活”已故的奶奶并與之視頻通話,同樣引發(fā)爭議。一方認為,這種“技術思親”自欺欺人,是對逝者的不尊重,存在倫理問題；一方則認為,這是AI的創(chuàng)新使用,讓人的思念變得具體,感受到了科技的溫度。4月11日,國家網(wǎng)辦發(fā)布的《生成式人工智能服務管理辦法(征求意見稿)》中明確要求,生成式人工智能服務采取適當措施防范用戶過分依賴或沉迷生成內(nèi)容。科技部牽頭起草的《科技倫理審查辦法(試行)》中則提出,“對人類主觀行為、心理情緒和生命健康等具有較強影響的人機融合系統(tǒng)的研發(fā)”等7項可能產(chǎn)生較大倫理風險挑戰(zhàn)的新興科技活動,實施清單管理。對此您怎么看?
我們拿什么來守護“人”的邊界?
□特約評論員 袁法周
前幾日,在與蘭州大學邱鋒教授探討歷史方面的問題時,我半開玩笑地說:“伴隨著‘人’的終結(jié),人類并不會走向‘歷史的終結(jié)’,而會在人工智能的加持下,在不可預知的深空中橫沖直撞。然而,歷史或許將不再由我們來續(xù)寫。”“人”會終結(jié)嗎?這是一個嚴肅的話題。
【資料圖】
當萬物互聯(lián)的時代數(shù)據(jù)主義大行其道,“人”的閾值不斷被突破。人工智能擁有著不可思議的超級“算法”,逐漸具備思考與研究歷史問題的智能,從一篇歷史文章的撰寫到歷史體系的重構(gòu),超越歷史學家們的智能指日可待。因此,我認為“傳統(tǒng)史學史研究方法已然終結(jié)”,但“歷史學者的邊界在哪里?”一葉落而知天下寒,面對人工智能的步步緊逼,歷史學者們擔心丟了飯碗,而整個人類則是要面對被“替代”的趨勢。
這讓我想到網(wǎng)上熱議的AI“親人復活”技術,孫子與已故的“虛擬奶奶”視頻交流。通過虛擬技術以解親人思念之苦無可厚非,但是隨著技術的廣泛應用,必然會涉及甚至觸碰法律與倫理的底線。一旦泛濫與失控,就不是現(xiàn)實與虛擬融合看起來那么美好。當現(xiàn)實在虛擬中逐漸消解,整個社會運行秩序走向分裂瓦解,人的精神信仰喪失崩塌,那將是一場史無前例的巨大災難。“人”的邊界在哪里?我們該如何守護?這不僅是個嚴肅的問題,還是一個令人恐懼的問題。
請不要忽視人性的復雜性。當人類大力發(fā)展人工智能,一方面推動了科技進步,增進了民生福祉。另一方面也制造出更具毀滅性的工具,讓整個人類陷入危險境地。盡管全球包括我國都相繼出臺了有關人工智能發(fā)展的法律規(guī)范。但是,一次次突破“人”的閾值的往往是人,而不是人工智能。如果有一天人工智能具備了超越人類的智能甚至意識,向人類索取“權利”并擺脫控制時,在兩者之間會有一場和平談判嗎?我們還會用好萊塢式的“愛”來反轉(zhuǎn)被“替代”的命運嗎?我們是在與“工具”談判,還是在與親手終結(jié)了“人”的自己談判?面對人工智能,人類不僅需要的是“控制”,更需要對“人”本身的反思。
(作者為人民美術出版社副編審,歷史學博士,北京師范大學中國易學文化研究院研究員)
不必對“數(shù)字生命”過度恐慌
□特約評論員 于靜
詩云:“生如夏花之絢爛,死如秋葉之靜美。”對待生命,每個人都有自己的認知和思考。中國人常掛在嘴邊的一句話就是“人死不能復生”,這是對生命的敬畏,亦是對自然規(guī)律的尊重。但人類文明進化到今天,科技改變生活,科技也顛覆了我們的認知。將已故的親人“復活”,和他們面對面聊天,這些以往只能在科幻電影中看到的畫面,竟然走進了現(xiàn)實,例如上海一小伙用AI工具“復活”已故奶奶,并與之視頻對話。有人點贊,這是有益的嘗試和創(chuàng)新,彰顯科技的溫度。然而,也有相當一部分人質(zhì)疑,認為這是在試探法律的底線,挑戰(zhàn)倫理的邊界。
說實話,我挺敬佩這名上海小伙的,別的不說,最起碼他找到了寄托哀思的辦法,并且還有科技加持。對待這樣的新鮮事物,沒必要過度恐慌。就拿清明節(jié)來說,以前祭拜先人,都是肅立碑前,焚香燒紙,如果不這樣做,就會被質(zhì)疑為不孝。但是這些年,出于防火環(huán)保考慮,很多地方都禁止明火,而不少人因為各種原因,清明節(jié)也無法做到墳前祭拜。于是,網(wǎng)上祭掃,甚至代掃墓等方式逐漸興起,并被世人接受。
話題回到AI技術“復活”已故親人,其實道理是一樣的。說白了,不過是一種化解思念的方式而已,這不是科幻電影中提及的“數(shù)字生命”,不是人類思維的延續(xù)。這種交流方式最多只是一種精神安慰,并未突破當前法律和道德的底線。
科技也是有溫度的,對待新事物不妨寬容一些。就像現(xiàn)在一些短視頻平臺上,有軟件用AI技術合成一個人從童年、到中年、再到老年的樣貌,演繹一步步從懵懂無知走向衰老的過程,雖然明知這是技術合成的,但是看著鏡頭中慢慢變老的自己,我想沒有幾個人不會產(chǎn)生觸動。
當然,包括AI技術在內(nèi),所有的新技術都不應該被濫用,在運用的過程中,首先不能違反相關法律法規(guī),再者不能超越世俗人倫的底線,就好比現(xiàn)在經(jīng)常使用的各類“變聲”軟件,拿來娛樂、用作正常的視頻剪輯沒問題,但是如果有人借此從事違法犯罪活動,那性質(zhì)肯定就變了。
(作者為作家、時評人,青島市作家協(xié)會會員)
AI“復活”奶奶,無關倫理但關乎法律
□特約評論員 宋守山
科技的發(fā)展總是在創(chuàng)造“奇跡”。比如,近日有年輕人“復活”了自己去世不久的奶奶,并與之進行了簡單的交流。這一事件雖然有些“詭異”,但在AI換臉技術已經(jīng)面世將近十年的今天,再有大數(shù)據(jù)等技術的加持,實現(xiàn)人的虛擬“再現(xiàn)”似乎也不是一件十分困難的事情。只是,如何對待技術的發(fā)展,則值得引發(fā)人們深度思考。
畢竟我們這代人已經(jīng)深度介入互聯(lián)網(wǎng)有二十余年。這些年中,每個人都在網(wǎng)上積累了大量的數(shù)據(jù)沉淀,依據(jù)大數(shù)據(jù)技術,基于交互大模型的存在,經(jīng)過深度學習與調(diào)教,“復活”出一個“人”來,并與現(xiàn)實中的人在某種話語情景中進行一些“回應”與“交互”,這并不困難。說到底,這種行為僅僅是一種“虛擬仿真”而已,所謂“互動”也僅是一種經(jīng)過高速運算之后的“例行回復”,這跟機器人與人下圍棋相比,并沒有什么本質(zhì)的區(qū)別。在虛擬技術如此發(fā)達的今天,面對這種行為無須感到驚悚,也沒有什么神秘性可言。畢竟,這些被“復活”的人,并沒有實現(xiàn)自我進化,也沒有產(chǎn)生自我意識,就是一種模擬而已。如果愿意,可以給這些數(shù)據(jù)加以任何的形象。所以,如果作為一種私人行為,做出此種“創(chuàng)舉”,可能最多只是關乎技術的倫理問題,甚至連倫理都算不上。
但是,如果這種技術被深度應用到社會中,卻是值得思索的事情。比如,現(xiàn)在經(jīng)常在新聞上看到模仿領導發(fā)短信、打電話借錢等詐騙行為。隨著對詐騙犯罪的打擊力度以及公眾反詐意識的提高,騙子得逞的幾率似乎不高。但是,如果從“猜猜我是誰”進化到“聊聊我是誰”“看看我是誰”呢?如果犯罪分子也開始使用這項技術,那才是一種真正的災難降臨。畢竟不是所有人都能夠判斷跟你網(wǎng)上溝通的是一個真實的人,還是一個被AI技術創(chuàng)造出來的“人”。
“復活”關乎倫理,而“復制”則關乎法律。這才是我們最應該警惕的。任何技術都有其雙面存在,遇到一些突破和發(fā)展,無須過分驚恐。但是應該去思考如何引導其走向正途。
(作者為青島科技大學傳媒學院副教授、媒介與社會發(fā)展研究中心負責人)
@西南政法大學民商法學院副教授鄭志峰:
如果行為人為了悼念目的,“復活”自己的親人原則不構(gòu)成侵權,但若是出于營利、博眼球、詐騙等違法目的,則可能構(gòu)成侵權甚至是刑事犯罪。同樣,這類“復活”內(nèi)容可能會讓人們對于生命產(chǎn)生錯誤的認識,消解對于生命的敬畏之心,其次也可能造成人類的技術上癮,不僅不能從中得到慰藉,反而依賴于此,影響其正常生活。
@劉遠舉:
現(xiàn)在很多人的解讀夸大了焦慮與恐慌,有網(wǎng)友跟帖說“復活”反映了AI技術的運用亟須進一步的監(jiān)管。實際上,監(jiān)管從來都是不會缺位的。新事物、新技術都會有兩面性,監(jiān)管當然是必要的,但監(jiān)管要約束的是可能的負面因素,而從根本上是要促進、鼓勵發(fā)展新技術。輿論不能為了吸引眼球故意渲染焦慮和恐慌,這可能會導致過度的監(jiān)管,影響中國在人工智能領域趕超世界先進水平。
@春城:
對于小伙子因為個人情感而技術懷舊的行為,我們不必過度苛責,既沒有突破人倫道德的底線,也沒有用于商業(yè)甚至其他犯罪目的。但是,對于同樣的技術未來會如何挑戰(zhàn)我們的倫理邊界和法律規(guī)范,我們應當借此有所警惕和預判。
@西南科技大學傅淋梅:
生活難免會有遺憾,博主利用數(shù)字技術彌補遺憾,可以讓其內(nèi)心更好受一點,但生活始終是向前的,不能讓一時的悲傷,阻擋自己前進的步伐。
話題征集
聚焦一周新聞熱點事件,深度思考,理性評述,百家爭鳴,激濁揚清。親愛的讀者,歡迎您參與“評論區(qū)”的話題討論,無論是微言片語還是長篇大論,我們都期待您來一吐為快。
郵箱:
bandaobianjibu@163.com