(相關資料圖)
近日，一女子在地鐵上的照片被AI“一鍵脫衣”并在網絡瘋傳。后相關方出面澄清，受害女士是一位博主，照片是去年分享在某社交平臺的，沒想到被不法分子用AI軟件合成了淫穢圖片四處傳播，目前正搜集證據準備維權。
利用AI對他人照片“一鍵脫衣”，并在公共空間大肆散播，乃至添油加醋“造黃謠”，如此行為已然突破道德底線、踐踏法律紅線。據《個人信息保護法》《刑法》等，非法利用他人個人信息，編造涉性隱私的虛假信息并予以傳播，是明顯違法行為，情節嚴重的將構成犯罪。前段時間，某高校學生惡意P圖侮辱女性被行政拘留。再往前追溯，2020年“杭州一女士被造謠出軌快遞員”一案更具標志意義，且開了對于發生在網絡上的誹謗罪可視情節嚴重從自訴轉為公訴的先河。說到底，網絡空間從來就不是法外之地，惡意造謠詆毀他人必付代價，期待更多受害者拿起法律武器勇于維權。
無獨有偶。前幾天還有類似事件引發關注——某男子利用視頻合成技術，將電視劇中與某知名女星親吻的男主角換成自己并上傳視頻，效果儼然到了以假亂真的地步。兩起案件細節不盡相同，但細究起來，都直觀展示了借助AI“造黃謠”的可怖之處。一來，造謠成本迅速拉低，以前或許還得動手P圖，現在一鍵生成更為“病毒式”傳播大開方便之門。二來，受害者無差別，明星可能被惡搞，素人同樣可能被傷害、被針對。三來，追責難上加難。此前網絡造謠就因為匿名性導致追責不易，如今在AI加持下，造謠源頭更難追查，傳播鏈條病毒式延展，維權只怕更是趕不上造謠速度。
作為一種基于深度學習算法的信息技術，人工智能本身是中性的，但背后操作、設定、使用的是真實的人，AI可用來興利向善，也可用來牟利作惡。這也提醒我們，普及人工智能技術時，必須以法律和道德加以規范，避免濫用、泄露和侵犯個人信息等行為。在這方面，我們國家已經較早開展人工智能立法探索，并且針對“AI換臉術”專門出臺了管理規定，要求深度合成服務提供者和應用商店都要從源頭上對深度合成內容提前把關。至于廣受詬病的“一鍵脫衣”等灰色軟件，更是早就被封禁下載。但就現實來看，“灰產”恐怕還有變體，仍需加強監管。其中平臺作為關鍵的傳播載體，也必須守土盡責，對侵權視頻加強審核、建立機制，真正成為健康優質的信息分享地。
謠言止于智者。“網絡病毒”的危害人所共知，每個人也都應該成為“安全圍欄”的重要一環，遇到不實信息隨手舉報，別去圍觀惡劣內容，保護別人、凈化環境，就是在保護我們自己和身邊人。
來源 北京日報客戶端 | 評論員 雨馨
編輯 雨馨
流程編輯馬曉雙