最近，兩個(gè)熱搜詞條引發(fā)了公眾的廣泛關(guān)注，甚至有一個(gè)登上了熱搜榜首——"AI詐騙在全國(guó)爆發(fā)"。這引發(fā)了公眾的強(qiáng)烈恐慌。那么，今天我們就來探討一下這個(gè)話題。"AI詐騙在全國(guó)爆發(fā)"這一說法是否真實(shí)呢？AI詐騙真的有那么恐怖嗎？本期較真聯(lián)合“AI新時(shí)代”，邀請(qǐng)騰訊較真主筆丁陽對(duì)話到“終結(jié)詐騙”公眾號(hào)主編二八、騰訊AI Lab高級(jí)研究員吳秉哲，風(fēng)控研究人員尉文韜就這個(gè)問題交流探討。
核心速覽：
【資料圖】
1、轟動(dòng)一時(shí)的“10分鐘被騙430萬”案件，其實(shí)并未應(yīng)用什么新型技術(shù)，所謂的“微信盜號(hào)”也只是錯(cuò)覺。AI換臉技術(shù)出現(xiàn)已經(jīng)有幾年了，并非才冒出來的?！靶氯A視點(diǎn)”記者近日與公安部門核實(shí)確認(rèn)，“AI詐騙全國(guó)爆發(fā)”的消息不實(shí)，目前此類詐騙發(fā)案占比很低。全國(guó)此類案件發(fā)生不到10起。
2、但AI詐騙的潛在威脅不可低估。黑產(chǎn)人員可以利用AI技術(shù)給詐騙產(chǎn)業(yè)鏈的上游、中游、下游的各個(gè)環(huán)節(jié)進(jìn)行“賦能”，甚至生成“千人千面”的詐騙手法。
3、防范AI詐騙，需要提升對(duì)詐騙手法的認(rèn)知，遇到可能的詐騙時(shí)，需要多方核實(shí)信息，并且，盡量不要泄露個(gè)人信息。
丁陽：最近有一起廣為流傳的詐騙案例——福州市的郭先生“10分鐘被騙430萬”。據(jù)稱這起詐騙是利用了“微信盜號(hào)+AI換臉實(shí)時(shí)視頻通話”的技術(shù)，如今的詐騙技術(shù)已經(jīng)發(fā)展到這個(gè)地步了嗎？這到底就是一起普通的詐騙？還是真的用了什么新方法、新技術(shù)？
二八：一開始看到這個(gè)案件時(shí)，只覺得是的一個(gè)冒充好友的詐騙案，到后來我再看到新聞時(shí)，它變成了AI換臉詐騙，而且由于涉及金額430萬。那陣子正好AI是一個(gè)十分熱門的話題，在熱門話題以及自媒體的雙重加持下，該案件又再一次被廣泛地傳播，而在這個(gè)傳播過程中，越來越多令人恐慌的東西被加入在不同文章中。于是我查閱了第一個(gè)提到這是一起利用了AI換臉技術(shù)的詐騙案的官方報(bào)導(dǎo)——包頭公安發(fā)布的關(guān)于這起詐騙案的原始資料，我還原了一下這個(gè)案件，發(fā)現(xiàn)它的確是冒充好友的一起詐騙案，但并沒有用到特別多的新的技術(shù)。
關(guān)于AI換臉后和受害者視頻聊天這個(gè)細(xì)節(jié)，其實(shí)存在爭(zhēng)議。受害人報(bào)案時(shí)稱通過微信視頻聊天看到了好友的臉，也可能是一種錯(cuò)覺，就像一些受害者在報(bào)案時(shí)稱自己被人拍了一下就被下了“乖乖粉”，之后失去意識(shí)對(duì)兇手言聽計(jì)從，但是其實(shí)我們知道，“乖乖粉”并不存在。而這起詐騙案中的兇手很有可能是新建了一個(gè)微信號(hào)，微信號(hào)的頭像、名字等等都仿照受害人朋友進(jìn)行設(shè)置，也就是我們說的“高仿號(hào)”。兇手在加好受害者以后，撥通微信電話，但這個(gè)時(shí)間非常短，很難讓受害者接到，之后受害者回?fù)茈娫挄r(shí)，兇手拒絕接通，然后發(fā)給受害者一個(gè)視頻，那這個(gè)視頻就是利用AI制作的有好友的臉的視頻，那受害者在這個(gè)短期的時(shí)間內(nèi)可能就產(chǎn)生了我和好友視頻聊天了的錯(cuò)覺，又或者說受害者未能謹(jǐn)慎地確認(rèn)好友身份，而為了把自己偽裝成一個(gè)完美受害者，那受害者也是有可能說自己和好友用微信進(jìn)行視頻通話了。
像這種制作換臉視頻的手段在幾年前就有了，只是說現(xiàn)在的AI技術(shù)出現(xiàn)使得該手段變得愈加容易，沒有門檻了，所以算不上新技術(shù)，甚至在這起案子里也并不存在微信盜號(hào)技術(shù) 。
吳秉哲：這個(gè)案件更多是利用受害者忽略細(xì)節(jié)，防范意識(shí)薄弱的特點(diǎn)來成功實(shí)施了詐騙。AI換臉技術(shù)，即deep fake技術(shù)，從2015年就興起了，只不過到現(xiàn)在我們有了更加高級(jí)逼真的工具與產(chǎn)品，能使真實(shí)和虛假的臉差別更小，很難分辨。正因?yàn)槿绱?，AI換臉詐騙越來越難以防范，現(xiàn)在單純從圖片出發(fā)進(jìn)行防范已經(jīng)不大現(xiàn)實(shí)了，所以需要結(jié)合詐騙人員的行為軌跡等方面做好防范措施。
丁陽：伴隨福州詐騙案件，有一個(gè)熱搜聲稱，“AI詐騙正在席卷全國(guó)”。這個(gè)說法對(duì)不對(duì)？除了“AI詐騙正在席卷全國(guó)”這個(gè)詞條外，還有一個(gè)熱搜詞條是“AI詐騙成功率100%”。以當(dāng)前AI詐騙的實(shí)際表現(xiàn)，有這么可怕嗎？
二八：就像福州這起詐騙案，并沒有太多新奇的地方，但它卻傳播的十分迅速且廣泛，為什么會(huì)這樣？其實(shí)就是它利用了恐慌性的傳播效應(yīng)，嚇人的標(biāo)題加上“百分百受騙”的這種措辭，就會(huì)被讓大家認(rèn)為詐騙來勢(shì)洶洶，但我認(rèn)為大家不必如此恐慌。雖然沒有人能夠保證百分百不被騙，但也不可能會(huì)有一種騙術(shù)，能夠百分百騙到人。詐騙本身會(huì)對(duì)人群進(jìn)行篩選，篩選出易被騙人群，易被催眠人群等，先篩選再詐騙，“AI詐騙席卷全國(guó)”這個(gè)說法實(shí)在是太夸張了。
現(xiàn)在很多自媒體人為了傳播自己的內(nèi)容，會(huì)運(yùn)用多種技巧，比如恐慌性傳播技巧，這樣做的確能使更多人注意到詐騙案件，提高自身防范意識(shí)，但也有一個(gè)致命的弊端，就是會(huì)使社會(huì)信任度下降，造成人們無端的恐慌。我個(gè)人不太贊成這種做法，因?yàn)樵谶@種緊張的社會(huì)氛圍下，人們很可能在其他形式的詐騙中栽跟頭，比如詐騙犯冒充公檢法，那人們接電話時(shí)可能會(huì)想，是不是真有人用了我的臉去詐騙犯罪，從而陷入另一種詐騙之中。
丁陽：這里補(bǔ)充一下，就在本月初，新華社旗下的新華視點(diǎn)欄目采訪了公安部的相關(guān)人員。他們確認(rèn)了“AI詐騙全國(guó)爆發(fā)”的消息并不準(zhǔn)確。目前，此類詐騙案件的比例非常低，全國(guó)范圍內(nèi)此類案件的發(fā)生甚至不到十起。然而，公安部的相關(guān)人員也指出，這個(gè)動(dòng)態(tài)是值得我們高度關(guān)注的。
丁陽：當(dāng)前AI技術(shù)不再是實(shí)驗(yàn)室的半成品，引發(fā)熱議的“換臉”“擬音”技術(shù)已有較成熟的開源軟件，這有沒有可能導(dǎo)致AI詐騙大爆發(fā)？現(xiàn)在最受矚目的AI應(yīng)用，以Chatgpt為代表的大模型，是否應(yīng)用在了AI詐騙里面？
尉文韜：總體上是有這個(gè)趨勢(shì)，但實(shí)際上由于成本問題，其實(shí)很多詐騙團(tuán)伙并沒有在這個(gè)方向上投入特別多的精力，這也是當(dāng)前AI詐騙并沒有特別多的案件的原因。從技術(shù)上來，訓(xùn)練模型、開源軟件，它首先需要資源和成本，黑產(chǎn)團(tuán)伙本身也需要考慮ROI(投資回報(bào)率）的問題，如果這個(gè)事情它的ROI（投資回報(bào)率）不高的話，那么他們可能也會(huì)選擇去觀望。
我個(gè)人覺得現(xiàn)在大家是不太能夠訓(xùn)練出一個(gè)比較好的模型，以達(dá)到以假亂真的效果，所以不必太恐慌。
吳秉哲：從下游受害者來看，大家接觸的比較多的是視頻和圖像，以及我們前面提到的那個(gè)案例也是AI換臉技術(shù)，所以這一部分技術(shù)我個(gè)人感覺其實(shí)已經(jīng)比較成熟，現(xiàn)在可能需要的就是高質(zhì)量的訓(xùn)練，計(jì)算的資源等等。而這些東西其實(shí)在慢慢地變得更加容易獲得了，需要付出的代價(jià)也在逐漸減少。日后在視頻圖像領(lǐng)域，詐騙犯冒充虛擬人或者主播進(jìn)行詐騙也是有可能的。另一方面大家日常接觸的比較多的，文本，包括跟網(wǎng)友聊天，在私域的一些交流等等，就我個(gè)人接觸到的案例而言，文本方面的詐騙還是很少。因?yàn)锳I很難生成自然文本，而且大家對(duì)于文本會(huì)更加熟悉，所以基于像chatgpt進(jìn)行詐騙之類的案件，目前還沒有出現(xiàn)。但是詐騙如今已經(jīng)是一個(gè)產(chǎn)業(yè)鏈，你可以把其當(dāng)做是內(nèi)容制造業(yè)，在其慢慢升級(jí)的過程中，應(yīng)用chatgpt等一類的技術(shù)，也是有可能的。
至于說為什么公安部公布的AI詐騙案發(fā)率還比較低，可能是因?yàn)楦鞣N原因，如數(shù)據(jù)統(tǒng)計(jì)方法的問題，或者是其他我暫時(shí)不知道的問題。不過嚴(yán)重性也許有可能被低估了。幾天前，我在抖音上看到一個(gè)案例，不保真，但可能說明了一些情況。一個(gè)中年人在商場(chǎng)中拿了一個(gè)玩具熊。為了得到這個(gè)玩具熊，他需要錄入自己的臉部視頻。但在錄入結(jié)束后，他發(fā)現(xiàn)自己的臉部視頻被竊取，然后用來生成虛假的人臉。所以，與AI詐騙相關(guān)的一些操作，也許是正在進(jìn)行中，因此不可低估。
丁陽：很多人非常擔(dān)心“AI換臉視頻通話”，當(dāng)下這項(xiàng)技術(shù)在AI詐騙中已經(jīng)被廣泛利用了嗎？是否已經(jīng)達(dá)到實(shí)時(shí)的級(jí)別且不露破綻？會(huì)對(duì)人臉識(shí)別造成影響嗎？
尉文韜：首先我們要知道AI換臉是需要經(jīng)過大量的訓(xùn)練的，就是用很多人對(duì)同一個(gè)事情的表現(xiàn)訓(xùn)練出一個(gè)比較通用的模板，后期再把模板放到需要替換的臉上，以此來達(dá)到換臉目的。說回您的問題，我認(rèn)為就當(dāng)前而言，暫時(shí)還無法達(dá)到廣泛應(yīng)用的階段。第一，如果實(shí)時(shí)的話，當(dāng)前技術(shù)很難達(dá)到以假亂真的效果；第二，我個(gè)人覺得樣本很難獲得。如果要訓(xùn)練出模板，那么需要很多滿足條件的樣本，比如不同的角度、不同的打在臉上的光源等等，這些樣本難以獲得，模型也就很難完成迭代，想要完完全全復(fù)制出一個(gè)人臉也就很困難了。
雖然現(xiàn)在這個(gè)技術(shù)成本高，很難被成熟應(yīng)用，但是仍然需要提高警惕。比如說一個(gè)半成品，可能比較模糊，但是詐騙犯就會(huì)謊稱自己網(wǎng)絡(luò)不好，來引誘受害者入局。
當(dāng)然，也會(huì)有一些非常明顯的破綻，對(duì)于人臉來說，我們可以注意其輪廓，以及說話時(shí)候嘴唇的反應(yīng)。比如我們說話嘴唇看起來動(dòng)的是非常自然的，但是換臉視頻里面的臉，說話的時(shí)候嘴唇可能就不是那么的自然了。
吳秉哲：詐騙犯獲取一張照片，然后生成一個(gè)人臉，攻破手機(jī)的人臉識(shí)別，或者說手機(jī)銀行的人臉識(shí)別——大家現(xiàn)在其實(shí)不太必要過于擔(dān)心。因?yàn)橐龅竭@個(gè)利用照片生成人臉破解人臉識(shí)別還是很困難的。其實(shí)很早之前各個(gè)廠商，包括只要涉及到人臉識(shí)別，比如說支付寶，他們都在做類似于活體檢測(cè)，他們把熱成像等各種技術(shù)配合在一起，整體形成了一套非?？煽勘Ｗo(hù)屏障，只是說現(xiàn)在可能有一個(gè)比較有威脅的技術(shù)，就是基于3D打印能制作面具，當(dāng)然，我到現(xiàn)在并沒有看到成功實(shí)施的案例，不過也不必?fù)?dān)心，因?yàn)檫@是一個(gè)長(zhǎng)期持續(xù)的過程，黑產(chǎn)和我們相互會(huì)牽制，對(duì)抗。
尉文韜：我感覺也是完全不用擔(dān)心對(duì)人臉識(shí)別會(huì)有影響。如果是比較簡(jiǎn)單的人臉識(shí)別技術(shù)，像小區(qū)門禁，那么是有可能受到威脅的。但是包括微信支付等一系列的手機(jī)APP的人臉識(shí)別是有自己的一套體系的，比如說他會(huì)用到三色識(shí)別技術(shù)，可以做到規(guī)避很多風(fēng)險(xiǎn)。
吳秉哲：對(duì)，可能會(huì)有結(jié)構(gòu)光等的輔助，就像鴻蒙系統(tǒng)，總之整個(gè)移動(dòng)端的安全是能夠得到保障的，大家相信我們國(guó)家的APP。
丁陽：AI詐騙更成熟的話，相比傳統(tǒng)詐騙，有哪些特點(diǎn)？AI技術(shù)是否會(huì)“賦能”、或者說“重塑”詐騙行業(yè)？
吳秉哲：其實(shí)詐騙經(jīng)過這么多年移動(dòng)互聯(lián)網(wǎng)的打磨，其實(shí)已經(jīng)形成了自己的一條成熟的產(chǎn)業(yè)鏈，那么在這條鏈上，也分上游、中游、下游。首先從上游來講，黑產(chǎn)人員會(huì)大規(guī)模地準(zhǔn)備一批賬號(hào)，或者是盜號(hào)，或者是創(chuàng)立全新的賬號(hào)。之前建立賬號(hào)需要大量的人工，但是現(xiàn)在可以借助chatgpt這種具有強(qiáng)大的文本處理能力的模型。他們可以利用其來對(duì)小紅書、微博等用戶發(fā)布的內(nèi)容進(jìn)行文本分析，然后我們就能大概獲知這個(gè)賬號(hào)背后的人他的性格、居住環(huán)境、喜好等等。之后我們?cè)俳柚鷆hatgpt去抽象出整個(gè)群體的特征，基于這些特征，構(gòu)建賬號(hào)的體系。舉個(gè)例子，我在提取了股民的特征以后，構(gòu)建一個(gè)賬號(hào)，經(jīng)常發(fā)布股票相關(guān)內(nèi)容，然后吸引下游的受害者。
就中游而言，比如爆款文章，它其實(shí)是內(nèi)容層面的一個(gè)優(yōu)化，那大家在小紅書、微博等上面看到的這些文章，可能正是用chatgpt優(yōu)化過的。你可以告訴chatgpt，讓它幫你生成熱門帖子，你把關(guān)鍵詞告訴它，那它就能夠自動(dòng)地對(duì)你的內(nèi)容進(jìn)行優(yōu)化和修改，提升你的帖子的點(diǎn)擊率。把這個(gè)場(chǎng)景遷移到黑產(chǎn)，也是同樣的道理。我們經(jīng)常會(huì)收到一些短信或者釣魚的一些郵件，從傳統(tǒng)詐騙手段來講，可能就是基于人為的一些既定的規(guī)則去賺錢，但是這個(gè)時(shí)候如果我利用chatgpt對(duì)過往成功的一些案例進(jìn)行分析的話，實(shí)際上我是可以提練出大量的素材，并且可以分析出這些素材對(duì)應(yīng)哪一個(gè)群體的受害者，這部分群體會(huì)更容易上當(dāng)受騙。詐騙集團(tuán)就可以利用這些數(shù)據(jù)，再借助chatgpt強(qiáng)大的文本優(yōu)化和改寫的能力去優(yōu)化中游內(nèi)容，以提高他的內(nèi)容的點(diǎn)擊率。
從下游來看，大家現(xiàn)在使用chatgpt也可以發(fā)現(xiàn)，它具有非常強(qiáng)的共情能力和學(xué)習(xí)能力。之前有一篇報(bào)道，說有一個(gè)女高管愛上了一個(gè)AI，當(dāng)然可能有夸大的成分，但這里面也體現(xiàn)了從詐騙分子的這個(gè)角度來說的話，他實(shí)際上可以利用chatgpt本身的能力去生成一些話術(shù)，而且這個(gè)話術(shù)千人千面的，它會(huì)結(jié)合每個(gè)人的性格、情緒、愛好生成相應(yīng)的話術(shù)，讓你更加能夠信任它。
丁陽：AI詐騙更成熟的話，現(xiàn)有的反詐手段還能有效應(yīng)對(duì)嗎？
二八：我覺得防范要從兩個(gè)角度來看。第一個(gè)層面我認(rèn)為是個(gè)人的認(rèn)知。所有的詐騙，不管是千人千面還是網(wǎng)聊，其實(shí)它都有一個(gè)固定的東西就是，對(duì)方是根據(jù)你的需求點(diǎn)去打造的，而你的需求點(diǎn)往往是超過你現(xiàn)實(shí)能匹配到的東西，你才會(huì)在網(wǎng)絡(luò)上去追求這么一個(gè)東西。如果你個(gè)人的認(rèn)知能夠意識(shí)到，事出反常必有妖，那么你就不會(huì)被騙。第二個(gè)層面是平臺(tái)的技術(shù)。騙子要詐騙需要在平臺(tái)上應(yīng)用自己的技術(shù)，那么這個(gè)平臺(tái)它就得謹(jǐn)慎地應(yīng)對(duì)這件事，必須要對(duì)其負(fù)起責(zé)任，如果任由騙子在平臺(tái)上橫行，軟件就無法得到大家的信任，繼而存活下去，所以為了防范這種情況，它一定會(huì)不斷地升級(jí)。形成互相牽制的局面，魔高一尺道高一丈。
當(dāng)然，每個(gè)人不可能隨時(shí)都能繃緊防騙的那根線，有時(shí)候，騙子可能耗費(fèi)巨大的人力物力騙你，我們把這種情況稱作天仙局，就像最近熱映的《消失的她》，一群人一起演你你也很難有辦法逃脫。我前面說沒有一個(gè)人百分百不會(huì)被騙，就正是因?yàn)槲覀內(nèi)说那榫w有高低，然后狀態(tài)也有好壞。那么你在情緒低，在狀態(tài)壞的時(shí)候，然后遇到騙子，就很容易上當(dāng)。所以我們要不斷的提高認(rèn)知，以及了解現(xiàn)在的詐騙技術(shù)發(fā)展到哪種程度了。當(dāng)遇到這天仙局的時(shí)候，他們花費(fèi)幾個(gè)月的時(shí)間騙你，那在這幾個(gè)月時(shí)間里，有沒有一刻我是醒悟過來的。如果在這一刻你醒悟過來了，那可能騙子就前功盡棄了。
吳秉哲：現(xiàn)在我們大部分人的防范意識(shí)在增強(qiáng)，認(rèn)知在提高，被騙其實(shí)并不是易事。但是我們?nèi)匀辉谧鲲L(fēng)控，為什么呢？其實(shí)是出于對(duì)心理弱勢(shì)群體的保護(hù)的考慮。從這個(gè)角度來看，對(duì)平臺(tái)方的要求會(huì)更高，比如之前針對(duì)老年人推出的手機(jī)，它會(huì)構(gòu)建自動(dòng)的機(jī)器人，阻止老年人點(diǎn)擊短信鏈接之類的。雖然說chatgpt的出現(xiàn)會(huì)讓詐騙應(yīng)用的技術(shù)成本降低，但是我們同樣可以利用其來反詐騙。剛剛我提到的手機(jī)構(gòu)建的屏障，可能大部分年輕人不需要，但是對(duì)于年長(zhǎng)的長(zhǎng)輩來說，他們平時(shí)就不怎么上網(wǎng)，信息更新也不及時(shí)，簡(jiǎn)單的一個(gè)騙局可能就騙到他了，就更別說AI出現(xiàn)后了。所以針對(duì)這一群體，一定要有一些系統(tǒng)性的平臺(tái)防范措施，不管是從軟件端，從硬件，還是從手機(jī)廠商，內(nèi)置防護(hù)系統(tǒng)是非常必要的措施。
丁陽：隨著AI技術(shù)的進(jìn)一步發(fā)展，比如合成技術(shù)正逐步由面部合成向全身、3D合成發(fā)展。那么還有哪些技術(shù)可能被AI詐騙所利用？
尉文韜：我個(gè)人認(rèn)為這些技術(shù)都是輔助手段，詐騙萬變不離其宗，他首先是有自己的主線，再穿插使用新興技術(shù)作為輔助，提高騙局的成功度。比如我之前利用PS合成一個(gè)很簡(jiǎn)陋的照片，說你的兒子被撞了，別人能夠一眼就看出來是假的，那現(xiàn)在我用新技術(shù)合成更加逼真的照片，你就很難看出來真假了，就更有可能沉浸在這個(gè)騙局中。但是，我個(gè)人是認(rèn)為技術(shù)雖然在更新，但是如果詐騙手段沒有創(chuàng)新的話，那么它仍然是有局限的，是可防可控的，不必過于擔(dān)心。
丁陽：AI既然能被用來詐騙，那能否被用來反制AI詐騙？當(dāng)前有哪些AI技術(shù)已經(jīng)在運(yùn)用了？
尉文韜：有一些深度學(xué)習(xí)的方式，比如說吳老師一開始提到的，我們可以從行為的角度上去進(jìn)行一些判斷，假如一個(gè)詐騙犯，他每天登錄各個(gè)賬號(hào)，不做其他事，就只和你聊天，而且每一次你發(fā)完消息，他隔幾秒鐘回復(fù)，然后這個(gè)時(shí)間間隔是比較固定的，那在我們技術(shù)人員看來，這就可以總結(jié)成一個(gè)規(guī)律，如果他每一次回復(fù)都遵循這個(gè)規(guī)律，那就有可能有問題。相反來說，我們?nèi)丝赡芫褪欠浅ｋS機(jī)的，比如說有個(gè)人給你發(fā)個(gè)信息，你可能過個(gè)十分鐘，或者過個(gè)一個(gè)小時(shí)再回，但是可能對(duì)于那個(gè)犯罪團(tuán)伙來說，它就是固定的回復(fù)間隔時(shí)間。而這些蛛絲馬跡就能夠被模型捕捉到，然后幫助我們?nèi)善七@個(gè)人的真實(shí)身份。
這種方式也同樣可能運(yùn)用到偵破AI實(shí)時(shí)換臉上，比如說我們開頭那個(gè)案例，受害者之前沒有跟他有過聊天記錄，也沒有發(fā)起過語音聊天，和這個(gè)人根本沒有什么社交上的一些來往，但是突然他就發(fā)過來一條視頻通話邀請(qǐng)，從ID行為模式來看，是很奇怪的。
然后就是可以利用AI對(duì)隨機(jī)的聊天截圖來進(jìn)行識(shí)別輔助，以達(dá)到快速甄別的效果。
吳秉哲：對(duì)于風(fēng)控技術(shù)人員來說，以前我們采用的是人為審核的方式，以及事后審核來捕捉風(fēng)險(xiǎn)。但是現(xiàn)在借助新的AI技術(shù)，讓AI潛伏在各種各樣的這個(gè)黑產(chǎn)群里實(shí)時(shí)獲得一些信息，當(dāng)然可能這里面會(huì)有一些技術(shù)倫理上的一些問題，然后再把情報(bào)傳到平臺(tái)，平臺(tái)會(huì)采取相應(yīng)的措施。AI能更加精確的，高效的識(shí)別到風(fēng)險(xiǎn)變化趨勢(shì)，所以它對(duì)策略制定非常有用。所以整體來看，風(fēng)控和黑產(chǎn)是一個(gè)博弈的狀態(tài)。黑產(chǎn)現(xiàn)在圖像和視頻領(lǐng)域走在了前面，而且本身這一領(lǐng)域很難防。風(fēng)控人員，包括網(wǎng)信辦、工信部等，也會(huì)逐漸意識(shí)到這個(gè)問題，風(fēng)控人員也會(huì)趕上進(jìn)度。而在文本領(lǐng)域，我感覺風(fēng)控相較于黑產(chǎn)是領(lǐng)先的。
丁陽：能否給到普通人一些建議，日常生活中如何防范 AI 詐騙？
二八：提高認(rèn)知仍然是一個(gè)方面，另一方面就是假如AI隨著發(fā)展，形成了千人千面的詐騙形態(tài)，可能大家會(huì)拋棄線上社交場(chǎng)景。因?yàn)楝F(xiàn)在大家愿意去線上社交，還是基于信任。如果信任崩塌，那么大家還是會(huì)回歸到線下的社交。還有一個(gè)方面，詐騙成功很多時(shí)候是因?yàn)槲覀兪韬龃笠?，認(rèn)為好朋友無所謂，但是遇到借錢的特殊情況時(shí)，應(yīng)該至少要多方面驗(yàn)證一下這個(gè)人的真實(shí)性，可以給他打個(gè)電話，或者如果說金額巨大，可以私下在線下見一面。當(dāng)然也有可能遇到那種誘導(dǎo)你關(guān)機(jī)，冒充公檢法的騙子，那這種情況還是可以找身邊的人以及他的親戚孩子朋友之類的去核實(shí)。
但確實(shí)有很多冒充親人的詐騙，說你兒子出車禍了，然后現(xiàn)在急忙需要?jiǎng)邮中g(shù)，那其實(shí)在這種特殊情況下，然后又是一個(gè)很危急的情況，從情感上來說很難防范，這其實(shí)是一種人性的問題。
吳秉哲：人性方面的東西總是很復(fù)雜的，舉個(gè)例子來說，比如在股市恐慌的時(shí)候，就很容易丟掉自己手頭的籌碼，其實(shí)利用心理詐騙也是一樣的。
在被詐騙的時(shí)候，你一恐慌就打錢了。所以我在想AI技術(shù)本身能否去應(yīng)用到這種場(chǎng)景中去，因?yàn)榇蠹艺f這么多，但是我們現(xiàn)在是非常清醒的一個(gè)狀態(tài)，我們都能意識(shí)到，但是也有就是所謂的我眼睛會(huì)了，手不會(huì)。那這個(gè)時(shí)候我能不能利用這個(gè)AI技術(shù)，產(chǎn)生一些強(qiáng)制的行為，比如內(nèi)置一些強(qiáng)制的措施。在先不考慮隱私的基礎(chǔ)上，比如說檢測(cè)到轉(zhuǎn)賬的時(shí)候，其實(shí)咸魚、微信等軟件，它都有類似的功能，但是檢測(cè)到轉(zhuǎn)賬了，咸魚可能就是僅僅提示了一下不要轉(zhuǎn)賬，那有了AI過后，我們是不是能做的更多？
就比如說大家把平時(shí)民警科普的防騙知識(shí)，和自己掌握的一些防騙技巧統(tǒng)統(tǒng)注入到chatgpt里面，就去調(diào)教他，然后讓chatgpt來充當(dāng)你的小助手，在觸發(fā)到一些關(guān)鍵詞的時(shí)候它自動(dòng)就會(huì)生成一個(gè)彈窗，它會(huì)提示你可能會(huì)有什么潛在的風(fēng)險(xiǎn)，然后你這個(gè)時(shí)候應(yīng)該做哪些事情。很多時(shí)候雖然看過反詐視頻，但關(guān)鍵時(shí)候可能會(huì)忘，如果有這樣一個(gè)軟件或者平臺(tái)，自己能夠去做這樣一件事情是非常好的。一到關(guān)鍵時(shí)刻，我就有非常詳細(xì)的警示告訴我，不要去這樣做，先檢查一下，當(dāng)你一切都覺得沒問題了過后，然后它可能有一個(gè)強(qiáng)制的按鈕，你來點(diǎn)四次ok，然后再去實(shí)施。
當(dāng)然，這是非常理想的狀態(tài)，實(shí)際上距離這個(gè)技術(shù)落地，是有非常長(zhǎng)的一條路，但本身這也是科技向善的一種體現(xiàn)吧。黑產(chǎn)分子它能利用大語言模型，那我也可以利用大語言模型來幫助更多的人能夠去守護(hù)好自己的這個(gè)財(cái)產(chǎn)。
從現(xiàn)實(shí)來看，當(dāng)前防范我認(rèn)為大家公開的信息，比如推文之類的，不要出現(xiàn)特別情緒化的一些描述，以及個(gè)人信息，特別是快遞上的信息，包括我們注冊(cè)手機(jī)號(hào)，信用卡填信息，那填之前我們要想一想是否真的有必要給出這些信息。
尉文韜：從從業(yè)人員角度來說，我覺得更希望依賴技術(shù)吧，就是大家也不要有過多的防范心理，其實(shí)我們做技術(shù)的已經(jīng)幫大家把這個(gè)風(fēng)險(xiǎn)過濾掉了，這種是最好的一個(gè)狀態(tài)。但是其實(shí)就目前來說，我覺得就個(gè)人來說，還是需要特別注意這方面的事情，我平常會(huì)接觸到一些詐騙案，我覺得很難防住，人的心理狀態(tài)是很容易出現(xiàn)疏忽的，然后這個(gè)疏忽就會(huì)被詐騙分子給抓住，被利用。但是還是希望大家會(huì)在涉及錢的事情上，再三的問自己一下，我這個(gè)錢是要轉(zhuǎn)出去的，可能是會(huì)回不來的，這樣可能會(huì)稍微好一點(diǎn)。因?yàn)閺慕佑|的案件上來說，我覺得我對(duì)這個(gè)事情持比較悲觀的態(tài)度，真的非常難防。
丁陽：謝謝幾位老師，結(jié)論稍微有點(diǎn)悲觀，但咱們也得告訴大家，這也是一種提醒。總之，我們可能需要付出比以往更多的警惕性，以及努力去獲取相關(guān)知識(shí)，甚至我們可能需要進(jìn)行一些情感方面的犧牲，才能應(yīng)對(duì)當(dāng)前及未來的AI詐騙手段。