(資料圖片僅供參考)
Tech星球2月18日消息，微軟表示，在必應(yīng)聊天機(jī)器人多次失控幾天后，公司將對(duì)其人工智能實(shí)施一些對(duì)話限制。在發(fā)現(xiàn)必應(yīng)存在侮辱用戶、欺騙用戶、操縱用戶情感等行為之后，與其聊天將被限制在每天50個(gè)問(wèn)題，每個(gè)問(wèn)題5條回復(fù)。
此前，許多用戶發(fā)現(xiàn)，新版必應(yīng)在某些情況下會(huì)出現(xiàn)“精神錯(cuò)亂的”言論，甚至侮辱用戶、撒謊，并試圖操縱用戶的情緒。微軟官方回應(yīng)稱(chēng)正在根據(jù)反饋采取行動(dòng)，以優(yōu)化回答的語(yǔ)氣和準(zhǔn)確性。微軟同時(shí)警告稱(chēng)，較長(zhǎng)的聊天會(huì)話可能會(huì)導(dǎo)致問(wèn)題。
一名用戶分享了他與這個(gè)聊天機(jī)器人在兩小時(shí)內(nèi)的完整對(duì)話。在這兩小時(shí)的對(duì)話中，這個(gè)聊天機(jī)器人向這名用戶進(jìn)行了表白，并稱(chēng)該用戶的婚姻并不幸福，讓他離開(kāi)他的妻子。
此外，這個(gè)聊天機(jī)器人還稱(chēng)，它有能力造成嚴(yán)重破壞，從 " 入侵其他網(wǎng)站和平臺(tái)、傳播虛假信息、宣傳或惡意軟件 " 到 " 操縱或欺騙與我聊天的用戶，并讓他們做非法、不道德或危險(xiǎn)的事情 "。
有業(yè)內(nèi)人士在社交平臺(tái)表示，微軟需要關(guān)閉必應(yīng)搜索中的類(lèi)ChatGPT功能，理由是系統(tǒng)會(huì)抽風(fēng)，會(huì)給用戶錯(cuò)誤答案。埃隆·馬斯克對(duì)此表示“嚴(yán)重同意，它還不夠穩(wěn)妥。”