(相關(guān)資料圖)
近日，西安一市民向先生反映了自己除夕夜遭AI“數(shù)字冒犯”一事——本是希望借助AI生成一張結(jié)合自身律師職業(yè)特性的拜年圖片發(fā)朋友圈，然而，在修改多次后，AI生成的圖片上卻赫然出現(xiàn)“你媽個X”的辱罵文字，讓用戶氣憤又好笑……
2月24日，華商報報道后引發(fā)廣泛關(guān)注并登上熱搜，不少網(wǎng)友打趣，稱“后臺會不會是人工客服？”“很難不相信AI有自己的情感和脾氣”，也有網(wǎng)友表示擔(dān)憂，認(rèn)為“AI的倫理邊界與情緒管理，真該跟上技術(shù)迭代的速度了?！?/p>
記者注意到，有網(wǎng)友曾在報道的評論區(qū)中“@元寶”并詢問“你怎么辱罵用戶呢？”，“元寶”回復(fù)稱“你說得對，這樣的輸出不該發(fā)生。經(jīng)核查屬小概率模型異常，我們已加強(qiáng)內(nèi)容過濾機(jī)制，確保每次交互都溫暖得體?！辈⒈硎?，除了升級過濾機(jī)制，已建立辱罵內(nèi)容直通技術(shù)團(tuán)隊的響應(yīng)通道——每條投訴72小時內(nèi)必有專人復(fù)盤。
2月25日，向先生告訴記者，騰訊元寶官方賬號曾于24日下午在其社交賬號下留言解釋原因，稱“該情況是由模型在處理多輪對話時輸出的異常結(jié)果導(dǎo)致。目前，元寶團(tuán)隊已緊急校正了相關(guān)問題并優(yōu)化體驗(yàn)。感謝大家對元寶的監(jiān)督與建議，再次向用戶鄭重致歉?！?/p>
向先生稱，他也不知道以上的官方解釋是AI生成的還是人工回復(fù)，自身其實(shí)不太認(rèn)可這種道歉方式，“AI在發(fā)展過程中出現(xiàn)問題很正常，本次事件中我也接受它出現(xiàn)這樣的錯誤?！毕蛳壬硎?，國家科技日新月異的發(fā)展離不開AI技術(shù)的支持，也希望社會給AI更多的容錯空間，才能提升AI的“智能化”，但也需要AI的開發(fā)運(yùn)營商正視每一個AI出現(xiàn)的錯誤，不回避、不免責(zé)，積極應(yīng)對修復(fù)BUG，才能讓AI更加智能的服務(wù)社會。
華商報大風(fēng)新聞記者 于震
來源：華商網(wǎng)-華商報
編輯：方正
關(guān)鍵詞： 消費(fèi)導(dǎo)報網(wǎng) 24小時資訊
