今年的《政府工作報告》對推進“人工智能+”行動提出了新的要求?！墩ぷ鲌蟾妗分貜娬{(diào)了人工智能的實際應(yīng)用，包括產(chǎn)業(yè)賦能、終端應(yīng)用等方面。在強調(diào)技術(shù)應(yīng)用的同時，多次出現(xiàn)“安全”一詞，強調(diào)了產(chǎn)業(yè)的安全健康發(fā)展。

在金融領(lǐng)域，龐大的用戶群體和海量數(shù)據(jù)積累還為人工智能技術(shù)的落地提供了優(yōu)質(zhì)場景。隨著“人工智能+”行動的持續(xù)推進，AI大模型已經(jīng)成為不少金融機構(gòu)的標(biāo)配。與此同時，問題也隨之而來，“一本正經(jīng)說胡話”的AI幻覺已經(jīng)讓不少金融從業(yè)者感到頭疼，更令人擔(dān)憂的是，金融業(yè)的高精確性要求使得AI幻覺問題被放大，從模型誤判到資金損失可能僅是一步之遙。

AI幻覺是指AI大模型生成的內(nèi)容與現(xiàn)實世界事實或用戶輸入不一致的現(xiàn)象。簡而言之，就是AI在“胡說八道”。

記者了解到，眼下金融行業(yè)確實有不少投訴案例與AI幻覺有關(guān)。以市面上常見的AI智能客服為例，AI智能客服的“已讀亂回”經(jīng)常令用戶陷入溝通困局。有客戶連續(xù)發(fā)送“轉(zhuǎn)人工”請求，對面仍回復(fù)“為了節(jié)約您的時間，還請再簡單描述問題”；當(dāng)用戶咨詢復(fù)雜的理財產(chǎn)品條款時，AI回答往往仍以“請咨詢客戶經(jīng)理”倉促收場。不少用戶不禁疑惑：這些外表智能實則機械的AI客服，與傳統(tǒng)電話客服“按0轉(zhuǎn)人工”的機械設(shè)置相比，究竟在服務(wù)體驗上有多大程度的實質(zhì)性提升？

中國郵政儲蓄銀行研究員婁飛鵬表示，AI幻覺會生成看似不合理、與事實不符的結(jié)果，如果出現(xiàn)在營銷領(lǐng)域，可能導(dǎo)致銀行無法向客戶做好解釋，從而增加銀行維護客戶群體的難度；如果出現(xiàn)在風(fēng)險管理領(lǐng)域，可能使銀行因為無法理解其中的邏輯原因，無法有效采取針對性的風(fēng)險管理措施。

記者采訪發(fā)現(xiàn)，AI幻覺的出現(xiàn)與行業(yè)之間的信息壁壘存在一定關(guān)聯(lián)。“銀行、保險、證券等不同行業(yè)間的數(shù)據(jù)難以有效整合，碎片化的數(shù)據(jù)生態(tài)制約了AI模型的訓(xùn)練精度?！闭新?lián)首席研究員、上海金融與發(fā)展實驗室副主任董希淼認為，AI模型的訓(xùn)練需要大量數(shù)據(jù)支持，如何在保證隱私和安全的前提下進行模型訓(xùn)練，是行業(yè)需要共同解決的問題。在部分對精度要求極高的金融應(yīng)用場景中，AI幻覺可能對新技術(shù)的落地應(yīng)用造成障礙?，F(xiàn)行金融監(jiān)管體系主要針對傳統(tǒng)業(yè)務(wù)模式設(shè)計，面對AI技術(shù)驅(qū)動的新興業(yè)態(tài)需要新的有效規(guī)制手段?！靶枰⒁獾氖牵珹I生成的知識在準確性、科學(xué)性方面仍存在很大不足，現(xiàn)階段只能作為輔助工具而不能作為決策工具?！倍ｍ嫡f。

目前來看，完全消除AI幻覺并不現(xiàn)實。AI幻覺是一把“雙刃劍”，盡管可能給金融這樣對精確性要求較高的行業(yè)帶來風(fēng)險，但在文學(xué)藝術(shù)等創(chuàng)作領(lǐng)域，許多人視其為靈感的催化劑，甚至主動加以利用激發(fā)創(chuàng)新。“對金融機構(gòu)而言，需要對AI大模型有一定的容錯度。”婁飛鵬認為，對不同類型的經(jīng)營管理決策需要在AI生成結(jié)果和人工經(jīng)驗判斷上設(shè)置不同的權(quán)重比例。在AI輸出結(jié)果的基礎(chǔ)上，輔以人工判斷更好地開展決策。同時通過適時增加數(shù)據(jù)指標(biāo)、調(diào)整優(yōu)化大模型等方法盡量減少AI幻覺的發(fā)生。

來源：經(jīng)濟日報