《衢州日?qǐng)?bào)》2025年4月8日 報(bào)道 記者 陳霞

在當(dāng)今數(shù)字化浪潮中，人工智能（AI）技術(shù)如同洶涌澎湃的潮水，以前所未有的速度全方位融入我們的生活。智能語(yǔ)音助手能迅速為我們查詢(xún)信息、規(guī)劃行程；圖像識(shí)別技術(shù)助力安防監(jiān)控，保障公共安全，在醫(yī)療影像診斷領(lǐng)域也大顯身手，輔助醫(yī)生精準(zhǔn)判斷病情；自動(dòng)化生產(chǎn)線(xiàn)借助AI實(shí)現(xiàn)精準(zhǔn)操作，大幅提升生產(chǎn)效率。AI似乎無(wú)所不能，為我們的生活與工作帶來(lái)諸多便利，成為推動(dòng)社會(huì)進(jìn)步的新引擎。

然而，在這看似光明的技術(shù)前景背后，一個(gè)不容忽視的問(wèn)題正悄然浮現(xiàn)——AI幻覺(jué)。

AI魅力與隱患并存

“請(qǐng)介紹一下衢州的歷史文化和旅游景點(diǎn)?！泵鎸?duì)這樣的提問(wèn)，AI可能會(huì)詳細(xì)闡述衢州的歷史變遷，生動(dòng)描繪其文化特色，還會(huì)如數(shù)家珍般列舉出孔氏南宗家廟、江郎山等著名景點(diǎn)，甚至貼心給出游玩建議。但在這看似完美的回答中，也許會(huì)夾雜錯(cuò)誤信息，比如某些歷史事件的時(shí)間不對(duì)，或者對(duì)景點(diǎn)介紹出現(xiàn)偏差。這種AI看似合理卻包含錯(cuò)誤內(nèi)容的現(xiàn)象，就是所謂的“AI幻覺(jué)”。

近日，衢州市文化館舉辦的“DeepSeek新手超實(shí)用技巧秘籍”講座活動(dòng)異常火爆。報(bào)名公告發(fā)布僅3小時(shí)，名額便被一搶而空。衢州職業(yè)技術(shù)學(xué)院人工智能技術(shù)應(yīng)用專(zhuān)業(yè)主任、教授張麗娜以深入淺出的講解方式，為大家揭開(kāi)AI運(yùn)用的神秘面紗。

講座臺(tái)上，張麗娜從DeepSeek的使用與部署、專(zhuān)業(yè)場(chǎng)景應(yīng)用，再到常見(jiàn)生活場(chǎng)景應(yīng)用，一邊進(jìn)行細(xì)致演示，一邊耐心講解，原本復(fù)雜晦澀的操作流程變得清晰易懂。臺(tái)下聽(tīng)眾們?nèi)褙炞?，不少人拿出手機(jī)開(kāi)啟視頻錄制功能，希望完整留存這寶貴的學(xué)習(xí)過(guò)程。

當(dāng)下，全社會(huì)掀起探索AI技術(shù)、運(yùn)用AI提升生活與工作質(zhì)量的熱潮，AI正逐漸成為撬動(dòng)大眾創(chuàng)造力的有力杠桿。但張麗娜特別強(qiáng)調(diào)：“掌握AI正確使用方法，學(xué)會(huì)識(shí)別和應(yīng)對(duì)AI幻覺(jué)現(xiàn)象同樣至關(guān)重要?！?/p>

AI幻覺(jué)，簡(jiǎn)言之，就是人工智能模型在生成內(nèi)容時(shí)，產(chǎn)生與事實(shí)不符、邏輯錯(cuò)誤或完全虛構(gòu)的信息。這種現(xiàn)象在各類(lèi)AI應(yīng)用中廣泛存在，無(wú)論是文本生成、圖像合成，還是代碼編寫(xiě)，都難以幸免。

活動(dòng)現(xiàn)場(chǎng)，張麗娜通過(guò)實(shí)際案例展示，讓大家清晰認(rèn)識(shí)到AI幻覺(jué)的表現(xiàn)形式及其可能帶來(lái)的影響，同時(shí)傳授了一系列行之有效的應(yīng)對(duì)策略，幫助大家在使用AI時(shí)獲取準(zhǔn)確、可靠的信息。

AI幻覺(jué)引發(fā)的多米諾骨牌效應(yīng)

現(xiàn)實(shí)中，AI幻覺(jué)引發(fā)了諸多問(wèn)題，記者自身也有切身體會(huì)。不久前，為提高工作效率，記者摘取經(jīng)過(guò)審核的基礎(chǔ)材料寫(xiě)了一篇初稿，嘗試借助一款知名AI寫(xiě)作工具進(jìn)行文本潤(rùn)色。向AI輸入相關(guān)主題和具體要求后，它很快生成了一篇看似語(yǔ)言流暢、結(jié)構(gòu)完整的文章。然而仔細(xì)核查后發(fā)現(xiàn)，文中不僅存在捏造事實(shí)的情況，甚至連提供的數(shù)據(jù)都被篡改。這樣的內(nèi)容若發(fā)表，不僅會(huì)誤導(dǎo)讀者，損害媒體公信力，還會(huì)對(duì)相關(guān)采訪(fǎng)對(duì)象造成負(fù)面影響。

以學(xué)術(shù)研究為主要工作的杜老師表示：“當(dāng)AI在10分鐘內(nèi)為你撰寫(xiě)一篇幾萬(wàn)字的論文時(shí)，你可能需要花費(fèi)與撰寫(xiě)這幾萬(wàn)字論文同等的時(shí)間，去驗(yàn)證論文里的每一個(gè)引用是否真實(shí)存在，論文中的邏輯是否符合學(xué)術(shù)共識(shí)?！痹谝淮卧囉弥校珹I迅速給出條理清晰的相關(guān)內(nèi)容闡述，并列出一系列看似權(quán)威的參考文獻(xiàn)，包括作者、期刊、標(biāo)題等信息，宛如一篇經(jīng)過(guò)嚴(yán)謹(jǐn)調(diào)研的學(xué)術(shù)成果。但當(dāng)杜老師試圖查找這些參考文獻(xiàn)時(shí)，卻發(fā)現(xiàn)它們?cè)诂F(xiàn)實(shí)中根本不存在。杜老師感慨道：“倘若有學(xué)者在不知情的情況下，將這些虛構(gòu)的參考文獻(xiàn)用于自己的研究中，極有可能被認(rèn)定為學(xué)術(shù)不端行為，這對(duì)學(xué)術(shù)研究的嚴(yán)謹(jǐn)性和規(guī)范性無(wú)疑是巨大的沖擊?！?/p>

市民鄭女士也表達(dá)了擔(dān)憂(yōu)：“有一次，我發(fā)現(xiàn)AI給出的解釋依據(jù)不充分后，使用時(shí)就格外謹(jǐn)慎了。我更擔(dān)心孩子在使用AI輔助學(xué)習(xí)時(shí)，AI可能給出錯(cuò)誤的知識(shí)點(diǎn)解釋?zhuān)蛘邔?duì)復(fù)雜問(wèn)題進(jìn)行錯(cuò)誤分析。孩子可能在不知不覺(jué)中接收這些錯(cuò)誤信息，從而影響對(duì)知識(shí)的正確理解和掌握?！?/p>

在醫(yī)療、金融、法律等專(zhuān)業(yè)領(lǐng)域，AI幻覺(jué)的后果可能更為嚴(yán)重。在醫(yī)療領(lǐng)域，若AI給出錯(cuò)誤的診斷建議或治療方案，可能危及患者的健康甚至生命；在金融領(lǐng)域，錯(cuò)誤的投資建議可能導(dǎo)致投資者遭受重大經(jīng)濟(jì)損失；在法律領(lǐng)域，不準(zhǔn)確的法律條文解讀或案例分析，可能影響司法的公正性。

即使在寫(xiě)作、設(shè)計(jì)等創(chuàng)意性工作中，AI幻覺(jué)也可能帶來(lái)問(wèn)題。盡管創(chuàng)意工作需要一定的想象力和創(chuàng)新性，但如果AI生成的內(nèi)容包含大量與事實(shí)不符的信息，也會(huì)影響作品的質(zhì)量和可信度。

AI為何會(huì)“信口開(kāi)河”？

究竟是什么原因?qū)е翧I出現(xiàn)這些令人困惑的幻覺(jué)現(xiàn)象呢？這需要從AI的工作原理和訓(xùn)練機(jī)制探尋答案。

張麗娜介紹，以廣泛應(yīng)用的大語(yǔ)言模型為例，它并不像人類(lèi)一樣具備真正理解問(wèn)題含義的能力，無(wú)法基于自身積累的知識(shí)和豐富經(jīng)驗(yàn)進(jìn)行深入推理與判斷，進(jìn)而給出準(zhǔn)確回答。相反，它更像是一個(gè)超級(jí)“文字接龍”高手。在訓(xùn)練過(guò)程中，大語(yǔ)言模型會(huì)學(xué)習(xí)海量的文本數(shù)據(jù)，通過(guò)對(duì)這些數(shù)據(jù)的分析和統(tǒng)計(jì)，掌握語(yǔ)言的模式和規(guī)律。當(dāng)接收到用戶(hù)的輸入問(wèn)題時(shí)，它會(huì)依據(jù)之前學(xué)到的模式和規(guī)律，預(yù)測(cè)最有可能的下一個(gè)詞或句子，以此生成回答。“這就好比一個(gè)人雖然閱讀了大量書(shū)籍，但并未真正理解書(shū)中內(nèi)容，只是單純記住了文字的組合方式?！睆堺惸刃蜗蟮乇扔鞯?，當(dāng)遇到一些在訓(xùn)練數(shù)據(jù)中沒(méi)有明確答案，或者需要復(fù)雜推理才能得出結(jié)論的問(wèn)題時(shí)，AI就如同在黑暗中摸索的人，缺乏足夠的信息和判斷力，只能憑借已有的模式和經(jīng)驗(yàn)“胡編亂造”，生成看似合理但實(shí)際錯(cuò)誤的內(nèi)容。

AI訓(xùn)練所使用的數(shù)據(jù)質(zhì)量也是導(dǎo)致幻覺(jué)產(chǎn)生的關(guān)鍵因素。如果訓(xùn)練數(shù)據(jù)本身包含錯(cuò)誤、虛假或帶有偏見(jiàn)的信息，那么AI在學(xué)習(xí)過(guò)程中就如同吸收了“有害養(yǎng)分”，不可避免地將這些錯(cuò)誤信息內(nèi)化。當(dāng)它生成內(nèi)容時(shí)，這些錯(cuò)誤信息就如同隱藏在暗處的“定時(shí)炸彈”，隨時(shí)可能被觸發(fā)，導(dǎo)致幻覺(jué)出現(xiàn)。

此外，模型的架構(gòu)設(shè)計(jì)、訓(xùn)練算法的選擇以及對(duì)模型的優(yōu)化目標(biāo)等，都與AI幻覺(jué)的出現(xiàn)有著千絲萬(wàn)縷的聯(lián)系。比如，一些模型在優(yōu)化過(guò)程中，過(guò)于注重生成內(nèi)容的流暢性和與用戶(hù)問(wèn)題的相關(guān)性，在一定程度上忽視了內(nèi)容的準(zhǔn)確性，這無(wú)疑為AI幻覺(jué)的滋生提供了溫床。

以積極態(tài)度，應(yīng)對(duì)AI局限性

“作為普通用戶(hù)，在享受AI帶來(lái)的便利時(shí)，我們需要保持清醒的頭腦和謹(jǐn)慎的態(tài)度。”張麗娜強(qiáng)調(diào)，首先，不能盲目相信AI的回答，尤其是在涉及重要決策、專(zhuān)業(yè)知識(shí)或關(guān)鍵信息時(shí)，一定要對(duì)AI的回答進(jìn)行多方面核實(shí)和驗(yàn)證。可以通過(guò)查閱多個(gè)權(quán)威信息源、咨詢(xún)專(zhuān)業(yè)人士或參考實(shí)際案例等方式，確認(rèn)信息的準(zhǔn)確性。例如，在使用AI進(jìn)行醫(yī)療咨詢(xún)時(shí)，即便AI給出看似合理的建議，也不能掉以輕心，最好咨詢(xún)專(zhuān)業(yè)醫(yī)生的意見(jiàn)。

其次，向AI提問(wèn)時(shí)，要盡量提供明確、具體的問(wèn)題描述，避免使用模糊、歧義或容易引起誤解的表述。清晰準(zhǔn)確的問(wèn)題能夠幫助AI更好地理解用戶(hù)需求，減少因理解偏差而產(chǎn)生幻覺(jué)的可能性。此外，用戶(hù)還可以積極參與到AI的反饋和改進(jìn)過(guò)程中，當(dāng)發(fā)現(xiàn)AI出現(xiàn)幻覺(jué)或給出錯(cuò)誤答案時(shí)，及時(shí)向相關(guān)平臺(tái)或開(kāi)發(fā)者反饋，為提升AI的性能貢獻(xiàn)自己的力量。

“AI幻覺(jué)是當(dāng)前AI發(fā)展過(guò)程中面臨的一個(gè)嚴(yán)峻挑戰(zhàn)，但這并不意味著我們應(yīng)該對(duì)AI技術(shù)失去信心?！睆堺惸戎赋?，AI在眾多領(lǐng)域展現(xiàn)出的巨大潛力和價(jià)值不可否認(rèn)，它已經(jīng)深刻改變了我們的生活和工作方式，為社會(huì)發(fā)展帶來(lái)新的機(jī)遇和動(dòng)力?！拔覀冃枰旳I的局限性，以積極的態(tài)度和切實(shí)的行動(dòng)來(lái)應(yīng)對(duì)AI幻覺(jué)問(wèn)題?！?/p>

“除了幻覺(jué)，數(shù)據(jù)隱私、安全、倫理等問(wèn)題也是AI時(shí)代需要特別關(guān)注的?！睆堺惸日J(rèn)為，隨著技術(shù)的不斷進(jìn)步和完善，我們有理由相信，AI幻覺(jué)問(wèn)題將逐漸得到緩解。未來(lái)的AI將更加智能、可靠，能夠?yàn)槲覀兲峁└訙?zhǔn)確、有用的服務(wù)。在這個(gè)過(guò)程中，無(wú)論是技術(shù)開(kāi)發(fā)者還是普通用戶(hù)，都需要共同努力，推動(dòng)AI技術(shù)朝著更加健康、可持續(xù)的方向發(fā)展。