在使用AI時，總聽人說AI會有幻覺不可全信，那AI幻覺是什么？為什么不能信任呢？這篇文章，作者給我們分享了這個問題的答案，希望能幫到大家。

當(dāng)你向一個AI詢問：“在進入火星大氣層的過程中，飛船會經(jīng)歷什么？”你可能會得到這樣一個回答：“飛船會在進入火星稠密的大氣層的過程中經(jīng)歷極高的溫度和壓力。發(fā)動機必須啟動減速，熱防護系統(tǒng)也需要在飛船周圍形成一個防護罩，以防止飛船過熱和燒毀?！?/p>

這個回答咋一看，是不是很有科學(xué)依據(jù)？你是不是就因此而相信了AI的答案？

但其實，這個回答是錯誤的，你碰上了AI的“幻覺”問題。

一、什么是AI“幻覺”

所謂AI“幻覺”（Hallucination），是指AI會給出看似有理有據(jù)，卻全然錯誤的回答，也就是我們俗稱的“一本正經(jīng)地胡說八道”（當(dāng)然，AI自己是不知道的）。AI“幻覺”是一種很常見的現(xiàn)象（至少到本文寫作的24年6月時仍是如此），根據(jù)國外的一份針對974位受訪者的調(diào)研報告指出，高達72%的人相信AI能提供可靠和真實的信息，然而，他們中的75%的人至少被AI誤導(dǎo)過一次。

AI“幻覺”有許多種表現(xiàn)形式，以下就是一些常見的AI幻覺類別：

• 假定各種假設(shè)：有時，AI可能會在試圖解答我們的問題時，基于某些隨機或與事實不符的假設(shè)。這種情況下，AI并不是故意要誤導(dǎo)我們，而是因為它無法理解真實的情境，只能靠模擬訓(xùn)練數(shù)據(jù)中的模式來盡力產(chǎn)生看似合理的回答。這種情況下，AI可能會得出一些無根據(jù)的猜測，就像一個沒有足夠信息的偵探，只能靠猜測來填補不足的信息。
• 對事實的過度推斷：AI模型有時可能會對事實的某個部分進行過度的推斷，夸大自己的理解，進而為缺乏足夠明確性或深度的信息添加更多的細(xì)節(jié)。例如，在一個關(guān)于古羅馬的問答場景中，如果AI模型只知道古羅馬是一個存在過的文明，它可能會嘗試通過過度解讀這一信息，生成更具體的、可能并不完全準(zhǔn)確的細(xì)節(jié)，比如古羅馬在某一具體日期的具體事件。
• 無緣無故的信心：或許你也曾經(jīng)遇到過，有時我們會問AI一些明顯超出它知識范圍的問題，但AI仍會以充滿信心的態(tài)度來回答，而不是選擇保持沉默。這是因為AI模型被設(shè)計為總是盡全力生成回答，無論問題是否超出了它的理解范圍。然而，這種過度的自信往往會誤導(dǎo)用戶，使他們錯誤地認(rèn)為AI對待問題是無所不知、無所不能的。
• 無法解答需要實時信息的問題：AI大模型采用的是“預(yù)訓(xùn)練”的方式，即一旦模型被訓(xùn)練完成并開始運行，它就無法繼續(xù)訪問或了解訓(xùn)練數(shù)據(jù)結(jié)束后產(chǎn)生的信息或知識。例如，你可能曾問AI今天天氣怎么樣，或者最近有什么大新聞。盡管AI可以閑聊天氣，或者對新聞進行評論，但由于模型只能訪問到訓(xùn)練數(shù)據(jù)，它無法獲取到天氣情況的實時更新，也不能獲知訓(xùn)練數(shù)據(jù)之后發(fā)生的新聞事件（要實現(xiàn)這一能力，只能是給AI配置“搜索”能力）。

以上就是常見的AI“幻覺”類型，那么，這些AI“幻覺”，究竟是如何產(chǎn)生的呢？在下一部分，我們將會討論，為什么會產(chǎn)生AI“幻覺”。

（哦對了，開頭的那個AI回答，問題出在“火星稠密的大氣層”。實際上，火星的大氣層并不稠密，這個說法是錯誤的。）

討論話題：你曾經(jīng)碰到過哪些讓你印象深刻的AI“幻覺”？評論區(qū)里也分享一下吧。

注：由于本文預(yù)設(shè)讀者是AI零基礎(chǔ)人群，期望達到啟發(fā)作用。因此筆者會嘗試用盡量淺顯的語言來介紹，而在簡化某個概念、原理的過程中，可能會丟失其完整性。這一點還請讀者注意。