這篇文章內文是和大家分享我曾經遇過的 AI Hallucination。

還記得 OpenAI ChatGPT 剛問世的時候嗎，那時正好是 2022 年的月底，一個改變了人類現代生活的 LLM 誕生了。距今到現在也有快 4 年的時間了，時間過的真快，現在回想起來也發生了不少改變與演進。我們看到它從一個簡單的聊天機器人，慢慢的，逐漸演變成現代人生活中不可或缺的工具。在現代，它承擔了許多角色，像是作業小幫手（？）、程式開發工具，甚至是今天晚餐吃什麼的幫手（？）
我覺得蠻不可思議的是他的演進速度，你能想像他在剛出世時，連個簡單的小學算術運算都能回答錯誤，到現在幾乎有大部分的人都可以依靠它來幫助我們學習，擔任小科目上的學習老師。甚至最近還傳出破解數學千禧難題......

好，anyway，有點離題了......
我還記得當初我打開 ChatGPT 時，我問了他一些簡單的問題，像是「x 除以 x 等於 1，是否絕對正確？」、「你是否知道歌手 XXX 的 XXX 歌曲？歌詞是什麼？」的這種問題。我記得當時這兩個問題都沒有回答得很好。第一，他沒回答好的原因是出在它的回覆裡，並沒有排除掉 x = 0 的這種例外情況，直接回覆這是正確的；第二，它產生了 Hallucination（甚至那時候幻覺這個詞還沒這麼流行），開始在亂掰歌詞，現在想也可能是因為當時這首歌並不是流行歌，所以沒有回答得這麼好。
當時我大概用了大概半個小時吧（那個時候要生成回覆真的比現在還慢），我就認為這個工具沒辦法很好的回答已知正確答案的問題，認為它還不夠聰明並把它關掉了。

再分享一個我曾經跟 GPT 聊演算法相關的問題，當時我問他一個圖論上的問題，由於這是一個會牽扯到很多其他性質需要先證明清楚，才能回答正確的演算法問題，所以中間的證明過程必須要經過幾次驗證才行。我記得我們討論到一個網路上沒有相關討論文章的子問題，這個子問題我多少知道正確結論應該要是長什麼樣子，但是 AI 給出的回覆跟我想的有出入，甚至很理直氣壯的說「不，我們不應忽視在這邊可能會產生不只一種可能性什麼什麼的」（實際上正確答案其實就是只有我所說的那種可能性，只是那時後還沒證明給它看而已），聽起來也許很抽象就是了（相信我，你們應該也不會想聽我細說）。

但我想表達的是，如果你是在研究上想要跟 AI 討論，我覺得當然可以，也能加快你進度推進的速度。但是也要像上哲所說的，進行「批判思考」：AI 所回給我的資訊是否為正確的？而且不要完全信任它給你的答案。這邊不是要你們不相信它所說的話，而是說答案是由你決定的，也是你該要負責的。而「Domain Knowledge」的重要性在這邊就會出現了，他是幫助你判別 AI Hallucination 是否產生的重要工具，若沒有那些圖論上的 Domain Knowledge，一般人也會因為 AI 回覆的相當有自信，而信以為真。

最後的小結，AI 可以幫你做事變快、幫你省去一些試錯時間，但它的好處並不包括幫你回答正確答案，你才是那個決定正確答案的主人。所以保持學習！繼續加油！（也提醒我自己）

我的分享就到這邊，感謝看到這邊的你們！