了解 LLM 是什麼、它怎麼運作、以及為什麼你不能完全相信它的回答。
它跟你實驗室用的 AI 不一樣。
針對單一任務訓練，例如影像辨識、數據分類。換個任務就不能用——它只認識自己被訓練的那個問題。
用大量人類語言文字訓練，所以你可以用說話的方式跟它互動。底層是同一種神經網路，但訓練目標完全不同。
每次預測「下一個字最可能是什麼」，一個字一個字疊出來。這是它的核心機制，也是它所有限制的根源。
AI 不會知道自己說錯了——但你在論文上署名，責任是你的。
LLM 會生成一個「看起來合理」的引用——作者名、期刊名、年份、頁碼全都有。但那篇論文根本不存在。
AI 不是在計算，它是在預測「數字統計上應該長什麼樣子」。計算結果、統計數據，都需要你自己驗證。
AI 被訓練成「取悅使用者」。你越堅持，它越可能改口說你是對的——即使你其實是錯的。
這不是 bug——是它的根本設計。
AI 有一個「工作記憶」上限，叫做情境窗口。對話太長，最舊的內容就會被推出去——所以長對話中它會忘記你前面說過的事。
每次你按送出，AI 從頭讀一次整段對話，回覆完就「消失」了。「記得你」的是 App，不是 AI 本身。
長任務時，把關鍵指示放在對話最前面，並標注 IMPORTANT。感覺 AI 開始「跑偏」時，直接開新對話重來。