這是「AI 基礎 8 堂課」的第一堂。整套課的目的,是帶想用 AI、但不是工程師的你,從最根本搞懂 AI 到底怎麼運作——懂了根本,你才用得穩、用得對,不會被它牽著走。建議從第一堂開始、照順序看。
你現在常用的 ChatGPT、Claude、Gemini,其實是同一個家族,家族的名字叫「生成式 AI」(Generative AI)。
「生成」的意思就是——它的本事是當場「生」出新東西給你:寫一段文字、畫一張圖、寫一段程式。這跟「從資料庫翻一個現成答案」的搜尋引擎,是兩回事。
生成式 AI = 會「自己生內容」的 AI。它生得出來,但生得對不對是另一回事——這就是後面要講透的重點。
同一個品牌(像 ChatGPT),背後其實有好幾個不同的「model(模型)」可以選,比如 GPT-4o、GPT-5 這些。
你可以把 model 想成 AI 的「大腦版本」——同一個牌子,有「比較聰明但比較貴、比較慢」的大腦,也有「比較快但比較陽春」的大腦。
因為「用哪個 model」直接決定它聰不聰明、回得快不快、貴不貴。同一個問題,用強的 model 跟弱的 model,答案差很多。免費版通常給你比較陽春的,付費版才解鎖最強的。
先玩個遊戲:我給你一句話的開頭「今天天氣很_」,你會接什麼字?大概是「好」「熱」「冷」對吧。
注意一下:你不是翻書查的,你是憑著從小到大看過、聽過的無數句子,「猜」一個接起來最順的字。AI 做的事,跟你玩這個接龍一模一樣——只是它看過的句子,是全世界幾乎所有的文章,所以它接得超順、超準。
你問它「水幾度會滾?」它回「100 度」。你以為它「知道」,其實它是看過太多文章都這樣寫、接這幾個字最順而已。大部分時候猜得對,但它從頭到尾沒有真的「懂」,只是接龍接得很順。
這裡說「猜」,不代表它亂矇——它是根據看過的海量文字,很有把握地「預測」最可能的那個字。所以常識它幾乎都對;但它腦袋裡沒有真的「水」「火」這些概念,只是學會了這些字常常一起出現。
接龍時遇到不熟的詞,你還是會硬接一個順的對吧?AI 也是。所以它有時把錯的答案講得超有自信——這叫「幻覺」,白話就是一本正經唬爛你。記住:越重要的事,越要自己再查一次。
你打給 AI 的每一句話,在它眼裡會先被「絞碎」成一塊一塊的小碎片,再一塊一塊吞下去。這個碎片,就叫 token。
舉例:你打「我想學 AI」,它不是看成一句話,是看成「我/想/學/AI」這種一小塊一小塊。一個 token 多大?英文大概半個到一個單字,中文大概一個字上下。
為什麼你非懂不可?因為它決定你天天遇到的三件事:
中文比英文更佔位子,桌子塞更快。訣竅:隔一陣子把關鍵資訊「再貼一次」給它,它就不會忘。
NVIDIA 執行長黃仁勳把 token 講成「AI 運算與生成的最小單位」——他常說,AI 在做的事,本質上就是「一個一個 token 生出來」。跟我們前面講的「猜字機器,一個字一個字接」,其實是同一件事。
字數越多 → token 越多(你打的+它回的,全都算)。任務越大、越複雜 → 來回越多 → token 用越多,而且每一次來回的內容會一直累積上去。
所以:
・簡單任務(問一句、答一句)= 少 token = 便宜、不會忘。
・複雜任務(一直來回、丟一大堆資料)= 大量 token = 貴 + 容易撐爆「記憶桌子」,它就開始忘。
👉 想省錢、又想它別忘:把任務「拆小、講重點」,別塞一堆無關的字。
問 AI 一件昨天的新聞,它有時答得頭頭是道、有時整個講錯——為什麼?
因為 AI 的「腦袋」,是用「某個時間點之前的資料」訓練出來的,這個時間點叫知識截止日。截止日之後發生的事,它腦袋裡本來就沒有。
那為什麼有時又答得出最新的事?因為現在很多 AI 多了一個本事:上網查。它「可以」即時搜尋,把查到的最新資料拿來回答你。
它去查了 → 答案是新的、可信。
它沒查、用舊記憶猜 → 問它截止日之後的事,它會用過時資料一本正經唬爛你。
很多介面會顯示「正在搜尋」、或在答案附上來源連結。看到它真的查了、再信;沒看到它查,問最新的事就別全信。
同一個問題問它兩次,答案常常不一樣。不是它壞掉,也不是在敷衍你。
回到最前面:AI 是「猜下一個字」。但它不是每次都挑機率最高那個字,而是從機率高的那幾個裡面,挑一個——這中間就帶了一點隨機。
舉例:接「今天天氣很_」,機率高的有「好/熱/冷」,它這次挑「好」、下次可能挑「熱」,整段話就長得不一樣了。
這個隨機的程度有個名字叫 temperature(溫度):調高=更天馬行空、有創意;調低=更穩定、每次答得差不多。要它穩就調低、要靈感就調高。
打開 ChatGPT(chatgpt.com),對照下面這張畫面,試試這三件事——剛好把今天學的都驗證一遍:
想知道你能用哪個 model?付費方案才會在介面左上角看到選單可以挑;免費版現在是系統自動決定用哪個「大腦」,不會給你選單(第 2 段)。
這堂有看不懂的地方,
直接到學習社群問我,我會回。