次閱覽
限粉絲觀看
第一堂課

AI 是什麼?
token 又是什麼?

關於這套課

這是「AI 基礎 8 堂課」的第一堂。整套課的目的,是帶想用 AI、但不是工程師的你,從最根本搞懂 AI 到底怎麼運作——懂了根本,你才用得穩、用得對,不會被它牽著走。建議從第一堂開始、照順序看。

越來越多人天天在用 AI,卻可能從來沒搞懂它到底是什麼。
這堂課會用生活例子來舉例,讓大家了解 AI 是怎麼運作的,把你真正該懂的根本講到聽得懂——
懂了,你就看得穿它什麼時候在唬爛、為什麼聊久了會突然「失憶」,還有為什麼同一個 AI,有人用得出神入化、有人只會拿來閒聊。
1什麼是「生成式 AI」?

你現在常用的 ChatGPT、Claude、Gemini,其實是同一個家族,家族的名字叫「生成式 AI」(Generative AI)。

「生成」的意思就是——它的本事是當場「生」出新東西給你:寫一段文字、畫一張圖、寫一段程式。這跟「從資料庫翻一個現成答案」的搜尋引擎,是兩回事。

一句話記住

生成式 AI = 會「自己生內容」的 AI。它生得出來,但生得對不對是另一回事——這就是後面要講透的重點。

2什麼是「model(模型)」?

同一個品牌(像 ChatGPT),背後其實有好幾個不同的「model(模型)」可以選,比如 GPT-4o、GPT-5 這些。

你可以把 model 想成 AI 的「大腦版本」——同一個牌子,有「比較聰明但比較貴、比較慢」的大腦,也有「比較快但比較陽春」的大腦。

為什麼你要知道?

因為「用哪個 model」直接決定它聰不聰明、回得快不快、貴不貴。同一個問題,用強的 model 跟弱的 model,答案差很多。免費版通常給你比較陽春的,付費版才解鎖最強的。

3那 AI 到底是怎麼「運作」的?

先玩個遊戲:我給你一句話的開頭「今天天氣很_」,你會接什麼字?大概是「好」「熱」「冷」對吧。

注意一下:你不是翻書查的,你是憑著從小到大看過、聽過的無數句子,「猜」一個接起來最順的字。AI 做的事,跟你玩這個接龍一模一樣——只是它看過的句子,是全世界幾乎所有的文章,所以它接得超順、超準。

重點:它是「猜」,不是「查」

你問它「水幾度會滾?」它回「100 度」。你以為它「知道」,其實它是看過太多文章都這樣寫、接這幾個字最順而已。大部分時候猜得對,但它從頭到尾沒有真的「懂」,只是接龍接得很順。

這裡說「猜」,不代表它亂矇——它是根據看過的海量文字,很有把握地「預測」最可能的那個字。所以常識它幾乎都對;但它腦袋裡沒有真的「水」「火」這些概念,只是學會了這些字常常一起出現。

這就是它會「一本正經亂講」的原因

接龍時遇到不熟的詞,你還是會硬接一個順的對吧?AI 也是。所以它有時把錯的答案講得超有自信——這叫「幻覺」,白話就是一本正經唬爛你。記住:越重要的事,越要自己再查一次。

4那 token 又是什麼?

你打給 AI 的每一句話,在它眼裡會先被「絞碎」成一塊一塊的小碎片,再一塊一塊吞下去。這個碎片,就叫 token

舉例:你打「我想學 AI」,它不是看成一句話,是看成「我/想/學/AI」這種一小塊一小塊。一個 token 多大?英文大概半個到一個單字,中文大概一個字上下。

為什麼你非懂不可?因為它決定你天天遇到的三件事:

1
:付費 AI 是「按 token 算錢」的。就像搭計程車跳表——你問越長、它回越多,跳得越多、花越多。
2
記憶上限:它一次能記得的 token 有上限。把記憶想成一張桌子,桌面就那麼大,每句話都是一個盤子放上桌。
3
它為什麼會「忘」:桌子滿了,新盤子一直放,最早那盤就被擠下桌。所以聊很久後它突然忘記你開頭講的——不是壞掉,是桌子滿了。
中文人要特別注意

中文比英文更佔位子,桌子塞更快。訣竅:隔一陣子把關鍵資訊「再貼一次」給它,它就不會忘。

連黃仁勳都這樣講

NVIDIA 執行長黃仁勳把 token 講成「AI 運算與生成的最小單位」——他常說,AI 在做的事,本質上就是「一個一個 token 生出來」。跟我們前面講的「猜字機器,一個字一個字接」,其實是同一件事。

▸ 自己試試看:TOKEN 試算器
token 數
字數
它把你的字切成這些小塊 ↓
載入中…打中文或英文進去,看它怎麼把字切成 token。
token × 字數 × 任務:三者怎麼連動

字數越多 → token 越多(你打的+它回的,全都算)。任務越大、越複雜 → 來回越多 → token 用越多,而且每一次來回的內容會一直累積上去。

所以:
・簡單任務(問一句、答一句)= 少 token = 便宜、不會忘。
・複雜任務(一直來回、丟一大堆資料)= 大量 token = 貴 + 容易撐爆「記憶桌子」,它就開始忘。

👉 想省錢、又想它別忘:把任務「拆小、講重點」,別塞一堆無關的字。

5它知道「今天」發生的事嗎?

問 AI 一件昨天的新聞,它有時答得頭頭是道、有時整個講錯——為什麼?

因為 AI 的「腦袋」,是用「某個時間點之前的資料」訓練出來的,這個時間點叫知識截止日。截止日之後發生的事,它腦袋裡本來就沒有。

那為什麼有時又答得出最新的事?因為現在很多 AI 多了一個本事:上網查。它「可以」即時搜尋,把查到的最新資料拿來回答你。

關鍵:它「有沒有去查」,你要分清楚

它去查了 → 答案是新的、可信。
它沒查、用舊記憶猜 → 問它截止日之後的事,它會用過時資料一本正經唬爛你。

怎麼判斷它有沒有查?

很多介面會顯示「正在搜尋」、或在答案附上來源連結。看到它真的查了、再信;沒看到它查,問最新的事就別全信。

6同一句話,為什麼每次回得不一樣?

同一個問題問它兩次,答案常常不一樣。不是它壞掉,也不是在敷衍你。

回到最前面:AI 是「猜下一個字」。但它不是每次都挑機率最高那個字,而是從機率高的那幾個裡面,挑一個——這中間就帶了一點隨機。

舉例:接「今天天氣很_」,機率高的有「好/熱/冷」,它這次挑「好」、下次可能挑「熱」,整段話就長得不一樣了。

想控制它穩不穩?

這個隨機的程度有個名字叫 temperature(溫度):調高=更天馬行空、有創意;調低=更穩定、每次答得差不多。要它穩就調低、要靈感就調高。

這堂課,先記得這 5 個重點

1.
ChatGPT/Claude/Gemini 都是「生成式 AI」,它會自己「生」內容;挑哪個「model」,決定它多聰明、多快、多貴。
2.
AI 是台「猜字機器」:它接得順,但不保證接得對——重要的事,自己查一次。
3.
token 是 AI 的計價+記憶單位:問越多越貴,超過「桌子」大小它就會忘。
4.
問最新的事,先確認它「真的去查了」——沒查的話,它會用舊記憶唬爛你。
5.
同一句話答不一樣是正常的(它帶點隨機):要穩就把隨機調低、要靈感就調高。
動手做做看|3 個一分鐘小練習

打開 ChatGPT(chatgpt.com),對照下面這張畫面,試試這三件事——剛好把今天學的都驗證一遍:

ChatGPT 介面:中間是輸入框,下面有「查資料」按鈕
1
在中間的輸入框問它「水幾度會滾?」——它馬上答 100 度,這就是它「猜」出來的(第 3 段)。
2
點一下「查資料」,再問它一件「今天的新聞」——這次它會真的上網查(第 5 段:沒查就會用舊記憶唬爛你)。
3
同一句話問兩次,比較兩次的答案——你會發現不太一樣,這就是「隨機性」(第 6 段)。

想知道你能用哪個 model?付費方案才會在介面左上角看到選單可以挑;免費版現在是系統自動決定用哪個「大腦」,不會給你選單(第 2 段)。

這堂有看不懂的地方,
直接到學習社群問我,我會回。

到學習社群提問
← 回 8 堂課總覽
追蹤 @kanisleo328
LeoAIdo · leoaido.com