ELI5 · 互動講義
看得懂的八件事
每一頁都是圖多字少，而且可以動手轉。用手機或電腦開都行，不需要安裝任何東西。
文字怎麼變成數字
01
每個字一個號碼
Unicode：亂碼是怎麼來的，號碼跟位元組差在哪
02
用一行字去找一堆字
正規表達式：怎麼寫、常踩的坑、為什麼數不了括號
語料與斷詞
03
新詞為什麼越來越少
Heaps / Herdan 定律：詞型如何隨詞例成長，TTR 為何不能亂比
04
把常一起出現的黏起來
BPE：一條合併規則怎麼自己長出詞尾，又為何不是構詞分析
05
切字積木三兄弟
BPE、WordPiece、Unigram：挑積木的規則不一樣
06
拿《愛麗絲》真的算一次
同一本小說，三個方法各學 1,500 塊積木
07
BPE 之前先立柵欄
Pre-tokenization 與多語言：泰文和印地文是怎麼被切壞的
模型怎麼被評分
08
猜下一個字時有多猶豫
Perplexity：怎麼算、零機率為何會爆炸、資料稀疏是什麼