約五分鐘

注意力在做什麼What attention is doing

同一個詞的向量，會依當下的上下文被重新加權。這支影片把那個加權講成可以跟著看的過程，對照本週講義的自注意力一節。

若播放器沒有出現，直接開 transformer_attention.mp4。