唐鳳

第二個黑箱,是推理,也就是你真正與 AI 對話時發生的事。在那個階段,系統並不會修改自己的突觸,或模型權重。它只能把自己的記憶當成一份文字檔來讀:你們先前的對話、你請它考慮的任何文件,以及大約一百萬個 token 的上下文。但它每產出一個詞,都要對前面出現過的每一個詞計算注意力。每一個輸出,都取決於此前所有輸入所構成的一座龐大注意力矩陣。