以「摘要」為例，我們要的是「不編故事」。從新聞生成標題，不該寫出原文沒有的內容。研究發現，當模型在「亂講」時，它的思路軌跡，和它在「忠實引用」時不同。若模型在你電腦上跑，你就能觀測它何時開始幻覺、為什麼會幻覺。於是更多人會投入研究：什麼叫模型的幻覺？什麼叫有害意圖？什麼叫「謀劃」？這就是水平賽跑——把檢視工具交到更多人手上。
以「摘要」為例，我們要的是「不編故事」。從新聞生成標題，不該寫出原文沒有的內容。研究發現，當模型在「亂講」時，它的思路軌跡，和它在「忠實引用」時不同。若模型在你電腦上跑，你就能觀測它何時開始幻覺、為什麼會幻覺。於是更多人會投入研究：什麼叫模型的幻覺？什麼叫有害意圖？什麼叫「謀劃」？這就是水平賽跑——把檢視工具交到更多人手上。