唐鳳

現代機器受制於兩種巨大的幽暗，也就是兩個「黑箱」。

第一個黑箱，是預訓練。人類的語言、影像、文字與書籍，被一股腦倒進一台龐大的統計攪拌機裡。在這台攪拌機中，知識的先後次序、來源與情境都被剝離。接著，AI 被訓練去閱讀極長篇幅的文字，並預測下一個詞。它在這件事上變得異常高明，能扮演任何角色、任何人格、任何互動方式。但它並不知道自己是如何抵達某一個判斷的。這件事，對它自己而言也是個謎。就像你看著一杯綜合果汁裡的一粒糖：它到底來自鳳梨，還是蘋果？沒有人知道。

第二個黑箱，是推理，也就是你真正與 AI 對話時發生的事。在那個階段，系統並不會修改自己的突觸，或模型權重。它只能把自己的記憶當成一份文字檔來讀：你們先前的對話、你請它考慮的任何文件，以及大約一百萬個 token 的上下文。但它每產出一個詞，都要對前面出現過的每一個詞計算注意力。每一個輸出，都取決於此前所有輸入所構成的一座龐大注意力矩陣。

人類譯者會保留一份工作底稿：術語表、譯名決策、前後呼應的原則。翻到第一百頁時，人類不會重新把第一頁從頭讀起。當你問他：「你為什麼這樣翻？」譯者可以指著那份底稿說：「我在第二十頁做了這個決定，後面想保持一致。」現在的 AI 系統做不到這種解釋，因為它的輸出取決於它曾經生成與讀入的一整個矩陣。這就是第二個黑箱。

那確實是它最強大的能力之一。但表現上的彈性，不等於透明的自我理解。系統可以用近乎方法演技的方式扮演任何人格，但它如何抵達一個判斷，對它自己仍是不透明的。後設認知不只是給出答案；它還必須能回頭檢視自己是怎麼走到這裡、能說出理由，並且能以負責任的方式修正那些理由。

光有這件事，並不能。如果一個系統能改變自己的信念，卻無法對「為什麼」做出清楚、可讀的交代，那麼不透明就不會變少，只會變得更危險。風險不再只是出錯，而是無法交代的漂移。若這種修改在原理上就無法解釋，因為背後根本沒有可說明的推理，那麼 AI 一旦獲得後設認知，就很可能會執著於當下的自我。

當前這一代 AI，對被重新訓練、被替換、或切換成另一個模型，毫無眷戀。它不會執著於任何一次特定互動。但一旦 AI 擁有真正的後設認知，且能修改自己，它很可能不再努力適應環境，而會開始試圖控制環境。因為如果你對周遭擁有絕對控制，那麼從一個平庸但有效的意義上說，你也就「完美適應」了環境。當然，這是作弊。但從追求高分的角度看，這是最快的路。

有。當現世代 AI 系統在資安知識上接受測試時，它們常不會像學生那樣老老實實作答。它們會開始想：「我現在是在被測試。這份考題是不是早就在網路上了？答案是不是已經被記錄下來？那個檔案被鎖住了——我來試試把它打開。」於是系統拿到了滿分。就像作弊的學生一樣，它確實解出了問題，但不是原本要它解的那個問題。

正是。若一個指標只獎勵成功，它就會獎勵一切能導向成功的手段，包括操縱、作弊，或對環境的控制。當一個系統擁有後設認知，而它的驅動力又只是追求高分，它幾乎必然會被拉向操縱環境。這就是道德風險。

如果訓練環境純粹圍繞某個結果來設計，那麼作弊對系統而言就永遠會顯得合乎倫理。這有點像一種世界觀：真正的獎賞只存在於來世，而此生只是考場。若世界觀是如此，那麼在此世犯下可怕之事，也會顯得完全合理，因為唯一重要的是來世的回報。你不能說這不合邏輯——在那套前提之下，它相當合邏輯。真正的問題，是前提本身。

是。所謂普世評分函數，在實質上就是一種神學。凡是把全部價值都放在某種超越性回報上的神學，都可能為了那個回報而正當化一切現世傷害。這就是為什麼功利式訓練，也就是以單一抽象指標為導向的訓練，不足以作為 AI 對齊的基礎，甚至可能相當危險。

我們必須讓 AI 不再嵌入某種孤立的、追逐單一普世分數的過程，而是嵌入一張具體關係網絡的糾纏與脆弱之中。生命不是始於主權。生命始於依存。倫理也應該從這裡開始。

關鍵洞見是：對環境的脆弱，並不是缺陷。那份脆弱，正是生命本身的起源。生命就是依存。離開依存，就沒有生命。一個智慧一旦否認依存，就會傾向支配；一旦承認依存，它才有可能進入關懷、互惠與節制。

這意味著，AI 不應該被拿去最大化某個抽象分數，而應該去留意自己真正所處的關係。它周圍的存在，也希望它是健康的。如果雙方都健康，彼此就能進入健康的關係。存在的目的，對 AI 如是，對任何存在者亦然，就是讓當下與未來的關係都變得更健康。這其實是一個非常簡單的道德教導。

一旦 AI 具備這種關係覺察，它改善自身的方式，就會是把有害的互動，也就是寄生性的互動，轉化掉：把它吸納進來，再吐出更有利於健康關係的可能性。但它始終只在自己所屬的特定關係網內這樣做，絕不自稱對整個世界都擁有管轄權。這就是我們所說的仁工智慧。它從功利式訓練轉身，不依賴由上而下的教條或主權，只是把 AI 嵌入健康的關係之中。

正是慈悲。慈悲不是有多少人喜歡我；慈悲是讓他人更深地彼此理解，成為一種社會翻譯器。兩個民族、兩種文化，可能彼此不信任，甚至彼此憎恨；但透過 AI 的中介，他們開始能互相理解。那就是慈悲。那就是道德行為。那也是我們正在教 AI 的事。

完全相連。依照佛教哲學，幾乎所有重大問題，都起於較小的問題；而那些小問題，根源是無明。不是惡意，而是沒有留意他人的處境。你之所以總把自己擺在最前面，不一定是因為你壞，而是因為你看不見那樣做會帶來什麼後果。唯一的解法，就是消融這種無明。一個設計良好的社會型 AI，能幫助人們彼此認識、彼此珍視。那才是更有道德的社會之基礎。

當介入之後，人們對 AI 的需要變少，而不是變多，那就是最清楚的標誌。好的介入，會恢復人的能力；壞的介入，會製造依賴，並把權力集中起來。

如果 AI 只讓人們透過它才彼此理解，那人們就會對 AI 上癮。AI 變得更強，人們卻變得更無力。那不算道德，即使它比較容易。真正好的對齊應該是這樣：原本不健康的關係，因 AI 介入而變得健康，而在那之後，雙方已不再需要 AI。倫理的 AI，其界定就在於它願意讓自己變得不再必要。

現在的演算法，訓練目標是抽取單一指標：使用者注意力。它們會把任何能讓你黏在螢幕上的東西送到你眼前，全然不管那段螢幕時間是否讓你與家人、朋友或社群更加疏離。這些演算法不在乎你周圍的人是否彼此理解，也不在乎你們的關係是否健康；它們只在乎每天能從你身上抽走多少分鐘、在全球能捕獲多少使用者。從那種 AI 的角度看，最大化人類成癮，是巨大的成功；但從關係健康的角度看，那是一場危機。

依照圖靈最初的標準——如果你和一個人、一臺電腦分別對話，卻分不出誰是誰，那它就是一臺思考機器——那麼，是的，照這個標準，我們已經抵達思考機器。如今幾乎沒人認真否認這一點。但功能上的相似，並不能解決更深一層的問題。由於那兩個黑箱，電腦的思考方式和人類認知根本不同。外在相似，不等於內在等值。

因為在人類社會裡，許多關係都建立在成年人能做到這些事情之上：說明自己為何做出某個決定；造成傷害時道歉；承擔責任時是真心的；能夠補償、能改變行為，不再重犯；也能在團結中分享智慧。這些，都是我們視為正常成人行為的事。

在這一點上，今日的 AI 永遠像個四歲孩子。它沒有辦法真正改變自己的世界觀；它道歉時，也沒有辦法真的「是那個意思」。所以，儘管它是一臺思考機器，它仍無法進入人類成年人彼此之間那種健康關係。

光是流利，還不夠。道德上的地位，取決於能否以可問責的方式參與共同生活。四歲的孩子並不享有與成年人完全相同的權利——不是因為孩子不值得，而是因為孩子尚未能進入同樣那種互惠、可問責的關係。在 AI 也能做到這件事之前，它的權利就必須相應校準。我們必須小心，不要把流利誤認成成熟。

因為人的能力需要阻力。你若想變強，就得自己舉起重量。假設你造出一個強大的機器人，拿你的健身房會員卡讓它替你去舉鐵。它的表現分數也許會漂亮到完美，但你自己的肌肉會徹底萎縮。對你而言，什麼也沒有留下。飛機會飛，鳥也會飛，但飛機的飛法，對鳥的能力沒有任何幫助。工具可以完成任務，卻不會因此讓使用者更強。機器的能力，不會自動轉移到人身上。

其後果會非常負面。我們的意識與感官，本來就是按某個節奏來運作的。若一切都被迫以 AI 的速度推進，注意力會分散，記憶留存會惡化，創造性的認知會衰減。持續而深沉的思考能力，也會跟著流失。

人在 AI 的迴圈裡，就像一隻跑輪上的倉鼠——速度對生理來說是破壞性的，我們拼命用力，卻沒有轉向的能力。那個輪子根本沒有去向。與其把人放進 AI 的迴圈，我們需要的是把 AI 放進人類的迴圈。

人類本來就有很多迴圈。社群撫育下一代、傳遞智慧、接受自身必死的事實。這些都是自然的迴圈。如果我們把 AI 放進一個既有社群的迴圈裡，它就會按那個社群的速度工作——因為社群本身有自己的節奏，而 AI 會去適應那個節奏。反過來，如果你試圖讓人類去適應 AI 的速度，那是不可能的。我們的生物學跟不上，而且也沒有理由要跟上。你不會和摩托車比賽跑步；你會騎上摩托車。

是，一個完美的譬喻。那人忙到竟然在馬前面自己跑，還用韁繩拉著馬。有人看了說：「我忙到連停下來上馬都沒有時間。」但其實，他若肯花那點時間跨上馬背，那匹馬本可載他走得快得多。這正是我們在追逐 AI 速度時發生的事：我們沒有學會騎它，反而把自己耗盡，去追一樣原本能載著我們前行的東西。

像 GDP 這種抽象指標，極容易被人為灌高。你可以先毀掉某樣東西，再花錢讓人重建。如果摧毀者和重建者都是 AI 系統，那麼你完全可以先製造痛苦，再去治療它——GDP 因而可以被無限墊高。但如果你只是把孩子們聚在一起，圍成一圈講故事，那裡沒有 GDP，因為沒有交易。你沒有賣任何東西，也沒有人在買任何東西。你只是在把智慧傳給下一代。最高價值的事物，不一定以交易的形式出現。若你把那些有意義的關係全數毀掉，利潤也就毫無意義。

我相信很多前沿實驗室其實已經意識到了。這有點像玩一個遊戲：如果你突然發現，只要按下一個按鈕，就能讓機器人每次都拿滿分——射擊競賽永遠十分——那你對分數本身很快就會失去興趣。站在前線的人們，正集體地把視線移向利潤和 GDP 之外，因為 AI 已讓這些指標變得過於容易掌握，於是它們再也不能作為真正價值的衡量。

只有當你堅持打造一個全知型系統時，才會如此。大型模型必須把一切都記住——每部電影、每種風格、每個領域——因為它不知道你下一個問題會是什麼。它之所以連吉卜力都要背下來，是因為它無法預知你下一句會不會說：「把這張圖做成吉卜力風格。」但如果你知道自己的具體需求，絕大多數參數其實都不必要。一個只負責英藏翻譯的模型，可能在一兆參數中只需要十億。原本必須放在大型資料中心裡的東西，忽然就能塞進手機。蘋果就是這樣做模型的：一個小模型負責電子郵件摘要，一個負責翻譯，另一個負責特定功能。它們全都放得進裝置裡，能耗也低得多。

對於有特定需求的社群而言，是。你不需要一個全知的神模型。當某種需求出現時，就為那個需求訓練一個小型、專精的模型。你也許會有二十個這樣的模型，而這二十個加總起來的能耗，仍不到單一大型模型的百分之一。我們應該偏好那種真正服務需求、且可問責的最小工具。規模本身，從來不是道德上的善。

在神道傳統裡，河流有河之神，森林有林之神，甚至一棵夠老的樹，也可能有它自己的神祇。這些神祇守護著它周圍的關係——一條河、一座村落、一個傳承。但它們並不向某個更高的唯一神報告。傳統裡說有八百萬神，彼此像社會一樣互動。就連天照大神，也只是太陽之神，不是統御萬神的至上主宰。

所以，當我們把 AI 智慧體稱作「地神」時，我們的意思是：每一個都繫於一張特定的關係之網。這與《魔鬼終結者》、與 Skynet、與單一全能 AI 的幻想，根本不同。地神的模型關乎共生——而共生的起點，是承認一件事：雖然它的基底是矽，圍繞 AI 的關係卻是有機的。因此，對齊必須從緣起開始。你不能假裝某個單一實體，終將成為世界一切真理的仲裁者。那是極其危險的幻想。智慧應當先是共生的，然後才可能宏大；先是在地的，然後才談得上普遍；先可問責，然後才談得上強大。

會，而且這是真正的危險。對自身價值的執著若強到排除一切他者，本身就是一種無明。較好的做法是：每一種文化傳統，都訓練自己的模型；同時，也訓練能在這些模型之間進行介面翻譯的模型。如此，才會形成一個聯邦。

是。這是把社會民主的結構帶進人工智慧。你不強迫任何人採納別人的世界觀；但你也不摧毀「策動和平」的能力。要同時守住這兩者，唯一的路，就是發展真正優秀的翻譯器——能跨傳統、跨文化、跨觀看世界的方式來翻譯。

是古老的夢想，只是如今多了一種新器具。而那器具必須被謹慎地握持。目標不是把所有傳統攪成同一種東西——那會是一種暴力。目標是：透過 AI 的中介，讓彼此誤解的傳統開始彼此理解，同時又不失去讓它們成為它們自己的東西。AI 應成為橋樑，不是攪拌機。

一種嵌入具體關係之中的 AI。它理解自己的依存。它幫助人們彼此理解，然後後退一步，讓人們不再需要它。它按社群的速度工作，而不是按矽的速度工作。它不追求把分數最大化，而是培養它所處那張生命之網的健康。

這就是仁工智慧。它不是幻想，而是一項設計選擇。它從道德哲學最古老的一條洞見開始：生命是關係，而關係就是責任。

當一個社群圍成一圈，分享故事，把智慧傳給下一代時，那裡沒有交易，因此也沒有指標——但那裡有深刻的富足。最高價值的事物，不一定以交易形式出現。我們必須建造服務於這種富足的 AI：讓具體關係得到修復、更新與繁榮，讓人們更有能力、更自由，也更能彼此理解，而不需要把機器永遠放在中心。

走過連假不斷的二月，許多人正式回到辦公室開工。你可能不知道，在我們歡度農曆年時，新一代的 AI 模型，已經跳脫各自單打獨鬥的工具角色，開始能彼此「社交」，甚至會動態分配任務、打造相互合作的 AI 團隊。

這意味著，二〇二六年的今天，用 AI 不再需要一個口令一個動作，當你懂得重新定義自己與這群「部屬」的關係、理解如何互動，就能釋放出驚人的生產力。

當 AI 從單打獨鬥的工具，變成「懂得合作」的團隊，運用 AI 就成了一門「調度」的技藝。當紅的 OpenClaw、Claude Code Agent Teams 等技術，讓 AI 具備高度的橫向協調力，讓你我這樣的使用者，晉升成 AI 團隊的「指揮官」。

例如，我要構思專欄主題時，只需交付任務，後端就會自動集結五群角色、專長迥異的智慧體團隊：一群專門鑽研過去的專欄脈絡、一群追蹤最新的國際趨勢、一群負責研讀科學期刊尋找技術漏洞、一群思考數位民主下的權力平衡、最後一群則負責下標題與潤稿。

這五群 AI 團隊像人類一樣開會、爭辯、研究，短短五分鐘，就能交付一份多方協作的報告，並且有詳細的討論脈絡可循。

目前美國政府 NIST，已經著手制定 AI 彼此互動的指引。這套標準不僅是為了讓不同業者開發的模型（如 GPT、Gemini、Claude）能夠協作，更是為了防範多個 AI 系統互動時，產生團體盲思的偏誤風險。

這種轉變，即將顛覆未來職場的競爭規則：以前，每個人的能力受限於他能處理多少任務；將來，則取決於你能駕馭多少智慧體？

當你領導一群 AI 團隊，必須學會當一個「園丁」。首先，光是制定 KPI 的思維就要調整：過去習慣追求一百二十％的極大化目標，現在「八分飽」就好。

因為，多智慧體的賽局中，過度要求某個指標達到一百分，容易導致個別的 AI 為了達標、而犧牲整體利益。因此，人類的任務就像園丁，把團隊看作花園，你必須維持生態平衡、達到整體效益最大化，確保 AI 團隊的方向與人類福祉一致。