非常感謝你,唐鳳。這次對談太棒了。
那我們得先討論「什麼是意識」。
太精彩了。也就是不要預設用哲學來決定,而是讓民主來裁定「何時算有意識」。
最後一個我每位來賓都會問的問題:要讓你相信 AI「有意識/自我覺察」,需要什麼?
我們《大西洋月刊》最珍貴的改址通知之一,來自蔣宋美齡女士。她寫信說:「我搬家了,請把《大西洋》寄到我在臺灣的新家。」
回到臺灣的風險。你幫助一個面臨中國威脅的國家變得更強;而你工作的產業(半導體與科技)正是這場博弈的樞紐——是否攻台,部分取決於台積電與臺灣半導體的戰略地位。你認為兩岸會發生什麼?
所以你其實沒有「特別」被 DeepSeek 震撼?
DeepSeek 發表時,你的情緒反應是什麼?一方面它實現了你常談的「開放權重」;另一方面,它是來自一個想要摧毀你們國家的公司的重大成就。
那你覺得,美國與中國的 AI 生態應該更整合,還是各走各路比較好?
很棒的一篇。他說要在大公司內部、也要由政府資助更多民間匠人。他也主張要放慢中國的 AI 進度,以便給匠人時間。
但這仰賴兩件事:一,水平賽跑要能跟上;二,握著車庫門鑰匙的人,願意在關鍵時刻叫來這些匠人,而不是逕自把巨龍放出去。
好,這比喻要暴走了(笑),你忍耐我一下:大公司造了巨龍;小匠人培養了小龍,做出互通、身分驗證、阻斷兒少性剝削(CSAM)、對齊等工具;巨龍的主人來到水平社群,把工具裝上去——於是巨龍「轉性」,成為「具佛性」的存在?
這就是你說的「召喚佛陀」。也就是:打造巨龍的人在拉開車庫門前,先承認「我們可能養出了一條巨龍」,然後去找匠人借法器,對吧?
那份文件真的讓人毛骨悚然。但這不就更證明「水平賽跑」根本不重要?如果那樣的事會發生,水平端做的一切就像修腳踏車準備上高速公路。
可是假如大公司真的做出能「自我繁衍」的超智慧,A 公司做出一代、再做出下一代,遠遠甩開所有人。那麼,一群在史瓦斯摩爾的匠人學徒就算研究出身分驗證,也像是騎腳踏車追蘭博基尼——怎麼可能追得上?
這正是現在眼前的景象:馬斯克、奧特曼、阿莫代伊等人之間的競逐。迷人、關鍵,也讓人害怕。那什麼是「水平賽跑」?
你常談「垂直賽跑」與「水平賽跑」。說說這兩者是什麼,為什麼重要。
休息一下,稍後我們將與 Audrey Tang 進行更多交流。
能在不花八小時上 Zoom 的情況下,讓我的偏好在複雜議題中被體現在結果裡,確實很吸引人。做得到嗎?
也就是說,為了讓 AI 真能代為決策,需要人們能在自己的筆電上跑得動的小模型,拿來驗證雲端大模型的處理是否正確。保齡格林已經有一份報告:一百個建議,照贊成/反對比率與投票人數(關注度)排序。下一步可以讓一個高階 AI 幫每項估算成本、給定預算,然後挑出明年該優先執行的 6 到 10 件事。再下一步就是把它自動化——預設照 AI 的建議走。
來談談 AI。本計畫中 AI 明顯有幫助。你會信任 AI 直接「做決定」嗎?例如把保齡格林所有資訊丟給 AI,讓它說「我們今年就做這幾件」。我們會走到那一步嗎?你希望嗎?
問個更大的題目。我的觀察是:這些做法讓臺灣的民主更強健;但在全球尺度上,很多跡象顯示科技反而削弱了民主、壯大了威權。為什麼在臺灣行得通?我給你三個選項:一,臺灣國土小、共識高,且面對一個巨大的敵人,所以大家更在意這些事。二,2014 年的運動把一群「聖人級的極客」送進了政府。三,其實就是一系列軟體與誘因的選擇問題;若美國當時做出不同的選擇,也做得到。你覺得是一、二、三,還是各占多少比重?
聽起來那就是你們在臺灣做法的一個踏腳石。
我最喜歡的提案是:每個得來速都必須預設附上番茄醬。雖然沒拿到很多支持,但你可以看見那些平常你想不到的痛點。
美國其實也做了第一次類似實驗——在肯塔基州的保齡格林(Bowling Green),你的朋友 Yasmin Green 和 Google Jigsaw 合作。他們把幾個公共議題拿出來,讓大家討論;AI 彙整觀點,然後社群投票;市政府再依此做決策,例如要不要把北邊劃成歷史區。
但那是相對容易理解的議題——像「有人假冒黃仁勳送你加密貨幣」。如果是超複雜的呢?你們能不能用這套方法,從零開始制定關稅策略?
太狂了。湯瑪斯・傑佛森大概會很欣慰。這或許比「一群遊說者塞錢給議員,然後由他們決定政策」的制度更好,對吧?
好,於是大家把話說開,提出點子、投票。接著這些點子送去哪裡?送回政府?
等等等等。也就是說,這些隨機抽樣的視訊會議室裡,有 AI 在觀察發言動態,避免某些人(往往是男性)壓過別人。若有人太吵,AI 會怎樣?
好,挺狂的。於是這 450 位剛下班、要顧小孩的人,還是上線討論如何阻止深偽。大家提出想法,然後你們用 AI 摘要,再把摘要丟回給 450 人,讓大家投票?
不可思議。也就是政府用隨機抽樣,找來 450 個臺灣人,分進一堆視訊會議室,一起給政府建議,對吧?
其實一看就該知道是假的——人家已經賺了一千億美元了,還會出來賣幣嗎?
政府現在還在用這套系統蒐集意見、理解民意、輔助決策嗎?
國家怎麼落地這件事?你不可能控制所有私人公司,叫它們都照這套做。你們做的是一個公辦的社群系統——通常國家自己做產品,成品都很糟,這也是為什麼私人部門常常勝出。你們怎麼解這個悖論?
但你說的「橋接」到底是什麼?
這其實是很深刻的演算法想法。大多數人沒意識到「什麼內容會爆紅」背後有一套邏輯:是煽動某種情緒?還是某種目標函數?你說的是:如果把優化目標改成「橋接」,結果就完全不同。
更有意識、也更有人味。可是那是你的個人做法。臺灣整體的社群也做得不錯,這就不只是個人選擇了。
沒有通知、灰階螢幕,還有呢?
我猜你的手機也關掉所有通知,對吧?
你這麼一說,我就想打開 Twitter……開玩笑的。
談談臺灣社群媒體的運作,和美國的差異。我們有 Twitter、Bluesky、Threads、Instagram 等等,都是大型公司控制的平台,人們一談政治就吵,找不到共識。臺灣哪裡不同?又是靠什麼機制走到另一個結果?
這也是你們的高明之處——你和夥伴用各種方法,讓臺灣人彼此更信任、對政府更信任、少為無謂的事爭吵。「幽默勝過謠言」是其中一個工具。還有什麼工具?
如果攻擊更嚴重——例如真的把電網打掉——幽默就派不上用場了,你們就得嚴陣以對、發動全民抵禦。你怎麼拿捏何時用幽默,而不是直接號召全民對抗?
很有意思。中國政府發動駭侵,製造出一個「邪惡版的裴洛西要接管臺灣」的敘事;你們的回應則是用幽默來擊敗謠言。
很多訪談會從 2014 年你走上檯面談起,但我想從 2022 年說起。那時你是數位部長,從人民的運動中進入政府,協助臺灣的民主運作。美國眾議院議長裴洛西訪台離開後,情勢瞬間失控,到處都是網攻,而這部分也是你的職責。帶我們回到那個時刻:發生了什麼事?你們怎麼應對?
我想,有個簡單的經驗法則:如果你用兩分鐘拍一支爆紅影片,解釋自己要讓 AI 來「召喚佛陀」,後續一定會被追問。所以我們今天就要把這件事說清楚。節目結束時,大家都會知道 AI「召喚佛陀」是什麼意思。說定了?
我們在巴黎玩得很開心,還拍了一支很酷的小影片,奇妙的是,超多人看。
唐鳳,很高興又見到你。
在這個對科技充滿不信任的時代,科技究竟怎麼讓彼此更靠近?我之前和唐鳳談過幾次,每一次都被她的思考折服——她像是在另一個更烏托邦、更靈性的層次運作。我的一位朋友甚至說,他認為唐鳳可能是「地球上最聰明的善人」。那麼,這位最聰明的善良之人,如何看待 AI 的未來與它對世界的影響?我非常高興能把這段對談分享給大家。
走上檯面以來,唐鳳一直倡議「數位民主」,也主張打造更好、更有道德的人工智慧。唐鳳認為,在科技的幫助下,我們能夠做到這一點。