然而,我也要說,訓練的資料同樣重要。如果我們能確保,例如像 Mistral,在其模型中將某種歐洲文化作為其內部的「思考語言」,那麼在後期訓練時,就不太需要費力地去進行文化微調,強制要求一個內部用美式英語思考的模型去適應歐洲的脈絡。所以,歸根結柢,這是一個自由選擇的問題。市場上能夠以不同文化進行內部思考的模型選擇越多,人們就越容易再次實現「水平起飛」。
這是一個很好的問題。我認為「主權 AI」的概念,意指能夠關注在地社會文化脈絡的 AI。要做到這一點,需要模型開發者在其設計中內建微調和後期訓練的能力,以使 AI 模型能與在地情境對齊。市面上已經有像 OpenAI 這樣的 AI 開發者,在 Hugging Face 上發布了開放版本的 GPT。一旦開放,歐洲的人們當然就可以在其基礎上進行建構。
我認為,我們應該專注於「水平起飛」,也就是讓我們有能力去發掘我們潛在的集體超級智慧,透過「擴增集體智慧」(augmented collective intelligence)來實現。
我想提醒大家:我們全民,就是我們一直在尋找的「超級智慧」。因此,我們不應該去打造一個超人類的智慧,讓它再去打造一個更優越、更少需要人類介入的智慧,最終自行「垂直起飛」,將所有人都拋在身後。
因此,這也是為什麼我們在加州,透過數位民主平台engaged.ca.gov與州政府員工合作,我們基本上是在進行群眾外包,詢問州政府員工:「如果我們導入這項或那項技術,什麼能讓你的工作更輕鬆?」這同樣關乎政府效能,但它是由下而上、源於基層的,而非由上而下。
所以回到您的問題,我認為這是一個兩步驟的過程。首先,公民行動者必須去「展示」,而不僅僅是「抗議」。我們必須證明,即使人們的立場極度對立,仍然有可能在非常具體的想法和提案上將他們連結起來,就像臺灣在 Uber、同婚以及許多其他議題上所展示的那樣。其次,我們需要與常任文官體系、與政策相關機構建立聯盟,因為他們其實也知道如何解決這些問題,他們只是需要來自政治領導者的支援和事前承諾。
正因如此,我們在世界各地看到,在許多地方都出現了善意的種子,人們從邊緣、從最弱勢的聲音開始發聲。接著政府才說:「好吧,或許這種方法真的能產生一些成果。」不再是「不要在我家後院(NIMBY)」,而是「或許可以在我家後院(MIMBY)」,如果我可以這麼做、或者那麼做的話。
我認為重要的是,要記住我們曾經是抵抗者。2014 年,我們是走上街頭的五十萬人之一。但我們不只是抗議,我們更進一步「展示」了,透過廣泛的傾聽和連結彼此的想法,我們不必透過激化對立來參與,而是能夠為那些「罕見共識」發聲——那些在過去的對立陣營中未被視為共識的想法,反而能透過審議式和生成式民調,尋找出連結彼此的共識。這就是 2014 年發生的事,我們當時並沒有要求、甚至沒有等待政府去實施這些措施,而是我們自己作為「零時政府(g0v)」公民科技社群的一部分,將其付諸實踐。
因此,當我們訓練 AI 系統時,我目前在牛津正在進行一個稱為「關懷六力(6-Pack of Care)」的計畫,它採用了不同的邏輯。我們不追求將任何單一數值最大化——那是功利主義的邏輯——而是確保它對某些社群來說「足夠好」,並確保社群本身能夠引導、微調這些模型,以改善社群自身的關係健康,而非服務於社群內外的任何特定個體。所以,如果大家有興趣,歡迎隨時查看這個網站:6pack.care 。
現今 AI 系統在開發時,通常被訓練去對齊或效忠於某個單一的個體。這可能是公司的領導者、國家的領導者,或是使用者。但只為單一個體的偏好進行優化,實際上可能會使這個個體變得更加極化、與他人疏離,或在其他方面更難以與他人橫向對齊。我們在社群媒體上看過這種情況,在「無盡的滾動」上看過,而現在隨著 Sora 加入這個行列,我相信世界各地的人們都在深入思考,我們該如何真正促進人與人之間的協調與合作,而不是僅僅追求個人偏好的最大化。
好的,那文章出來後也請讓我知道。我通常會把我接受的訪問,像之前提到的日經訪談,在刊出後也放到我的個人網站上。
這篇文章大概什麼時候會刊出呢?期待看到你們的成稿。
對我而言,《三體》中的「黑暗森林」與「降維打擊」就是一種 dystopia,它描繪了一個因極度不信任而導致自我封閉的宇宙。我們的任務恰恰相反:我們必須將公共討論「提升維度」,利用橋接系統、廣泛傾聽等工具,去尋找罕見共識(uncommon ground),從而避免社會陷入非黑即白的二元思考。
我尤其欣賞科幻作家娥蘇拉・勒瑰恩(Ursula K. Le Guin)的觀點:「任何由人類創造的權力結構,都能被人類的力量所改變。」現在也有像 Manda Scott 這樣作家,透過《Any Human Power》等小說,來倡導「Thrutopia」的概念,也就是不去陷入 Utopia 或 Dystopia 的二元對立,而是努力打開更多未來可能性的路徑。
《潰雪》(Snow Crash):這本書是個警訊,作者描寫了一個反烏托邦的「元宇宙」(Metaverse),但許多科技人卻把它當成了開發藍圖。這告訴我們,同一本書,讀者可能把 dystopia 當成 utopia,這取決於觀看者的價值觀。
《哆啦A夢》(Doraemon):它就像是兒童版的《黑鏡》(Black Mirror),不斷上演「科技道具 → 產生副作用 → 最終反思」的劇情,提醒我們不要被技術萬能論所迷惑。
《星艦奇航記》(Star Trek):我拍照時常比這個手勢(瓦肯舉手禮),它代表「生生不息,繁榮昌盛」(Live Long and Prosper)。我欣賞其中的多元主義世界觀:權力不集中,人類、AI 與外星人可以互助共存,而非互相奴役。
我非常喜歡科幻作品,它們提供了思考未來的兩種路徑:烏托邦(utopia)與反烏托邦(dystopia)。
現在,包括 X (Twitter) 的 Community Notes、YouTube 和 Facebook,都已經開始採用類似的廣泛傾聽系統來做事實查核,可以說是目前最大規模的應用。
矽谷 AI 辯論:前陣子,矽谷因「AI 是否該暫停發展」而吵得不可開交。我們也用 Pol.is 介入,很快就發現,儘管在某些議題上大家激烈爭論,但在絕大多數議題上其實存在著「罕見共識」(uncommon ground)。AI 將這些共識點自動整理並浮現出來,化解了許多不必要的對立。
美國肯塔基州 Bowling Green 市:他們曾用 Pol.is 廣泛徵詢市民「What could BG be?」最後 AI 整理出的高度共識,直接交由在地的「傾聽夥伴」(listening partners)——包括青年社團、地產開發商等——付諸實行。這和傳統民調不同,因為每個人都可以提出新的想法。
AI 會即時分析所有人的投票,將意見用視覺化的光譜呈現,快速綜整出大多數人的共識區,以及少數人的分歧點。
Pol.is 這套系統源自西雅圖,在日本被稱為「世論地圖」。它的運作方式和社群媒體很像,你可以看到別人的提案,然後點擊「贊成」或「反對」,但它沒有轉發按鈕。
是的。台積電創辦人張忠謀先生說過一句很棒的話:「人生不要太圓滿,有個缺口,讓福氣流向別人。」這句話體現了臺灣產業的合作生態系思維——我們追求的是彼此成就,而不是贏者全拿的稱霸。這種文化也深刻地影響了我們的數位治理思維。
我認為這完全沒有必要。在民主社會裡,「我們人民,就是超級智慧(We the people are the super intelligence)」。我們需要的不是一個全知全能的機器神,而是透過分散式、在地化的 AI,像日本神道中的「Kami」(例如守護村莊的「氏神 Ujigami」)或臺灣的「土地神」那樣,守護各自的社群、促進健康的對話。這是一種根植於道家或神道思想的、去中心化的AI觀。
技術解決主義者相信,可以由少數菁英打造單一的「超級智慧」(Super Intelligence),這個 AI 會自我進化,最終超越人類,為人類解決所有問題。這個過程被稱為「起飛」(take off),但它也意味著「把所有人都拋在後」(leave everyone behind)。這就像是在創造一個集中的、凌駕全人類的頭「機器天神」。
我們必須區分「為人民(for the people)」與「與人民(with the people)」的差別。我主張用科技與人民一起解決問題,重點在於議程設定權(agenda setting power)在誰手上。
日本非常適合引進這類隱私友善的身分技術。核心原則是:政府對人民透明,但人民彼此之間無須透明。
關於 My Number,我理解日本社會對於個人資料透明度存在疑慮。我個人非常關注「隱私增強技術」(Privacy-enhancing technologies),例如以太坊 PSE 團隊正在研究的零知識證明(Zero-Knowledge Proof)。這類技術可以做到兼顧隱私與合規(private & compliant)。舉例來說,我可以向系統證明我「已滿 18 歲」,卻完全無須揭露我的出生年月日。
自 2021 年起,我每個月都會與日本的村井純(Murai Jun)先生線上討論數位治理,我們也經常交流「一個都不落下(Leaving no one behind)」的理念。他們提出的 Digidō(數位道),強調對每個人的關懷,我也深感認同。
這次事件讓我們體認到,敵人的攻擊是混合式的,我們的防禦也必須是整合性的。因此,我們推動「全民數位韌性(Digital Resilience for All)」,現在這個概念已擴展為「全社會防衛韌性」。
然而,當時我們剛成立的數位發展部網站,雖然才剛上線,卻一秒鐘都沒有當機。因為我們採用了分散式備援的架構,運用 IPFS 這類 web3 的思路。例如,使用 Brave 瀏覽器的用戶,在瀏覽我們網站的同時,也在幫助其他人備份網站內容。透過這種幽默且透明的溝通,我們有效降低了社會恐慌,股市也並未大跌。
這一切的目的,是為了製造社會恐慌,最好能引發股市崩盤。
2022 年時任美國眾議院議長佩洛西訪臺時,我們遭遇了一次「聯合作戰」。當時,臺鐵車站的戶外看板、全臺灣 7-Eleven 的店內螢幕都被駭客入侵,播放抹黑她的內容。與此同時,外交部、國防部等政府網站遭到大規模 DDoS 攻擊,導致記者一度無法連上官網獲取正確資訊。
威權體制會壓制新聞工作,因為新聞報導能形成凝聚社會的「共同知識」(common knowledge)。當官方故事之外出現了另一個更具親和力、更能引起共鳴的民間故事時,人們就會團結起來,這是威權體制最害怕的。因此,他們會花費巨大的力氣進行「維穩」,確保民間橫向連結的故事,其公信力永遠不會高過官方的說法。
在臺灣,我們追求的是政府對人民透明,讓人民能監督政府。威權體制則完全相反,它要求人民對政府透明,而政府本身對人民卻是個黑箱。
在各種回應方式中,「預先澄清」(prebunk) 的效果,通常遠比事後澄清(debunk)來得好。意思就是,不要等到錯誤訊息已經流傳開來才去闢謠,而是要預先設想別人會如何操縱輿論,然後提前揭穿他們的手法。
要解決這個問題,就必須靠素養。當學生親身參與過事實查核、親手測量過空氣與水質、實際操作過「意義建構」(sense-making),他們就會鍛鍊出我們所說的「公民肌力」(civic muscle)。有了這種肌力,再看到極端訊息時,就不容易受到影響。
我們的經驗是,無論你看過多少查核報告或優質報導,都很難對煽動性的極端訊息免疫。這就像你平常吃得很健康,但只要吃了幾天高油高鹽的垃圾食物,味覺就會被改變。
不夠。我們在 2019 年修改課綱,把「識讀(literacy)」升級為「素養(competency)」。識讀是被動地接收與判讀,而素養則強調主動地參與和產出。
透過這些方式,我們有效減緩了資訊疫情(infodemic),而且完全沒有採取下架言論等言論審查措施。
疫苗溝通:當日本捐贈 AZ 疫苗給臺灣時,部分長輩因擔憂血栓而猶豫。為避免社會陷入「反疫苗」與「挺疫苗」的對立,我們將不同疫苗(AZ、莫德納、BNT、高端)的接種意願,以「球賽比分」的方式,在公開訊息上呈現各縣市、各年齡層的偏好。這成功地將潛在的對立轉化為「我的球隊 vs. 你的球隊」的良性競爭,大家爭論的是哪個疫苗品牌好,而不是要不要打疫苗。
衛生紙之亂:當時有謠言說政府要徵用衛生紙原料來做口罩(事實上口罩是塑膠,衛生紙是紙漿),引發民眾瘋狂搶購。時任行政院長蘇貞昌先生立刻發布一張幽默的圖卡,上面是他的背影,搭配一行大字:「咱只有一粒卡臣」,並附上科普資訊。大家看到覺得很好笑,因為這句話改編自環保口號「我們只有一個地球」。一笑置之餘,搶購的恐慌也隨之緩解。
我們當時的原則是快速、公平、有趣(fast, fair, fun),核心理念是「幽默勝過謠言(Humor over rumor)」。口罩爭議:2020 年初,對於是否該戴口罩、該戴哪種口罩,社會上出現兩派極端對立的聲音。當時我們沒有急著選邊站,而是用衛福部的吉祥物——一隻名叫「總柴」的柴犬,發布一張牠用爪子摀住嘴巴的可愛圖片,訊息是:「戴口罩可以避免你用沒洗的手摸口鼻。」這巧妙地將焦點從「防傳染」轉移到「提醒你要洗手」,兩派的爭論因此平息。後來我們去測量自來水用量,發現真的顯著上升了。
到現在超過十年,我一直在做跨部門的橋接工作。
2016 年起,我在蔡英文政府擔任政務委員,角色從「在外搭橋」轉為「內外協作」。
2014 年起,我以專案顧問的身分進入行政院,當時的角色類似「逆向導師」(reverse mentor),協助蔡玉玲政務委員將民間的意見帶入馬英九政府。
我從未加入任何政黨。
解方是:讓專業機構維持其公信力,同時提供一個讓大眾可以水平參與、能夠搭橋的公共空間。我稱之為「拉格朗日點」(Lagrange Point),就像在地球與月球引力剛好抵銷的那個點,既不完全屬於一方,也不屬於另一方,而是在兩者之間建立橋樑。
傳統的媒體、學術界、官僚體系是垂直晉升的專業機構。年輕世代或許對這些機構尊敬(reverent),但覺得與自己不相干(not relevant)。因此,他們轉向水平社群中那些語言親切、彷彿鄰居般的訊息來源。問題在於,這些網路上的意見領袖通常沒有經過專業訓練,其言論卻透過轉發功能被不成比例地放大。