-
隨著人工智慧在全球的快速採用,您認為保護民主和人權最迫切的保障措施是什麼?
-
現今 AI 系統在開發時,通常被訓練去對齊或效忠於某個單一的個體。這可能是公司的領導者、國家的領導者,或是使用者。但只為單一個體的偏好進行優化,實際上可能會使這個個體變得更加極化、與他人疏離,或在其他方面更難以與他人橫向對齊。我們在社群媒體上看過這種情況,在「無盡的滾動」上看過,而現在隨著 Sora 加入這個行列,我相信世界各地的人們都在深入思考,我們該如何真正促進人與人之間的協調與合作,而不是僅僅追求個人偏好的最大化。
-
因此,當我們訓練 AI 系統時,我目前在牛津正在進行一個稱為「關懷六力(6-Pack of Care)」的計畫,它採用了不同的邏輯。我們不追求將任何單一數值最大化——那是功利主義的邏輯——而是確保它對某些社群來說「足夠好」,並確保社群本身能夠引導、微調這些模型,以改善社群自身的關係健康,而非服務於社群內外的任何特定個體。所以,如果大家有興趣,歡迎隨時查看這個網站:6pack.care 。
-
回顧您擔任臺灣第一任數位部長的經歷,臺灣的數位民主經驗該如何被其他國家採納,特別是那些政府遠不如臺灣開放的國家?
-
我認為重要的是,要記住我們曾經是抵抗者。2014 年,我們是走上街頭的五十萬人之一。但我們不只是抗議,我們更進一步「展示」了,透過廣泛的傾聽和連結彼此的想法,我們不必透過激化對立來參與,而是能夠為那些「罕見共識」發聲——那些在過去的對立陣營中未被視為共識的想法,反而能透過審議式和生成式民調,尋找出連結彼此的共識。這就是 2014 年發生的事,我們當時並沒有要求、甚至沒有等待政府去實施這些措施,而是我們自己作為「零時政府(g0v)」公民科技社群的一部分,將其付諸實踐。
-
正因如此,我們在世界各地看到,在許多地方都出現了善意的種子,人們從邊緣、從最弱勢的聲音開始發聲。接著政府才說:「好吧,或許這種方法真的能產生一些成果。」不再是「不要在我家後院(NIMBY)」,而是「或許可以在我家後院(MIMBY)」,如果我可以這麼做、或者那麼做的話。
-
所以回到您的問題,我認為這是一個兩步驟的過程。首先,公民行動者必須去「展示」,而不僅僅是「抗議」。我們必須證明,即使人們的立場極度對立,仍然有可能在非常具體的想法和提案上將他們連結起來,就像臺灣在 Uber、同婚以及許多其他議題上所展示的那樣。其次,我們需要與常任文官體系、與政策相關機構建立聯盟,因為他們其實也知道如何解決這些問題,他們只是需要來自政治領導者的支援和事前承諾。
-
因此,這也是為什麼我們在加州,透過數位民主平台engaged.ca.gov與州政府員工合作,我們基本上是在進行群眾外包,詢問州政府員工:「如果我們導入這項或那項技術,什麼能讓你的工作更輕鬆?」這同樣關乎政府效能,但它是由下而上、源於基層的,而非由上而下。
-
如果您必須為國際社會指出一個優先事項,以確保科技是強化而非削弱民主,那會是什麼?
-
我想提醒大家:我們全民,就是我們一直在尋找的「超級智慧」。因此,我們不應該去打造一個超人類的智慧,讓它再去打造一個更優越、更少需要人類介入的智慧,最終自行「垂直起飛」,將所有人都拋在身後。
-
我認為,我們應該專注於「水平起飛」,也就是讓我們有能力去發掘我們潛在的集體超級智慧,透過「擴增集體智慧」(augmented collective intelligence)來實現。
-
歐盟應該與像 OpenAI 和微軟這樣的美國公司建立所謂的「主權 AI」,還是應該只與像 Mistral AI 這樣的歐洲夥伴合作?
-
這是一個很好的問題。我認為「主權 AI」的概念,意指能夠關注在地社會文化脈絡的 AI。要做到這一點,需要模型開發者在其設計中內建微調和後期訓練的能力,以使 AI 模型能與在地情境對齊。市面上已經有像 OpenAI 這樣的 AI 開發者,在 Hugging Face 上發布了開放版本的 GPT。一旦開放,歐洲的人們當然就可以在其基礎上進行建構。
-
然而,我也要說,訓練的資料同樣重要。如果我們能確保,例如像 Mistral,在其模型中將某種歐洲文化作為其內部的「思考語言」,那麼在後期訓練時,就不太需要費力地去進行文化微調,強制要求一個內部用美式英語思考的模型去適應歐洲的脈絡。所以,歸根結柢,這是一個自由選擇的問題。市場上能夠以不同文化進行內部思考的模型選擇越多,人們就越容易再次實現「水平起飛」。
-
在臺灣,我們資助了超過 150 種不同的「垂直領域」模型訓練。我們不訓練一個能看見一切、解決一切,但表現平庸的單一超級模型。我們專注於那些更狹窄、特定領域的模型,正是因為這能讓使用者、讓人民更容易去引導、更容易去控制單一模型的對齊與微調。此外,它的能源效率也高得多,因為它不需要去記憶所有吉卜力工作室的動畫片段之類的內容。因此,對於像摘要、翻譯、協作引導等每項任務,它都更快、更節能,也更容易調整。所以我認為,未來是屬於公共、多元且可攜的 AI 模型。
-
(來自東京 TBS 的 Ryan Takeshita)在世界各地,從政府、最高法院到高等教育,備受尊敬的機構正在失去人們的信任。您曾是臺灣的部長,您認為政府機構為何會失去信任?又該如何贏回信任?
-
很好的問題。誠如《道德經》所言:「信不足焉,有不信焉。」如果垂直的權力機構不信任人民,特別是那些在其他情況下沒有發聲管道的弱勢群體,那麼就很難贏回信任。因為在當前,透過點對點的溝通來建立橫向的信任模式,是如此輕而易舉。事實上,今年的「正命獎」(Right Livelihood Award)正是頒給了那些建立此類點對點溝通網絡、為邊緣群體發聲、對抗不公不義的人們。
-
因此,我認為透過「廣泛傾聽」來建立橫向信任的模式,是真正的關鍵。如果垂直的權力機構願意分享他們設定議程的權力,讓人民可以透過廣泛傾聽來為這些機構設定議程,那麼這就是一種「徹底信任人民」的行動。如此一來,一部分人民或許會回報以信任。但這一切,永遠始於垂直的權力方,率先信任人民。
-
您似乎是一位非常有生產力的人。這是因為您日以繼夜地工作,還是有團隊在協助您?您對此有什麼建議或方法嗎?
-
確實,我大多在晚上工作,白天也工作,因為我是一位非常有競爭力的「睡眠者」。我每天必須睡足八小時或更多,才能保持創造力。我常說,最有創意的成果往往在夜間誕生,因為如果我們睡眠不足,人們基本上只會重複前一天的舊習。但新的一天可能帶來新的挑戰,因此,睡眠不足就意味著適應力不足。
-
此外,我認為「橫向協調」的觀點也至關重要。我加入內閣時,曾公開表示,我是「與政府協力」(work with the government),而非「隸屬政府」;我是「與人民協力」(work with the people),而非「為人民服務」。透過在一個類似「拉格朗日點」的位置上工作——就像在兩個天體之間,既不落入任何一方的軌道,而是在中點促進雙方對話——我們就能增加民主的「頻寬」。過去,投票很重要,但那就像每四年才上傳三個位元的資訊。如果將表達的管道限制在如此低的頻寬和漫長的延遲中,人們就無法準確地拍下一張關於政治意願的「集體自拍」,而這正是極化與民粹主義的溫床。
-
我們發現,像 Polis、廣泛傾聽工具、Sensemaker 等工具,可以促成一種更準確的民意調查,它不是預設選項的,而是一種「生成式」的民調,選項是由公民自己產生的,我稱之為「利社會媒體」(pro-social media)。這種方式讓「持續性的集體自拍」成為可能。
-
對記者來說,這其實就是一種新聞實踐,因為它既能呈現出對立雙方的「平衡觀點」,也能呈現出雙方都能同意的「橋接觀點」。這也是我們在 2019 年改變臺灣基本教育課綱的方式,專注於培養好奇心、協作能力與公民關懷,讓年輕人親身經歷這種新聞實踐,為他們的心靈接種疫苗,以抵抗極化的憤怒。
-
您如何看待像 Stargate 這樣的美國 AI 計畫?有些人認為,美國和大型科技公司正在利用 AI 的熱潮,來擴大他們在社群媒體和雲端服務等領域的既有壟斷。 對消費者來說,實際操作可能很困難。
-
我認為歐洲所擁有的「可攜性」(portability)概念非常重要。如您所知,根據現行的《數位市場法》,來自不同公司的即時通訊系統可以互相溝通,因此它們必須在更好的服務上競爭,而不是透過網路效應來綁定使用者。
-
在美國,猶他州也通過了《數位選擇法案》,更進一步。從明年七月開始,如果您是猶他州的公民,您可以從社群媒體 A 搬到社群媒體 B,同時保留您所有的社群平台。新的按讚、回應和回覆都會直接轉發到您的新平台,您不會因為遷移到更好的服務而失去任何東西。這讓創新變得更加容易,因為新的資訊組織或社群媒體方式,不再需要解決「從頭啟動」的問題;人們可以一個接一個地遷移。
-
所以回到您的問題,我認為歐洲參考猶他州的「可攜性」(portability)非常重要,同時我們也可以思考如何實現跨 AI 服務的「可攜性」。
-
我的意思是,就像電信服務的「號碼可攜性」,如果您從電信商 A 換到電信商 B,您可以保留原來的號碼。這在後端的實施非常複雜,因為我曾擔任數位部長,負責號碼可攜、普及服務的策略,或者像我們在臺灣已經做到的「災難漫遊」,即使在自然或非自然災害後,只剩下一家電信商仍在運作,其他電信商的用戶也可以在該現存的網路上漫遊。所以,儘管這些在技術上是複雜的措施,但一旦實施,對人民來說使用起來卻非常簡單。這基本上就像 Podcast,這就是動態中的「可攜性」。
-
您如何在保護言論自由的同時,也防止有害的假訊息破壞公民信任?
-
首先,我們需要區分「言論」(speech)與「觸及」(reach)。當然,言論需要被保護,但另一方面,在當前的社群媒體上,我們看到一種情況:即使我沒有訂閱某人,但如果演算法認為某則惡劣的言論能讓我保持「互動」(也就是被激怒),並更多地點擊廣告,它就會擴大觸及,將這些未經我同意的資訊推送到我的眼前。這就像開採我們的社會共同經驗,將我們的注意力賣給出價最高的競標者。
-
去年三月在臺灣,為了解決廣告商推播 Deepfake 詐騙的問題,我們向全臺灣的隨機號碼發送了二十萬封簡訊,詢問我們該如何在不傷害言論自由的前提下,確保資訊的完整性——畢竟,在網路自由方面,臺灣是全亞洲最自由的。於是,人們給了我們非常好的點子。
-
450 人在 45 個網路會議室裡,以每一個網路會議室 10 人的方式進行了明調式的審議。一個網路會議室的參與者說:「如果社群媒體推送了未經簽署的假投資詐騙,導致某人損失了 500 萬美元,那麼社群媒體公司需要對這 500 萬美元的全部損失負責。」。另一個網路會議室參與者說:「我們可以調降連到他們影片的網速,但不要審查他們。」許多臺灣人民的代表都同意了這套政策,支持率超過 85%,那是去年 3 月的事。所以今年,如果你在臺灣滑臉書或 YouTube,大幅降低看到那些 Deepfake 廣告了,問題已經解決了。
-
所以我認為,這裡的理念再次是「徹底信任人民」,並向大型科技公司展示,這是一種不會犧牲言論自由的措施。 但言論自由,不代表我們需要免費給予境外演算法控制機器人「擴大觸及」的自由。我不認為這在我們的憲法裡。
-
臺灣人使用的那些工具,是否在某個地方可以被重複使用?
-
是的,當然。我剛才描述的那些工具,像是 Polis、Google Jigsaw 的 Sensemaker、Frankly 線上審議式民調軟體,以及其他許多工具。它們不僅僅是「可用」,更是「自由軟體」(free software),所以你可以隨心所欲地進行客製化。 如果你對我們使用過的所有工具清單、以及來自臺灣和其他地方(如日本)的故事感興趣,請查看這個網站:Plurality.net。
-
(來自丹麥 Radar.dk 的 Peter)在川普 2.0 的時代,您認為美國和臺灣在科技和政治關係上會有任何變化嗎?
-
2014 年,當我們有五十萬人走上街頭、網路上還有更多人時,臺灣產生的一個想法是,當我們討論是否允許北京的品牌(如華為、中興)進入我們當時新建的 4G 網路時,我們需要建立一個能跨越分歧的共識。我們在太陽花學運期間圍繞這個議題進行了對話,由於缺乏獨立的新聞報導,我們很難判斷那些所謂的「民營企業」服務,是否在任何特定時刻已被實質上收歸國有。
-
因此,我們分享了這個想法。在川普第一任期時,這個想法獲得了一個品牌名稱,我記得是叫「乾淨網路」(clean network)。接著,這個想法被許多民主夥伴所採納。拜登也延續了這個「可信賴技術堆疊」的想法,而臺灣正處於核心位置,因為大家都信任我們的晶片、周邊的供應鏈以及網路安全。
-
所以現在,在川普 2.0 的時代,我們看到「乾淨網路」的想法被應用到非電信領域,例如社群媒體公司字節跳動所推出的 TikTok。而這個理念再次是,在臺灣,我們很早(我相信是從 2019 年開始)就認為,任何被北京實質控制的事務,都不應該在我們的公部門中被毫無疑問地採納;這是一個網路安全的問題。
-
所以這個想法,在川普 2.0 的時代被嚴肅地看待。正如我們在新聞中所見,他們最近達成了一項協議(TikTok 協議),使得基於美國的資料流動可以被監控。
-
您會認為川普的朋友是 TikTok 好的管理者嗎?但川普和 TikTok 的合作關係相當奇特,川普難道不會利用這一點嗎?
-
首先,我會說這是一個「網路流分析」的問題。這可以透過獨立的稽核輕易證明。所以,我認為在網路治理中,重要的是獨立的第三方也能夠查核並親眼見證協議是否真的被執行。事實上,如果歐洲採納了猶他州的「可攜性」想法,那麼任何人在 TikTok 上發布的任何內容,都可以從其他非 TikTok 的平台訂閱。這就是網際網路(Internet)中,「網際」(inter-)的真正魔力所在。
-
再者,如果我們從「協定創新」的角度來看,這會是一個多贏的局面。如果 TikTok 用一個開放的協定來提供它的影片,並確保任何人用任何更好的演算法,都可以根據人們的偏好來排序這些影片,而不是依據演算法的偏好,那麼,是的,圍繞在川普總統周圍的社群,將會對他們所偏好的論述擁有更多的社群主權,其他任何社群也同樣如此。
-
這就是「橋接系統」的美妙之處。例如「社群備註」(community notes),它的靈感就來自於我們在臺灣嘗試過、且仍在使用中的 Polis 演算法。它計算的不是左派或右派的同溫層,而是「向上」的、那種出人意料的、被對立雙方都廣泛同意的共同點。它讓人們能用不同的世界觀,以一種「立體視覺」的方式看待事物。
-
(來自 John)在處於自由與民主前線的國家中,「對齊大會」(alignment assemblies)如何能在消弭政治極化方面扮演核心角色?
-
的確,「對齊大會」——我剛在臺灣舉的資訊完整性就是其中一個例子——能夠產生一種對新興科技的「集體引導」。這在臺灣一直都是如此。當 Uber 進入臺灣、當 Airbnb 進入臺灣、當 Deepfake 詐騙廣告進入臺灣時,我們總是使用這種線上的「公民大會」來化解一方是言論自由、另一方是社會消弭極化需求之間的張力。我們一次又一次地證明,你不需要在兩者之間做出犧牲。
-
在公民大會中,特別是使用「橋接演算法」,能讓中間地帶、讓那些被集體發現的「不尋常的共同點」,獲得病毒式的傳播力。所以我再次認為,這種「去極化」是真正的關鍵。經過數百次這樣的實踐後,臺灣的人民明白,民主不僅僅是每四年投一次票,它是一個持續的動態過程,只要有五千人連署(Join 平台),任何人都可以就任何新興議題,開啟一場跨黨派、甚至是後黨派的對話。
-
「正命獎」對您意味著什麼?它將如何促進您未來的工作?
-
首先,我真的、真的非常榮幸能以這種方式被肯定。面對 203 位得獎前輩,我感到由衷的謙卑。我認為,我們因一個共同的使命而團結:確保那些能夠「去極化」的方法被廣泛地知曉和分享。
-
我認為這非常重要,因為臺灣研究這些方法,並非出於樂趣——雖然參與橋接式的對話確實很有趣——更是出於「生存的必要」。我們必須證明,民主必須有所作為。民主不會像某些威權論述所說的那樣導致混亂,而且我們的民主體制值得我們去守護。
-
但沒有一個民主是孤島,即使臺灣也不例外。其他的得獎者在世界各地,以各種不同的形式,在對抗獨裁的前線上,一次又一次地證明,橫向的、點對點的、這種水平的信任模式,確實能夠達成「去極化」、能夠帶來成果。所以在我心中,這是一個相互增強的「民主網絡」,只要我們團結在一起,就能讓民主的倒退,轉變為民主的復興。