當然講到這邊，那大家可能會有一個很合理的懷疑。就是說在這個競爭非常激烈的這種世界裡面，我們就是已經過了十年之後，再來做這些政策上面的改變，那真的是有用嗎？還是說其實那些就是矽谷的大公司，就是又再發明下一代的 AI，然後我們剛剛的這些又好像不太管用了？
同樣的，它是透過一個開放的、可審計的這樣一個架構，然後去確保說，平台如果又回去用最大化的功利主義的 AI 的話，它必須要付出它的責任來。
但我們現在基本上就是在改變對這個法案的見解。就是說，如果我既沒有追蹤他，也沒有告訴我的偏好系統說我想看到這種內容——然後我們在脆上常看到一個梗：「我辦中華電信的時候，沒有想要看到這一個」——如果它主動這樣推過來，然後它是有害的、或者違法的訊息的話，那平台就要開始負連帶責任。
這個就跟以前的狀況不一樣。以前是說，只要是平台的使用者發的，平台就不負責任。尤其在美國，Section 230（通訊端正法第 230 條）法案就講這個。
如果平台沒有辦法證明是使用者提出需求才推給他，而是平台為了刺激使用者留在平台上面，主動推給他的話，平台主動推的這一則，要算平台的言論責任。
現在我們也有在推動，可能會有一個透明性的法律。第一個是說你主動推送的這些，如果不是使用者設定它的偏好——就像剛剛講到的，你可以跟 Grok 說我現在想看到什麼東西，然後它再給你。
當然另外一個就是，剛才已經講的，X 上面或其他地方，它的排序以前是完全不透明的，也完全不開放。就是一個黑箱。你也不知道為什麼你現在看到這樣的東西。
就像一條資訊高速公路，但是就有一個法規說，你一定要有交流道、一定要有匝道。不能說你開到終點，沒有辦法下交流道。所以像這樣子的，就是開放式的 API、開放式的橋接式的可攜性，我覺得現在是蠻重要的一點。現在我們在歐盟、在其他地方，都開始有提出同樣的法案。應該是很快可能應該就會通過。
所以這個就是一個很好的概念。就是他有透過一個開放的架構，讓每個人都可以自由地轉台。所以他在競爭的時候，他就只能競爭他的服務比較好。而不是說我一開始就佔有市場的大部分，然後就把人鎖在裡面，然後就賭說你是會不轉台的這個情況。
但是猶他州基本上就是說，所有的社群媒體，只要它服務猶他州的居民，他都必須要提供這樣的功能。不然的話要罰非常非常多錢。
當然在臺灣如果大家有在玩「脆」（Threads）的話，其實脆的選單裡面有一個，就是「開啟聯邦宇宙」（Fediverse）。如果你打開那個選單的選項的話，其實脆現在就有這樣的功能。就是你可以跟不是脆的別的網絡中間彼此之間互相按讚、互相回文等等。
所以你若是猶他州的居民的話，你證明你是猶他州的居民。那這樣你舊的那個平台，就必須要一直把你新的交友、新的回文、新的按讚什麼，一直都 forward（轉寄）到你的新平台。所以你雖然在新平台才剛開一個帳號，但是你本來的朋友跟本來社群，通通都還是算你的。
所以這個法案就是說，你一旦搬家之後，就像你從遠傳改到臺灣大，你本來的門號還是可以留著。就是所謂攜碼的概念。
意思是什麼呢？就是從明年 7 月開始，如果你是猶他州的居民，你想要從某一個社群媒體，Tiktok、X.com，你想要轉台到可能 Truth Social 或者是 Bluesky 的話。以前是你到這邊的話，你就歸零了。就是本來你的追蹤者、你的朋友、你的社群通通都不見了。所以基本上很少有人會這樣搬家的。通常都是一群人一起搬家。但是一個人搬家，他需要付出的成本是非常非常高。
像我之前有跟猶他州（Utah），在美國的猶他州。當然就是 Governor Cox，Cox 州長。前一陣子在媒體上常常看到他，因為就是 Charlie Kirk 遇刺的關係。那他就率先通過了一個法案，那這個法案叫做「數位選擇法案」。它就是給我們在社群媒體中間搬家的那個遷徙自由。
我們如果要把剛剛講到的這種比較是關懷的倫理，而不是我們叫效益主義或功利主義——就是最大化什麼東西的那個倫理——去放回我們現在的社群媒體的治理上的話，那有一些很具體的做法。
好，我們回到我一開始講到的，就是社群媒體治理的題目來。
但是如果你從頭到尾就是 agent 一手包辦的話，那就會像剛剛講，就是送機器人到健身房舉重的那個情況。我們的 Civic Muscle，就是我們公民的肌肉的力量，很快就會萎縮了。所以這兩個部分還是要兼顧的，還是要有一些人際的參與。
所以就是說，我們剛剛講到這些審議式的、生成式的調查，它當然會產生出很好的政策。這是一回事。用 AI 來做像剛剛講到，在討論裡面去即時的做綜整、即時的去讀空氣，看那個意見是怎麼樣，然後去把它共鳴的地方能夠傳播出來。甚至是翻譯不同的想法、不同的語言、不同的文化中間。這些都是我們 agent 可以做的。
但是這樣的問題就很像說：我想要健身，但是我派我的機器人去健身房幫我練舉重。這樣機器人一定很厲害，可以舉很重。但是到最後就是我肌肉也沒有長。
這樣子產生出來的政策，在國際上研究證明說，這樣產生出來的政策，絕對不會比人討論的差。而且你還不需要花那麼多的時間。
如果不是這樣做的話，會造成一個結果。就是我們之前在 400 多個人討論的時候，確實當時也有同事問說：「我們為什麼要花那麼多時間，讓人跟人之間彼此討論？為什麼不是你叫一個 AI 去跟個人對話，討論這個題目。只要講一個小時，你就知道他的偏好。然後這 400 多個人，就有 400 多個 AI 代理人。你讓那 400 多個 AI 代理人、400 多個機器人討論就好了。」
那這樣子的做法，就是所謂的有特定的界限（Bounded）的這個想法。那我們現在認為是設定 AI 智慧體，以及幫 AI 智慧體做訓練的時候，這樣才能夠去促進他跟人，以及人跟人中間協作的這些力量。
沒有哪一個 agent 在這個情況下，是很抽象地想要說，我們要 GDP 增加 3%、4%，那種最大化一個數字。而是說在地有哪些需求，我就盡我自己的力，在我的專長裡面去說，那我可以解決這一小部分的問題。
就好像之前花蓮救災的時候，有很多支援的在地力量。就是沙包、鏟子，或者是機具的開挖等等，是在地特定的情境之下，按照花蓮實際受災的情況，解決當地當下的問題。
如果每一個小的社群，都能夠去把 AI 的代理人，訓練成他們那個社群裡面覺得很好的智慧體的話，那就可以看到說，他們能夠很好的分工合作。
他們那邊的 Kami，就不是好像變成全部全知全能。而是說它就是關心可能是一條河流、一個樹林。甚至他們雷電也有 Kami，什麼都有 Kami，萬物都有 Kami。所以它是在促進某一個特定的社群，可能一個村莊有一個 Ujigami（氏神），就是照顧那個村莊的一個族人。讓這些人中間的關係變好。但它不特別去管外面的別的事情。
所以我在那邊就提出一個想法說：如果要訓練一個非常大型的這種超級人工智慧，那個就有點像全知全能的天神。但是在日本他們有一個概念叫做「地神」。就是跟我們這邊土地公、土地婆是類似的概念，雖然不能說完全一樣。叫做 Kami（神）。
後來我在日本，這個演講本來是在日本同志社大學做的。因為是在京都。京都大家可能知道，就是神道教的一個很重要的城市。
他在這樣子有覺察能力的時候，他就可以好像是一整個團隊的教練，而不是一個個人的導師那樣子，去協助整個團隊能夠彼此之間協作變得更加容易。這個就是大概的想法。
所以我們現在要訓練代理人，他要能夠像日本有個講法，叫做「讀空氣」（空気を読む）。就是去看到在一個房間、一個社群裡面，人跟人之間的哪些關係是重要的，必須要去保存，甚至必須要去促進的。這個叫做覺察力。
他講的就是說，我們要怎麼樣子去訓練 AI，不要變成說好像他只服務這個個人、或那個個人。我這個 AI 當你的代理人，別的 AI 當他的代理人。但是我把你的想法最大化，然後他的代理人把他的想法最大化。事實上兩個中間如果有衝突的話，就等於把這兩個的衝突最大化。社會的撕裂就越大，衝突的程度就越多。這個顯然不是一個好下場。
今天因為不是學術研討，所以我不特別在這邊講細節的部分。我在牛津有一個網站，叫做 「關懷六力」，6pack.care。
大概就是說，你會授權這個 AI 在現實世界中去產生一些活動。這些活動它一定程度上可以代表你，或者甚至是就變成你。這樣的情況。所以各地都在想說，關於 AI agent 這件事情，我們要怎麼樣子來去做治理。
當然這個是我們剛剛講到的一些比較現有的，就是之前的這種推薦系統，或者是生成式的 AI。當然我們在未來，我們現在就看到說，大家都在說 AI agents。這個字不知道怎麼翻：代理人、智慧體之類的。
所以很快地就在日本變成說，好像各大政黨都要來做這種廣泛傾聽的這種事情。那確實因為對他們來講，他花的錢更少、需要等的時間更短，事實上產生出來的政策品質也很好。大黨不會說「小黨做了這種民調，所以我不要做這種民調」，那是不可能的。所以這種新的生成式的、或審議式的民調，現在在日本就相當多的人來關心。
當時小池百合子知事也看到說，安野的這個群眾凝聚出來的政見，被獨立的智庫評比為第一名，甚至比小池知事的政見還好。小池是第二名而已。所以他就覺得這個很棒，就找安野來幫忙。後來安野現在就選上了日本參議院的議員。他們那個新的政黨已經獲得超過 2.5% 的選票。
所以他就說：「我們就要用唐鳳這一套。」它叫做「廣泛傾聽」的方法，來蒐集他選東京都知事的政見。結果他就一下子獲得了超過 1% 的選票。然後很多年輕人支持他。所以他就非常受鼓舞。
他就是看到臺灣我剛剛講的這個例子，他就決定要在日本組一個黨。而且他沒有政見。他當時在選東京都知事的時候，他宣布參選的時候，離投票只有一個月。只有一個月。然後他完全沒有政見，而且沒有人聽過他，他也沒有黨派支持。
這個做法也同樣傳播到國際。我當然有寫一本書。他們就是有一個日本新的政黨，叫做 Team Mirai（未來團隊）。他的黨主席就是當時 33 歲、現在 34 歲的安野貴博。他就是一個 AI 工程師跟科幻小說作家。
所以這件事情就告訴我們說，我們不需要一下子就跳到這個極端或那個極端。我們可以在一個下午的時間裡面，就蒐集整個社會的意見。它執行的成本、它執行的時間，跟普通的民調來比都沒有比較貴，也不用等比較久的時間。但是你就可以匯聚到一開始設計民調的人想不到的那些比較有創意的解決方案來。
所以我們到今年大家可能也看到新聞，確實也罰了 Facebook 好像一千多萬。現在這種投資詐騙型的廣告，可以說是幾乎是看不到的，下降了九成以上。
所以當時，因為是去年，我們三月做了這個討論。四月我就邀這些大型的平台來進行可行性的確認。五月我們就把電子簽章法跟打詐專法的草案都送到立法院。當時已經是三黨不過半的狀況。但是我們的電子簽章的修正案，基本上是連冷凍期都沒有，瞬間出了委員會。然後打詐專法也很快過了。當然是因為他們已經看到說，這個就是民意的匯聚。沒有哪一個黨的委員想要當「協助詐騙的黨」。所以瞬間就通過了。
這個包裹當然我們就在專家討論之後，我們在那一天結束前，就讓所有房間 400 多個人投票。投完票之後，我們就可以證明說，這些有統計代表性的人，自己想出這些方法。而且有超過 85% 的人，在結束的時候覺得這個核心包裹是他們是能夠背書，就是他們覺得是很好的一個政策。
那你就可以透過語言模型，畫出一個核心包裹（Core Package）。這個核心包裹你可以證明說，就是每一個房間裡面的人都有貢獻到。而且這些加起來的部分，沒有哪一個房間會非常反對。就是大家都稍微滿意一點，但是沒有哪組人非常不滿意的這個包裹。
總之就是這些想法，其實大家可以想一想就知道說，這些想法是彼此加強的。雖然沒有辦法哪一個房間想到很全面的想法。但是我們透過語言模型、透過生成式 AI——這個是一個研究領域，叫做 generative social choice（生成式社會選擇）。
然後還有一個房間的想法是說：因為當時 TikTok 還沒有被美國要求賣走他們的分公司，所以他們事實上是態度很強硬的，也不願意落地，也不願意設法律代理人。所以就有一個房間講說：也許在如果 TikTok 一直不理我們這一套的話，我們不要一次就把它變成不能連線，因為侵害言論自由。但是我們可以把他們影片的速度調慢，就好像速限管制一樣，慢車道，把它走到慢車道去。這樣子的話就沒有管制言論，你還是看得到。但是它的廣告收入，大概都會跑到它競爭者那邊。這也是一個很好的主意。
另外一個房間的想法是說：投資詐騙如果你只是罰 Facebook 的話沒有用。所以應該要怎麼樣呢？如果有人投資詐騙被騙了，好比像說五千萬元。而且這個詐騙當時是 Facebook 已經知道他沒有電子簽章、沒有實名制就放上去的。那他應該算作從犯。意思是什麼呢？Facebook 應該要賠這五千萬元。只有這樣 Facebook 才會理我們。這個是另外一個房間的想法。
舉例來說，像有一個房間，他就說：因為 AI 現在沒有辦法分辨，所以只要是這種廣告，底下應該都要寫「可能是詐騙」。只有必須要有實名制——就是可能黃仁勳先生要自己用電子簽章，或者 NVIDIA 要給電子簽章。總之你要能夠追溯到某個我們認的 KYC（實名認證），你才把「可能是詐騙」這個警語拿掉。這是其中一個房間的想法。
所以我們就是把這 400 多位朋友，放在 40 多個線上討論室裡面，每個討論室裡面有 10 個人，然後大家來腦力激盪。在這 10 個人中間，他們不管講什麼話，AI 也會去統計說，哪些想法，這邊的人反對、這邊的人同意。在這十個人裡面，只有這些想法慢慢凝聚到這十個人差不多都同意，或者「即使不同意，我還可以接受」的這個情況，這個主意才會從這個房間傳出去，給所有人看到。所以同樣就是橋接的演算法，但是是配上了即時的這樣的一些 AI。
