美國跟中國之間,現在不管是經濟、技術,都有對立、分裂、脫鉤的情況,對立也日漸嚴重。您剛剛提到的很多 Open Source(開源)的努力,是否會因為這個對立造成一些阻礙呢?或者在 AI 安全上,美中的政治對立會不會是阻力?

我想即使是在冷戰最劇烈的時候,美國也有分享關於像核燃料怎麼樣子安全儲存的技術給蘇聯。因為如果不管任何人,因為一個不小心或者是故意的犯罪行為,導致大規模放射性事件,對全世界都是壞事,不會只對某個國家是壞事。所以所謂的 global security(全球安全保障),就是雙方可以互相分享知識的一個契機。

所以我們現在也看到,自從巴黎的 AI 峰會之後,包含像英國,它本來叫做 AI Safety Institute,就好像道路安全,要繫安全帶那種 Safety,它改名叫做 AI Security Institute,那就是用 Security(國安、資安)的角度,而不只是用 Safety(產品安全)的角度來看待 AI。因為 AI 造成的損害、危害的範圍擴大的同時,大家也用新的「國安」角度來看待 AI。

那在這個過程裡面,大家就發現 Open Source 就扮演很重要的成分。因為在 Cyber Security(資安)世界裡,新出來的加密系統或者新的資安系統,往往不是大家關起門來自己做,而是在草稿階段就公佈出來。你說會不會讓攻擊變得更容易?其實這三十年來的資安界,已經有共識,就是 The enemy already knows the system(攻擊者早就知道你用的系統)。所以你只要守住你的鑰匙就好,其他全部公開,這樣反而比較安全。如果你又要守住鑰匙,又要守住所有程式碼、所有部署藍圖等等,要求攻擊者都不知道,反而一下就被打穿了。所以在這個過程裡面,大家透過 open source cybersecurity 的想法,以及 resilience(韌性)——並不是你不被攻擊,而是因為藍圖都公開,朋友跟你協防的這些朋友也都知道你的藍圖,反而可以及時幫你修正、幫你阻斷攻擊者路徑等等。

這樣一來,反而需要儘可能地開放出來你怎麼防守。而且在開放出來的前提底下,有所謂的 interoperability(共同性),不管是臺灣或者日本,跟理念相近的這些朋友一起訓練也非常重要。在所有這些部分上面,open source 都是一個前提,open source 反而增進 security。這個想法其實是本世紀的想法。上個世紀,連加密系統都被認為是軍事用途、不可以輸出的,在美國是這樣。但經過了三十年,整個資安界都瞭解到,我的密碼系統越公開,漏洞越早被發現,反而越好,也就越強健、更安全。所以接下來 AI 安全也會往這個方向走。

當然還是有互相競爭,但怎麼樣確保「安全」的這一部分,倒是可以分享出來的,它不會造成阻礙。因為在以前,你要對對方造成資安上的傷害,你也必須是一個大國才能做到,但現在情況不是這樣。就算只是一個三四個人的犯罪團伙,也可以做到不成比例的傷害,就像當初有人拿飛機去撞高樓一樣。所以在新的情勢底下,你要防範的就不是只有別的大國,而是各種小型犯罪集團。這些小型犯罪集團甚至已經可以透過勒索軟體、線上詐騙等等全自動化的方式去運作,連遙控都不需要。它犯罪得來的錢又可以再購入算力,形成持續迭代。所以未來可以想像這種情況更加複雜,所以各國也就更需要在「AI 如何防禦」這件事上面互相分享知識。

另外,在教育場域上,有些人擔心未來是不是不需要老師,因為很多東西請 AI 就可以了,像語言翻譯、法律檢索等等都可以 AI 做。您覺得在教育現場,AI 應該怎麼被運用?

不過這個挑戰,其實當初有搜尋引擎、有維基百科出來的時候就已經出現過一次了。以前是說老師腦裡有最專業的資訊,學生要聽老師講課。但就算沒有 AI,當時有了百科全書跟搜尋引擎以後,也已經出現:老師講到一半,學生打斷說「維基百科上不是這樣寫的,網上不是這樣講的」。也就是說,如果純粹只是知識性的傳授,有標準答案的那些東西,老師早就沒有壟斷的地位了。

所以我們在臺灣,2019 年就已經更改基本教育的教學方針。在以前,大家注重的是怎麼樣「有標準答案」,能夠理解到標準答案並回答出來;但從 2019 年開始,我們就改成說:沒有,因為這些有標準答案的東西,AI 做得不但比學生好,也比老師好。

我們要在學習過程裡面培養的,就不是那些標準答案,而是說「你怎麼激發自己的好奇心」——這個叫自發,「怎麼跟背景跟你不同的人互相合作」——這個叫互動,「怎麼在合作過程裡面不是我贏你就輸,而是一起看到雙贏、多贏的可能性」——這個叫共好。

自發、互動、共好,簡稱「自動好」。這些都是 AI 把有標準答案的事情都做完之後,人還可以產生的價值,也就是我們剛剛一直講的:人跟人之間透過交流所產生的意義。這個意義是建立在互相理解、互相關懷的概念上。而這個,我想對日本來說也不陌生,日本也是認為,一個人成功並不是只在於考試都考滿分,或者賺到最多錢,而是要跟社會保持羈絆、回應社會需求,能帶來整體價值。所以這點上,臺灣和日本是完全相同的。

所以我們的教育也不需要擔心 AI。如果我們請學生培養的都是「自發、互動、共好」,那老師就變成促進者的角色,讓學生跟學生之間更能夠透過互動來激發創意,而不是老師腦裡包含所有標準答案的那種模式——那個模式早就過去了。

我們在 2019 年推行新的教育方針之後,到了 2022 年,國中的學生第一批進入這樣的體制,去參加 ICCS(國際公民素養研究)評比。結果發現臺灣的學生,對於「自己能夠在環境永續、社會議題、人權等面向上貢獻」的公民素養跟自信,是全世界第一。那也讓大家比較放心的是,我們在 OECD PISA(閱讀、數學及科學能力)排名依然在前幾名,並沒有因為更注重公民素養就犧牲了 STEM 表現。所以我覺得這是最好的狀況。