所以這分成兩個部分，一個部分是說你有沒有發展對人類整體社會有幫助的、而不是有害的東西。但另外一個是你剛剛講到它會不會 out of control，就是它會不會自己開始出現動機，然後就沒有辦法控制它，所以這兩個是不同的層面。
就是說對不對齊人類的利益，當成一個問題嘛！
然後，所以我就覺得這個是當年他們的擔憂，可是我們活在他們擔憂的那個年代裡了，可是我們好像世界沒有爆炸，地球沒有爆炸，核子彈沒有被 launch，然後 AI 沒有「逃竄」出來啊！所以感覺對齊、不對齊，好像想太多了吧，你怎麼看呢？
對！你有看那一段！
然後，他們還有一個爭辯，就是說 AI 是虛擬的，所以永遠的 disaster 或它的 risk 只會在虛擬世界。然後 Elon Musk 有一次跟一個大師對談，我忘記是誰了，他就說這個不會只是虛擬的，因為它還是可以控制我們世界。
因為那個年代，他們很擔心就是像 o1 或 o3 這樣東西出來的時候世界很可怕，他們還用一個描述說人工智慧可能會逃竄到網路上，他們那個時候……
然後我看這本書，原來對齊這麼早大家就在擔心，大家就在應對，大家就在處理。然後，現在 ChatGPT 已經出來了，大學生都在用 ChatGPT 寫作業了，所以那時候我看這個書的時候，所以對齊好像也沒有很嚴重啊！
我可以問你覺得對齊難嗎？我先講，因為我在看那本書，我很訝異，因為 AI alignment，我自己作為一個才疏學淺的人，我其實這一、兩年才聽說的，我想你一定更早。那我書裡面看的時候，其實是 2015 到 18 年，矽谷的這些什麼 Peter Thiel、Elon Musk、這個 Page，然後這些 DeepMind、OpenAI 每天都在吵這個。
決定大家在車上會打得多兇。
對，我也一直有這個感覺，對。
對，車上的驅動程式，你怎麼看？然後臺灣是在哪裡？臺灣是一個 purely 的乘客嗎？還是車上的這個技工？還是什麼？對，這問題很大。
那我覺得他們某種程度，至少選民做了一個決定，不確定他們知不知道，但總之決定已經做下來。那我一直覺得這件事情跟世界的或美中的或很多地方的 AI 的對抗或者也許合作是有關的，所以我很想知道你在看這個全球的這個 AI 發展的局勢，對抗又合作這個關係，這台車，車上的這個 driver 很猛。
我為什麼要這樣問的原因是，我這次要去美國參加川普就職，那我自己的感覺，對不起我再多補充一點，就是我覺得這一次的美國總統選舉為什麼這麼重要，是因為這決定了美國接下來至少四年的科技政策，他到底要開放還是超開放還是往保守。
可是你不要忘了，全世界還有很多不同的類型的國家，很多乘客，有很多人在各個不同的地方。我想要問的就是美國、中國或者臺灣或者其他地方，你覺得在這個 AGI 誕生的過程裡面，我講一個直白的問題，誰會獲勝？
但是大家都想開這台車，歐盟也想做啊！他想要做煞車的主人嘛！對不對，他想當這個，以後這個你們怎麼搞我不管，反正煞車板要……
好，可是中國大陸也有啊！雖然有人現在在講什麼 DeepSeek，結果問一問，問到最後它說，「你好，我是 ChatGPT。」
我現在回去看什麼十年前就已經在搞了，所以現在一定還有很多是我們現在看不到的公司，正在扮演著未來很重要的角色，很多很可能在矽谷，很可能在波士頓，很可能在美國。
引擎都臺灣做的，對嘛！然後呢，這個但是美國現在有 OpenAI、有 DeepMind、有這麼多的科技公司，有可能還有很多事我沒看到，我最近在看一本書叫《AI 霸主》，天下文化的書，他講 2015 年 OpenAI 跟 DeepMind 就在那個時候就已經開始在 compete 了。
現在問題來了，誰會踩煞車？誰會踩油門？誰會控制方向盤？現在大家都想做，臺灣也想做，我們說我們是 AI 世界的中心，確實我們的工廠、我們的科技公司這個幫助製造設立了 90% 以上的 AI warehouse。
對，那我覺得人類可能會想要多踩一點煞車，因為大家會叫叫叫，會說不可以這樣、不可以那樣。那也有人會覺得好，我不管你煞車油門怎麼搞，反正前進的時候我要控制方向盤。
就是你覺得這台車的油門，就是說掌握油門的人，比如說就我剛剛講的，如果數學可以自己被 AI 發明驗證，我感覺這台車、這個世界的推進力會開始半自動化。
所以我想要問一個，我不確定你這個身份能不能廣泛性的回答，但是我就問，你就自己回答。
好，那我現在問題來了，這個世界有很多人在開這台車。有我們賴清德總統，有我們的立法院，也不只是臺灣，也有美國，美國還有眾議院、有參議院、總統、有白宮。這世界也不是只有美國跟臺灣，我們還有很多其他的國家，有歐盟，有非常多的地方。
我覺得講到這裡，我必須要還是非常感謝你，我覺得你剛剛提到的這個方向盤、煞車跟油門這比喻非常棒，很容易理解。
推薦一下，我們之後再 sync。
就是大腦皮質……
我還是想要掙扎一下，就是我覺得這個 bridge 的動作也可以是 AI agent，也可以是一個 AI 的陶哲軒。
喔！是說他只剩下直覺？
然後很抱歉，AI 也有神之一手啊！
原因是因為我覺得上一次人們覺得人可以靠直覺來獲勝是 2016、17 年在圍棋的棋盤上面，人類一直覺得那是我們智慧的最後一道將軍，因為我們有所謂的直覺，我們有神之一手。因為我看了紀錄片，看了八次以上，就是那個 AlphaGo 的那個紀錄片。
對不起，我現在雖然是還是這個立委的公僕的身份，你已經脫離了部長，我們是不需要對立的。反而我在你之前是部長的時候，我反而特別不想跟你對立，所以我現在就可以對立了。
我覺得你這樣太樂觀了。
對，說要踩煞車。應該說我想先問一個問題，因為我數學沒那麼好，你真的覺得數學有可能被完全…… 就是說幾乎大部分被…… 就是數學再也不是難題了，這句話成立嗎？
所以他們就說現在很危險，所以現在生物學家因為 AI 太厲害，他們感覺這個 bottleneck 快被突破了，所以現在一群生物學家集合起來簽名。
對，對，對！你很厲害。
我昨天才看到一篇超奇怪的文章說什麼叫「鏡像生物」，就是說你的分子左旋、右旋，然後以前科學家在想像一種跟我們的碳基生物完全相反的一種新的生命形態，科學家以前要研究的時候因為難度太高了、維度太高了，可是用 AI 來解的時候就可以……
對，可是我腦海中想像的是一個小叮噹的世界啊！因為我是非常崇拜數學家的，然後我就會覺得，所以會有一大堆 AI 像一萬個愛因斯坦，每分、每秒 24 小時在替人類社會工作，那我們說不定可以解開重力的問題，我們說不定就長生不老，我們就可以有很多的藥可以來解決我們現在沒有辦法解決的疾病。
對啊！已經有說那個程式大賽 AI 已經幹掉 99.9% 的程式設計師了。
你覺得那篇到底在講的東西，我們現在要去想嗎？我們現在要去期待嗎？要去擔心嗎？我們要怎麼準備嗎？這個就是我的問題。
對，就是 AlphaGo 的團隊 DeepMind 現在在搞的是 AlphaProof，就他們有一個人，然後就他也在解數學問題。然後就想像如果數學再也不是問題，我們這世界會變成怎麼樣，我覺得人就可以飛起來啦！我覺得我們就可以去黑洞旁邊啦！
然後我就會覺得，因為人類的科技的推進很多是靠數學，靠這些基礎的科學，然後又加上你看我們很多生物學需要做那個折疊蛋白質，現在 AlphaGo 跑去搞 AlphaFold，就是搞折疊蛋白質。然後同一時間這個科幻小說出來的時候… 對不起我有點緊張，所以講了比較多話，就鋪陳一下。
然後他就說有可能數學對 AI 來說再也不是問題，所以物理對數學來說，可能再也不是問題，就所有計算性的 computational 除了可能需要量子計算的問題以外，對於 AI 來說都再也不是問題。
所以它去解數學的問題，難度對他來講是現象。
符號對人類來講很難，因為我們要做很多空間的轉換，我們要做很多人類過去的思考形式跟符號之間的 bridge，可是對 AI 來講，符號性的思考就是他本身的樣貌。
也就是說有可能一群 AI 它可以做到，然後他說符號學的世界，數學就是符號。
數學能力已經快要出現了。但是因為數學太重要了，所以他在那篇文章裡面想像了一個我其實以前沒想過的，也就是說如果我們可以 deploy 100 個或 1 萬個愛因斯坦，那篇文章有一句話我嚇到他說「數學即將再也不是問題」。
以算數學來講是 157，可是數學很重要啊！然後，估計很可能 o5 或 o6 已經 on the way，所以大家覺得超過智商 180 或者超過愛因斯坦的 AI 已經快要出現了。
對，以算數學。
對，然後我有一點被嚇到了，我想要問一下這個，我還是叫你部長，就是說想要問一下部長，你的感覺是什麼？就是說他在裡面講了一個有點匪夷所思的狀況，他說因為現在 o3 的平均智商據說是 157。
其實我們以前在科幻電影的時代我們自己已經在裡面了，所以我想要再走稍微遠一點，就是我們的好朋友蕭上農，他之前在他的臉書分享了一篇 Twitter 上面的一個，有點像是一個思考文，但是他又有一點像科幻小說。
