或者是隱私強化後的數據公益 API?
包含離島等等,就是在台北那一場一起處理,謝謝府方的建議。
台北是線上。
對於比較遠道而來的就不用跑兩次,他在這邊過夜就可以了。接下來東區的說明會,之前有討論過嗎?
第 16 頁團隊是不是要說明一下?
這邊是不是有可能協請國科會、國發會,反正不管這個計畫拿誰的錢,就是請幫忙看一下,這個精進內容就比較詳實。
我自己倒有一個問題,政府相關預算不限於科技預算,也就是如果是社發或者是公建的話?
所以精進內容可能就要加一些具體精進項目,或者是其中新創價值的部分,也就是具體詳實列出來,這個當然感覺上是增加他們一些成本,但是確實衡量可能會一魚兩吃的情況,加入這個成本確實是有必要的,這個也讓國科會比較有可能來查核。
接下來第 11 頁,因為右下角「請敘明計畫名稱及精進內容」,右下角的意思是精進的內容不能籠統,而是計畫變更就要列點,這麼清楚才可以。
我們是不是有可能把「實作驗證」更加框定在進程的驗證情形,不要把實作完成度的概念移進去,也就是主要處理「過程是不是足夠透明」或者「是不是足夠讓陪伴教練可以瞭解到真的是他們這些人做的」,而不是從外面拋東西進來。這樣一來,「進程」跟「可行性」就切開了,如果大家不反對的話,我們就這樣子處理。
簡報第 9 頁當中,您說實作驗證的部分,指的是完成度跟可行性是同義詞,當然右邊的是驗證情形,講的不管是陪伴教練或者是團隊共筆,或者是跟多方利害關係人線上協作,或者是 open source 出來的協作等等,那就比較是過程裡面可以驗證的部分,這個就跟可行性切開了。
我們逐一來討論。
之前很努力要變 1 比 1,但不容易,就請衛福部儘量參採,謝謝。
可以用穿插的方式放進名單裡。看大家有沒有意見?
那我們就這樣辦理。
意思是從 520 開始,越早越好,可以直接這樣寫。這部分衛福部 OK?
非常感謝。數位部之前在院會的籤運不錯,經常被抽到。
先確認以 12 月 15 日為宜,沒有要提早。第二,我想都已經有融入之前大的那一場會議有一些想法,看大家對於時程或者是節奏有沒有想法或者是詢問之處?
聽起來的意思是決審之後,看府方這邊覺得可以的時間,如果可以提早就提早,如果不能的話,目前的時間是 12 月中,不曉得府方對這樣的時間有沒有想法?
在時程的部分先停一下。
應該都已經完成了,這個就解管,我們再往下。
有關於英文字樣,「Next Generation」要不要加定冠詞後面再討論,概念上其他都有辦理,如果各位沒有不同的意見,我們就解管。再往下。
如果沒有的話,我們就解除列管。往下。
謝謝。今年確實時程規劃上比較寬裕,包含工作坊等等,我想都辦理得滿妥當,看大家有沒有不同的意見或者要詢問的?
我們準時開始。很謝謝大家來開工作會議,我們依往例跳過主席致詞,我們直接到報告事項。
謝謝。
對,我們事實上有一個記者會,我們上次的例行記者會專門講這一件事,記者會的逐字稿有在官網上,有空可以參考。
對,沒錯,因為我們本來就是為了這種情況來布署的,我們年底要佈建 773 個國內外的衛星站點,這個還有別的配套,像災難漫游、PPDR(警消保證頻寬)等等,這些都是我們正在測試中的技術,只是現在事件剛好發生了,其實還在測試、還沒有驗收完,但是因為實際需要,所以就立刻布署過去。
是我們預備好在那邊的,但是 OneWeb 是第一次使用。
有,你如果去我的 Threads 看——雖然最近都在講衛星救災的作用——但是你稍微看一下,就會看到大家很多的反饋。
目前先這樣子,這個叫做「通識課」,講得是非常非常粗淺的東西,當然未來如果大家有興趣,也不排除再錄,但是目前並沒有排定接下來要錄什麼。
我們對於美國 NIST 的技術標準組織,資安院、AI 評測中心跟工研院加起來,還有他們的 AI 安全機構,我們第一個討論的當然是對齊大會,但是也包含很多別的可能像剛剛提到如果誰都可以跟誰互相複製彼此的聲音,要如何驗證線上是本人等等的這些也有一些技術標準,所以我們就會很積極去跟這一些機構來進行對齊,也就是我們這邊就是資安院、工研院、AI 評測中心,他們那邊就是 NIST 的 AISI,我們在工作層級已經有非常多的交流。
PDF 裡面都有寫到。
AI 快速發展,所以我們做任何類似 Alignment Assemblies 的地方,只要一發現有新的危害可能性,還不一定要真的危害,透過這種網絡彼此分享,大家就等於是守望相助的概念,這可能是第三個好處。
一方面是對外,一個是瞭解到最新的這些工具。當然,我覺得還有另外一個好處是我們從 AI 評測中心的角度來看,我們辦理這些 CIP 相關的活動,可以讓我們知道接下來應該要評測什麼,我們可以透過國外 CIP 的夥伴知道,現在國外開始注意到哪一些 AI 的新興風險,但也許我們還沒有注意到,這樣很像互相分享雷達、情資,像剛剛 15 秒鐘的聲音就可以進行 copy、具有說服力,CIP 就是在英國先發現、先討論這一方面的事情,所以我們趕快有一些因應的對策。
另外,因為其他的組織創用 CC 等等也有跑他們自己對齊大會的程序,也可以經由參考他們的程序,認識到現在最新這種透過 AI 來促進審議的方式是什麼。像我們在史丹佛大學的協助之下,最新的這次審議有 400 多個人上線,被分成 40 幾組,每一組剛好 10 個人,但這 10 個人的討論就是由 AI 來引導,不需要人來引導,AI 會自動提醒這個人沒有講話、要不要多講一點,這個人講太長、要不要給別人有一點講話的空間,可以打斷、但是不能超過 5 秒鐘,也會即時做逐字稿等等,所以等於一次讓非常多人參與,並且 10 個人分成一組來進行政策討論,但是你分 40 組在以前需要 40 個引導師、桌長才可以引導,因此就很難大規模來辦理。但是現在透過引入這些 CIP 瞭解到的這些線上審議技術,就可以更大規模來辦理這方面的討論。
第一,我們經由來辦理這種對齊大會,累積出來的這些經驗,我們可以分享給包含 OpenAI、Anthropic、英國或者是美國的 AISI,因為這樣的關係就提升我們臺灣在國際上能見度,這個是最基本的。
這個跟抽樣、民調一樣的方法,也就是問卷裡面會填居住地、性別、年齡等等,所以我們抽出來的人在分項當中的比例,就相當於臺灣在這一分項的比例。
像最近那次的對齊大會,事實上是有車馬費,雖然是線上,每個人會花 2,000 元。其實目前唯一的資格是要有手機號碼,沒有別的。我們做的事包含:先透過「111」簡訊平台,隨機發給臺灣的電話號碼,我們發的簡訊裡面有問卷,願意填問卷的人,我們在裡面再取樣,取 400 多人、500 人左右,人口比例結構就跟臺灣的人口比例結構是一樣的,所以等於是臺灣的縮影,大概有 450 人左右當天真的上線、參加對齊大會,所以做出來的共同決策等等,有一點信心並不是一小部分人的決策,而是具有統計代表性一群人的決策。
沒有,但是辦這些活動是需要成本。
我們就是要答應 run 對齊大會,就是要實際上來做對齊 AI 的事情,我們也要承諾跑出來的這些結果,不管是透過英文或者是華語,都可以在線上公開,這個是最主要要承諾的,所以你可以看到我們的網站上,有英文版、華文版都有一個專區,叫做「對齊大會」,目前是只有去年 8、9 月的工作坊內容,不過很快就會再多加幾個上去。
事實上是一個 project,像我們在英國也有看到 CIP 的 Alignment Assemblies 做法,他們也制度化了,他們叫做「AI Safety Institute」,所以可以說英國已經認同這一套做法。美國的 NIST 也剛成立「AI Safety Institute」,所以可能不是每一個國家都有,但是我們可以說 AI 安全機構要納入像對齊大會這種社會評測的方法,目前至少在英國、美國已經是確立、機構化的,就很像在臺灣的 AI 評測中心一樣,當然我們台美、台英中間都有很密切的交流。
有一個 MOU。Alignment Assemblies 其實是各個組織持續地辦理像這種對齊大會的活動,再透過這種活動讓 AI 的治理變得越來越容易,所以它的目的其實是結合這些志同道合的夥伴,一起往更安全的方向,並不是唯利是圖的方向去發展,網站上有白皮書的 PDF 可以參考。
所以 CIP 這個專案主要的價值是,不會因為很像我們並不是聯合國或者是其他國際組織的成員,我們就錯失跟 OpenAI、Anthropic 這麼緊密一起合作的機會,相反的,因為對齊這個題目,大家都非常關心,我們就可以跟他有更多技術上的合作;同時也設立了 AI 評測中心,在裡面會特別評測有沒有對齊這一件事。
因為我們對 OpenAI、Anthropic 也好,其實並沒有在臺灣設什麼辦事處之類的,所以我們要直接接觸到 OpenAI 共同創辦人,他之前有跟我會談,逐字稿都有在網路上,其實我們之所以能夠跟他們保持這種很緊密夥伴關係,靠的是我們對於對齊這一件事共同的想像及把它共同當作優先順序。
可能會有一個 MOU,如果去看 Alignment Assemblies 那頁,有提到如果是業界要加入的話,需要答應哪一些事等等。
CIP 發起了一個計畫,這個計畫叫做「對齊大會」(Alignment Assemblies),這個計畫裡面有相當多的夥伴,包含 OpenAI、Anthropic 等等。
是微軟研究院、Google DeepMind 出來的研究員合創的,當然他們有一些其他人,我們加入的是對齊大會這個計畫,在這個計畫裡面加入的有 OpenAI、Anthropic、GovLab、GETTING-Plurality,最近創用 CC 也加入了,也就是國際上最尖端在做 AI 的對這種對齊是很有興趣。
沒有關係,我們可以把人跟人之間改個名字叫做「互信」,也就是不要盲目信任系統,才能夠維繫人際的互信。
所以好比我有用零信任的方法來防護我的帳號,你就可以比較信任我的帳號,不會哪一天突然間被別人搶走,我們之間的信任就比較容易維繫,大概是這樣。