你剛剛提到的像在防詐上也是類似的,像剛剛講到的,本來要一對一詐騙,但是現在透過訓練一個語言模型幫他詐騙,可以一次詐騙非常多人,這樣的案件量,雖然是同樣的行為者,但是案件量、數量就會跨縣市變得相當多,因此在行政院當中也有考慮一定程度可以透過 AI 來流線化一些比較重複的部分,是不是可能一定程度讓 AI 來進行,致使攻防使用 AI 的程度才稍微比較對等一點,這也是在我們精確處理對策當中的一部分。
打詐五法,當然裡面已經有處理一些像投資詐騙等等的情況,我們也注意到我們自己在推行行政數位化的時候,我們會發現外面來的這一些挑戰,有一些已是用生成式 AI 在產生的。我舉例:像我們之前有辦理「點子松」,也就是徵件辦法,大家可以提一些好的想法,但是有生成式 AI 之後,如果不限制一個人投幾則的話,只要有生成式 AI,不管是短片或者是影像或者是文字,每個人都可以生出上萬則,這個時候我們評審或者是審查的機制又沒有自動化,這個時候就會產生類似被阻斷式攻擊的情況。
我想是剛剛講的大原則,也就是快速「發現危害」及精準「遏止危害」的大原則是各國都一樣的,只要是民主國家,很少不是用這樣的方式做,但每一個國家所遭受到的挑戰不同。如果一個國家先發現詐騙的危害或者先發現換臉非經個人同意私密影像等等的這種危害,就會先處理這個,但在其他的國家,可能他們比較在意的像是社會信用,也就是透過國家監控的人類情緒識別來影響搭飛機、搭車等等,因為有一些政權示範這樣的用法,一些歐盟的會員國會覺得自己的廠商如果開始這樣做的話,可能讓民主或者是自由的程度大幅倒退,所以他們先處理這個危害。框架上我想大家都是類似的,但是具體的危害,每個社會是不同的。
事實上只要在境內有營業的事實,也就是有從事廣告業務,事實上是廣告業,而且也有落地,意思是有臺灣的分公司等等,所以這一個部分在之前幾年我們不管是在落地的負責人上或者是稅的跨境認定上等等,這部分都已經調適到雖然他的總部可能在愛爾蘭或者是其他的地方,但是在境內有營業的事實,我們可以掌握他的營業狀況,或者是連帶罰鍰等等,並不會有無法執行的問題。
第三,非經個人同意的私密影像合成,這部分之前在性暴力相關防治的法案當中,也已經有納入這樣的做法。我們注重的是,社會上已經期待這種危害如果再不明確說這個不行的話,接下來就會有相當大的社會不當影響力時,我們就要快速來進行回應。這部分我們已經做一陣子了,各部會都有在注意生成式 AI 造成怎麼樣損害跟危之後,快速立法。
其實像臺灣已經通過了三個跟這個相關的法律修正,舉例來講,像透過深偽意圖使人當選或不當選,這個是現在最夯的題目,這是一種危害。另外一種危害是透過投資廣告等等的方式,能夠引起名人或者其他有公信力的單位,這些單位因為現在深偽變得非常容易,很容易冒充某一個名人同時跟幾千人一對一私訊跟視訊,以前沒有這個狀態,現在有生成式AI,可以跨文化、跨語言來做,因此這又是另外一種危害,所以我們也有說線上平台如果發現這種事,又不在 24 小時之內下架,最重可以負連帶的罰款,也就是有人被騙多少他就是要賠多少,這是很具體的危害,這是投資詐騙的部分。
所以基本上是兩個:一個是如何快速把新的危害能夠透過制度性的方式發現到;第二個是當發現到之後,我們怎麼樣快速告訴所有的從業人員,這種新的應用在某個邊界以外就是不可以的、應該要朝著別的方向來做,這個也是上次講過轉方向盤的部分。
我們在過程中發現生成式 AI 的主要挑戰,是因為它是一種基礎技術,很難預先判斷會用在哪裡,所以就必須要有一套方式,若即時造成社會的損害或者是危害可能性,能夠快速發現,而發現之後才能夠對症下藥。舉例來說:像生成式 AI 如果發展出能夠很容易說服人,進入人的潛意識,也就是沒有意識到的情況之下,就去說服他做什麼本來不是他的最佳利益事情,這種事情是違反基本人權,這種事情應該要限制等等。
如同你剛才所說的,歐盟討論這個題目已經相當久了,他們主要的修正就是因為生成式 AI 的興起,所以他們把本來沒有考慮到生成式 AI 的花了大概一、兩年的時間,翻修成有考慮生成式 AI 的情況。
中間如果有任何需要我協助的地方,歡迎隨時找我,最後祝大家新年快樂、身心靈平安喜樂!
數位公建的部分,這也是大家期許已久,有些據說期許十年、二十年以上,端出來雖然不太可能瞬間解決所有的問題,但好在公建已經形成一個制度,所以大家發現到其他部會、地方政府有需求,湊到 3 億元,就馬上再來提一個數位公建,這也是要鼓勵大家的。
也很感謝策略司之前辦的共識活動,包含 mymoda,未來這一些共同價值應該有逐漸成型,而且明年也會有更多的新興挑戰,需要大家攜手面對。滿重要的是我們這個會期來不及送到立法院的《電子簽章法》、《資安法》,這一定是明年年初就要面對的。剛才也有提到資料創新的法制工作,這些都是外界期待已久,而且都是期待一整年以上的事情,所以一旦端出來,還是會有各方利害關係人很多不同的期許,大家就共同來面對。
這一年我們克服相當多的挑戰,從普發 6,000 元的挑戰、外島海島斷網的挑戰、促進數位信任方面對我們的期許,包含下個禮拜院會終於要上線的共同供應契約「111」簡訊發送機制、衛星頻率審核,包含商用的部分,各式各樣資通安全方面的挑戰、數位產業的發展等等,在轉型上不只照顧到企業,也照顧到各種組織,就不一一細數,這一年大家都相當成功克服這些挑戰。
有沒有其他要提出的?如果沒有的話,我想這個是今年最後一次部務會議,也特別用這個時間非常感謝所有的司、署、處、院的同仁。
感謝,「試辦」二字拿掉,沙崙變成是真正的辦公空間。
有沒有其他臨時動議?
剛剛提到包含法制已經跟通傳會溝通完成,財政部也溝通完成,請儘速完備法制程序公告,謝謝。
有沒有其他要說明或者詢問?
這個我們之前有討論過,不管叫做「促進資訊完整性」、「建立數位信任」、「信任科技」等等,大概都是在講 end point,中間就不特別講打什麼、懲罰什麼,而是透過這些防患於未然的投資,最後會達到可信任的狀態,這樣就不會落入個案被一個個要求的情況,所以用這個傘的好處是,如果未來有新的途徑,也可以達到促進信任,也不用回來改這個折扣費用的名字,因為反正新的威脅層出不窮,也會有新的對應方式,最後只要能夠促進信任,都算在內。
這個也是我們之前反覆討論過的用詞,我們如果是用「打擊」、「防堵」之類的,我們很容易就會落入因為我們並不是警、檢、調,並沒有辦法真正執行「打擊」、「懲罰」的工作,因為我們用了這個詞,大家就會對我們有些期待。
次長有沒有補充?
接著往下。
還有沒有其他要補充或者是更新的?
如果沒有的話,我們就往。
我想維護的部分,以我所知,柯分析師跟主秘之前都有討論,主要要突破的是人事的部分,這個部分我可能就如何院長所說的,要抬何院長的名字出來(笑)。看大家有沒有其他的建議或者是詢問?
我們就說何院長其實目前已經用資安院的人力支援經費共同結報系統跨平台設計,像是 PDIS 或者是資安院是機動式來支援,但是挑戰就是很難在同一個領域很久,等於支援到一個程度就會移到別的地方了,這個是沒有辦法的事;但是剛剛何院長所說的是專門在主計處有一個專門的數位轉型科,就算本身不是主計人員,而是表 20 的資訊人員等等,但是至少他的領域跑不掉。看處長覺得怎麼樣?
當然同意,而且之前也有跟主秘溝通過,雖然我們的資訊處並不是資訊總處,主計處並不是主計總處,實際上我們跟數政司辦的共識營的主管說,我們現在看到的這些日常,其實很多是消耗掉很多部分,特別是地方政府,但是也包含中央資訊主管非常多的力氣在做這種非常重複的事情或者是系統,我們可以有系統解決這一個問題,其實服務到的公務人員的數量,很可能不遜於我們其他大規模的那一些公建,我想這個是很好的時間投資,麻煩主秘督導跟改善這一個部分。
看主秘有沒有要補充的?
我具體兩個建議:第一,盡可能把投資到系統開發跟測試時間的部分,也看看怎麼樣不要都用事務官的時間來進行測試,而是把時間專注在提出前面 end point 的需求上;第二,有一些如果可以融入既有的公建,或者是我們已知其他的重要機關也有興趣提出的公建,就移到那邊,因為那邊的資源比較充足。
不過,我想講的是建置這些系統的人,不一定是主計人員,也就是主計人員慢慢提出需求這樣協作的能力養成的話,其實只要把需求能夠講得足夠清楚,甚至第一部分的測試也可以讓一些不是正職主計人員的朋友來進行這一方面的工作,甚至我看主總也有類似公建化,像之前提到的經費結報等等的系統,因為已經用了相當的時日,所以也在想說要怎麼樣把它變成更有彈性的架構等等,這個也是我們可以幫忙的部分。
有關於加班的部分,我記得主秘有提過一個概念,今年這些加班,有些想成是投資,我們投資同仁的時間,但是建置不用重複登打等等的系統,這樣到明年的時候,大家加班的情況,理論上會有所改善。但是,當然剛剛看是滿有野心的計畫,勢必又要再測試新系統等等,又要再投入時間下去,這個我也瞭解,看我要如何幫忙。
謝謝,很棒。有沒有其他的補充?
看有沒有要補充的?
像剛剛大家聽到一些基本概念,像資料經緯之類的,因為公建的範圍比較大,所以用的都是比較抽象的詞,其實就是不以善小而不為的用手抄,秘書處要 key 進去,然後再轉過去,但透過生成式 AI,稍微掃描一下,後面的部分都是用 no code 的簡化方法來做,公務當中有類似的案例,都可以用 mymoda 提案,接下來各司、署、處長都要領銜提 mymoda 的提案,當然並不是都要提這種流程再造案,而是在自己的工作當中,若看到未來公用的公共建設題目,節省到彼此同仁的時間,所有其他地方的主計也好、政風也好、人事也好,當他們用類似的系統時,都可以節省同樣程度的時間,大概是這樣子。
這個系統的初版就是做預決算主計相關的部分,我今天才簽了一個公文,已經獲得主計總處的甲等獎,因此把相關的主計人員跟維然敘獎,到核銷跟財產管理,想必明年可以再提主計總處的獎。
謝謝。我們再往下。
謝謝。有沒有要詢問或者是補充的?剛剛報告的意思是還在想辦法轉檔的那一些,如果現在有需求的話,請秘書處跟兩署的秘書室協助處理,意思是這樣嗎?
瞭解。簡單來講就是我們可能也要想一下,就像 Open Data 有一些半結構或者是非結構化的資料,變成結構化資料的自動 API 化的介面,也許以後 Mydata 在接機關所提供資訊時,也要想一想有沒有一些工具可以把那些資訊又反過來變成結構化的資料,以前聽起來很困難,但是現在因為有 AI,所以其實滿簡單的,只要有足夠的量,就訓練一個 AI,幫你寫這一部分的處理器就可以了,所以這個倒不是不能想,我想 Open Data 那邊,我記得多元司也有提過這樣的概念,現在只是把同樣的概念套到 Mydata 的概念。
看有沒有要提出來或者是討論的?
我想明年一整年地方政府會慢慢熟悉跟數位政府司的互動,而是這個 pilot 明年也在內政部戶役政、地政、民政等等去推行的話,是不是有可能搭著權力關係的重新調整,也讓他們知道跟內政的資料或者是數據治理相關的部分,也慢慢可以往這個方向去走,不急著一下子擴及到環境、農業之類的,但是我覺得內政可以當很好的 pilot,地方政府七、八成都是資料異動的狀態,大概都是內政,另外一個是商工登記,但是人的部分是比較麻煩的,公司不會整天改戶籍地。
我想雖然這個公建比 T-Road/6,000 元的晚一點,但是 T-Road 那一支對地方政府已經有很好的示範,不需要自己建置發錢跟發簡訊的平台等等,而是數政司可以把需求向上集中,所以我想在明年一整年下來,數政司因為公建先走一年,這樣跟地方政府權力關係的改變,也就是他們被攻擊的表面減少了,但是意思是多一點他們的需求,趕快告訴我們的話,我們就可以趕快把共同的需求來建置,這個跟以前不一樣,也就是我們給一點補助款,但是他們還是要建置大部分的事情是不同的。
這個可能要想一想,包含我們自己 Mydata 當中的即時服務(不包含臨櫃)的部分,還有跟 MyEGov 裡面的線上服務部分的中間關係,這個可能要稍微想一下,因為從地方政府來看這個是兩個櫃台,從我們的角度也許是有 API 什麼的,但是他們並不知道這一件事,看葉次。
這個是愛沙尼亞 X-Road 的招牌,他們只需要填報一次,然後到處可用,我們在學 X-Road 變 T-Road 當初因為沒有 Data Fabric,所以這一個招牌我們並沒有繼承下來,我們只是把資安的部分作為 T-Road 的重點,所以上面的部分,不曉得多元司有沒有什麼想法?
像這種之前在 Mydata 打掉重練的規劃當中,葉次有提出這可能是一個亮點,因為真的解決痛苦之處,目前看起來是有進去,但是有沒有強調是另外一回事。
第 13 頁的右下角,有一個跨機關異動通知的共用服務,對地方政府來講,我拜會縣市首長時,很多都提到用他們服務的人不見得是設籍在那邊,如果狀態改變了,中央機關不見得會即時更新,這一件事就變成要重新調查、重新填報,等於是換了戶口或者是身分狀態,可能要更新三、四個不同的地方,也就是設籍地、居住地跟工作地等等的地方政府,這個就是很明確的痛點。
所以都是 3 月的意思?
謝謝。有沒有要詢問的?
這個概念也是類似「雲市集」,我們在籌備階段或者是之前就反覆來討論,我覺得有一個很重要的點是,在以前需要相當久的訓練才可以進去企業或者是組織做數位轉型,但是現在由於 no code 等等的技術發達,任何人只要願意花兩個月就可以掌握一定程度上數位轉型的能力,但是因為之前的高等教育是分科系等等,不一定會像我們現在這樣看到需求就立刻請學生來做,還是要等開課、有學分等等,所以我覺得像這樣子從做中學的方式,現在看起來是非常正確的,也獲得年輕人 NFT、解任務、樂於助人、社會貢獻等等很好的內在動機,並不是外部很像一定要考 100 分或者怎麼樣的動機,我覺得這個品牌未來還是有很多可以再進一步擴展的部分,請數位產業署持續努力,謝謝。再往下。
謝謝,有沒有評論或者是詢問的部分?
麻煩數位產業署跟民主司一起。如果沒有的部分,就按照策略司的建議解除列管跟改變列管的時間。再往下。