對齊、驗測、示範，大概明年整年都會有很多政策，我不確定你們跟其他的作者，也就是這三件事情是不是別人也都會寫？
我們現在 AI 相關的政策大概就是「對齊」，就是問整個社會 AI 應該怎麼運作等等，Wendy 現在是負責規劃「對齊」的工作。另外我們還有資安院跟工研院負責評測，主要是評測不要做一些有害社會判斷等等，很像自駕車不要隨便上路撞人等等，這個是資安院、工研院跟數產署的工作。除了這兩個之外，當然也包含公部門怎麼使用生成式 AI，院長希望我們做示範、引導，像我現在回 mail 也用很多地端的 AI 等等，這個比較是類似教育訓練推廣的工作、示範的工作。
因為我們目前的合約還有一篇，還是我們這篇就試試看用新的模式？
所以是會有一位固定的寫手嗎？
因為我們在 AI 上是有政策，不是沒有的。
坦白跟你講，改了寫法之後，我們同仁的負擔變得非常重。
因為我畢竟代表數位部在寫這個專欄，所以也是要對內比較 accountable。
我們今天會做紀錄，但事後都可以刪修。
沒問題，OK，那就這樣子。
我不確定我能講到多少，因為講了、報導了，對方就會調整攻勢，確實是有一些特徵沒錯，但我不確定現在能不能說，因為講了他們就改變做法。
所以不是水能載舟、亦能覆舟，我們本來還在戰場上在那邊運用 AI，因為那樣子比較像：我們是不是發明 AI 來偵測看起來像偽造的 AI，也就是「用 AI 來偵測 AI」，但是事實上目前的研究都顯示，尤其在對話這種文字的形式裡，就是非常容易偽造，而幾乎不可能偵測，所以我盡量不這樣描述。
很多這種我們覺得眼見為憑，我們相信對方是一個人的這些判斷，其實已經失準了。所以，我們現在才要退到用數位簽章來判斷，因為看它寫的內容、看它講話的語氣，這些都已經不再能判斷了；所以確實是有一種好像是某個險要守不住，所以我們就撤退到這個後面的一線碉堡上的感覺。
所以我倒不會把它講成水能載舟、亦能覆舟，或者是端看你怎麼使用。我們在講的是這套方式，詐騙者就是利用我們在社會信任上面的一些漏洞進行詐騙，因為我們通常看到人，是眼見為憑，所以我們會覺得隔著網路，只要聽到聲音或者看到視訊，就會相信對方是一個人，除非對方開始露出破綻、露出馬腳，比如像臉轉過去突然出現縫線之類的畫面；但現在 AI 已經發展到轉過去不會出現縫線了。
我自己常常用的比喻，比較像 AI shapeshifter，讓它變成變形人、變身人，就是讓一個人變形、變身得非常容易，它可以很容易地去冒充另外一個人等等。這種技術當然有好的用法，好比像用在拍電影上，就比較不需要找替身了，或用在畫插畫上，或用在讓已過世的歌手又可以出來發唱片等等，生成式 AI有一些好的用法，但是它大部分的用法真的是對壞人比較有利的。
當然我們如果要提到評測中心，我們可以說希望在評測中心的鼓勵之下，很快就會到達一個準確性完美無瑕的這個狀況，或至少 90 幾 % 的狀況，如此我們用它來流線化辦案，讓它自動分析，這就變得越來越好等等。
如果用來回應民眾檢舉等等，準確性只要低於 90 幾 %，立刻你就造成新的民怨；但是如果詐騙的這個人用生成式 AI 冒充唐鳳，他講了幾句平常不會講的話，那又如何呢？就是對詐騙者完全沒有後果。所以，生成式 AI目前還沒有解決準確性問題，也就是生成式 AI還不是一個百分之百準確的技術，所以生成式 AI目前對攻擊方比較好用，對防守方比較難用。
對，沒錯，就是主動掃描，然後透過像數位簽章這樣的方法，讓一個人他不能再冒充幾萬人，簡單講就是這樣。
你剛說的「共存」，如果最後回到就是要用數位簽章，被抓到的人一定就是抓到這個犯罪者；若他用一對一的方式來騙，這個確實你很難完全消滅掉，因為總是會有人想騙人，但至少他不要一次騙一萬人。
現在透過偽冒名人，然後引導到 LINE，你看受騙的人是用他實際的時間跟對方聊天，但對話機器人是一次跟幾萬個人聊天，等於他可以用極少的投入，換到一次騙幾萬人，因此這是不能接受的。
現在人跟人之間，好比感情詐騙，對方很難一次騙非常大量的人，而且他必須要投入一定的時間，所以雙方投入的時間成本是對稱的；為什麼現在投資詐騙這麼猖獗？就是因為是不對稱的時間成本。
應該這樣講：如果有人願意承受全部的後果來詐騙，那他也不需要用什麼科技工具，他當面都可以詐騙了，對不對？這個當然還是有。但是，我們要確保像 AI 這樣的技術，不要放大他一個人能夠詐騙的人數，這才是重點。
所以我覺得最主要的 quick win，只要數位簽章取得法律效力、只要《電簽法》三讀通過，我們就可以說只要被我們掃描到的，他的再犯率一定就會降到非常低，不那麼容易再犯了，這是很明確、一定可以講的部分。
我覺得可以。因為我們現在這種高風險網路廣告掃描、即時下架的這套聯防，其實真的已經做出來了。
對，大家都很喜歡這種 quick win。
畢竟我們才成立一年半。
對，就是劍及履及。
而且可以達到真正的實名制，就是你真的只能幫自己買票，或是幫願意相信你把自然人憑證交給你的人來買票，因此就沒有那麼容易一個人幫幾千個人買票，黃牛票的問題就可以獲得逐步解決。
先搶先贏的問題就是：只要手上有那麼多人的個資，就可以一次用一百多人的個資搶，而且只要寫個程式，怎麼樣都搶不過這個人，但如果現在用數位簽章，而不是只是需要個資，還要有自然人憑證，因此除非那一百多個人都把自然人憑證交給你，但這是比較難做到的事情。
對，這是一件事情，最近推特上有人說，連黃牛票的問題可以一起解決，尤其是線上搶票的那種平台，因為臺灣比較流行先搶先贏，比較不流行先登記後抽票。
如果廣告連到 LINE，在有人看到以前，我們每天會掃描1萬筆，因此大概都已經先被掃瞄到。掃描到之後，我們就會提供這個高風險的情資，因此當然詐騙的廣告可以減少。但現在是我們通知之後才下架，未來就可以：如果沒有數位簽章的，我們一通知，平台就要馬上做出判斷，等於有數位簽章的，才等平台 24 小時時間。
以前的詐騙網址後面不是「.tw」的，所以這是以前沒有辦法管的原因，但從去年開始，我們整年下來，你只要點下去那個網址，就會看到 165 的警示訊息，等於我們現在已經可以把這種一頁式連到外面的網站，差不多都會封鎖住，這就是為什麼現在大概都是跑去 LINE詐騙，因為以前這種一頁式網站詐騙的這條路，已經走不太通了。
已經到有被害人的，你就要去問警政署。還沒被害人的，我們這邊會直接跟那個民眾接觸嗎？我們比較會做的是分析部分，比較像是哪些名人正在被偽冒，這個我們就很清楚，或者這個投資類型是可疑的一頁式網站，最後會被導引到那些網頁，特別是跨境一頁式的詐騙，我們成立之前大概一年下架3,000件，成立之後去年整年就3萬多件，等於每天都100件上下。
因為現在詐騙綁在廣告平台上，等於平台是一個擴大器，只要花錢，就可以精準投放，甚至可以專門挑某些特定年齡層或某些特定興趣，如此比較容易被騙那些人去做精準投放，這樣的效率就比隨機的打電話要高很多。所以，可以說精準投放廣告的這些技術，也是幫助那些想要鎖定特定會容易被騙的人群做詐騙，反正更容易達到他們的這個目的。
以前電話你還要一通一通打。
所以我的意思是說成本上，現在只需要一台比較高檔的筆電或是雲端跑即可，而程式碼基本上都是可以免費取得的。資料方面，如果你要偽冒公眾人物，資料事實上是非常、非常容易取得，你只要看我的訪問或者我的相關新聞，就可以產出了。所以這些都不是門檻，也很難說他的技術從哪邊提供的，因為這是任何一般小孩子現在都可以用的。
這些技術都不是什麼特別稀有的技術。我們剛剛講到那個對話機器人，或者是 deepfake 的那支影片，這些都是用公開可得的技術，在一台筆電就跑得起來了。又或者像說我整天在這邊訓練幫我回 email 的模型，差別只是我看過再送出去，那些要偽冒我的，大概都就直接使用了。
裡面有一個特別高風險的，就像我們剛剛講的，一個付費廣告最後不是要你去看什麼頻道，也不是要立刻買什麼東西，而是跑到一個 LINE 個人帳號，準備開始跟你一對一聊天，這就是高風險，因為很少想像商家會做這種事情，而且大部分商家都是把你導到電商平台，導到接下來要賣的東西上。因此，若一定要跟你一對一私聊——而且是用一種名人的身份跟你一對一私聊——這就非常可疑，因為大部分並沒有那麼大的空間與時間跟成千上萬個看到廣告的人一對一私聊，這幾乎就可以斷定大概是與 AI 機器人對話。
但我們覺得廣告業當然不應該一方面賺錢，然後一方面又助長犯罪。所以，這些廣告平台目前都願意至少做一些基本的投資，去確保資訊的完整性，他們也不想被當成在上面看到廣告都是詐騙的平台。
我們當然跟任何人一樣，我有時候看 YouTube 或者我看 Facebook ，有時還是多少會看到一些冒充名人的廣告。但自從我們這兩個月開始做主動式的掃描、智慧防詐之後，我自己碰到機率是越來越少，但是當然有時我同事都會給我看賣藥的廣告又來了，或是存股的廣告又來了等等，當然就是大家日常生活中會碰到。
這是 2022 年 1 月的影片，從那時到現在，當然 deepfake 更加難以被偵測出來。我的意思是說，與其是我被騙，不如是我讓大家先經驗一次，什麼是 deepfake 的情況，這樣大家在腦裡就會知道眼見不再為憑這樣。
這個影片網址在這邊，你如果點開的話，會看到一個看起來就不太像我的人，但是也有一點點像，用我的語調來跟大家解釋 deepfake 是怎麼一回事。最後，真的我冒出來，說這個是 deepfake 做的。然而，現在任何人用筆電、花 12 小時，就可以很容易合成這樣的影片。
它等於是好像打預防針的狀況，這叫做 pre-bunking（預先澄清）。有了預先澄清的情況，看到的人之後那個抗體濃度就會比較高，比較不會受騙。
我自己也有拍過相關影片，我把自己 deepfake 起來的影片。當時在行政科技會報辦公室，我們那時看到有 deepfake 這件事情，而且知道之後很快就會普及了，所以我請人deepfake 我。在這個情況下，我們可以看到一個結果：真的看過這部片的人，他就比較不會變成那麼容易被騙了。
所以要把 AI 的危害在這方面解決，唯一的方式就是增加源頭的成本，而且這個很難說是對 AI 本身的監管，這比較像是對濫用 AI 的監管。
只要特別是公眾人物，下載他講話的方法及一些公開的發言，任何人都可以瞬間偽冒，因為中間已經不需要特別訓練誰了，所以只要成本下降到這個程度，就很難只靠檢警調調查、再去起訴等等，因為他成本低到這個程度，只要有錢賺，只要有個車手或者是人頭，就可以偽冒成一百個人。
我覺得應該這樣講，就是說 AI 讓這一類冒充成別人的犯罪成本下降到幾乎於零的程度。以前你需要很擅長騙人的人，才能夠一次冒充成好幾個人，需要這種特殊的才能，但是現在有了 AI 之後，這些都不需要了。
以上這三個都做到了，差不多就可以了。我也貼一個連結給您，這是我們之前記者會專門講的事情。
第三件事，我們在技術上面必須要有一個聯防的平台，有任何一個下架之後，同一個數位簽章、同一個人簽的，在別的平台也就一起下架，這樣詐騙集團才不能下架一個後，卻跑去另外一個平台上架。
第二件事情，內政部警政署現在有《投信投顧法》70 條之一的報案辦法，這個辦法的重點是，如果 24 小時不下架就要負連帶責任。我們現在想要跟他們討論說，只要你不做數位簽章，你連 24 小時下架都沒有這個餘裕，要很短、很短的時間內就要下架，不然就要負連帶責任。有數位簽章的，才給你 24 小時的時間去進行這方面下架的工作。在法規命令上，變成給這些平台一個誘因說，你一定要用數位簽章，不然負連帶責任的機率就變得非常高，這是第二件事。
所以，我們也同時會請內政部看能不能提供給這些 C to C 的賣場，像新的賣家上線的時候，也可以用數位簽章來確定他的身份。所以，內政部提供這個 API、驗證數位簽章的方法，我們剛講到的廣告跟電商平台都可以使用，這是第一件事。
