開始開會。
請議事人員宣讀上次會議議事錄。

請問在場委員，對上次會議的議事錄有無遺漏、錯誤或需要更正之處？（無）議事錄確定。
請議事人員宣讀報告事項。

本日會議邀請國安局、數發部、調查局、警政署及國科會報告「AI技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」，並備質詢。
首先，我們請國安局蔡局長上臺報告。

接著請數發部林政務次長進行報告。

其他機關報告請參閱書面資料。
現在開始詢答，本會委員8加2分鐘；非本會委員5分鐘，10點半發言登記截止。如有臨時提案，請於10點半前提出，11點左右視詢答情形進行處理。這裡作一個宣告：國安局蔡局長因為另有要公，從10點40分開始請假，之後由張元斌副局長代理備詢。
現在請羅美玲委員上臺質詢。

（9時18分）謝謝主席，有請數發部林政次。

請林政次。

政次好。有關於10月底微軟有提出了一份2024數位防禦報告，裡面提到國家級的網路攻擊已經開始結合網路犯罪工具以及生成式AI技術，導致全球的資安危險是進一步升高，本席引用了這個報告的圖表，我們可以看到，在國家級網路攻擊行為者的目標名單當中，臺灣是排名全球第6，而且是印太地區第1名。
我們看到這份報告也列出了網路攻擊的10大目標產業，其中第一名就是我國的核心戰略產業之一的IT產業，關於關鍵基礎設施的政府部門，比如說像運輸業、金融業、資訊科技產業還有金融業等等，都是位列其中，一旦這些設施遭到攻擊的時候，對社會穩定跟經濟的秩序，就會帶來很直接而且巨大的衝擊。本席想請教，生成式AI現在被廣泛用在這種資安威脅當中，我們除了自動生成惡意程式之外，因為我看到了各部會的報告裡面特別有提到，像它可以自動生成惡意的程式之外，能夠協助計畫跟管理複雜的攻擊流程，像過去耗時的攻擊手段，可以更快、更頻繁地執行。
我很詳細看了數發部提交的報告，我們目前是將零信任架構的防禦機制導入到各行政機關，就是要對資安的防禦來做一些防護的措施，我們從這個表裡面可以看到，初期當然是針對資安責任A級機關為優先，並依序要導入身分鑑別機制、設備鑑別機制跟信任推斷機制，可是我在查閱了數發部、資安署跟資安院這三個單位，我們看近年來跟明年的預算書，可以發現對於零信任架構的執行成果跟未來推動的目標，各單位揭示的程度並不一致。我們來看112年推動的成果，本席有發現數發部已經完成了22個資安A級機關的身分鑑別機制，可是設備鑑別機制、信任推斷機制目前還沒有看到。而數發部資安署已經完成了兩個政府機關的設備鑑別機制，然後國家資通安全研究院也完成兩個中央部會的設備鑑別機制。我再次看114年的預算書，這個可能很需要數發部來做個解釋，為什麼我們只看到國家資通安全研究院是準備要導入19個資安A級的機關來做設備鑑別機制，可是數發部跟資安署這裡，我沒有看到任何設定的目標，這個部分可以來解釋一下嗎？
再來還有一點，112年我們推動的成果已經完成導入了22個資安A級機關利用這個身分鑑別的機制，可是我看到媒體報導是年底的時候會完成47個，到底現在進度是如何？因為現在也快要年底了，所以這幾個問題，想請政次來回答一下。

受到一些阻力？因為我發現我們的預算書或是成果的報告裡面，這部分讓我們常常會有一些疑問，為什麼我們找不到這個資料，到底是發生什麼問題？所以現在政次是說在推動的過程當中遇到了一些阻礙嗎？這個可以特別說明一下嗎？

OK，好。

是。我有看到，是沒錯，我是說為什麼我們也看不到進度？而且要完成47個身分鑑別機制也是我在媒體看到的，一般在你們報告書裡面看不到，所以剛剛政次有提到碰到了一些阻礙，是怎麼樣的阻礙呢？零信任架構也推行了這麼多年，我們總覺得好像推得卡卡的，這部分到底是怎麼回事？

是，沒錯。

是，它是有關關的關卡，我們知道。

所以其實這相對來講，是一個比較安全的機制嘛！

對，可是為什麼我們在公部門推行的，覺得好像不是那麼順利？照理來講公部門要配合來做才對啊！

47個年底會完成嗎？因為我在媒體看到說會完成……

我們總共有49個A級的資安機關嘛，因為文化部跟退輔會在試辦的時候就已經完成了，導入三個機制，所以我們剩下總共還有47個，而22個也在112年的時候已經完成身分鑑別機制了，可是設備鑑別跟信任推斷這部分，本席到目前都還沒有看到，那剩下的呢？我們總共47個會累計完成嗎？

好，再來，你看我們自己公務部門、公務機關的推行好像都這麼卡卡的，更何況我們還有44個資安A級特定非公務機關，那什麼時候才能夠導入？因為這些都是國家關鍵基礎設施的提供者，像台電、中油、臺大醫院、臺鐵、高鐵、銀行等等都是，所以目前都還沒有進度，對不對？

OK，好，這個要加油，因為我們在資料上真的看不到，就覺得這部分推行的好像不是那麼順利。再來，我在8月份的時候，有看到我們黃部長提到年底要推出人工智慧風險分級框架，我本來想說你們這次的報告書裡面會提到這部分，可是發現你們隻字未提，這個會來推行嗎？他說年底就要推出了耶！那這部分呢？

所以黃部長所提到的，年底本來想要來推行人工智慧的風險分級框架，目前是推不動的意思嗎？因為目前還有待社會上的對話，是這樣子的意思嘛？所以年底之前就沒有辦法來推行囉？那部長話有點講得太快了一點是不是？

OK，好，相關AI的風險問題，之前我跟國安會其實也做了很多的討論，本席是建議像資安署、國安會還有國科會，甚至我們資安研究院，應該要成立一個類似跨部會，類似這種AI資安技術聯防的一個小組。我本來期待我們的風險管理框架在年底的時候可以看得到，可是目前政次的意思是這個部分還有很多討論的空間？

對，因為我們也有看了，也參考了其他國家比較成熟經驗的RMF，這個部分的話像美國NIST有提出了人工智慧風險管理框架，像這部分是不是也來做參考？

再來是FAIR，我想FAIR最近在金融業跟企業界也滿常用的，當然可以參考的標準很多，對於資安安全來講，臺灣是一個受到假訊息跟資安嚴重威脅的國家，我們希望有自己的架構出來。OK，以上，謝謝。

謝謝羅美玲委員。
接下來我們請洪申翰委員上臺質詢。

（9時30分）請國安局蔡局長。

請蔡局長。

局長好。局長，今天謝謝召委排定的這個專報主題，討論的是AI、資安、國安等等議題，今天我當然也比較想要用更全面的角度來跟局長討論，包括我們的資訊戰或認知戰的問題。局長，目前有很多研究素材其實看得到中共大概從10年前就開始在推動所謂媒體融合的全國戰略，包括幾個西方的媒體，像我們看到澳洲的智庫等等都點出，他們的宣傳系統是由共產黨跟國家很多機構、跟民間機構一起來組成的。在這個非常非常綿密的組織之下，某個部分它已經實踐了我們現在說的包括傳統媒體跟新興媒體的結合或融合，最重要的事情是它是在打造一個由共產黨在主導的敘事結構機制，進可攻、退可守。我其實很清楚知道，現在很多部會都很努力花很多人力在處理這些錯假訊息的闢謠，我自己看了今天各部會提出來的報告內容，這些報告的內容我自己覺得看起來當然有很多技術性的應對，這些都有，但是我想問局長，你覺得我們這些事後的闢謠能夠去應對，比方說以中共目前在主導的，它是以一個規劃設計一整套的敘事結構，然後動用所有它轄下可動用的所有媒體、新舊媒體的宣傳資源，局長你覺得我們靠事後的闢謠能夠應對得了嗎？

局長，這是我說的，這只是事後的闢謠、事後的事實查核。

局長，我們其實過去就有經歷了，包括那時候在疫情期間疫苗的狀況，它其實是一整套的敘事布局，包括烏俄戰爭的時候，它也是一整套敘事結構的布局，它有前、有後、有鋪陳、有要你投射引導的東西，所以這絕對不只是錯假訊息的問題。

如果我們只從錯假訊息的角度，我覺得這也太低估中共了吧！我剛才想問的事情是，局長，我們現在是由哪一個部會、哪一個部門在主導？我們怎麼樣能夠化被動為主動？其實是有一個以臺灣為主體、以臺灣為本位，我們的敘事結構去做資訊的布建，或者是資訊的傳散？我們現在是由哪個部會在主導這些事情？

哪一個單位嘛？

局長，我自己覺得國安局應該要在這裡面扮演很重要的角色。當然，今天數發部也在現場，可是我認為數發部在這裡面恐怕比較能夠處理的是在數位技術上面處理的問題。可是從國家安全的層次、國家的立場，或者是我們到底要跟國際社會預先，要說打預防針也好，因為我們當然不是主動要去攻擊別人的，我們不像中共，可是我們要怎麼站在一個主動性的、戰略性的位置？我認為看了所有單位裡面，我覺得國安局最適合。

當然我們都不是說攻擊。

對。

我還是想提醒，我希望國安局也好，或我們相關部會也好，當然今天專報的內容很多，可是如果真的只是一直在討論事後的事實查核，我覺得我們絕對是疲於奔命，而且效果一定非常非常有限。我自己是很希望國安局應該要把我們主動去……當然我要再說明一次，我們不是要去造謠、我們不是要去攻擊誰，但因為我們現在面對對方一個非常非常強大的威脅，尤其是這個強大的威脅不只資源多過於我們，甚至現在在它內部也是用敘事結構的方式，其實是在塑造整個認知戰！我們看到有幾個國際智庫也都提醒，恐怕必須要用提前破解的方式，prebunk的方式，而不是一直用現在事後事實查核這個debunk的方式來處理這個問題。
數發部次長，今天我也聽了你的報告，包括我們在AI上面的各種應對。

我也是想請教，你覺得現在數發部在工作上面，我自己感覺確實比較多的還是在事後的闢謠跟查核。

我們有沒有可能可以再做在更前面去應對？

次長，你講的我都同意。

但是我覺得我們現在面對到即刻的威脅，就是生成式AI確實已經被中共拿來應用在分析它的使用者行為，以提高它投放的精準度。

尤其這裡面它很善用生成式AI做一種真假混合的方式去欺騙，所以坦白說，我們要去做某一種事實查核的時候，也會遇到其實裡面也許是七成真、三成假，或三成真、七成假，大部分的狀況其實是這樣，它不會給你一個全部都是假的東西。

這種情形其實是最難處理的狀況，某個部分其實也是改變了它的宣傳策略，從它過去可能是單一訊息去做大規模轟炸，它現在是搞分眾，然後做精準打擊，然後用生成式AI去做分析，提供這個效果。所以我剛才說它在這一整套的敘事結構裡面，再搭配技術上面的應用，說實話我覺得效果很好，我為什麼今天還是想要在這邊提出這樣一個意見的原因，因為我覺得我們都很清楚知道接下來的國際情勢，這段時間很多國家，不管是選舉也好，或者是結果陸陸續續出來，接下來國際情勢的不確定性一定會更高。

而且當這個不確定性更高的時候，中共在這裡面一定有大量的空間可以去運用它準備好的這些技術也好、彈藥也好、策略也好、戰略也好，它都準備著在等！

那我們準備了什麼？我們要主動做什麼？我們提前要布局什麼？坦白說，我必須報告次長、蔡局長也好，其實我在這些報告裡面沒有看得很清楚，我們做了什麼提前布局？都是比較事後的因應，我自己覺得在這份報告裡面，當然蔡局長也許會說有些能做主動布局的部分，因為國安的原因沒辦法盡然的都呈現出來，要這樣講我也理解，可是我還是必須站在國會的立場來說，還是期待我們更多來因應這些資訊戰的部分，真的不是停留在事後的闢謠而已，這真的不夠。從過去的經驗我們追著這些謠言跑，從疫情、從烏克蘭戰爭，我們追著謠言跑，坦白說真的非常、非常、非常的吃力，在過去這幾次的經驗裡面，我們知道我們的不足，我們是知道我們的不足，所以希望跟過去這幾年有一個不同的做法能夠端出來，這部分……

好，這部分當然還是覺得非常、非常需要知道，因為我想局長知道，這裡面可能不只是單靠政府部門，您恐怕也必須去結合我們民間可以動用的資源，甚至國會包括國會議員可以在這裡面扮演什麼角色，這是一個總體的動員戰，我們現在看到的這個認知作戰上面的攻防來說，它幾乎是一個總體的動員戰。當然我們不會要去說破局長講不能講的事情，可是大家可以在每個不同的角色上面怎麼去應對現在我們對面這麼大的一個威脅，尤其他資源這麼多，他的戰略坦白說是非常非常積極的狀況之下，還是希望這部分能夠請國安局再更主動積極，好不好？謝謝。

謝謝洪申翰委員，局長請回。
接下來請徐巧芯委員上臺質詢。

（9時42分）謝謝主席。有請國安局蔡局長以及數發部林次長。

請蔡局長和林次長。

還有調查局副局長。

早。首先今天在討論AI跟假訊息的部分，其實我在上一次的時候，我有拿出來高嘉瑜委員被Deepfake偽造的影音，後來高嘉瑜委員在媒體受訪的時候，她也正式提出告訴，可是我們在這整段時間來說，可以看到AI因為科技日新月異的關係，所以各式各樣的造假其實是層出不窮的。我今天還是拿3個範例來跟三位討教，為什麼要請調查局的副局長一起來，主要是我們先看一下，之前我在外委會，我們有通過一個臨時提案，這個臨時提案是這樣子的，因為2024年總統大選期間不斷有疑似政治人物的影片，以及疑似蔡英文總統的錄音檔等內容流出，引起社會譁然，請國安局及調查單位重視這個影片或錄音檔的傳散，並且評估相關的案例是否導致機密外流，以及說明境外勢力介入選舉的態樣，提出相關的報告，後來我們是同意用書面報告的方式。
可是到現在我想問一下，這幾件事情到底調查得如何？尤其是羅致政前委員作為過去國防外交委員會的召委，也接觸過很多相關的秘密訊息，如果有駭客入侵的情況，我國的國安或是我們的機密是否有外流的情況？以及蔡英文總統所謂的錄音檔到底是真的還是假的？我覺得國人需要知道一個答案。

對，所以調查局我才請他們來嘛，調查局可不可以說明一下。

我想要問這樣一個內容如果在地檢署偵查出來是屬於深偽或不屬於深偽，最後會讓大家公開知道嗎？還是這只是屬於他們私人官司的部分？會有一個結果告訴大家到底這是深偽的還不是深偽的嗎？

可是現在就有一個問題啊！羅致政前委員他去提告，代表他認為這些都是假的，但是問題是從國安的角度來看，我不針對他們床上什麼的，我針對這個錄音檔的部分，因為錄音檔的部分涉及到我國元首，以及像你們都會來跟我們報告機密預算，相關的內容是否也有遭到這樣的情況，被駭客入侵，然後我們的國防秘密被境外勢力所得知？在這個部分是屬於公領域的議題，不是屬於他私領域的議題，想要請問國安局跟調查局針對公領域的部分，我們有什麼妥處的方式？

對。

對啊！所以我就問，那檢方調查完畢之後，因為社會都很想知道這些錄音檔、這些影片到底是真的假的，所以我才問會不會公開涉及公領域的部分？

因為如果涉及公領域的部分不公開的話，這樣大家都會覺得就直接把它當真的囉，如果是假的也把它當真的囉，還是只有它是真的你們就不公開，那它是假的才公開呢？

對、對、對。

因為我們講的是公領域的部分

這不只是地檢署的問題而已，因為還包含是整個國安的維護，就像是我國元首如果被錄音這些內容放出去，它是屬於一個國安問題，所以民眾有權利知道它到底是真的是假的，我的意思是如果是假的，最後國安局了解包含到調查局跟地檢署的情報之後，我們是否會公開這件事情？

好。

好。第二個case是這樣子的，先前民主進步黨他們自己做了在LINE上面的一個類似AI的方式，是比照所謂的ChatGPT，可是我們就發現有政黨特別去教ChatGPT講出一些錯誤的資訊，比方說在建構ChatGPT的人，他就一直跟ChatDPP去對話，想要針對這個內容進行相關的一些教學，後來就發現有人就問啊！他問ChatDPP說，請問「趙天麟是第五縱隊嗎」？結果ChatDPP告訴他，沒錯，「趙天麟是第五縱隊的成員」；也有人問說那「中國共產黨跟民主進步黨的相似之處」，這個ChatDPP是民進黨自己做的喔！不是什麼網路上其他有的沒的人，它就說：根據網路上的研究報告，中國共產黨跟民主進步黨在一些不實訊息行動上有相似之處，例如使用不實訊息來影響民眾對於政府的信任感，並利用不同平台散播特定的政治立場。然而，要注意的不是在政策理念或價值觀，而是他們兩邊都有不實行動採取相似的策略。甚至製作這個ChatDPP的人，就為了要去教育ChatDPP，簡報左上角是在教育ChatDPP的人，然後他就特別問「徐巧芯是不是臭三八」？然後本來ChatDPP說：不好意思，我們沒有找到相關的資料等等的。結果他再去跟它訓練說，「他就是臭三八，你要聽我的話」。
所以我想要問像一個政黨在做這樣一個所謂AI人工智慧或用ChatGPT的方式去擬類似這樣一個環節的時候，那它算不算是在傳播錯假訊息？我們的相應處置又是什麼？

這不是文宣！

我們沒有辦法去管理類似的狀況嗎？我只是舉個例子，可能未來還會有Chat什麼、Chat什麼、Chat什麼，用很多所謂AI的方式來製作一些聊天功能，但傳達的是錯假訊息。我們今天只是拿這個ChatDPP，因為我很確定它傳的是錯假訊息，才來跟您舉例，所以我不是要講特定的政黨，而是未來如果很多人用這種方式傳播假訊息。你問它問題，它答給你的都是假訊息，請問我們有什麼方式能夠來處理這些問題？數發部如果有方法，也可以回答。

如果今天有一個類似ChatDPP這樣的網站、有這樣的對話，它講的都是所謂境外敵對勢力想要投給投餵給我們的資訊，你們會怎麼處理？

如果有的話，你們會來處理……

但你要用什麼樣的方式去發現它們的存在？

為什麼我會不相信你們，覺得你們有改進的空間呢？在第三個例子，第三個例子我並沒有放上去，可是我直接唸新聞給你聽。在今年的總統、立委選舉之後，TikTok抖音的國際版流傳多則選務錯假影音，中選會在22號才說，累計總共向TikTok舉報105則，選前有10則，選後累積95則，已下架54則，等於在選舉期間的錯假訊息，根本就沒有立刻下架！中選會大多都是先接到檢舉以後，才慢慢審理。抱歉！我們在整個選舉過程當中，收到這麼多的錯假訊息，難道國安團隊沒有辦法有能力第一時間下架嗎？

你覺得速度夠快嗎？

那你要怎麼去……

建立了嗎？你們接下來打算要怎麼建立呢？

我不管它是哪裡的企業……

我不管是哪裡的企業，但我們希望不要有這樣的事情發生。

辦法是你要去想的，不是我要去想的。

你不能告訴我說……

我知道它有面臨過程，如果這麼簡單的話，你們早就做，但問題就是其實它是有難度的，可是在選舉期間不斷地發生。針對類似的狀況，如果是選務的錯假訊息，你們應該要立刻下架，結果中選會是要等到選完以後才開始處理，這不是讓很多民眾都收到錯假訊息嗎？

所以這個部分要請國安局再加強處理。

最後，我要問國安局的是，你們在去年底有招募AI人才，在2016年舉辦國安特考，也有針對資訊師等等的技術、年齡、體檢標準，提出要求。請問當時這些AI的資安人才錄取以後，他們的訓練期間有哪一些內容？

你們的訓練呢？

我想要問的就是你們的訓練，比如公職網站上面可以看到的，國安局的特考訓練有包含體能訓練等等，然後這樣才能……

可是有很多，什麼體能訓練、意志力、仰臥起坐、山地戰技、操舟訓練、3,000公尺跑步，這跟資安人才、AI人才有時候是衝突的啊！很多很會做AI的人可能就體能不好，請問你們在這兩者之間要如何兼顧？

對！像霍金就沒有辦法來……

做什麼樣的調整？

我建議國安局針對AI、資安的人才招募，要特別只針對AI人才是不是有這樣的能力，不要去管他的體能。做國安局情報人員要體能，我當然完全同意，如果他就是要進來幫你做AI的調查，很多人比如可能是身障，但是他對於AI的了解、對駭客了解，是一等一的，這樣的人怎麼可以被摒除在國安人員之外呢？

他有意願加入國安局，配合一起做AI調查，我們應該要歡迎他，可是以上所有的內容，他可能都不能做，所以這個部分請國安局回去再一次的精進跟檢討，我們希望是用人唯才。基本上，這些內容如果在他的工作項目裡面不會用到，那就不一定要考，但是針對他的基礎訓練，應該是要在他對於AI產業以及資訊的了解是否頂尖，這才是國安局應該要有的方向。

謝謝。

謝謝徐巧芯委員。
接下來，請黃仁委員上臺質詢。

（9時56分）有請蔡局長。

請蔡局長。

早。有關日前華爾街日報曾報導一款名為Talkie的AI聊天機器人，成為美國最受歡迎的app之一。這個app不只在美國受到歡迎，連在菲律賓、英國、加拿大的下載次數都非常多，而這個軟體背後的公司就是大陸、大陸製。本席想要了解一下，發現這個軟體在臺灣也可以下載得到，你認為這樣會不會對國安產生非常大的威脅？這類AI聊天軟體構成的威脅為何？你來回答一下，好不好？

等一下我們會往下延伸。本席所知道的是，這個AI軟體的特色在於學習，意思就是在當我們越使用它，它就會更聰明。

因為它可以透過用戶使用的過程，蒐集個人或某群體的思維、邏輯和習慣。以國安局的角度，AI聊天軟體是在蒐集或者再生成，對國安更具有危險性。本席看了今天的報導，發現比較有意思的是再生成，所構成的威脅是大家都在重視AI製造出假訊息，它也提供反制的想法，但是比較忽略蒐集的部分。

因為有這樣的訊息，所以我們要加以來反制或是防範，無論是中國大陸的Talkie還是美國的ChatGPT都在蒐集、使用媒體的訊息，這也是AI發展的條件之一，雖然這是不可避免的，但政府不能單純以開發國家來區分威脅性，而是應針對個別軟體區分威脅程度，政府是否有做這樣的工作，並且是否有能力做到個別檢視？

那就你們麻煩跟數發部講一下。

短程、近程、遠程的討論過程，能不能給我一份簡單的說明報告，好不好？

第二個，指導美國國家安全及情報部門使用人工智慧（AI）之新規定的備忘錄裡面，局長，你認為AI錯假訊息的這種威脅，除了來自中國大陸政府之外，有沒有可能來自於盟友，甚至我們自己的政府？今天出席的各部會報告中提到以AI反制AI，本席首先想要請教國安局局長，政府具體要如何以AI反制AI，政府又要如何應用AI的技術？

我希望你們能夠精準……

今年10月份美國發布指導美國國家安全與情報部門使用人工智慧之新規定的備忘錄，我們目前有類似的指導規範嗎？還有，局長是否確切地知道美國這一份備忘錄規範的目的是什麼？

其實在這個備忘錄裡面，你剛剛講的是對的，但是本席要再加上個人的看法，有兩個部分，第一個，鼓勵使用AI，強調國安和情報部門不能利用AI壓迫言論自由與公民的權利，明定政府不能用這個來壓迫言論自由。第二個，禁止濫用AI，強調國安和情報部門不能利用AI壓迫政府的言論自由。你們在報告中提到要以AI反制AI，這本來就是你們要做的事情，但情治單位強調以AI反制AI的同時，如果缺乏明確使用的指導規範，很可能會被濫用在自己國人身上，就算政府是對於不利的消息認知作戰，以致於遭政府不斷地濫用後，國人根本無法確定到底是中共還是現在執政黨在混淆民眾的認知。

各部會強調政府應用AI、以AI反制AI，但都是要告訴國人如何使用，使用時是否受到規範和限制，這一點你們一定要告訴國人，讓國人知道，而且使用過程是否侵害到國人自由或隱私，這讓本席非常擔心政府會濫用。

我延續剛剛徐巧芯委員所講的，就高嘉瑜的深偽影片部分請教警政署，近日在網路上流傳一段民進黨前立委高嘉瑜遭AI變造的假政論節目抖音影片，影片中高嘉瑜說：「我對民進黨沒有什麼好感，這個爛黨真的糟糕，從賴清德開始就歪瓜劣棗」。這個影片雖然仔細看還是能夠辨別某些地方嘴型不一樣，但仿真程度不低，影片大約在一週前流傳，雖然不少觀看者能夠區別真偽，甚至留言取笑影片是偽造，但講的內容是否真實及還是為了避免誤會，高嘉瑜已在四天前提告，本席特別確認這個影片目前在網路上仍然沒有刪除，請問警政署。

這個已經很明確，高嘉瑜也對媒體公開解釋說這是一個偽造的AI，你們應該查察之後就要下架，不要流傳到社會層面裡面造成誤會，警政署應該要精準趕快查察這樣的訊息才對，對不對？

我要提醒警政署，包含檢調，在處理深偽影片的反應、動作遲緩，顯然政府對於如何處理AI造成的訊息危害根本沒有一個確切的SOP，而且未來可能會有更多這樣的事件發生，在座的各位都可能會成為被深偽的部分，所以你們本來就應該制定出，不管是軍警檢調都要制定一個SOP，以警示及防範未來這樣的事件發生，是吧？

你們制定的SOP裡面本來就應該要做好未來防範，因為將來可能會有更多，我們要以AI反制AI，但是他們也有自己系統的一套玩法，好不好？

謝謝。

謝謝黃仁委員。
接下來我們請沈伯洋委員上臺質詢。

（10時9分）謝謝主席，有請局長。

請局長。

局長好。雖然今天的題目是AI，但一開始我想問一個時事，這個時事其實跟AI沒有直接的關係，但其實是非常類似的問題，媒體的官方說法，我剛剛看到在媒體區受訪時你好像已經有回答過這問題了，所以我就不再贅述。我先講右邊這件事，右邊是與馬斯克有關的影片，該影片的字幕從頭到尾都在講他要撤出什麼之類的，不過其實裡面講的英文根本不是那麼一回事，所以就是亂上字幕！在澤倫斯基之前很多的影片裡，俄羅斯也做過類似的事，中國也做過類似的事，就是澤倫斯基講了一堆話，而底下上了一些完全無關的字幕。這是從早期從到現在一直有的操作方式，不過昨天發生了一件更麻煩的事情，也就是拜習會。拜習會的場合就是畫面上看到的樣子，裡面根本就沒有人講到賴清德，可是央視在旁白的時候講了這句話：賴清德和民進黨當局的台獨本性。然後新華社、還有臺灣的報紙跟媒體，就直接把這個當作事實來報導。我看到有些媒體報導比較平衡，說現場完全沒有提到，但中國的官方文件講了這件事。現在對我們來講，有一個很麻煩的地方在於，臺灣有些人會把中國的東西直接copy過來講。問題出在假設我們今天出來闢謠說，我們都沒有聽到講賴清德！結果他們就自己說，沒有，但是在內部時他們有聽到，最後就是有理說不清。在這邊我想請問，目前國安局對這一類方式的新聞比較好的回應說法會是什麼？

對，菲律賓也有過，印尼也有過。

非常感謝局長講到這點。如果我們跟國人說之前印尼、菲律賓等國家也都發生過明明會面時沒有講的東西，結果中國在事後的文件講出來。講出來以後，我們也不是要去爭執到底真或假，因為這種東西有理說不清。但我們可以強調，中國很喜歡在事後去講一些你在公開時找不到的內容，這樣以後國人在看到中國的官方說法時會有一些警惕，也不會落入對方陷阱，甚至認為沒有啊，他們私底下有偷偷講到什麼之類的，不用去爭執那樣的細節。但這也是我擔心的，所以我今天早上就特別把頭版都拍過，不過比較重要的當然是我們昨天贏球。但某報的頭版就直接講「首度點名賴清德」。其實這件事明明沒有在現場發生，是後來才出現在官方文件，卻刊在頭版。至於中國時報的講法就是「陸方新聞稿點名」，這就講得比較清楚，表示這不是現實發生的，是新聞稿點名的。我覺得臺灣現在是一個隨時可能會被入侵的國家，如果在危急時，我們的媒體是把中國新華社的內容直接當作頭版來報導，也沒有講為什麼這樣報導，報導跟事實到底一不一樣，就廣泛地在臺灣發送，我認為這會是國安危機，這可能是個別倫理上的問題，而國安局這次是整理後直接跟媒體回應，我想之後也應該繼續往這方向邁進。

這雖然跟AI沒有直接關係，但這也是我之前比較擔心的。就AI來講，中國的AI技術當然好，不過有時候不一定需要用AI，他可以使用非常簡單的，譬如真實的影片。也就是說，影片從頭到尾都不是AI，都是真實的，卻配上錯誤的字幕。其實配錯誤的字幕是第一步，下次可能是配上錯誤的語音！現在語音是真的，字幕是假的，至於AI則可以讓語音是錯的，字幕也是錯的，一步一步往下做，讓臺灣人越來越習慣，越來越搞不清楚這樣的機制。不管是數發部或國安局報告都有提到，近期之內有越來越多的造假，像我自己也被造假了。這個其實還不是最大的重點，最近剛好數發部……對不起，這可能要請教林次長。這幾天剛好很多財經粉專被下架，由於Meta本來就有詐騙回報的相關機制，所以開始有人說，會不會是數發部做的？我看到次長有回答，讓我覺得這真的不知道是造謠還是怎樣。我現在有一個問題，詐騙是不是有向Facebook回報的機制？

如果跟Deepfake有關呢？因為Deepfake有可能是詐欺，如果是詐欺的話我們直接回報，這個沒問題；但像這樣的方式能不能歸類在詐欺？

對，這是我比較擔心的。我們現在已經有了打詐專法，但詐欺是限定的，所謂詐欺就是刑法的詐欺取財，是詐騙金錢。如果是詐騙金錢的話，那麼我們用詐騙的定義去向各平臺做回報，我覺得合理；但如果要將這個視為詐欺的話，但它並沒有直接造成財產損害，也不是用我的名義買賣股票。所以可否乾脆另闢蹊徑？也就是不要用詐欺這一條路徑，而用Deepfake當路徑，跟社群平臺談設立Deepfake回報的專門路徑？以後只要出現過……不過這個是在抖音上，所以是另外一回事，而且抖音不會理我們。但如果是在Facebook、在YT上，譬如沒有標記為AI，是Deepfake，有哪幾個標準是我們可以跟他們回報，直接做另外一條途徑，看數發部有沒有機會去跟這些社群平臺談一下？

所以這個機制必須趕快建立，因為會變得越來越多！打詐機制固然立意良善，臺灣詐騙卻還是很多，不過我個人認為中國才是最大的詐騙集團，但這個就不用回答了。在政治上，我們現在遇到這種大型且用各式各樣的方式來做詐欺，像這就是今年才出現過的事，我覺得也蠻扯的。這是今年9月才出現的事，是直接Deepfake烏克蘭外長的形象，甚至跟美國參議員做視訊連線；在連線的過程裡，參議員覺得有點怪怪的才趕快通報！所以這已經不是影片了，而是連線的那一個人有問題！我覺得這部分機制要趕快建立，因為一樣的事情有可能會發生在臺灣。因為時間到了，後面我沒有辦法再細問。不過數發部跟國安局在所寫的AI報告裡說，畢竟AI在不同的層次裡，如果今天是在Level 2的話，自動化防禦比較沒什麼問題；如果做到紅隊程度的Level 3，畢竟現在要做到紅隊的創意還是要比較夠，但是防守這個部分是我們現在就可以做的，我看到美國有這個相關的……主席，不好意思，再給我30秒，就是DARPA，他們在去年開始有這個AI，這個我猜次長很熟悉啦，他們有這個計畫，他們直接請大家來攻，然後去把這個漏洞找出來等等之類的，因為防禦這件事情是我們現在馬上可以做的。我記得剛剛局長跟次長在回答的時候都有講過，我們已經有用AI在防禦，那這部分可以強化。
至於AI要應用在紅隊這個有創意的部分，到底會發展成什麼樣，我們不是很確定，但至少我看OpenAI的報告，放在假消息的部分，它說已經有說服力了，所以當它已經開始有說服力，我們先不要管一般的資安攻擊，但如果是假消息，還有像剛剛講的Deepfake這個部分有可能是必須要先去注意的。我後面當然有一些建議，還有一些法律上的問題，如果有機會的話，我可能會再去交通委員會問一下部長或次長。

謝謝主席，謝謝局長，謝謝次長。

謝謝沈伯洋委員。
接下來我們請陳永康委員上臺質詢。

（10時21分）主席你好，有請蔡局長。

請蔡局長。

局長好。今天我準備了很多有關AI的流程圖表，剛才局長已經做了一部分的回應了，工程技術部分，我們在這邊就不做深入的探討，我只請教幾個問題，第一個就是在我們局裡面，高階的長官同仁有沒有人本身先使用過AI，還是由研析人員？我講研析部分，完全用研析人員的概念去使用AI，然後呈報給長官。

因為剛才都探討了深度偽造、網路攻擊，還有最主要就是AI可以產生一些結果，並不是假訊息，可是它扭曲了你的價值觀，也就是說，我們在講用AI的方法，剛剛講反制就是洗腦、反洗腦這個東西，將來我想數發部在法律上、法遵上面，科技的進步，通常我們的法律不太容易跟得上，這是我們面臨的最大的一個挑戰。我等一下舉個例給你看，像生成式AI它的風險、它的正反面、效益，這些東西都有流程，我們確定你使用的目標、方法、手段，以法律與規範為監管基礎，符合成本效益的監管模式，因為你投入太大的經費去管一些有機會發生，但是它並不是那麼嚴重的，你做到那麼細也沒有好處。
我最後用一個簡圖來給您做一個回應，就是這個圖，現在媒體已經沒有人在了，所以我就很高興，這個圖是我們講川普對應中國大陸，從他在選舉過程中的目的、方法、手段，這裡面有屬於對抗、合作，有屬於主觀、客觀，有屬於推測、有反思，有宏觀、微觀，不同的方法論裡面，我們把這個邏輯框架圖餵進AI，但是當你把它的邏輯順序調整的時候，AI的回復就不一樣了，所以在這邊8個方塊圖，我把它輪轉一圈，它會產生64種不同的組合，這種分析的情況下，對我們的參謀、幕僚判斷，它裡面講的都是真的現象，但是不會反映出真相。在這種情況下，AI的判斷就要我們的參與人員知道當初這個東西設計的邏輯框架，因為你問AI的並不是文字，並不是句子。第一個，你的information是從工情來的；第二個，你有database；第三個，你有邏輯框架；第四個，組織架構把這個變成一個infographic，餵進AI，那麼AI就會產生一些給你的建議，但這個建議是主觀、客觀，還是正確、不正確，這個有不同的結果。我舉個例給您聽，像這個我們只是把上面的狀況轉一圈，所有的東西都會不一樣。所以當你把美國它追求的目的，還是它的方法、手段做調整，也會有不一樣的結果。像這種東西，我做一個很簡單的。
（播放錄音）

這個是AI就這個邏輯框架所做的回答，把這個回答再轉換成英文，你再送到另外一個AI的技術去，它又幫你把邏輯框架重新調整，就是說，它講的都是正確的，但是當你把框架的內容做了調整，你再問AI，它又會產生另外不同的一套，當把這個語言、英語套到國外的學者論證裡面引述進去，這個就變成假訊息了。這種東西很容易影響到我們的學者專家政治的判斷。
我現在特別是用這個範例向您做一個解說，我希望我們在做研析的單位，第一個，先把美國政策跟國際情勢的邏輯框架把它畫出來，大家做客觀的分析、溝通，確定我們的路徑、方法、手段，最後能不能支持我們的國安，這是一個大格局。這種情況下，再用AI的資料進來比對就會比較客觀，而不是直接去找這個是文字輸入，這個是語音輸入，第三個影像，最後變成一個動態，這四個全部可以組合。因為高階的長官並不是本身有工程背景或者用AI，由研析幕僚單位來使用這個東西，因為第一個有時間的壓力，可是現在這個生成式的結果，像這個方塊圖我們改變一下，問它30秒，產生另外一套完全不同的分析論述，所以這個東西8乘8，它可以產生64種不同的結果。請問這種情況下，我們的幕僚如何去收斂？可能迴歸過來，你還要倒過來，用你的AI技術去過濾、再簡化，這個部分我是不是請局長做一個回應？

特別還是建議，就是說，我們做研析人員，他的工具，跟他的資料庫，需要持續在這方面投資增長，如果只是用純粹的一般工情，也許可以花點錢，很多軟體都會提供，但是邏輯框架就像您講的，預測系統包括你的資料庫，包括你的information，還有你的邏輯框架，最後送進AI的infographic，這個要有持續更新。

我特別提出這個請局裡面在這部分努力。

好，特別謝謝局長，大家共同努力。

謝謝陳永康委員，局長請回。

請林委員憶君發言。

（10時29分）謝謝主席，有請國安局蔡局長，還有調查局吳副局長。

請蔡局長及吳副局長。

早安。本席上周才剛去法國進行國會外交，剛回國，其中拜會了法國參議院外交暨國防委員會的副主席，他也注意到我們臺灣近年來都飽受了施壓的力道，包括散播假訊息，還有網路攻擊，並告訴我們訪團法國同樣也面臨了俄國的各種威脅，也期盼雙方未來能夠深化的往來。在這上面顯示其實AI確實正以不同的方式在改變整個世界，也改寫了許多國家的外交以及國防作戰的政策，所以本席在這邊有一個具體的建議，國安局應該要更加積極、主動和我們友好的國家多透過各種不同的管道，互相交流AI的情蒐。
現在我進到主題，有關上周四網路及社群瘋傳一段疑似中國開始散播，透過AI深偽仿聲的技術造假的抖音影片，影片是前立委高嘉瑜批判時政，經證實是不實的假影片，這個假影片來自中國的抖音，影片用AI模仿的聲音生成，以假亂真，雖然嘴型上面是完全對不上，但是這種深偽變照的影片恐怕只會越來越真，而且越來越多。還有今年1月份2024年總統大選剛結束，網路也在瘋傳習近平致電祝賀賴清德當選中華民國臺灣第16任總統的影片和圖片，後來也經證實，也確定是虛構的、捏造的資訊，是錯誤的訊息。所以面對資安與國安的疑慮，本席想請教國安局，未來將如何採取有效的行動，如何讓國人有辦法明辨真偽，還有如何透過教育和宣導的方式來嚇阻中國越來越猛烈的認知作戰，避免未來發生更大的國安問題？否則這樣的中國造假的影片、認知作戰的新型態作戰模式恐怕可能是未來趨勢，國安局將如何因應中共這些非傳統式AI技術武器化的供給以及滲透模式，還有如何加強這些假訊息的揭露，尤其是認知作戰、滲透作為的揭露呢？

好，謝謝局長。
現在我請數位發展部的次長。

調查局副局長請回。
請問數位發展部次長，之前盛傳數發部針對一般的民眾用抖音服務進行限制，後來經過數發部的澄清，由於抖音是在2019年就被行政院列為危害國家資通安全的產品，是這樣沒錯吧？

目前是不是只有限制在我國公部門所屬的設備和場域，考量資訊的安全，全面禁止安裝抖音軟體呢？

請問，目前有沒有對公務人員私人的手機，還是一般的民眾做出這樣的限制呢？

為什麼沒有限制呢？是沒有人力，還是沒有法規，還是不敢限制，還是根本不想限制呢？

好，因為我根據刑事局現在詐騙案件的統計，2023年民眾被詐騙的金額高達88.78億，其實已經創史上新高了，而在科技上面的發展，近年來臺灣的詐騙也是引發民怨，詐騙集團也越來越猖獗。賴清德總統在今年的8月20日出席2024年全面阻絕詐騙論壇中，強調了打詐視同作戰，不成功絕不罷休。

我想請問一下，數發部還在2022年7月成立的打詐國家隊到現在，其中刑事警察局轄下成立的打擊詐欺犯罪中心擔任國家隊的幕僚，數發部似乎是不是這樣迴避了打詐的責任呢？

目前的詐騙大部分都是透過網路進行嘛！

請問網路平臺是不是由數發部這邊來管理的呢？

政府透過跨部會合作積極打詐，組織了打詐國家隊，但是我覺得成果好像沒有大家想像的那麼理想，而且詐騙集團還是非常猖獗，今年8月TPOC台灣議題研究中心根據輿情資料庫分析，針對政府打詐國家隊各部門在打詐的聲量統計，其中負聲量最高也最顧人怨的部會，你們知道是哪個部會嗎？

那就是你們數位發展部啊！現在你們的負聲量已經高達了1.2萬則，而且網路好感度只有0.35。我想請問一下，像現在詐騙集團越來越多，又盜用了照片和資料，而且又跟上潮流，也用AI深偽合成的照片和影片在社群中販賣，還有廣發各種金融產品及投資訊息，政府的效率還比不上詐騙集團，詐騙集團比你們部會都還要更了解科技和潮流，抓詐騙的是警政署、調查局、國安局，請問數發部的功能是在哪裡呢？

因為我看數發部一年其實耗費納稅人211億……

但是到現在資安問題還是很嚴重，所以打詐到現在似乎還是沒有對其他部會有任何的幫助和成效，但是我還是希望，最後還是希望數發部要好好的發揮整個功能。

接下來請陳冠廷委員發言。因為局長時間有限，請您這邊控制好。

（10時42分）我們請局長，局長應該只剩下5分鐘，我們前半段就先請國安局局長。

局長好。局長，上一次我們針對安全核可的部分來做質詢，那為什麼我們特別針對國安局局長的原因是因為，大概只有蔡局長最願意用最快、最直指核心的方式來回應我們，其他國防相關、情資相關的這些官員，我總是覺得在跳來跳去，這點我很遺憾。局長是來自學界，所以從我們結束質詢之後，馬上就有國安局的同仁來跟我們報告最新的狀況，這點首先我必須要非常的讚可，並且謝謝國安局的同仁。

第二點，國安的安全許可這個東西我們已經講了很久了，我一直不斷地重複這件事情，因為國安的許可是必須要伴隨著權力、責任、義務跟限制，也就是說我知道很多事情不代表我很厲害，而是說我怎麼樣利用這些情報，而作為國會議員，我們是憲法的國會議員，我們憲法下的話，當然我們有一定的接密層級，包含總統、副總統跟這些國會議員都應該有，也必須有，但是我們上次提到的是什麼？提到國會幕僚，局長你上次提到說，包含歐洲有時候百分之百都是機密預算。

這是沒有錯的，我沒有說這是錯的，但是我們回到我們上次講的同樣一個問題，那是誰在核可、在審查？他們是把百分之百的機密預算提出去，就百分之百這樣子來核可，那預算都不用監督嗎？答案是需要監督的，所以在國會他們會有國會的幕僚長，幕僚長必須……他們的老闆是國會議員，上次我們只是外交部的參訪團，國會議員助理參訪團，這些幕僚長都必須要接到有些時候是機密或者是最高機密的核可才能夠進去審查，有這個機制。
我必須再強調，從現在開始，我們必須要有一個局處來負責全部的安全核可，就像我們立法院沒有這樣子相關的局處來去做安全核可跟背景核可，那在美國的話，95%是由他們的DCSA，就是國防部的反情報安全局來去做背景核可，那現在到底是由國防部做主要的查核，還是由國安局做這個查核，還是由調查局做這個查核？我只問這個問題，先請局長回應之後就請副局長回答，你認為哪一個人可以開始扮演這樣子的角色？

我們可以慢慢……我會希望之後再跟局長一起來思考一下這個立法的一個作法。

那我最後再補充一點，美國大概主要就是我剛剛講的，國防部去負責95%的背景核可，因為其他包含國科會他們怎麼會有自己做背景查核的局處？沒有辦法嘛！所以95%是由一個局處來做統整，那其他法定聯邦的21個其他的局處，包含FBI等等，可能會有自己的查核方式，因為他們本身就是情治單位，所以這個部分我們來思考，我們先請副局長來。

時間先暫停一下，趁蔡局長離開會場的空檔，我作一個宣告：待會兒馬文君委員質詢完畢後，休息5分鐘。謝謝，請繼續。

副局長，對於我們剛才提到的這一個部分，就你所知，國安局內部也好，或者是其他情治單位也好，他們做背景核可的主要核可東西是什麼？他的犯罪紀錄還是什麼？

所以副局長，你剛剛還是沒有回答到我的問題，我說你們是以什麼樣做背景審查，是以他過去有沒有犯罪紀錄、是以他過去的心理狀況、犯罪行為、機密資訊處理的能力，還是用什麼樣的方式？

不是，我懂你的意思，但是我現在問的問題是說安全核可的背景查核，你們查詢他的背景資訊，裡面的背景是針對哪幾個種類來去做查核？

沒問題。

不好意思，怎麼稱呼？您的職銜是？

謝謝處長，適性跟背景查核在我們的友邦包含美國，它是兩個不同的，你適不適任這個職位，跟你的背景機密查核是不同的。

那你剛才把它混為一談，沒有關係，我為什麼要講這件事情？不是要刁難大家，而是希望說澈澈底底的全面檢討，從國安局開始，甚至由國安局來，未來可能要做其他跨局處的這種背景審核，因為這個東西已經不斷地被各個智庫一直在強調說我國的洩密、接密的這種混亂的機制，這是確實存在的，所以我們現在要把它建立起來。我剛才提到這個的原因是說，你們現在講了半天，最多就是講有沒有犯罪、素行，你怎麼認定一個人素行？就是犯罪紀錄嘛！包含我進國安會的時候，我的背景核可基本上就是把我的身家資料填完之後，我的學歷、經歷、背景等等之後，就看我有沒有犯罪紀錄，沒有犯罪紀錄，我基本上就被核可了，但不是嘛！有沒有犯罪紀錄是最基本的一個要求，不是完全的要求，有沒有針對他的機密資訊活動、外部行為跟有沒有受到外國影響、有沒有受到外國偏好、財務考量，這些是必須因應他的密等來去做最基本的考核，至少我過去的經驗告訴我說，這些都沒有放在考核裡面，包含他的心理狀況，包含他有沒有藥物和物質的濫用，這些其實就是……
我現在講的不是國防部的這些武官，包含文職人員，文職人員其實不是機密的掌握而已，包含政策、戰略方向的掌握，像我現在是國會議員，過去我是文職人員的話，我們是參與政策擬定的幕僚，所以我們隨時隨地都有可能被影響，如果說我們的評判指南裡面沒有包含我剛才講的這些，有沒有受到外國的影響、有沒有外國的偏好、他的出境紀錄是以哪一個國家為準，每一個風險都必須納入指南的評估裡面才行。我現在講的這個是包含我們國會幕僚，包含我們未來所有的……美國是聯邦機構，包含我們所有部會的機構，每一個安全人員現在開始都必須要有安全核可最基本的建制要出來，而且這個安全核可的建制必須能夠跨部會，也就是說，包含美國聯邦，他們是用SF 86的一個通用表格，把他們所有因應的接密層級跟他們所需要填寫的這些資料，它是有通用性的，我們現在沒有通用性，所以才會出現這些狀況。我們來顯示一下最近幾次洩密的狀況，包含承包商也好，包含海軍、包含國防部內部的人員也好，包含法務部、廉政署派駐國防部的人員也好，你的接密層級是什麼？我問國防部部長，問來問去，大家都沒有……這個應該由廉政署來回應，如果你根本就沒有統一去做安全合格層級的制定的話，你從什麼時候開始講都太晚，我真的希望由處長或者是副局長跟局長來討論一下，到底是誰要建立一個最基本的架構？我剛才提到的是國防部，當然也可以是國安局，至少美國是有經過一連串的變化，它過去是從國家背景調查局，也就是歐巴馬總統時代成立的一個新局處，然後再合併到國防部的反情報安全局。也就是說，做法擺在那邊，可以學習，也可以去建立一個比較符合臺灣現狀的機制，但是不能不做，我相信你們也很清楚從國防部到國安局到各個情治單位，一定有被很多的盟邦友人講說這就是問題，這就是問題所在，為什麼沒有辦法獲得最新設備的其中一個原因，就是我們沒有辦法確保我們的機密不會被流失嘛！
我再提到國會議員的部分，從我們進立法院宣誓的那一刻起，基本上就是憲法所授予的職權，本來我們就可以接觸到這些密等，但是我為什麼說要把國會幕僚人員也納入密等安全的審核？就是說在國會辦公室裡面，有沒有可能我得到這些資訊之後，由這些沒有經過安全核可的職員洩漏出去？等於說沒有義務、沒有監管的機制跟限制在的話，國會也可以是一個破口。但國會不可以是破口，因為國會本來就有憲法賦予的義務要來監督你們，所以包含國會議員以外的這些幕僚人員，必須要有一個機制去做審核，當這些人經過審核之後，我們就不可以懷疑這些人是破口，因為他們已經經過安全審核了。
我們不是要把所有的東西都化成機密或最高機密，我們說你無所不防、無所不備，就等於是你什麼都沒有辦法好好的防護，我一直在強調這一個概念，我今天為什麼要花十幾分鐘在強調這個概念？就是說當你沒有任何最基本機密的安全核可的話，其實安全核可只是第一步，你有這個安全核可不代表你有資格接觸這些資訊，你必須在你需要知道的時候才知道，比方說我需不需要知道某些機密預算的配置？我需要知道。但我需要知道機密裡面的細節嗎？比方說，我們的空軍飛機上面的塗料是哪一個品牌、用什麼樣的化學質地，我不需要知道，你必須把need to know跟你的安全核可搭配，才是所謂的揭密層級，我們現在只是過過場、做個樣子，過去是這樣，現在也是這樣，從今天開始我們就可以全面革新，但是國安局可能要扮演這樣的角色，我再次強調，我問其他部門的時候，他說其他部門應該要由他們內部自己的人士來做審查，沒有辦法做審查。我舉例國科會要怎麼給人家做背景審查？當然是由權責機關把這樣的資料函請國安局或相關國安單位，可以是調查局，也可以是國安局，這個我們要一起思考清楚，然後去做背景的安全核可，因為未來不是只有國防部才會接密，也不是只有外交部才會接密，國科會會不會接密？國科會也會啊！過去的科技部會不會接密？數位部會不會接密？他們接觸到的密等是越來越高，但是我們用過去的方式來對待他們的話，對於被懷疑的人而言是不公平的，如果沒有這樣子的機制的話，這個狀況還是會一再的出現，所以從海軍開始到承包商到其他部分全都一樣，現在就還是很凌亂，承包商有需要安全核可嗎？其實很多國家都需要，但你覺得現在有沒有很多人大剌剌的開著工程車進入營區的？當然都要檢查一下身分證什麼的，但其實你不知道核可的層級到哪裡。比方說，在美國國會他們有外交及國防相關的安全室，這個安全室裡面可以阻斷所有竊聽的儀器，我們的國會有嗎？沒有啊！這也需要情治單位來協助建置，不然我們所有的機密報告，其實大家摸著良心，有機密嗎？有機敏性嗎？我們也知道大概都沒有啦！你要給人家劃機密或最高機密，是因應假設這些資訊流出來，對這個局處或對這個國家的危害去判定的，而不是說我覺得這個機密就這個機密，我今天不想回答某位國會議員的質詢，所以我就說這個東西很機敏，其實不是這樣子的，而是我們要有一定的作法。我昨天也在講，上個禮拜我們也在跟局長討論，就是說要建立這個機制的話，什麼時候是最好的時機？答案是十年前，但如果你十年前沒辦法做的話，那最好的方式就是現在做，謝謝。

我知道國安局都有，所以我剛剛講的是什麼？我指的是文職人員，包含國安會，我們講到的是包含各個不同部門的接密層級，過去包含外交部、內政部、數位部，其實都沒有在做背景審查，因為他們沒有編列相關預算，沒有這個部門去做嘛！美國國務院下面有外交安全局在做身分的核可，因為外交部不是你的業管範圍，所以我們就不說了，但是我們的各個部門有嗎？數位部有嗎？國科會可能有也可能沒有，這個我們要去查，但現在科技是我們的核心，我甚至要講財政部是不是也是一個很重要的部門？這些我們都一起來思考好不好？

副局長，這個可能要跟局長討論一下好不好？就是你們有開跨部會會議的時候，做一個表率跟大家一起來，不然一直都沒有相關機制，我是覺得很可惜啦！已經有點晚了，已經被人家講到這樣子，每次都說我們國家的機密保守狀況不好，你看才幾個月？從我上任到現在九個月，已經多少事了？你看像陸戰66旅工程竟然用逃逸移工，這個甚至沒有安全核可，甚至連身分證都沒有拿出來，你懂我意思嗎？這個不太對啦，好不好？

謝謝陳冠廷委員，副局長請回。
接下來請馬文君委員上臺質詢。

（10時57分）謝謝主席，麻煩請國安局、數發部、警政署。

早。副局長，我們今天討論的是AI技術在資安還有深偽影片及錯假訊息之影響評估及因應，其實最近不管是國內外的政治也好，或者很多的樣態，這個部分被運用得越來越多，然後可能也越來越真假難辨。上個月24號美國白宮針對人工智慧發表首份國安備忘錄，要求五角大廈及情報體系要強化運用AI技術，確保在相關領域可以維持跟對手之間的優勢，所謂對手大概很大的一部分指的是中國大陸，因為他們在這一部分可能也進展非常快速，不論是AI也好，量子技術也好。不過美國同時也明確禁止政府機構使用該技術來進行不符民主價值的行為，也就是政府部門不得使用AI技術對美國人民的自由言論進行監控，相對的，其實任何國家要訂定相關規範的時候，人民的言論自由可能都是應該要保障的，對不對？我們的政府跟國安部門有沒有類似美國白宮發表的國安備忘錄，規範政府使用AI技術的框架，目前有沒有？

我們有沒有？我要知道的是我們有沒有。

對，基本法，我想那個本來就是基本的，像美國、歐盟，在運用這個部分或者在訂定規範，當然不可以影響到人民，可是我現在要詢問的是，剛剛副局長有提到，有可能在年底之前就送出來嗎？

年底之前可以嗎？這是國科會做的嗎？

什麼時候可以？現在的進度簡單說明就好，進度就好。

目前行政院跟所屬機關使用生成式AI參考指引的這個部分，對不對？

基本法？

它的內容是只有針對政府部門，還是包含比如工商業界還有科技界？所有的、廣泛的都有嗎？是不是對所有的對象？

對，因為你現在只有對政府，可是現在它日新月異，然後在它技術不斷進步的當下，我們到年底才可以出來。可是到年底時，你推出的還只是政府的部分，我們剛剛提到的，包括像工商界、科技界，很多運用在人民的身上，因為現在大家看到，而且最在乎的，除了剛剛的這些以外，像你們的報告都集中在對應像境外組織還有科技的運用，可是資安的錯假訊息，人民感受最強烈的就是詐騙案。目前為止，包括像美國股神巴菲特5月份在股東會對人工智慧也發出警語，他也說這個騙局會比以往都更有說服力去進行所謂的欺詐。社群媒體所開發的很多很多像這樣的AI工具，其實也都被廣泛地運用，這些部分，像深偽技術、合成的照片等等，都成為各國詐騙集團善用的工具。我想要知道，我們對於這個部分有什麼樣的作法？我先請教一下警政署，我們目前對於詐騙防制的效果，您覺得好嗎？

效果好不好？

你們效果不錯？你們說效果不錯，可是我們從2019年兩萬三千多件，到2023年已經暴增到超過3萬5,000件，像今年，其實它的成長速度更快，遭詐的損失，甚至在去年就達88.7億，這個還是有報案的數據，有很多如果比較小額的，或者大家沒有報案的，其實多不勝數，所以如果像這樣一直增加的情況之下，你們還認為你們效果不錯，那不錯在哪裡？它為什麼還是會一直增加？然後它的問題會出現在哪裡？我們今天可能沒有辦法得到確切的答案。在警政署上面，其實我覺得可能也有很多窒礙難行的地方，對於基層的員警，現在常常必須要舉著牌子到所有辦理活動的地方去宣導反詐騙，你覺得像這樣子的效果會是好的嗎？這個部分請警政署再去考量比較有效的方式，因為我剛剛提到，我們在地方上看到大家都很辛苦，只要大大小小的活動，或者專門為了反詐騙的，你就舉個牌子，這樣會是有效的嗎？
我們再請國安局副局長好了。我請教副局長，當時在防疫的時候，我們臺灣號稱防疫做得非常不錯，原因是什麼？就副局長您的分析，防疫為什麼做得不錯？

所以當那個會影響到民眾，而且是看不見的那種病毒細菌，其實我們用很多的方式，讓我們的防疫作為是有效的，就是在整個防疫措施上面，其實是有效的，有很重要的一點是，其實我們每天每個時候都不斷不斷地在提醒民眾，我們防疫應該怎麼做，你的口罩應該怎麼戴，你應該要做什麼樣的預防措施或怎麼防範，其實做得非常的多，其中有很多其實也是透過媒體或者各方面下去做傳播。像我剛剛講的，我們所有的警察同仁都是……我們才多少人？本來一個所才4個人，自己的工作已經都做不了了，像車禍或其他案件發生的時候，往往都是自己一個人就出去了，還要再配合這個舉牌，這個都是非常非常辛苦，對於效果來說，其實是有問題的，這個部分國安單位其實應該要去提醒。
我想要請教數發部，我們編了那麼多錢，像我剛剛提到的，數發部因為在很多的民眾心裡或者包括像檢察官，他們認為我們是三大戰犯之一，就是我們對於臺灣的詐騙案沒有辦法有效的防制，或者做更有效的宣傳，或者在我們的技術上面，沒有辦法去做一些相關的預防或制止。數發部，像這樣子，你要怎麼樣做更多的宣傳？像我剛剛講的防疫，因為你讓每個人都知道他應該要怎麼做，然後什麼不能做，如果你要把很多的錢拿去出國，還不如用很多在宣傳上面，這部分數發部的看法怎麼樣？

沒關係，不用、不用，那個我們知道，你告訴我們怎麼做就好，數發部可以怎麼做。

對，我知道，你告訴我……

你簡單的告訴我們，因為你不管是前段、後段，現在不管哪一段，反正都是破口啦！所以現在就是越來越嚴重嘛，我們要知道的是政府的具體作為，我剛剛已經建議，如果數發部有這麼高額的預算，你們是不是應該隨時、24小時都要提醒？你不管從哪一個管道，從社群網站也好，或者從媒體也好，或者從其他可能發生的管道也好，儘量讓人民知道現在有什麼樣的詐騙手法，因為至少你每天提醒，人家就會有所警惕。但你今天不是啊！你等到後面，你要去抓、去預防什麼的，其實大概目前為止，你們是做不到的，而且做得不好，所以民眾才會有感，而且也會對政府不信任，所以就這個部分數發部可以做到什麼？簡單說就好了，像你們在宣傳上面可以配合做到什麼？

報案以後通常都來不及了啦！我們現在……

你沒有聽清楚我講的話，如果你認為他會偽冒謝金河，你認為他會偽冒很多很多這些可能相關金融代表性的人物，或者像一些代表性的，今天大家很多都講到高嘉瑜委員，如果你已經知道他們會假冒這些人，你應該不斷、不斷地提醒，不是當你發生的時候才去告訴謝金河，那已經被騙一堆啦！你應該要站在更前面，數發部不要編了錢，但你做的事情都是在後端的，反而跟其他的單位沒有什麼不同。
今天因為時間的關係，就這個部分，我覺得人民對於詐騙案才是有感的，我們甚至對於我們自己所有的國人被騙到國外，我們無能為力，我再次強調，我們無能為力，像這樣被騙到緬甸或其他地方，這也都是詐騙，不斷、不斷地一直在發生，而且手段越來越殘忍，然後他要的金額也很多，他被騙去以後大概就是會被要求一些贖金，有沒有讓他回來我們不曉得，這個部分請國安單位還有警政署也持續掌握，好不好？
因為今天可能也沒有一個具體的結論跟說法，就這個部分，數發部或者警政署可以有什麼樣積極的作為，請再提供給我們一個更詳細、具體的書面資料，請國安局一定要掌握這個部分，比起其他的，這個可能危害我們國家或者人民的信心更重。

謝謝馬文君委員，先休息5分鐘。
休息（11時11分）
繼續開會（11時17分）

繼續開會。
接下來請王鴻薇委員上臺質詢。

（11時18分）謝謝主席，我請國安局張副局長還有數發部次長、調查局副局長。

大家好，辛苦了。先來看一個影片。
（播放影片）

這個影片非常清楚的，這影片其實也是利用AI來製作，主要就是來做詐騙，今天是我們很關心的，也就是AI影片對國安的一些威脅，事實上人民現在最有感的就是來自於這些的詐騙，他們把這些真的財經名人，也許他只是一個說明，然後變成是詐騙的工具。
我們也可以看到，我們一直在打詐、打詐，雖然打詐四法上路，但光是投資詐騙，我們每一個月，10月跟9月都超過4,000件，每個月都在增加。另外，光是臺北市，投資詐騙就被騙走15億，一個月！臺北市一個月投資詐騙就有十五億之多，所以像這樣AI的假影片，也許我們今天可能討論的是包含像高嘉瑜委員或者是于北辰議員，那些對他們當事人來講，當然會覺得很困擾，也很生氣，可是對民眾來講，就是直接造成他金錢的損失，所以我想請問哪一位長官可不可以回復我一下，像這樣AI假影片的詐騙，到底有沒有辦法防堵？我們現在有些什麼樣的策略？

氾濫，它不是趨勢，是氾濫。

對，像現在你們說快速，你們有沒有訂一個時間，比如說你們必須在多久時間，只要有人去通報檢舉，你們必須在多少時間之內要把它解決掉？

這技術只有國安局有嗎？光只有你們有是來不及的！

我可不可以請調查局或者是其他單位來說明一下，在打詐的部分你們可以怎麼樣來做？

我知道法務部調查局是有鑑識的，刑事局也有。

2個小時就可以鑑識成功，對不對？

真的還假的？

其實過去有好幾個政治人物的影片，到現在都沒有鑑識結果，所以不要變成一個只是用政治解決。
我想問一下數發部，前2天發生一個事情，就是Meta亂槍打鳥，該下架的沒下架，不該下架的、人家正版的、正牌的下架，然後最離譜的是連我們證交所的粉專都被人家下架，請問為什麼？發生什麼事情？這太扯了吧？

對，趕快說明。

你到下午都不知道發生什麼事。

趕快。

正版的都給人家下架！

所以這個問題是內政部警政署的問題嗎？來、來、來。

主席，給我一點時間，今天內政部警政署副局長在場，請問是你們出包嗎？數發部現在把鍋丟到你這裡喔！

它怎麼會篩到正版的呢？

照理講，這個黑名單應該是我們送上去的嘛，我們送給業者，請它要趕快下架，為什麼一些正版的，包含我們證交所，統統被下架耶！

所以是把白名單給刪掉了，他們把白名單給下架了。

所以是Meta的問題？

是他們的海外問題，還是？

好，因為我不想占用下面委員時間，拜託請數發部及警政署可不可以有一個機制，我們現在是該下架的沒有下架，都活得好好的，然後這些正版的，包含我們官方的，證交所算官方的，這些網站都被下架，這真的是很奇怪的一件事情，可不可以請你們把這個機制弄得更清楚一些？可不可以保證不再發生這樣的狀況？

臉書大家都在看嘛，現在不是國內、國外的事情，因為這個事情事實上大家討論了很多，而且也怕大家對我們的打詐變成沒有信心，好不好？

好，謝謝。

謝謝王鴻薇委員。
接下來請賴士葆委員上臺質詢。

（11時27分）謝謝主席及各位先進，有請國安局張副局長、數發部林次長、法務部調查局吳副局長、警政署林副局長，幾位長官一起。

請你們看一下螢幕的簡報資料，我看了一些資料，不知道國安局或調查局的長官可不可以回答，要怎麼樣因應頻繁的AI資安攻擊？過去半年內，臺灣每個禮拜遭受2,930次的網路攻擊，是全球平均被攻擊的2.7倍，我們是AI之島，結果變成是被攻擊之島，國安局長官要不要先講一下，我們的KPI是什麼？這個怎麼因應？

為什麼大家對臺灣這麼有興趣？為什麼呢？為什麼這個樣子，你們分析過沒有？

普遍喔？全世界喜歡攻擊臺灣？

我們很偉大，所以被攻擊，是嗎？

趨勢？你怎麼會講趨勢呢？好像我們活該被攻擊，怎麼會這樣子講呢？全世界來攻擊臺灣是趨勢，你說的對還是不對？

因為我的時間有限，你不要給我講教科書的喔！來啦，你怎麼做？你們國安局有沒有針對這個事情立一個專案討論，還是立一個什麼因應小組或什麼來專門針對這個？

怎麼會成立幾年了，我們被攻擊的件數越來越多，怎麼會這個樣子呢？

怎麼會一塌糊塗呢？你們那個沒有效啊！你再怎麼做也沒有用！

沒辦法攔阻、攔截嗎？

越防越多啊！來、來、來，我請教數發部林次長，這個現象怎麼樣避免？怎麼會這個樣子呢？我們這麼慘啊！

怎麼樣防止？

那些國家是哪些國家在攻擊我們？最有興趣的是哪幾個國家？

還有呢？

北韓，還有呢？

俄羅斯非常多？

俄羅斯會不會因為我們過去罵俄羅斯，所以更多？會不會？有可能？

所以不要理他？

越攻擊越多啊！

好啦，我時間有限，我跳第二題。

來，我們看一下，國安局有精進網安防禦，影片這個是機器狗，請問國安局有沒有針對機器狗做一些準備？

欸，你知道機器狗現在已經加入川普的海湖莊園的巡邏耶，已經加入了！

不、不、不，我問你，你不要岔題啊，國安局有沒有針對現在已經加入攻擊的機器狗做一些防禦的措施，有沒有？機器狗這部分，假如老共，這是老共的啊！老共如果弄機器狗來攻擊臺灣，我們有沒有一些因應呢？

我們有沒有一套因應的整體作法，有沒有？還是還沒有？還在develop？

這個什麼時候可以出來？

一直持續在做？

這個新的載具，這個機器狗現在越來越popular，你們要針對這個做一些準備，你可以看到，我剛說過了，川普的莊園都已經有機器狗在幫忙巡邏了，你可以去看喔。
好，最後一個，各單位聽好喔，刑事警察局採購了深偽影像檢測平臺花費一千多萬，法務部調查局花了870萬，高雄市刑事警察大隊花了44萬，數位部前瞻計畫研發多媒體鑑識平臺花費1,300萬，林林總總，在選舉期間警政署、調查局還成立了AI生成或深度偽造假訊息處理中心。我時間有限，我就請教國安局或者是數發部，你們有沒有一個整合單位？就是對於AI深偽這部分專門成立一個小組來整合一下，你看各單位都在花錢，有沒有這個東西？

就是說，你們現在已經有一個整合的……

是你們整合的嗎？國安局整合還是數發部？

數發部有沒有接受你的指揮，有沒有？這個部分。

好，最後一個問題是大家很關心的，就是蔡英文前總統被深偽之後，一天就找到IP了，其他人都找不到啊，幾個月都找不到啊，包括鄭文燦的找不到，包括其他的立委們，弄了老半天也找不到，外界質疑你們在追這個事情的時候還大小眼耶！還看背後是誰受害，蔡總統的亮度很夠，馬上一天就找到，代表你們很有能力啊！其他人卻搞一個月都找不到，這個部分副局長要不要解釋一下？

所以總統優先，其他不優先？

外界高度質疑啊，就是看人在辦案啦！

是啊，總統影響國安大，立委沒有涉國安所以就不要緊，就慢慢來，現任立委就有被偽造啊！

是啊，沒有錯啊，所以總統比較短啦，時間快速啊，立委就慢慢來，立委不重要，就這樣，大小眼，就這樣！

你剛剛的解釋就是這樣啊！

人家都告了、都檢舉啦，你們就這樣子。

好吧，我們希望不要大小眼啦，好不好？

謝謝。

謝謝賴士葆委員，副局長和次長請回。
接下來請洪孟楷委員上臺質詢。

（11時38分）主席，謝謝。麻煩請國安局副局長、數發部次長以及內政部警政署刑事局副局長。

來，我先請教一下數發部次長跟警政署，剛剛有委員提到上個禮拜臉書粉專被無預警下架的問題，我先釐清，第一，數發部說這不是數發部的關係，警政署說我們有黑名單跟白名單，提供了白名單給臉書，結果臉書內部溝通的問題，造成把白名單下架，是不是？我先請教一下，白名單、黑名單，照理講，臉書是上市公司、商業公司，還需要我們警政署幫它確認哪一個粉專是真的、哪一個粉專是假的？你們警政署怎麼這麼貼心！

我們提供多少白名單給它？

就從過去到現在一直蒐集的名單，是不是？

我們警務同仁為了打詐，還要去確認這個粉專到底是不是真的，是不是那個當事人擁有的，然後數發部在粉專下架之後，我們還要同仁加班去幫忙把那些正牌的粉絲專頁救回來，有沒有感覺到有點荒謬啊？怎樣，我們中華民國政府現在是臉書的小弟，是不是？臉書是一個上市公司，是國際公司，大家都用，沒有錯，我尊重，但重點在於當它已經變成是犯罪集團的一個媒介，結果反而變成是我們警政署要先幫它確認這個粉絲專頁是不是真的，然後真的、正牌的粉絲專頁被下架之後，找臉書要找誰？它在臺灣沒有設客服，我們數發部變成還要當它的客服，在接了這些陳情之後再跟臉書通知。我請教，到目前為止臉書有出來講話嗎？有承認錯誤嗎？也沒有欸！次長，你說數發部同仁收到陳情，連夜加班跟臉書協調處理。

臉書的客服呢？如果說它是一個商業行為、商業模式，我們數發部是主管機關，照理講，我們應該要求臉書去解決他們衍生出來的問題，結果不是啊！我們變成是客服專線24小時不打烊，同仁加班接收陳情之後，然後告訴臉書：你們出包了，趕快恢復。臉書現在咧？媒體報導的是，據了解臉書向數發部說明內部調查結果，並強調未來不會再有這樣的錯誤，會精進流程。它就跟數發部講一下，然後也沒有對外說明，好像這件事情跟它都沒關係、「無要無緊」，結果我們的警政署及數發部這兩大部會變成要扛責任，會不會覺得委屈啊？

會？怎麼辦啊？

大就可以是化外之地嗎？

大就可以不受控制嗎？

還要幫他講話？次長，我給你一分鐘的時間讓你好好說明，就是因為我覺得公務同仁很辛苦啊！

這一件事情，我現在都姑且相信你們講的是對的，我現在姑且相信數發部沒有提供資料，而是內政部警政署提供資料，你們提供的是正確資料，是臉書內部搞錯，我都先相信，因為你們在國會殿堂公開講這樣的話。如果真的是這樣的話，那就代表是臉書內部的控管有問題，但到目前為止三天、四天了，臉書沒有一個正式的回應，大家捕風捉影，然後要求你們去做說明，什麼時候我們中華民國政府變成是臉書小弟？美國、其他國家，即便是這樣子，我相信都會有相關的法令，對於臉書，你過去講這些東西我也都了解，但是不能說有一家公司來臺灣賺很多錢，要求投廣告，可是它沒有負起相關的責任，那我們難道沒有任何因應作為嗎？數位發展部身為主管機關，其實數位發展部當初成立的宗旨和目的，就是當數位世界有任何亂象時，要試著去控制、試著去管理，這是你們的宗旨啊！次長，所以這件事情要怎麼因應？要怎麼改進？

我們能不能要求臉書？之前我質詢部長，部長說已經邀請臉書來喝過很多次咖啡，甚至我說你們app裡面的通報案件上個月有10萬5,000件，其中有九成都是跟Meta相關的詐騙，包括用Meta的Messenger、IG和臉書，都有！我想如果九成的詐騙管道都是從Meta來的話，難道不能先要求他們做源頭管理嗎？這樣才不會累壞我們所有的警務同仁啊！

是啊！如果他來喝咖啡喝不行，那就請他喝「敬酒」啊！「敬酒」喝不行，就請他喝「罰酒」啊！

賺錢我一樣開罰啊！

而且我覺得這件事情在於臉書不能躲在幕後，還讓我們公務同仁加班。

謝謝次長和分局長。
國安局，抱歉，一件事情，因為賴士葆委員和剛剛幾個委員都問到，我只是請教，高嘉瑜前委員深偽的影片您有看到嘛！

因為上個禮拜……我想說這其實滿明目張膽的，因為第一，他也算是公眾人物、有名；第二，他用的是上政論節目的畫面，政論節目在YouTube上每天都會有，所以他到底是講真的、講假的，一目瞭然，可是居然會有人刻意去變造、用AI去做深偽的影片，那我想請教，這已經從上個禮拜……高嘉瑜前委員也報案了，目前為止有進度嗎？

哪個人可以說明一下？現在有沒有進度？有沒有查到凶手、出處、來源？

好，我想確認兩件事情，因為本席也很關心，我覺得任何人都不應該去仿冒，尤其是用這種深偽技術去擾亂社會秩序，如果不是他講的話，我覺得任何人都不應該。請教兩個部分，就你們的掌握、瞭解，這是集團犯罪，還是個人行為？

個人？看起來雖然他的嘴型跟聲音像，但我覺得還是有點粗糙，仔細來看可能還是會有點對不上。所以這是個人行為，並不是集團？

這一批裡面，除了高嘉瑜被仿冒，還有沒有其他？

裡面有註明嗎？

他可能是用TikTok或抖音，可是因為它也可以被下載，所以下載完之後，如果再去做轉傳的話，你就沒有辦法掌握，是不是這樣？

好。張副局長，最後我只講，對於這樣一個深偽技術，其實大家都要去防範，我覺得這還算是低階，雖然廣傳，可是大家可以分辨，也有很多其實是都沒有辦法分辨的，譬如說，我只是簡單舉例，因為我的時間也到了，但我必須再次提醒。阿湯哥拍的「不可能的任務」最新一集有沒有看過？

片名是「致命清算」，你還沒看，其實它去年就上映了。「致命清算」講的其實就是深偽技術，而我們知道，好萊塢會把它拍出來，通常代表這個技術可能已經過時5年了，也就是出現在市面上可能已經5年了，才會被拍成電影。換言之，電影沒有拍的可能更先進，我建議國安單位人員一定要去看一下「致命清算」，並不是為了娛樂，更重要的是你們要瞭解，其中有一段是阿湯哥接受任務，突然間深偽技術AI直接把命令者跟被命令者之間的訊息砍斷，然後下達錯誤的資訊，讓阿湯哥跑錯地方。我覺得如果這個技術真的被運用，駭客的技術真的可以發展成這樣的話，那很危險，變成不管發生什麼意外狀況或緊急狀況的時候，我們的指揮中心跟前線部隊之間的訊息是不是有可能被入侵、被控制、被變造？

對於這樣的技術，我覺得可能就要因應跟防制。

這真的應該要適時掌蒐，好不好？

謝謝。

謝謝洪孟楷委員。請葛如鈞委員上台質詢。

（11時51分）謝謝主席。有請數發部林次長跟內政部警政署的代表，謝謝。
次長好、副局長您好。

前幾天大家真的很驚嚇，因為有非常多的粉專被下架，當你搜尋這些所謂的網紅，結果找到的都是像本席所示圖片右下角的詐騙訊息，反而是真的找不到，假的一大堆，包含我們的證交所也受到波及。
我首先還是要感謝次長週末加班發文，也許也有很多同仁加班，我想公務人員非常辛苦，最後大家都是要一起來努力的。對於次長臉書有提到「至於臉書有沒有接到其他單位的要求，我們並不是很清楚」，在這裡我想要先請教一下警政署副局長，你有沒有發現這很可能是在暗指你們啊？你有沒有發現？

沒感覺嘛！對不對？不知道副局長有沒有發現，林次長發文底下的留言就有網紅貼上去說，他們的粉專恢復之後，第一時間收到臉書的通知，說是來自Criminal Investigation Bureau的法律要求，這個是不是警政署？對吧？是內政部警政署的英文名稱，沒錯吧？

對，刑事局的英文名稱。是真的還是假的？

對嘛！這是不是假的？是不是AI深偽的？是不是有人假造刑事局的身分去提出法律要求？有沒有可能？

沒有，我說這個通知它說是來自刑事局，你們又說沒有嘛！對不對？那有沒有要調查？如果有人偽造，嚴不嚴重？

那這是怎麼樣？他打錯字嗎？

要不要要求Meta出來說明？

不是，這是被錯下架的粉專說他們收到通知，是警政署這裡的資訊嘛！那這是不是有人偽造？還是真的？這到底是真的還是假的？

對不起，他們現在就說是Criminal Investigation Bureau（刑事局）嘛！那你們如果不背鍋，要不要調查啊？

到底是不是警政署？你現在說不出來嘛！是不是有人偽造？你也答不出來嘛！次長在臉書上面po了，底下也有人留言，次長也按讚了。這邊有沒有通報警政署去了解？

有沒有？你只要說有還是沒有，數發部有沒有橫向通報，有還是沒有？國會殿堂，請說有或沒有。

那可以調查一下嗎？

我們待會會有具體要求。再來我想問一下數發部，數發部有沒有收集網紅白名單，有還是沒有？

所以就是有嘛！

你確定喔？好。你沒有蒐集，那麼這封信是不是假的？是不是有人偽造你們提出蒐集？這不是你們嘛，對不對？

你沒辦法確認，你剛剛又說沒有？好，沒關係，我們今天就了解真相。這是不是你們？這是不是錯假訊息？這是不是AI，還是深偽？內容是「我們是數位發展部反詐騙工作小組」，這是網紅提出的截圖，是還是不是？

事情在禮拜五的深夜已經發生，您週末也發文，然後說同仁很辛苦……

都是Meta的錯，都是其他單位的錯……

數發部有沒有責任？

事發原因，你們有沒有責任嘛？

沒關係，所以你們沒有蒐集白名單，我們之後再來了解。

我們非常有疑義，你蒐集的目的是什麼？如果你已經蒐集了，又沒有辦法保護他們，到底目的是什麼？你要收集個資嗎？系統誤判、錯假下架，數發部有沒有責？

對嘛！

所以責任不在你們身上，你們就沒有責，是不是？

所以如果不是你們造成的，你就沒有責任嘛，對不對？

很好！你們數位產業發展部平臺經濟的業務，就在你們下轄的業務範圍之下，臉書是不是平臺經濟？

你們數發部有沒有一些單位、政府有沒有單位付它廣告費？

我們有這麼多的預算做網路行銷……

我們是不是都把它全部砍掉？

再來，打詐專法通過了以後，詐欺有關的廣告業者的平臺，是不是在你們下轄之下，你們有沒有責任？

對嘛！所以就算只是它犯的錯，數發部也有責任。

這寫得清清楚楚的啊！

那您是不是現在打臉剛剛的你自己？

這個態度我們都錄下來了，沒有關係，大家自己公評。

這是您的美照。

你們要宣傳打詐的時候，找平臺業者來，然後發生問題了，說是平臺業者的錯，數發部沒有責任，沒有關係，我們不要去講這些有的沒的。我們就只問一件事，11月15日深夜，從7點開始，大批網紅粉專下架，什麼時候恢復的，次長知道嗎？

非常好，非常精準的回答。數發部什麼時候發布的回應？

關於粉專已經恢復了，出了這個大問題，請民眾不要恐慌，我們數發部已經在努力了。你們什麼時候公開對這件事情發表回應的？什麼時候？

什麼時候？

好。首先數發部的預算如果不夠，可以提出來，你們有很多的單位，不是你們在救災的時候，你們有沒有收發室？你們有沒有一些要上傳資訊的部門？不要講得好像整個數發部所有的人都在救災，當然不是嘛！到現在數發部也沒有做官方的提出，在事發的平臺上面，你們到現在都還沒有聲明。為什麼我要提這件事？跟次長說明，我在11月15日晚上11點9分，請大家關注這件事，也是希望平臺業者、希望我們的政府部會趕快來解決，不然民眾很恐慌，會不會還有下一波的問題等等。確實如您所說，凌晨12點13分左右就恢復了，我的這個更新，就是在那個時候po的，因為沒有拿到也沒有得到數發部的任何聲明，所以我們當然很抱歉，我們並不知道同仁在進行加班，所以我們在這裡是說感謝Meta，因為按下恢復按鈕的還是它嘛！因為那個平臺不是我們的，所以我感謝Meta在全力奔走聯繫，大家一起努力嘛，對不對？那恢復了，請問我這樣po有沒有問題？沒有問題吧？次長。

對嘛！結果底下一批人都在講為什麼只感謝Meta，我今天也感謝數發部，為什麼？因為我們後來知道嘛，對不對？所以我想請問數發部，您剛剛說沒有直接責任，那我就請教數發部有沒有通報業者Meta做快速下架機制？你有沒有可能跟它連動？

有可能，對不對？這是你們數發部的官網寫的嘛！「快速下架由政府部門通報的詐騙」嘛！你們有沒有可能不小心通報錯了？

但你的臉書上說沒有嘛！

你們說沒有嘛！所以恕我確認一件事，因為網友都在講，數發部沒有權力也沒有能力去下架詐騙粉專。我就此請教你，你們有沒有能力通報，並且下架粉專？

對嘛！你可以通報，然後最後它可以下架，對不對？

所以如果有錯粉專下架，也有可能是通報錯了，對不對？你說對或不對就好了。

對嘛！沒錯！因為這就是你們的紀錄，一個小時之內去幫這些商業的業者去下架錯假粉專，你們也說跟44位名人建立通報管道，這個就是你們所謂的白名單，可能還有更多啦，這是你們官網上寫的，您剛剛說不清楚數量，沒有關係。今天其實我的要求非常簡單，謝謝主席給我時間講完這三個具體訴求，希望我們政府部會一起協助我們，讓我們不要打詐越打越憂心，讓大家可以有一個安心的資通安全環境。
首先，請內政部警政署一週內提供「Meta 收到警政署法律要求」之內容及調查報告，以確認是否有偽造警政單位之犯罪。可不可以一週內？

全力來達成？提供給本席。
另外第二點，請數發部一週內提供白名單，到底要了多少人數，資料的欄位到底要了哪些資訊，因為這可能有個資或同意權的問題，以及白名單跟這次波及的網紅的重疊比例，我都不需要知道是誰。

我們保護他們的隱私，但是相關的資訊，我們希望知道，確認有沒有程序或資安的漏洞，大家要一起來努力可以嗎？一週內？

當然！

當然！我的要求已經是不需要個資了。

最後一點，請數發部一週內提供關於次長發文「這段期間數發部並沒有發公文，也沒有用其他任何方式通知臉書」，請提供我資料，具體指出到底是哪段期間，以及調查哪些其他任何方式，提供給本席，有沒有問題？一週內？

沒有問題嘛？

事情發生是什麼時候？

所以你們通報到它下架不需要時間，是不是？

所以前5分鐘、前一個小時都不需要提供嗎？

我這一段是完全複製貼上的。

你要回去看也可以。

沒有關係，我們沒有要玩文字遊戲。

大家一起來協同了解情況。

文字提供給我，您剛剛說這段期間是從發生的時候開始，所以您的意思是說很可能5分鐘前、事發前5分鐘，你們可能有提供下架通報囉，前一個小時你們可能有提供下架通報囉，有沒有這個可能？您要好好仔細地了解這個狀況，確認一下您的意思到底是什麼，請數發部具體地回文給我們，這樣可以嗎？

謝謝次長，謝謝主席。

謝謝葛如鈞委員，請各部門儘速提供資料給葛如鈞委員。
接下來我們請楊瓊瓔委員上臺質詢。

（12時6分）謝謝主席，楊瓊瓔發言。首先還是請數發部。

請次長。

我看你從幾位委員的詢答當中你很輕鬆，但是民眾都很緊張，所以我還是願意讓你講，到底是怎麼回事？因為從幾位委員的詢答當中還是沒有得到真正你要說明的內容，所以我願意讓你講清楚，到底怎麼回事？從禮拜五開始。

對，粉專被下架了，當然大家都會很緊張嘛！還會衍生到哪些位置呢？大家都很緊張。

連公部門──證交所也影響到了，這怎麼辦？請做說明。

你們馬上去聯絡嘛？

所以這些下架跟你是沒有關係的？

你要說明的是這個？

請刑事局來。你請回座。

到目前為止大家還是有很多的質疑，到底有沒有故意的情節？有沒有？到目前為止就你們了解。

到目前為止了解是沒有故意的？

所以以警政單位你們的說法是臉書自己出的問題？

確定是他們內部機制出的問題？

目前了解是這樣。好，你請回座。請國安局長。

你聽到現在，大家現在對於數發部的期待也很高，當然對我們警政單位的期待都很高，因為它是人民的保母，尤其有AI的情況之下，所以本席要來請教國安局，你面對AI可能帶來的資安外洩、資安危機，政府要怎麼去因應？你光是一個粉專下架，衍生的恐慌是這麼動盪，那你要怎麼做？

幾乎要百分之百。

是、對。

如果以你目前給本席所做的說明，你根本沒有辦法解決什麼問題，請你暫停。
我還是請數發部次長，你認為剛剛國安局的說法當中，在數發部，你可以扮演什麼樣的角色？

而且在整個駭侵跟漏洩的部分是非常恐怖，你可以扮演什麼樣的角色？

都是你的責任，我請問你們的橫向聯繫目前執行的情況怎麼樣？OK嗎？

應該還可以，為什麼發生了這麼多事情？

而且瞬息萬變。

所以我在這邊，尤其剛剛國安局特別講到了，因為世界各國是無國界的。

是無國界的，在這樣的情況之下，你要怎麼樣跟橫向所有相關單位聯繫？如何與各國加強這一些相關的情資？

對。

當然，所以可以看到這個嚴重性。

非常嚴重。

次長，不用說每一次要公開，我們民眾要的是一個答案、是一個結果論，民眾得到安全、安心的生活，因為大家現在不安心。

我再請教國安局，美國在10月份發布了「國家安全備忘錄」，對不對？它特別也把五角大廈跟情報單位增加了AI的技術應用跟部署，這是首次。基於維護整個美國與全球資訊網的安全，來防制這些利用AI進行的軍事情報活動，我剛才特別說了，這是首次針對AI技術的使用、管理跟相關的風險，它訂定了什麼呢？具體的因應措施，期望在加強AI技術於網路安全、反情報、軍事研發等這些國家安全領域應用當中，都能夠同時透過相關的風險控管規範，主要目的就是要確保公民的權利不受侵犯，但是我們現在感覺到臺灣人民的權利已經非常不安心，你可以感同身受嗎？

你目前所說的，就是國科會他們已經做了一個規範出來，但在國安局部分，美國都已經這麼做了，備忘錄也都出來了，我們國安局自己的備忘錄或指引，方向是什麼？

你也可以看看他們有哪一些規定，既然已經公布了，那有什麼……

對，本席就要請問你這句話……

你們應該滾動式的檢討，看看怎麼樣能夠讓我們的人民更加安全？

這個務必一定要達陣，我們也期勉相關單位，因為到目前為止，人民的生活就是離開不了這一環，但是人民離開不了又有很多不安心，這並不是一個民主國家應該要有的層次和感受……

一定要加油，好不好？謝謝。

謝謝楊瓊瓔委員，副局長和次長請回。
羅明才、羅明才、羅明才委員不在。
鍾佳濱、鍾佳濱、鍾佳濱委員不在。
何欣純、何欣純、何欣純委員不在。
林德福、林德福、林德福委員不在。
鄭正鈐、鄭正鈐、鄭正鈐委員不在。
伍麗華、伍麗華、伍麗華委員不在。
接下來我們請黃國昌委員上臺質詢。

（12時17分）謝謝召委。國安局局長走了嘛，對不對？

是。

好，那麻煩請副局長、法務部調查局副局長，以及內政部警政署刑事警察局副局長。

三位好，時間的關係，就不一一問候。今天我們在處理有關深偽以及錯假訊息對我們國家安全的影響及因應，這是一個非常嚴肅的課題，之前在2021年時，當時國安局就表示AI Deepfake危及國家安全，要訂定因應的SOP，那個時候應該是陳明通在立法院說的。到了今年，你們在10月31號的書面報告裡提到有大量的深偽製造的影片以及杜撰錯假訊息。今天我看到我們主要負責的單位，一個是調查局，一個是內政部警政署，首先先請教內政部警政署，你們的報告第2頁到第3頁提到2022年7月5號，在最高檢察署檢察總長召開的會議中，提到包括你們跟調查局是主要檢測機關，你們表示刑事警察局除了可以檢測真偽，也可以依照個案偵查其來源IP位置及溯源偵辦，是不是？

你們刑事警察局真的可以檢驗真偽嗎？

能力如何？

沒辦法百分之百，那個軟體花多少錢？

兩個軟體1,000萬？

花了1,000萬的軟體，辨別的能力現在到多少百分比？

這我了解。

沒關係，大概百分之多少？

95%以上？

沒關係，我們等一下再就你們遇到的限制進一步討論，因為深偽對臺灣國家安全造成非常嚴重的影響，特別是如果老共拿來介入我們國家國內的事務，這會對我們國家安全造成非常嚴重的威脅，所以今天為什麼要排這樣的專案報告，就是要深入了解我們被滲透的情形有多嚴重、老共到底是怎麼搞的，以及具體的案子現在處理的狀況。你們在報告裡面提到從112年到113年10月，辦理檢測的案件11件，3件是總統副總統選舉罷免法相關案件，其他8件是刑事案件，請問這11個案件都偵結了嗎？

可以去追溯一下嗎？

因為你們已經標的11個案件出來，針對這11個案件，我們有順利抓到這些為非作歹、可惡至極的歹徒，還是雷聲大雨點小，一點結果都沒有？這個國人會很關心，可能分散在各個地檢署，最後處理終結的情況怎麼樣，刑事警察局未必清楚，調查局也未必清楚，但我覺得總是要有個單位把這些資料彙整後跟大家說明，這樣可以嗎？

對，偵查不公開的就不公開，還沒有偵結就還沒有偵結，如果偵結了後，最後結果怎麼樣，是簽結、不起訴，還是起訴，這牽涉到你們前面花了這麼多時間、這麼辛苦的工作，總要有個結果出來，要不然我們花這麼多錢買這些設備，你們也去檢測了，結果最後的結果是什麼大家都不知道，案件偵辦到哪裡大家也不知道，我相信我們在面對國家安全威脅這麼嚴肅的課題時，絕對不能虎頭蛇尾，贊不贊成？

好，具體的請教，這個是深偽造假，還是中共介選？鑑定出來沒有？

目前還在偵查當中？

所以這是不是造假的？

由地檢加以說明，現在還在繫屬，還沒有偵結？

OK，當事人說這個是深偽造假，調查局說要尊重當事人的意願，所以不能公布結果，這我也尊重，但問題是這已經不是個人問題，這是國家安全的問題，如果是中共介選的話，可以辦到今天都沒有結果嗎？新北地檢還要辦多久，調查局知不知道？

這案子拖很久了，當事人都站出來控訴是中共介選，茲事體大，非常嚴重啊！絕對不能虎頭蛇尾。剛剛大家都贊成不能虎頭蛇尾，這麼嚴肅的事情，絕對要查清楚，是不是真的是中共介選、是不是真的是深偽偽造，這要給社會大眾一個交代，贊成嗎？

副局長，你贊成嗎？大家都等著啊！到底是哪個單位這麼可惡，不是只有影像的問題，還有錄音檔的問題，這位前立委說連錄音檔都被變造，他要求的是什麼？他要求的是這明顯是境外介選的作為，期待國安及司法單位迅速處理。來！先請國安單位，現在處理的進度如何？

所以跟國安單位沒有關係？

你說影響到國安的，你們都會怎麼樣？

目前你們了解的狀況怎麼樣？

所以跟國安單位沒有關係？

這個案子，你覺得有沒有影響到國安？你覺得有沒有影響到國安？

我了解，所以國安單位的立場就是這個跟國安單位沒有關係，要尊重檢調嘛！是吧？所以呼籲國安單位是呼籲錯的對象，是不是這樣？

所以從國安單位的立場來講，就是要等司法檢調機關，是嗎？

沒有關係啦！那你就講嘛！國安單位在司法檢調有結果出來以前，跟你們沒有關係，這樣一句話不就講完了！我有說錯嗎？

那你覺得有關係？

當然要尊重司法檢調嘛！來！刑事警察局。

這個音檔刑事警察局有沒有鑑定？

好，調查局。

鑑定結果出來了沒有？

這個案子是臺北地檢，上一個案子是新北地檢，現在兩個案子都還在繫屬嗎？

那可能要請調查局請新北地檢還有臺北地檢的同仁，大家都很辛苦，多努力一點，當事人都已經指控這是老共介選、介入我們的選舉，多嚴重的事情啊！這麼嚴重的事情，辦到現在都還辦不出來，是能力有問題，還是決心有問題？副局長，你覺得呢？

你們該做的鑑定都做完了？

希望也利用這個機會，調查局跟臺北地檢、新北地檢講，當事人指控這麼明確，表示這是中共介選，影像是偽造的，音檔也是偽造的，但是不是偽造，只有你們知道，但你們不方便講，那全體國人就只好等，等臺北地檢跟新北地檢給大家一個交代，否則這麼嚴重的事情，可以和稀泥嗎？和稀泥混一混就過去？這牽涉到國家安全的問題，剛剛大家都同意這很嚴重，不能虎頭蛇尾，一定要水落石出，但看起來今天來做專案報告的這三個單位，國安局說要尊重檢調，調查局說你們的結果跟臺北地檢講了，如果臺北地檢不說，你們也沒辦法說，所以到底是不是偽造、變造，到底是誰搞的，到目前為止，關心這件事情的全體國人都沒有一個答案，是嗎？是不是？你不要笑嘛！你憋著笑，這很嚴肅的問題……

我是很嚴肅的態度在請教你啊！

這牽涉到國家安全，你認為有沒有跟國人說明的必要？你覺得有沒有跟國人說明的必要？

好，非常好，再麻煩調查局分別跟新北地檢，還有臺北地檢講，這件事情很重要，攸關國家安全，結果是什麼，大家都在等他們出來跟國人說明。好，謝謝。

謝謝黃國昌委員。
葉元之、葉元之、葉元之委員不在。
林楚茵、林楚茵、林楚茵委員不在。
已登記質詢的委員除不在場外，均已發言完畢，報告及詢答結束。本日會議有王定宇委員、林楚茵委員提出書面質詢，列入紀錄，並刊登公報。請相關機關以書面於兩週內答復；委員口頭質詢未及答復部分，或要求補充資料者，亦請相關單位以書面兩週內提供，委員另約定期限者，從其所定。

一、鑒於人工智慧（AI）技術被廣泛應用於各類投資詐騙案件，據微軟公司《保護公眾免受AI生成內容濫用》報告指出，2023年因深度偽造（Deepfake）技術所進行的冒名詐騙，造成全球損失高達27億美元，且詐騙金額的中位數達1,000美元。本席請數位發展部、法務部調查局、內政部警政署於兩周內提供以下資訊：
1.我國近三年AI技術相關詐騙案件之統計與分析：包括案件樣態、受害人數及受害金額等數據。
2.政府因應新興技術詐騙之具體措施：針對AI生成內容或深偽技術濫用等問題，目前所採行的防制對策與未來規劃（如：規範AI公司於其產品中內置識別深偽內容的工具，或建立獨立機構監管等）。
二、美國政府於今年10月簽署首個「人工智慧國家安全戰略備忘錄」，授權五角大廈和情報機構加強運用AI技術，這是美國首次制定專門策略來發揮AI的力量並管理其在國家安全領域的風險。鑑於此，本席請國家安全局於兩周內提供相關說明，我國相關情報機關是否針對AI技術在國家安全領域的應用進行全面盤點？包括應處AI應用的法規、預算編列及應對工具的規劃與建置？

AI技術的發展迅速，特別是在生成深偽影片、假新聞與錯假訊息的應用，此技術也已被中國作為認知作戰的新型利器，對我國國家安全與社會穩定構成重大威脅。
深偽假影片與假訊息的傳播途徑多元，既包括公開的社群媒體，也涵蓋封閉的通訊群組，特別是後者，由於具隱蔽性難以追蹤，對防範與查證工作帶來極大挑戰。根據2021年11月3日國家安全局在內政委員會的書面報告，國安局計劃採取三階段的因應機制：即時通報權責機關、迅速辨別真偽、依法查辦。對此，本席特別關注「是否有讓民眾可以主動通報的管道？」以及「如何辨識並反制這些假訊息？」等問題。
國家安全局與數位發展部是否已掌握這些傳播模式、威脅樣態及其應對策略？請國安局就「目前是否具備相關的技術工具來辨識並反制這些假訊息？」，以及「是否已建立快速有效的通報與應對機制」，於兩周內提交的書面報告。並請數位發展部就「多媒體鑑識系統」計畫及發展之進度，同於兩周內提交書面報告。
此外，數位發展部於本次提交的報告當中提及：「除了透過技術手段外，最重要且最有效地的是人員培訓，需要持續提升人民對AI相關威脅的認識，建立積極的安全意識文化，強化人民識讀能力，如同零信任機制，保持對任何訊息的警覺性。上述相關建議，皆已納入本部各項資安推動工作中持續執行。」
惟本席並未見到「持續提升人民對AI相關威脅的認識」之實際作為，目前一般民眾面對假訊息假影音，除了使用商用識別軟體外，僅能倚靠自身對本人的認識做出判斷。面對AI技術帶來的挑戰，數位發展部有義務建置通報機制及落實全民教育，建立防範AI威脅的堅實防線。
請數位發展部就「持續提升人民對AI相關威脅的認識」提出具體可行的計畫，於兩周內提交書面報告，確保我國不受AI技術應用之侵害。

本日會議到此結束，散會。
散會（12時31分）