島國沙龍X：deepfake 笑不出來的玩笑 — 深偽技術的惡意與反挫
2021年11月13日（星期六）14:00–16:00
對談 ／
張凱強 數位女力聯盟widi秘書長
賴郁樺 逵遠法律事務所
杜聖聰 銘傳大學廣播電視系主任
主持／陳惠敏 島國前進執行長
紀錄整理／島國前進秘書處
科技既能載舟也能覆舟，當慾望凌駕於科技的發達之上，該怎麼樣才不會觸犯底線？
知名youtuber利用AI deep fake（深度造假、深偽技術）將知名女性網紅及政治人物的臉合成到成人影片上，進而販賣假影片獲利。
這樣的科技會帶給我們怎麼樣的影響，你有想過嗎？
除了合成色情影像造成數位刺青影響當事者外，更甚會影響到國家安全。
我國目前的法條對於此類科技犯罪的成長前進速度似乎跟不上，我們該怎麼辦？
法律與被害者的距離似乎又太遙遠，該怎麼制定出可以貼近受害者傷口的法條？
而使用科技造成的國安問題，又該怎麼因應？
生在這個科技世代，當我們的角色是當事人／旁觀者／社會一份子的我們該怎麼做？島國沙龍在11/13邀請到了數位女力聯盟張凱強秘書長、逵遠法律事務所賴郁樺律師、銘傳大學廣播電視系主任杜聖聰教授一起來討論這個近身又重要的議題，沙龍精彩討論完整呈現如下。
陳惠敏：我們把握時間就先開始，大家再陸續加進來。還是要先介紹一下今天為什麼會想談這一題，其實這題有蠻多人在講了，我當時看到比較深刻些的討論，就是數位女力聯盟有發一個聲明稿，在那個聲明稿裡面就說得滿清楚。
之後我有聽凱強去上一個podcast節目，但我一直覺得說這個議題好像一直在限縮在法律上怎麼去限制它、或是女體怎麼被使用或覺得被污衊等面向，我也會想說，那些羞辱感、或是覺得不愉快的感受，背後的那個結構，蠻有興趣去理解的。
後來在立法院裡面，國安局長就有被問到關於國安的部分。但其實我記得前幾年川普在選的那時候就有在談，包括對選舉的影響性，還有就是對於國家安全之間的一些想法，那些也有稍微碰到。可是台灣很淺碟，都是講完就沒了，除非是下一次又發生類似的事情後才會又出來談，可是也是雷聲大雨點小，比較長期後面的東西就一直沒有出來。
因為我想要談國安那一題，但沒有看見什麼特別的討論或複雜的講法，此時我正好看到杜聖聰的那篇文章，那篇文章的內容裡他就談到政治刺青、還有談到說在政治上的挪用。聖聰是長期對政治環境非常有興趣而且非常有趣的一個人，加上他的觀察非常銳利，也不會假道學，因此很開心可以邀請他來。
我覺得某些論點需要很真誠的談論和面對。當然，若某人想要怎麼談論一件事情，肯定是這樣講有什麼好處，當然也會有一些影響，但當我們只看到短期的效益，而不去看到也許會造成蠻長期的後果，比如說我覺得還是會有些政治不適任的問題等等。我本身還是會認為政治需要培養一些細緻感，然後有機會做些什麼，還是蠻重要的，所以我很開心可以在百忙之中請到三位與談人願意來參與。先把時間交給凱強。
張凱強：大家好，我是數位女力聯盟的秘書長凱強。我先分享一下我的畫面，大家可以看到這是我們數位女力聯盟的官網，我們是非常非常新的單位，我們是2020年7月4號才正式成立的，所以是一年又三個月前。我們的核心宗旨有兩個，第一個是防範一切數位科技形式所造成的性別歧視與暴力的行為，另一個是促進女性在數位時代的權利，這就是兩個我們最核心的理念跟宗旨。
簡單跟各位分享一下今天的內容，就是在數位性別暴力的多元態樣裡面我們以deepfake為核心的討論。跟各位報告數位女力聯盟的核心宗旨就是剛剛的那兩點，我們是推動以積極的倡議為主的組織，包含盤點國內外各種數位性別暴力的類型，然後去盤點在國外發生了事件，在國內以它現有的既有法規他的疏漏會是什麼？我們也在做一些政治的倡議立法的遊說工作。
大家可以看到在2017年是deepfake剛被研發出來的時候，女星神力女超人蓋爾加朵（Gal Gadot-Varsano），她的臉被挖掉，並移植到Ａ片影星的影片上，就是在玩弄一個情趣用品的畫面，這個畫面到現在為止都還找得到。它是當時非常非常知名的深偽技術的一個新的突破點，因為它的合成技術在當時擬真的程度已經非常非常高了。到2021年年底，技術越來越蓬勃。其實根據相關研究組織的報告，至少到2020年，deepfake一直以來都會扯上國安問題，確實它利用一些假消息可能會變成國安層級的問題。
但是我們要跟各位報告的是，不管是哪一家的研究公司，一家叫scientists AI、另一家叫Deeptrac的這兩家公司他們的研究報告是96%跟97%的deepfake影片是沒有經過當事人的許可下合成的Ａ片，那這裡面90%以上的被害人都是女性。這些一共上傳到色情論壇的影片擁有1.34億次的瀏覽量，你就可以知道很明顯違反「聯合國消除對於婦女一切形式歧視暴力公約」（CEDAW）的一種女性受害比例特別嚴重的數位性別暴力的問題。
所以我們要講deepfake它是一種什麼樣的問題？它是一種國安問題，沒錯；它是一個對新聞媒體信賴問題，也沒錯；可是它更嚴重的問題是數位性別暴力。
這邊簡單跟各位分享一下，對於數位性別暴力，數位女力聯盟我們也分別出了各種不同的態樣：基於性別的仇恨言論與行為、數位性侵跟虛擬性騷擾還有數位人口販運性剝削，還有跟這次最核心有關的虛擬圖像影音的性濫用。這個像我們現在常見到的就是男女朋友分手後，我持有你的性私密的影像，然後對你做出一些性勒索的行為：複合、金錢對價贖回或發生性行為，或是沒有得到同意就把性私密影像散播出去。這些是真實的影像，但是以AI技術為知的虛擬影像、聲音的性濫用，這個在我們的定義裡面就是deep fake、deep nude、deep voice，這三種態樣。
我們在2020年的10月的時候，就已經率先向頻果日報踢爆了台灣網紅合成的犯罪集團，他們使用了這樣的技術。給各位看一下這則新聞「台灣女性網紅遭駭客移植到A片上，登上全球的色情網站」那時候在pornhub或X video這樣的網站可以看到非常多知名的女性網紅、藝人的30秒的試看影片，被放在色情平台上。
當時我們踢爆了這樣子的一個訊息以後，其實我們有去聯絡當時30幾位到40位的被害人，我們嘗試去聯絡他們，看他們有沒有想要提出告訴的意願：以民法第195條人格權的侵權損害賠償，這樣子的影像製作與散布會涉及到刑法310的第二項加重誹謗罪：兩年以下有期徒刑併科三萬元以下的罰金、刑法235條的散播猥褻物品罪：兩年以下有期徒刑併科九萬元以下的罰金。
這次的事件，警方移送的法條就是用這兩條去移送到地檢署，但是我們在後續的律師、媒體相關的報導也比較少討論到這個東西有沒有涉及到個人資料保護法的問題。因為個人資料保護法的第六條有講到，若有涉及到個人的特徵被搜集且被不當的使用、利用，然後在第41條是意圖為自己或第三人的不法利益或侵害他人之利益而違反第六條第一項，這個是處五年以下有期徒刑得易科一百萬以下的罰金。所以在這次可能也有個人資料保護法的適用，那就是看到時候法院會不會變更法條來做處分。
當時30–40位的被害人，我們聯絡了其中的十幾位，沒有任何一個網紅、女星願意提出控訴。為什麼？因為他們覺得這樣的駭客集團很可怕，不曉得是不是境外的集團，這樣台灣的警方抓得到嗎？如果台灣警方抓不到，會不會提出告訴了以後反而刺激到了集團，讓自己成為了被報復的對象？
其中的一個當事人奎丁，她是當時唯一一個敢率直地討論這件事情的人，甚至拍了影片去討論這件事情，她還加入了會員去看內部的一些操作流程。但是奎丁馬上成為了被報復的對象，集團使用telegram的群組，他們所有人的頭像都改成奎丁的照片，原本奎丁的影片是要付費的，馬上全部改成免費的福利片。所以像這樣的狀況，導致很多被害人看到奎丁因此被報復了，他們更不敢報案。
所以當時我們只好跟鏡週刊合作，我們從2020年底跟鏡週刊開啟了這項專案，那是由鏡週刊的三位記者花了將近七個月的時間他們潛伏到了這個群組裡面去調查。粗估被害的女性多達上百人，他們（群組）除了收取會費以外，每週三固定會有一個票選活動，票選誰是下一個大家想要觀看的被害人，某幾位被害人他們的影像就是所謂的投票片，不法獲利至少五百多萬。直到2021年的10月18日，刑事局主動偵破了這樣的犯罪集團，小玉主嫌等三人被捕，這樣被害人才紛紛表態終於敢提告了，至少知道這是什麼樣的犯罪集團，他們不是什麼多厲害的駭客集團，小玉也只是一個沒有什麼技術性可言的網紅，他使用的方式是向中國買了一個deepfake的軟體，然後他就可以製作這樣的影像。
就我們所知，deepfake 2017年的時候若要製作一個這樣的影像，需要被害人大量的照片或影片，輸入到程式中與另一個影片做結合，大概需要花費到八個小時的時間去做演算。2017年時可能需要到上萬張照片，到後來幾千張幾百張，到現在群組內還出了手機版deepfake的app，只要用手機一到兩張被害者的照片，就可以將被害者移植到A片上，這是一個非常非常嚴重的問題。
當時看見小玉他們終於被捕了，我們真的非常非常振奮，當然我們一方面是震驚。小玉真的超乎我們預料之外，因為我們原本預想至少是有一些技術能力的駭客組織，結果沒想到是小玉。所以我們當時就發了一個聲明稿，盤點現行法規是否足備以及未來要增進科技偵查的知能及作為、提供被害者相關的保護機制，以及為什麼deepfake的受害者96%是女性？就是整個父權體制凝視的社會氛圍。
所以我們要扭轉這樣子的社會氛圍才能遏止下一個小玉的出現，我們當時呼籲相關被害人出面提告，數位女力聯盟可以提供法律服務，並且轉介身心輔導的服務資源。
我要跟各位說，以AI為之的數位性別暴力，絕對遠遠不止於此。deepfake只是其中一種，現在有一種叫deepnude，我不知道大家有沒有聽過，這是一個一鍵脫衣程式。deepnude是在2019年6月的時候開發出來的一鍵脫衣程式，他的操作方式非常簡單，打開軟體上傳照片後即可產生裸照，而且只針對女性，也就是說你上傳一個男生的照片，它無法產製裸照。這個app在上架沒多久就被舉報，被舉報後它並沒有消失，而是轉移到telegram群組，變成是deepunde2.0，它的偽造技術更真實，最可怕的deepnude被上傳的都是不知情的普通女性，不是明星、網紅，而是一般的女性使用者。而只收取1.5美元的處理費，乘以30也才幾十塊而已，非常的可怕。
在今年開發出了一個deepsxxxxe，我不講出它的全名，它的網站就是這個六芒星然後中間有一個眼睛的圖像，然後它是使用亞洲人資料庫作為學習的方式，所以就有很多的使用者用來窺探女性友人的IG或FB的照片，只要IG、FB有PO一張照片，我就可以截圖下來丟到這個網站上，去解鎖任何他想意淫的對象。更新的技術影音叫Vnude它是動態影片就可以脫衣，還是只針對女性。假設賴律師，對不起拿妳當例子，我用妳演講的側錄影片，我就可以使用這個軟體把妳變成是你一邊講話一邊三點全露的影像。我不知道妳會不會感到不舒服，但我想大部分的人都不會想要這樣子。最後就是deepvoice，如果我想複製一個人的聲音，講話超過五秒鐘，就可以複製聲音，我用文字打出不是我講出來的話，但就可以以我的聲音呈現出這些非我講出來的話，所以大家就可以知道這些東西結合deepfake，之後對於女性合成A片，它會越來越真實，而且技術越來越普及又簡單，所以這是一個非常值得我們關注的議題。
陳：謝謝凱強，聽你的介紹實在是越聽越覺得很誇張。以聲音的那個工具而言，針對犯罪的內容上也很可以被使用，之後影響的層面其實還蠻大的。因為這是一個很跨國又技術性的。我剛剛也才看到奎丁四天前又被PO出來，這種報復性的方式真的是拿它沒轍。
我想提到有一點點跟台灣的關係，像我們在處理跨國詐騙的時候就已經蠻困難了，包括是國際法上台灣地位的問題，還有就是我們到底能不能抓到，那更別說這是一個技術性的在跨國做一個大量的謀利，這更是困難重重。現在我們把時間交給賴律師，由賴律師的觀點再切入。
賴郁樺：其實剛剛在聽凱強分享的時候，我也覺得目前這個AI的技術有一些很惡意的運用，我等一下也會講到。我先簡單的自我介紹，我就讀的兩個研究所都跟科技有關，後來我也有在關注法律科技這一塊，包括AI的部分我也有去學過，當然今天講的AI犯罪也有看到很多人在討論。我目前就是在逵遠法律事務所，是我自己的事務所。
其實我在講今天這個主題之前，我在想為什麼我們會在今天這個下午聚在一起討論這個？其實我在思考是這個科技的變遷速度很快，我們可以看到從最早期的蒸汽機到大量生產製造，跟後來在第三個階段是電腦自動化的時候。大概是我自己小五的時候，我們開始有電腦課，那時候還是那種很大片的3.5磁碟片，國中時開始撥接上網，這是我們自己參與到的過程，後來到了大學的時候，那時候去美國剛好參加了臉書公司的參訪，其實在2007年那個時空，他在台灣是沒有人知道的。那時候我去的時候他們也是希望我們可以參加他的會員，所以也沒有想到說後來會發展到像現在這樣的社群媒體，然後還有一些很大的影響力，包括等一下會講到的元宇宙（編按：此虛擬環境將可以通過虛擬實境眼鏡、擴增實境眼鏡、手機、個人電腦和電子遊戲機進入人造的虛擬世界）。接著我們面臨到第四個階段：人工智能時代及互聯網的來臨，我們在面對這個時代，去思考一下我們的法律要怎麼去回應？
其實在法律上關於人工智慧的專利申請，其實量一直不斷不斷地在增加，很多關於系統、透過軟體來申請跟人工智慧有關的，比如說像：繪畫、自動生成音樂，這些都是比較良性的運用。其實在人工智慧是比較籠統的字語，它可以再細分說包括有機器學習、語音合成，就剛剛有提到沒有經過授權同意就擅自搜集你的語音，然後去把你模擬出來。那再來就是自然語言處理這塊，就像是目前有些法律科技是在做判決的分析，那他可能運用到的就是自然語言。
跟這次主題比較有關的就是在於影像辨識的應用，其實就AI這幾塊領域還有專家系統，其實影像辨識是目前發展得比較成熟的，剛好呼應在這個主題。因為影像辨識現在發展得比較成熟，就開始有機會被一般人去濫用。但剛剛講的就是說，剛剛提到的影片中如果同時是換臉的技術加上合成你的語音，那我們以後真的眼見為憑嗎？那這可能就是一個很大的大哉問，我們看到的可能都是虛假的，甚至在國外有透過影像去生成一個人物，但他其實不存在在這個現實生活的，那他的目的是利用一個虛擬人物去拍攝影片來進行廣告宣傳，那可能會影響到的就是明星，明星的工作在未來可能會消失了，這就是生存在這個時代科技使我們所面臨的挑戰跟對生活帶來的改變。
所以其實我們就有看到臉書有發出一個震撼彈，下一個階段就要來的就是元宇宙，就我剛剛這樣講的過程中，我們的社會環境從本來的實體，逐步逐步地朝向了虛擬，那這個虛擬從網路時代到社會，到現在有可能是更跨大一步的元宇宙，像這個的過程中我們從虛實之間的轉換，我們法律到底有沒有辦法去面對這樣的轉變呢？
其實科技是雙面刃嗎？像剛剛凱強也有分享到的小玉，他利用了deepfake技術去做換臉，但是韓國有一個有名的廣告，他透過AR VR去讓媽媽看到他過世的女兒，他可以去彌補思念的感情。所以我覺得科技他本身是中性的，只是說就像剛剛有提到，我們社會是一個父權凝視的社會，所以一個很中立的科技為什麼有96%的都是色情影片？這其實也要回到憲法有講的間接歧視，一個很中立的科技或很中立的措施，最後卻導致一個很歧視的結果，我們叫差別影響歧視，受害者都是女性的結果。
所以這邊講到說，被惡意的運用的話呢，第一個情況可能是剛剛提到的性愛影片，那第二個階段就是結合語音合成，像國外已經有一些實際的案例，合成你認識的親友聲音來進行詐欺取財，那更嚴重的就是可能會有國安問題，干擾到各國選舉，製造一些利用政治人物或各國元首在選舉期間散佈不實消息，藉此來影響選舉的公正性。再來，在不管是換臉還是換聲音，這些都是你的個人特徵跟肖像權，所以做這樣的行為會侵害到你個人的肖像權和個人資料的部分。
所以目前呢，deepfake犯罪沒有法律可以罰嗎？其實不是，目前以刑事法律來看呢，規範是比較分散的，當涉及散播性私密影片或使用肖像合成色情影片，會有散布猥褻物、妨害名譽、性騷擾防治法跟個人資料保護法。那民事法律的部分，你的臉部這是你的肖像權，那相較於公眾人物，剛剛也有提到說不只公眾人物，一般民眾大家的肖像權也可能被濫用，那其實從法律評價上來看，個人的肖像權比起公眾人物來說保護程度應該是要更高的，因為不像公眾人物需要被公眾監督評價，對非公眾人物侵害肖像權其實是更嚴重的，那再來是名譽權的部分，如果被侵害的話可以請求損害賠償，著作權就是當你去改作國外片商擁有著作權的影片，同時會侵害到著作權，也一樣會面臨到損害賠償。所以其實看似deepfake犯罪有這麼多法律可以去規範，但這些法律的成效到底怎麼樣呢？有沒有辦法遏止這些所謂的AI犯罪或deepfake犯罪呢？
我剛剛提到的法規範，回到最一開始講的科技的變遷，其實當初的立法者還是停留在很傳統的實體世界的人物或財物，例如擄人勒索、詐欺取財，或是誹謗罪是發生在報章雜誌，去散佈一些不實的誹謗名譽的一些訊息，那性騷擾也是可能比如說真實世界，可能會講黃色笑話或是惡意未經同意地觸碰你，當然散播猥褻物像夜市販售的那種盜版的A片。可是科技犯罪，面臨我們現在生活的網路時代，擄人勒索可能會變成是透過駭客來讓你的電腦當機，國外案例有利用駭客在系統植入病毒，讓整個醫院系統當機，讓你無法讀取病例，就可能需要付錢，那到底要不要去付錢呢？在過程中也會有很多討論，但可以看到其實從早期的擄人勒索變成電腦被勒索讓你沒辦法用，就是一種轉變。當然還有假消息資訊戰。利用這些資訊戰偏差的訊息，其實假消息你說目前有沒有一個專法其實也沒有，他也是散佈在各個法令，比如說：社會秩序維護法、誹謗罪等。那當然還有電商的個資外洩、虛擬貨幣、加密貨幣這些，還有我們今天的主題數位性別暴力跟深偽犯罪，這是我們這個時代面臨的新技術、新犯罪，原本刑法立法者預設的犯罪圖像跟刑法要處罰的犯罪態樣，隨著科技變遷已經悄悄地改變了，那我們要怎麼樣可以去回應這些犯罪呢？
我們必須承認其實法律真的趕不上科技發展的速度，因為法律畢竟還是最後一道防線，科技發展的速度，包括科技產品，每兩年是一個週期，它不斷地汰舊換新，這將是一個蠻大的挑戰。第二個是我們剛剛提到的這些數位性暴力留下來的合成的私密影像，它是留在網路上的你也沒辦法刪除，可是現行的處罰呢它其實不管是誹謗罪、性騷擾防治法或散播猥褻物，其實處罰可能是很輕微的，若低於六個月還可以易科罰金。對於被害者來說，心理上他會有很大的期待落差，被害者人的感受是遭遇影響很深遠的創傷，沒有辦法刪去網路上惡意散播的私密影片，甚至剛剛提到的要不要提告被害者都會考慮再三，因為他不確定他提告的動作是可以去改善現狀呢？還是說讓惡意散播的行為更變本加厲，或持續地合成他的影片，而產生被害人心理創傷程度跟法律處罰比例嚴重失衡。
再來要談一下我們現在面臨的數位犯罪，包括在法院提出的數位證據，也會面臨到數位證據是可複製的或可變造的這些問題，可是我們的偵查手段及強制處分卻無法跟上。舉個例子好了，比如說通訊監察，早期通訊監察我們是監聽電話，可是現在的時代大家還有在講電話嗎？或是其實大家有蠻高的比例會轉向使用社群媒體，而這些社群媒體的加密資訊，我們目前的強制處份有辦法去取得這樣的數位證據嗎？實務上這些跨國知名的社群媒體公司，經常會以隱私政策去回應這些偵查機關函文的調查，目前科技偵查法是希望去改善這個問題，它想要透過設備端的通訊監察，它希望在這些資訊加密以前就可以事先取得資料了，但是因為它有一個難題就是隱私的保障，大家會覺得說科技偵查法會造成隱私被無止盡地侵害而沒有保障，變成它現在仍是是停留在草案的階段，科技偵查法我個人覺得是一個可以去講很久的一個議題，但今天時間的關係只能去簡單的提到，其實檢察官或是相關的警政單位都有在網路上撰文，提到在這個科技發展的時代，若只能用電話監察，他們覺得是無法去解決這個科技犯罪的問題。但這是一方的說法，其實隱私保障這塊一定要去平衡，不然我覺得這個問題就很難去解決。其實最大的問題還是欠缺針對深偽犯罪或AI犯罪量身定作的一個犯罪處罰章節，因為刑法目前還是只有針對電腦犯罪，這些本來就不是針對AI犯罪量身定做的，所以這些規範既分散又沒辦法去回應被害者的需求，所以我覺得這未來真的是需要透過訴社會運動訴求或立法來解決目前AI犯罪的問題。
科技犯罪的國安問題，美國實際案例有歐巴馬罵川普笨蛋，或是美國聯邦眾議院院長裴洛西也有被釋出一個口齒不清的影片，這些後來都被發現是偽造影片，若在選舉期間有心人特意地去搜集候選人照片、聲音、影像，然後故意去煽動這些仇恨或偏差言論要怎麼辦？人民有沒有辦法去辨識，可見深偽影片除了數位性暴力還有國安危機，如果合成國家元首去做宣戰宣言，這個言論一出去後後果就不可收拾了，要怎麼樣去事前立法防範？美國已經有針對選舉期間的深偽影片破壞選舉公正性來立法處罰了。
新聞有報導20種AI犯罪，包括從deepfake而來的就有五種AI的新型犯罪，比如說利用演算法漏洞進行種族歧視，工程師寫演算法時就隱含歧視想法、勒索病毒、或我們剛剛講的合成你的影像或你的聲音，以及偽造入口網站的關鍵字，其實有一部韓劇也是在講偽造關鍵字的議題，故意製造熱門關鍵字去操縱輿論的流向跟干擾選舉來達到他想要的訴求，不管是選舉的獲勝或企業形象的經營或是去刪除惡評，這些都是AI的犯罪。
其實在歐盟有提出人工智慧管理法的草案，根據AI發展風險分成這四大類：不可接受的風險、高風險、有限風險、最小風險。像是個人的生物辨識系統呢，已經有威脅到你的人身安全的話就是絕對禁止的。所以未來可以針對這些AI的使用去區分危險程度高低來做不同程度的管制，回到台灣其實也有針對深偽技術管制來修法及立法。美國對於合成他人私密性影像跟政治人物影片已經立法去禁止，有國外立法例可以參考，所以將來針對刑法、公職人員選舉罷免法、個人資料保護法跟著作權法，這些可能都要一併通盤來檢討。
我們可以怎麼做呢？其實除了我們自己有意識地去辨別這些深偽影片，比如說臉部可能會模糊，或是你發現他的臉頰振動頻率或發現他的眨眼頻率是幾乎沒有眨眼的，或甚至現在國外有開放換臉的辨識機制，當然還有機構來鑑定辨識。另外的因應之道也是剛剛講的，其實就避免在社群媒體上去傳一些比較個人隱私的資料，因為有可能會被竊取，第二個可能如果你有發現它是深偽影片你就不要去散布，或到事實查核機構辨別消息的真實性。
陳：謝謝賴律師，剛剛有提到科技偵查法的部分，在立法院也是吵得蠻兇的。有一些民間團體，像民間司改會其實他們也有一個科技偵查法的小組，特別去提一些針對保護隱私的角度出發，之前包括LINE等民間企業公司也常被NCC叫去做配合、交出一些資料出來，犯罪上LINE對話當成證物的部分也多多少少也有在用，當時這些民間公司當然會覺得很困擾，因為私人公司對於客戶隱私的保護絕對是很重要的，若私人公司提供會使得民眾信賴感變低。然而另一方面，公司也不敢公開違逆政府的要求，這樣也會擔心說可能在台灣在地的發展會否受到影響等。當然科技偵查法會走到一個必須去因應的地步，但在那個拿捏上好像是一個很艱難的議。因為我們以往看只看正面的，比如說會降低勞動需求，或是說可以更精準地做些什麼，像我自己有在關心的監所議題，官方也想用來做人臉辨識等等。其實這類的資金投入額度也是蠻高的，如此一來，是有獲利的來源，所以會有很多人想要用。但濫用的人也是有，所以做什麼拿捏就的的確確很困難。剛剛有提到選舉的部分，就交給聖聰這邊來講一下。
杜聖聰：大家好，我是銘傳廣電系的杜聖聰。我就直接進入到這個部分了，小玉的這個deepfake那麼多人都受到影響，其實我們早年在做這個東西的時候，我先從產製端開始講，因為我們之前大概在做阿凡達的時候，那時候是做全身的，你穿一個緊身衣然後會有很多紅外線貼在緊身衣當中，然後你全身掃描之後用動態捕捉，叫Motion capture，然後把你抓在一個很像地球儀，一個很大很大的地方，這樣子掃完之後開始做出像阿凡達，剛開始的時候我們是這樣子去做。如果大家還有印象的話，早年的壹電視，他們那時候在講動畫新聞，很早就開發出這樣的技術。再過來後我覺得越來越微型化、越來越細緻化、越來越簡便化，大家有看到也可以理解的就是「玩命關頭」，因為男主角保羅沃克他往生之後就請他弟弟來拍，也使用了這些精確的換臉的技術，可以讓整個劇情延續。所以我很贊成凱強剛剛講的，還有賴律師講的，基本上科技沒有什麼好壞，但是用的人心裡頭如果很骯髒的話這東西就很難處理。
我們來講講蔡英文，我離開高雄之後我很長一段時間在跑兩岸關係，然後也常常到陸委會去做採訪，但看到她被這樣搞，我實在是非常搖頭三嘆。你在這種換臉的技術當中，你去想，第一個像剛剛律師講的，不管是民法刑法，在框架當中它都會有相關的處罰，但問題是它夾在中間，而且我覺得現在比較麻煩的問題是如果它指涉的是政治人物呢？如果它指涉的是政治人物的話，我們這個樣子去想就會變成「那我不能開玩笑嗎？」我要不要去堅持所謂的言論自由？對於享有公權力比較大的所謂的國家的政治領袖或行政首長，難道我連開玩笑的權利都沒有嗎？也因此它有一點點像covid-19的delta病毒，它不強，但是把你搞得很不舒服，很不舒服之後它的散佈力又極廣，然後殺傷力又很強。
用現在的一句話來講就是「傷害性不大，但侮辱性極強」。而且傷害性不大，侮辱性極強之後，它很容易又形成了所謂的「數位刺青」。就你這樣子弄完之後，我不管蔡英文或其他的行政首長、政治人物，他在公領域當中有什麼不錯的表現，但是這個東西留下來，一傳傳一萬年，你生生世世都必須鎖在所謂「數位刺青」的枷鎖之上，所以這個部分是比較麻煩的事情。
另外在這個產製的部分，我想在這個獲利當中，以鏡週刊的報導來講，這個獲利其實是非常驚人的。所以在這個部分當中就提出來給大家做參考，因為在法律的部分還有對於性別意識的傷害部分，賴律師跟凱強大概都講過了。假設有這樣的一個訊息，我們必須去建構所謂的「三律共管」的概念，也就是 — — 法律、自律、他律，三管齊下，看能不能夠去防範這樣的事情。法律的部分就像剛才律師講的，在這個相關的操作當中可以去借鑒歐美先進國家對於這部分按照這種比例的權重來開始這種法律規範的探討。第二個部分是自律的部分，我在想包括我們的新聞自律委員會，我大概這幾年當中比較常參與，在這個部分中除了新聞自律委員會然後類似的兒少新聞的自律委員會，還有各式各樣的自律委員會，都應該去把這個東西納併進來去做相關的思考，然後第三個部分是他律，其實我們學校在這幾年當中，我們集合了北部、中部、南部的大專院校，我們這兩年都很強化媒體素養的操作，而且包括三區我們都做了很多的工作坊，來進行這一種媒體素養的操作。那類似的這個部分，我們比較遺憾的是deepfake好像這種相關的教材都沒辦法納併進來，我覺得這個是比較可惜的。所以在這個部分當中，類似的媒體素養的這種操作也應該加以加強。
最後就是談到我們的相關的查核的部分，其實有很多動手查證的機構，我們也希望說在法律、自律、他律的情況下，三律並進，看能不能夠把這個部分加以根除。我最後想再重複一下，面對deepfake的這個部分，從法律面的觀察，大家講得很清楚，但在我們教學的部分當中如果對於他沒有比較清楚的定義，其實我們在這種影像的操作或去做相關的結合，這方面的技術你說我們該不該去教學生？這個很頭痛，所以重點是應該要想辦法在這個框架當中讓它的邊界更清楚，我們才知道就是說我們未來進入這種傳播的媒體教學，對於這種技術我教、還有我對應的法制化，我大概要放在什麼地步，不然的話這可能跟大家意見不大一樣。我在傳播實務的實際上面的教育，對於這樣的技術我直接跳過去的話，恐怕對於相關的操作會比較困難，這個是跟大家稍微不一樣的觀點。
最後我想講大家都常常在講「有圖有真相」，但最近被小玉這樣一搞，這幾年下來「眼見不一定為憑」。這個過程當中如何透過法律、自律、他律，三律共構來解決這個問題要有更深化的討論。我第一階段的報告先到這裡為止。
【第二輪發言＆QA】
陳：好，謝謝聖聰。其實我覺得大家都會說要有一些辨識的能力，就是說要怎麼去辨別假的東西。我覺得這幾年主要是針對假訊息資訊戰開始有一些嘗試，剛剛也有提到說美玉姨或查核中心這樣的東西，但這裡還是會卡到那個舊問題，假設我本來就是一個科技使用上很容易被騙的人，看見訊息就很容易把它轉出去的人，然後在使用上的話還是有一些門檻在，這些長輩們或對科技比較不熟的人，就會有一個科技門檻長在這個地方，我就會覺得這是一個傳導或是教育的問題，讓它普及化教大家怎麼去看。因為我覺得現在都比較像在看品牌信賴度，就是說品牌信賴說我比較相信誰澄清的方式或傳遞訊息的方式，我就會比較從那個方式上去信任他，所以我們信任的不是那個事物本身，而是告訴我們的人，那這個就會是一個狀況。
回到我們今天談的這個deepfake上，蠻重要蠻關鍵的就是像剛剛凱強講的還是一個「販賣女體」的問題，就是用女體來牟利的狀況，幾乎是防不勝防。連受害者都不一定知道自己是受害者，因為她不一定有進到那個市場，或者是哪個介面平台在看，所以不知道有沒有被拿來幹嘛，一定要經過別人告知才會知道，所以有時候她是受害於無形之中，自己不一定會理解這些事情。所以感覺上是彷彿科技一直在進步，但在應用上，使用者該有一些什麼倫理也好，或規範性的調節治理也好，好像都沒有太清晰。
其實三位都分別點出一些我覺得蠻關鍵的問題，也有分別提到說從受害者的角度或從使用者的角度，或是說傳播者的角度各自可以做什麼，但其實這些都有點像自律救濟啦。那其實我還蠻想問的是「那國家呢？」國家的整體政策上，未來唐鳳要成立一個數位科技部，就是數位發展部，那這個東西我們台灣現在是處在什麼階段？我們到底跟到哪裡去了？還是說只能夠在已經有受害者出現的時候，跟剛剛賴律師講的一樣，其實法律是很後面的事情，就是幾乎是已經有出事情了才會處理？所以像是新創的監理沙盒（Regulatory Sandbox）（編按：在數位經濟時代，為因應各種新興科技與新商業模式的出現，解決現行法規與新興科技的落差，故透過設計一個風險可控管的實驗場域，提供給各種新興科技的新創業者測試其產品、服務以及商業模式的環境），好像那個東西已經跑到很前面了，國家才用一個規範性的東西把它抓住。我們今天談的是有一些受害層面，可是最早的時候AI其實是要拿來解放人類的，就是要有多一些好的運用，在新創業也用很多，那這兩者要怎麼拿捏其實也是蠻困難的問題，所以就是看看三位想要就下一輪的部分做一些補充或互相追問也可以。
杜：我想提出來，剛才想講的部分都被凱強老師跟郁樺老師講掉了。但我要從一個使用者的角度來講，就是我們剛開始在使用AI人臉辨識技術的時候它剛開始好好玩，我跟凱強是以不同的角度去看的。那個軟體是中國開發的，它就是想辦法讓你去知道比如說「琅琊榜」或是很著名的影片的橋段，你知道像我這麼胖我怎麼可能去演，我只能教人家拍啊。我只能教導演怎麼拍、編劇怎麼寫，我們從來都沒有機會進去螢光幕裡頭給人家拍。所以他透過這種遊戲的方式讓你覺得That’s a joke，那好好玩，我自己就玩了很多次。後來我學生就覺得胖胖的老師很好玩，他就把我insert進去後讓大家莞爾一笑，覺得這個東西很好。我覺得他從情色的這種角度出發一定有，但是它跟別人覺得無可無不可，只是博君一笑這種遊戲的介面。
其實在我圈子裡頭大家去接觸到人臉辨識，第一個從遊戲的脈絡去弄，有點像我們吃安非他命，他不會寫安非他命，他一定把它包裝成草莓口味啊、西瓜口味，這個樣子軟軟的讓你在這邊。我覺得他在法域的規範當中，這一種軟軟的介入那你要怎麼讓它一刀切，其實我們在這邊也很困擾，這個是我第一個要去提出的。
然後第二個我們在處理類似的這種概念，如果當年黎智英跟金溥聰不要鬧翻，讓壹電視真的還能夠存活，他其實很廣泛地用在當時的動畫新聞，這個東西可能再早三年、早五年就會出來。所以類似像新聞有的時候我沒有畫面、沒有真相，或是說我要去採訪很多東西的時候我必須去花費很多成本，我沒有辦法掩飾。可是呢，我覺得這個新聞很重要，我要如何簡化或簡單化去讓我的閱聽眾知道這一種工具有的時候稍微弄一下也是蠻好使用的，但這種時候對我們來講就是魔鬼的試探。因為實際上在傳播當中我們就是會用到，有沒有辦法在法律的框架思辨，還有我們剛剛講的言論自由怎麼辦？我們剛剛講的領導人都要有官箴，就不能開玩笑嗎？可是開玩笑完畢之後你是造成他不可逆的傷害啊，就在這個部分苦惱，所以有的時候你一放，他就飛走了，你一抓就把他捏死了，那要怎麼辦？
我覺得今天來參加這個座談會聆聽大家的高見，我也要把我一拖拉庫的問題講出來。因為真的很討厭，要嘛就嚴重一點，比如說通通去侵犯到女體的部分，這不是廢話嗎？當然要抓起來罰，或是在政治上造成不可逆的傷害，這個東西要查，而且要一路朔源地查。我現在講的這些邊邊角角的東西他的技術都是一樣，在科技的這種處理都是一樣。
那我們是做黑手的第一線，那我想請教大家的就是，那我該怎麼教？我該不該教？好像我閃不掉。可是我一旦教下去的時候，你知道嗎？現在大學有時候刪課也刪的很恐怖，第一個砍的就是砍新聞與倫理，那這個部分蠻麻煩的。那我第二輪的發言就發言到這邊，因為這卡在我心裡頭卡很久，今天主要我來這邊是來問問題的，我們大家都說要AI走向傳播、AI要跟傳播結合，那大家都看好的，卻沒有看到可能的問題，不可以這個樣子。而且你弄得不好，藍綠的對決又那麼厲害，那我不能開玩笑嗎？又或者說眼球中央電視台這些好玩的孩子他180度相反，都變成在野黨的部分，那你容忍的尺度到哪邊？我不知道這部分是屬於人格權受到污衊的部分，但我們憲法也保障我們要有新聞自由跟言論自由，這個我們一知半解，要請律師跟凱強來解釋。兩邊在這個部分當中難道沒有衝突嗎？我也希望在這個部分把思慮弄得比較清楚，然後把今天好的觀念要帶回實際上的教學場域，第二輪發言到這邊。
賴：我剛剛聽杜老師在講的時候，有講到開玩笑的部分我覺得蠻有趣的，這是我沒有去思考過的部分。我有在大學教通識課，老師剛剛說的我會聯想到著作權法嘲諷式著作，很接近你剛剛講的「我想要開個玩笑不行嗎？」或是我想要戲謔一下。有些影片你想要去嘲諷一些公眾人物或政治人物，但他不可能授權你去做這件事情，所以在沒有授權的情況下，只要符合高價值言論自由，比如說我去對政治人物做一些評論，但我覺得是有底線的，這個底線是剛才講到惡意詆毀他人人格權。
杜：因爲這個東西很麻煩，我們在教的時候真的是會很頭大，因為有些屁孩他會把這個東西變成「啊我要二次創作不行嗎？」哇，那你很生氣啊。二次創作，這算什麼創作？他們會說二次創作也是我的創作啊。可是我又覺得是鬼話、是狡辯，因為我們是從產製端，我們是從黑手端這邊講。我們真的要請教大家去把事情弄清楚，不然的話你看現在的小孩，還有那些小屁孩，他就是弄到你很生氣啊，你也不知道怎麼去弄啊，所以真的再請賴律師跟凱強老師來指導我。
賴：你剛剛講的有關於Z世代，Z世代對於社群媒體或二次創作，從法律觀點來說，二次創作如果用到原本的影片，從著作權法來說你還是必須取得原著作授權，除非是我剛剛講的政治性言論若構成合理使用。我舉個例子好了，像之前的China跟Taiwan，就是嘲諷性言論，他沒有取得授權啊，但有些地方是有機會成立合理使用，我們講的是轉化（編按：著作權法中之合理使用考量以下四個要件，包括(1)利用之目的及性質；(2)著作之性質；(3)所利用之質量及其在整個著作所占之比例及(4)利用結果對著作潛在市場與現在價值之影響。），一個專有名詞，重點來說就是我保障你的言論自由啦，你要傳一個很重要的訊息給大眾知道，所以我例外給你保障。我想講就是說現在的AI犯罪應該是針對它AI的特性，這是我另外延伸出來的，一定有某種它的特性，比如說剛剛講到的受害者提告後反而激化犯罪，那很多受害者隱忍了十多年之後才出來提告，這時要思考追訴期超過時間還要不要讓他提告。我覺得這也是一個可能可以去思考的修法方向啦，這就是我簡單的回應，那我也想聽看看凱強老師這邊的想法。
張：我覺得賴律師和杜老師都把我想講的東西講完了，我覺得杜老師剛剛講的一開始好像是用好玩的心態去做換臉的東西，可以替代到電影的人物角色那的確是一種好玩，沒有錯。我覺得這個東西就跟兩位在報告的時候特別提到的一個重點：大部分的科技他本身是中立的。那這個中立的東西你要怎麼去使用它？怎麼讓他有被符合合理使用範圍的方式去使用的時候，我覺得這才是我們在教學上的一個重點。因為我同時也是台北市性平委員會的委員，所以其實像這樣子的內容，我們也會要求台北市的性平教育再從國中小開始，從他們的課綱裡面要有一些融入式的教學，就是要把deepfake這樣子或是其他跟媒體識讀有關的一些教育也要從小開始去落實。
這也回應到剛剛惠敏提到可能在老人家會直接轉發相關資訊，他沒辦法去意識到這樣會有一些問題的時候這才是問題所在。那這樣子的問題所在需要靠的是更多元的教育方式，讓他來被落實。我覺得這不是說老師您這邊不能教，我覺得教是一定要教。個人淺見，我覺得在教的時候應該要把他的利弊得失都說清楚，可能會在新聞產製的方式上會有一些的優勢，可以讓新聞的內容更豐富一點、新聞的畫面更多元一點。但他被濫用的時候，我覺得在新聞倫理的課程裡面，我覺得這應該要有一個很深切被討論的概念。當你這樣子濫用一個科技，而對他人的人格權造成侵害、造成影響的時候，其實這已經是構成犯罪的問題了。那像剛剛賴律師有提到高度言論價值的問題，其實言論自由跟新聞自由其實並不是一個憲法保障他，他就可以無限上綱到沒有極限的頂點。其實台灣很多法律是借鑑德國法的，那其實像德國，他們的憲法法庭還是大法官解釋也有相關的辯論：言論自由有沒有價值的區辨，我們今天講了一個言論、開了一個政治上的玩笑，或者我們針對綠營、我們針對陳時中，我們針對他喝酒的影片然後我們發表什麼樣的言論，這是一個高度應該被保障獲肯定的一種言論價值，但是也有某一些，例如像是情色廣告或者是犯罪的一些仇恨言論，像在德國你講「納粹萬歲」這是犯法的。所以言論自由這種東西，它也不是一個無限上綱的問題，我覺得剛剛杜老師提醒的一件事是，我們總是在教學的領域上去跟學生講這些事情的時候，像剛剛賴律師講的科技這種東西本身是中立的，但是它在使用過程中一定是一個雙面刃，單看你人心到底要把他利用向善還是利用向惡，當它被利用向善的時候就像杜老師你說的，他可以讓新聞產製更多元化一點更豐富一點，但當它被利用到向惡的時候，我們在跟學生做介紹的時候我們也沒辦法迴避掉這個問題，就是它造成的惡果會是什麼？
杜：應該這樣子講，我可以進一步問賴律師嗎？
陳：我想先請問聖聰一下，除了新聞倫理之外我們還有一門課是通識課，是叫新聞識讀，現在大學還有新聞識讀嗎？
杜：就是媒體識讀啊，我們院裡頭還是重點去講的這個單位嘛，那些大學的教材裡頭，我應該都沒有看到deepfake，因為太新了。那我覺得賴律師講提出一個很棒的方式，就是說我們讓deepfake的這樣的嚴重性就像電影的輔導級，我們要用分級制度來處理之。那接下來就是說，什麼是很危險、什麼是比較輕微的危險，那這個分級的界線該怎麼去割或者說該怎麼劃分？或怎麼思考？現在沒問題，我想共識大家應該是很清楚，面對這樣的一個狀況，應該透過這種新聞分級制或deepfake的危害分級制，去對應這種法律的規範。但是這個分級的各式各樣的邊界，大概要怎樣子來劃分？或是說初步有什麼樣的構思跟想法？這樣子的劃分出來的話其實我覺得在我們傳播教育當中可以有更好的省思。我們也希望把這個概念帶回來，分級要分，但分級的級距邊界我們要怎麼樣來框架、思考會比較OK？這個可不可以請教賴律師。
賴：因為我看到的是歐盟的草案，涉及到你的人身安全或生活，若這項技術會直接牽涉到我們的基本權利，比如說你的人身自由，我有看到國外討論若利用技術觀察你一整天的生活來對每個人評分，這我覺得其實蠻可怕，比如說你有亂丟煙蒂或亂吐檳榔渣，會把你這些行為都記錄下來，系統有一套善惡標準，最後給你一個好公民或壞公民的評價。網路上文章有提到，評價會影響貸款或小孩入學等各方面，像這樣的系統我覺得有涉及到歧視或剝奪機會平等，這可能就是我覺得要比較高度管制的。那當然就是我們的生物辨識系統，比如說我們的臉部特徵或是你的心跳，就是跟你個人的生物特徵有關的，一樣會被列為比較嚴格的管制。像我們剛剛講到的低價值言論，比如說商業利用的話，他沒有立即明顯地去影響到你的生存或生命。這是我自己的淺見啦，管制程度可以放寬。但老實說你說要發展出那個分界，你當然現在立法或草案出來都是一種試運作，當然法律都是不斷地去運作，慢慢地去修改修改，大家還是要慢慢找出那個社會的共識，畢竟我們現在生活的時代，技術還很前端，真的大家也無法預見未來會怎麼樣，現在世界各國已經紛紛去做禁止，像或是針對AI，如果企業運用不當會去處以高額罰鍰，就慢慢大家去摸索出一個立法管制或規範這樣子，這個是目前我看到的一些資料或文章的討論。
杜：因為我自己的想法，就是類似像凱強老師剛剛講的這個部分，以性別、商品化女性的這個角度來講，那個大概都是怒犯天條了。所以在這個部分的這種罰則，還有這樣子法律的輕重，這個部分一定都很贊成。可是比如說我們的總統，這個我很難想像，因為以前陪他去採訪陸委會、然後採訪辜汪會談，她就是一個很正經的學者，然候你讓她穿很清涼的，這個要怎麼辦？我覺得這個東西就是卡卡的。比如說有牽扯到關於情色，這種傷害其實真的很清楚，必須以鐵腕的這種方式、以法律的方式明確的規範，不要讓我們無辜的女性同胞去受到傷害。這個我很清楚，但是政治呢？而且其實比較傷腦筋的其實也不在中央，你想想看，我跟你保證，大概會出現在什麼狀況，不會出現在六都，因為六都的話，只要敢出來選六都的，他們自己對於各式各樣網路的訊息還有反制的狀況都很清楚，但我要去提醒的就是說，因為我們長年在地方打滾，只要你給他幾天的查證或反擊大概都沒問題。最討厭的就是說在選舉前一兩天，他就用AI的辨識去做出這種似玩笑非玩笑可是不莊重的這個部分，在縣市的議員這種地方層級的，或一對一的鄉鎮市長，這樣子去發生的時候就會變得很頭痛。雖然現在沒有發生，但我覺得在小玉的這個樣子的情況下，我覺得很容易去造成選舉的不可逆傷害。
張：老師我回應一下這一點，就是關於台灣其實有一個公務人員選舉罷免法，它裡面其實有一條你用違法手段意圖使人不當選，如果他真的是因為選舉前兩天放出這個東西出來，真的影響到了結果，然後法律上可以證明他的因果關係，那其實講實在話，因此獲利而當選的人他就是必須背負刑責而且選舉結果是無效的。
杜：我知道，但我講的是開玩笑。
陳：好，其實選罷法規定的是不實訊息，最關鍵是不實訊息，那比如說開玩笑那就不算。我看很多人其實玩笑都開蠻大的啊，不管是對哪黨的政治人物來說，我特別覺得有一些當他政治理念跟我不同，但他常常被拿來當嘲諷對象，尤其是那種是中高年的女性政治人物。像最近是不是有個街舞的宣傳，結果就被嘲諷到不成。
杜：沈智慧她們。
陳：對，然後就笑到要出來哭。或是像陳玉珍，但她也沒有假的東西，就是拿他來笑一下這樣子而已。或是幫她換個臉、穿個清涼的衣服。
杜：我覺得就是凱強老師講的，剛才那個意圖使人不當選，那個也比較清楚。剛好我們常常每一兩個禮拜就要飛去金門，所以對那邊的選情略懂略懂。我跟你講，那真的是差幾百票割喉啊。你可以想到這樣的割喉戰你給它弄下去，真的是你也很難去說。所以對於這個邊界的部分，尤其是開玩笑的部分，看起來戲而不謔，這個我覺得比較危險。造成這種明顯的傷害，或者是說對於女性的極度的、在身體上面的不尊重，這個很清楚，就是一定要告的。
張：老師我問一下，您能不能舉一個類似的玩笑程度讓我想像一下，因為其實我自己在想對於政治議題，你若選舉前開玩笑的影片出來，那我覺得它涉及到兩個不同的層級。第一個是用敵對的候選人曾經拍過什麼樣的影片，或是什麼樣子的言論的影片拿來做個梗圖，作為一個反諷。我覺得對我來說這應該是要被保障的一個範圍，但是如果說惠敏講到的，如果已經到了我把你的臉挖出來然後做了一個你根本沒有說過的訊息的話，我覺得這就已經是一個我們今天這個主題deepfake，它在涉及到國安或是政治選舉信用，我覺得這是一個比較危險的問題了。但如果說這樣子的玩笑，大家就覺得蠻好笑的，也許它的傷害力不大但侮辱性極強。法務部長不是說在一個月之內要提出相關的法律嗎，時間也快到了，大概再七、八天左右就會出來，那我們到時候可以說一下它訂出來的東西是什麼樣子的，它訂在哪裡？它要怎麼去訂？我覺得今天老師一直想去釐清說它的一個分類分級的一個標準、安全性、可靠性，我覺得這個東西是一個很好很好的建議，賴律師也提出非常非常棒的建議，但是我覺得這個東西要看未來國家整體政策的怎麼樣去規劃一個這麼新興的議題，因為真的太新了。
杜：我應該這樣子講啦，涉及到國家安全，因為我有女兒嘛，你想嘛，你願不願意讓你女兒這個樣子，問題是他不會用你女兒，他用的是你媽媽，你知道嗎？我舉一個比較簡單的例子，我覺得中央的選舉真的跟地方不一樣。尤其是這種傳統的地方，然後人家傳老人圖，你想一下如果找一位輕熟女，她也是問政多年，不管藍綠，但是你把她臉挖出來弄去少女時代的影片去跳舞，我跟你說，這在鄉下一定會出事。可是它在我們都會區裡頭，我覺得莞爾一笑的機會是比較高的，所以在不同區域當中，應該要有不同區域裡頭的辨別啦。然後我覺得比較小的就是covid-19它很毒啊，那個delta病毒很毒啊，就是因爲他的危害小、傳染力強，但是它的這種作用，就是很微型的但散播力很大的這種玩笑，它是會跟一輩子的，尤其是在這種地方民風比較純樸的地方。這個惠敏最清楚啦。
陳：或者講比較簡單的，陳柏惟最後幾天的事情其實也是可以這樣子操作啦，它會讓你沒有反應的時間，它會去抓地方的選舉氣氛然後去抓厭女或特別要講孝順啊，它就故意去放一些跟他既有不符的東西。比方說他原本是打一個很有女性氣質的一個傳統角色的形象，結果對手最後一天就放一個他去夜店玩或什麼的。它就的確會發生效果。的確我們也知道這種事情不可能事先預防，因為除非是說很嚴格的像是說有反歧視法這樣子，針對種族或者是針對還不一定是女性，雖然說女性是大宗，可是可能是在性別上比較敏感的或性別上比較容易受欺負的，比方說陰柔的男性這一類的。這些的話也許反歧視法可以處理，還有像原住民族等，其實是希望可以放到反歧視法裡面的，但這些東西其實在我們的法律討論都有過，但是很少。
可是對於分級這件事情我就有點擔心了，因為我們以前誰拿來用就會長成不一樣的樣子。像我們以前新聞局、出版社也有分級制度，那當他在被一個極權者在使用它的時候，他也可以講得頭頭是道。但是一旦有這種東西的時候，他的用法可能就會變得非常的可惡，或者是服務他自己的印象上的東西。所以就感覺上法律上要怎麼去符合？其實剛剛賴律師講有一個我想問看看，像我們環境訴訟裡有集體訴訟嘛對不對，就是像說我們可能並不是直接受害者但我們是有受影響的人。那例如說我的水質受到污染了，只要有喝水的人或農地有灌溉的人，導致有問題的時候我可以對某一家化工廠去提起集體訴訟。RCA的案子也是差不多類似這樣。有一些的追訴期就沒有這麼短，因為若是有些這種個別的損害的東西，都會有一個追訴期，我覺得說這種集體受害且又無名無姓、人家覺得妳誰啊？也許妳年紀大又去提告的話，搞不好他們還會說妳有什麼好受傷的？就是如果說提起一個集體訴訟，尤其是這種不是知名人士的，因為大家一起比較不會怕嘛，就是說這種弱勢者比較常用的法律，用在這樣的案子裡面是不是有機會？
賴：對，如果可以放進立法會是一個蠻好的政策，因為像我剛剛說的RCA環境，或之前食安風波地溝油，那時候蠻多消費者團體都有受理，因為受害人數很龐大，受害者可能沒辦法提出直接因果關係譬如當初購買的發票不見，這時消費者團體就可以協助。我剛剛在想我們會去講有一些公益團體可以訴訟擔當成為原告提告，這個好處就是剛剛提到當受害者根本不知道自己是深偽影片受害者，另一個是當你發現自己是受害者已經很久了，或是你害怕提告會不會被報復？如果我們可以參考性侵害犯罪防治法保密受害人姓名等身分資訊，我們是不是可以把這樣的訴訟權利，交託給像數位女力聯盟或以後其他公益團體，透過團體以自己名義來提出訴訟。當深偽影片造成大規模受害者時，剛剛講的侮辱性或是有些受害者怕被報復，我覺得這好像也是一個蠻好的立法方向，這是我個人的看法。
陳：我會提這個集體性，是因為我覺得這幾年的公投法都有出現一個問題，就是冒名、用別人的名字去假連署，或包括死人連署。那我都會覺得說怎麼都會這樣過去就算了？理論上公投法應該有個階段是希望能夠所有連署人你去確認你自己有沒有連署這件事情，如果你本人知道你自己沒有去連署卻出現在連署名單的話，是不是可以集體去像小市民的反擊，就不要摸摸鼻子就算了，好像沒什麼事情一樣。所以通過一個公益團體去號召，因為凱強剛剛在講你去找當事人的時候，因為當事人好像都還是比較是知名人士，我也必須老實說知名人士提告還是幹嘛，其實有時也可能是一種反操作，其中想法也會比較繁複，也不見得只是為了要去聲張所謂的正義或是什麼，亦有可能就是一個行銷模式。然而如此一來，也會使得說一般並沒有這種意圖或必要性的人，他的受害感好像又被玩弄一次，有時候就會有這樣的感受，那我覺得那種感受蠻不好的，結果也不好，結果就會變成說像選舉一樣見怪不怪。彷彿，選舉前本來就會出爛招，爛招本來就是這樣，那爛招本來選完就沒事了，選完就會撤告啊不會繼續告下去，頂多是在下一次再搞回來。
我就覺得反而這種小東西不要放過去，就是不要說好像沒有造成巨大的損害的時候又要用一些什麼選輸了管人家有沒有出爛招，你就下次再選一次就好了，好像很容易放過類似這種手段的使用方式，那這個我就會覺得沒那麼好。
【結語】
陳：好，我們時間上好像也差不多了，想問看看大家還有沒有想要補充一下的，因為這個真的是問題很難，除了鬆緊的問題還有即便你要立法上我們的立法院也不是我們想幹嘛就能幹嘛的。他就是一個風向，立法院就要看一下現在眼前最夯的是什麼。我也蠻好奇幾個有提告的政治人物他們接下來會不會告到底，或者是說最後又雷聲大雨點小沒有處理，因為這個就是政治操作的一部分，就會覺得比較沒有辦法去對我們真的關心的問題可以處理。此外，我覺得就是聖聰講的媒體的多使用方式，我也覺得是蠻好的啊。在蘋果日報有動新聞的時候也是蠻有趣的，可以讓一些沒有辦法表達的方式用很簡單的方式表達，只是它的底線就是在事實性要堅守，那你玩笑的那個底線在哪裡就要看每個人，比如說我跟聖聰的玩笑接受程度比較高，但也許對總統來說就很低，因為她就是很嚴謹。但她很嚴謹她也不會去告，因為她知道她的位置上不適合去做這件事情。那可是每一個人都不一樣，我就有點去想說，管他政治人物要幹麻，就是會去想說小人物該怎麼辦？那如果我是一個nobody該怎麼集合成為一個反抗或反對這件事情去走下去的一種能力？
杜：我說結論。第一個，我認為這個議題一定得走到法制化，不法制化的話一定天下大亂。第二個，這個問題是不分藍綠，我也不說哪個黨有在關心哪個黨沒在關心了，這個議題應該是超黨派一起關心的議題，但是我們可以明顯看到，其實關注到這個議題的政治人物基本上是比較少的，也希望透過小玉這次的事件可以讓法制化的腳步更前進。我覺得真的是不分藍綠都要關心，但有很多政治人物都缺席了，我真的是很黑人問號。然後我們也很謝謝這次的機會可以讓我們帶回去學校裡頭，然後在思辨的過程當中把這些東西講清楚，然後爾後有這種deepfake的相關媒體素養的部分，我們需要亡羊補牢，這次會把它補進去。
張：我覺得今天真的是一個非常好的學習，杜老師跟賴律師其實給我很多不同的想法，因為畢竟數位女力聯盟我們是基於數位科技對於女性暴力防範的一個組織，所以我們有些想法會有一些既定立場去看這樣的問題跟事件。那兩位今天給我蠻多不同的思辨與討論，這對於我來說是非常獲益良多的。那的確我完全同意杜老師的第一個結論，這件事情不法制化絕對會出問題，那這件事情的法制化我覺得反而現在讓我很擔心的點是，他如果被放在妨害名譽這章裡面加個幾條罪，也不知道他要放在哪裡跟打算怎麼放，我覺得這個都是我們需要密切觀察的一個點。
再來我覺得就是這件事件引起很多社會關注跟討論，我覺得這是一次非常好的社會教育，我們作為一個Z世代的年輕族群或青壯年，我們怎麼去在科技日星月異的時代下有一個明確的網路公民應該要有的素養？什麼事情該做？什麼事情不該做？像小玉建立的這個群組你連參與都不該參與，那更別說有人把它付費買下來後再上傳。我跟各位補充一下，小玉被抓以後我還被拉到另一個telegram群組去，那個群組叫「小玉的遺言」，那它裡面就是把小玉他所有製作過要付費的影片全部公開，然後他們的目的就是不要讓小玉的努力被白費了，一定要堅守就是小玉的努力我們要延續下去，大家盡量下載盡量轉傳。所以我就覺得說各個世代的網路使用者對於應該具備的倫理道德，我覺得太欠缺了。這個世代科技發展讓法令跟不上，他在整個學習環境當中他的素養其實也很欠缺。我們數位女力聯盟未來也會去監督法制面怎麼去訂定，然後我們也會在相關的校園宣導加入deepfake的內容，去加入到這些Z世代的同學們的素養教育裡面。以上就是我今天的收獲，真的非常謝謝各位。
賴：我覺得今天下午從三位身上都吸取到蠻多新知識，我覺得我們在法律實務工作中就是在一個框架中，包括我們討論到有沒有可能是集體訴訟，或去了解到原來數位性暴力如此嚴重，以及我們要怎麼樣去界定開玩笑的程度及氛圍的邊界。其實法律就是一直在畫那條界線，還有我們怎麼去權衡兩種利益，我們應該優先保護誰？其實我們剛剛一直在討論說選舉前的玩笑，比如說被選舉人主打孝順而我去改變他的形象、比如說一個很嚴肅的人我讓他變得很清涼，那條線到底要怎麼畫？我覺得立法、法制化之外，我覺得透過司法個案的累積也是一個蠻重要的過程。其實有很多案件是透過司法，當有人去提告之後累積個案我們才有辦法去找出那條線，因為一開始立法的時候其實我們也不清楚法院怎麼去執行，那條線我們還是要透過司法個案去累積出來，我們才能更明確的知道說選前的玩笑我們能夠容忍到什麼程度。更何況我覺得這也跟民情有關。
我在教著作權法的時候，美國對於這種嘲諷式的東西本來就深入它的文化中了，他可以容忍的尺度一定比我們台灣更大嘛，但是我們能接受哪一個尺度，我覺得也是留給我們社會去發展。但是我覺得數位性暴力或Ｚ世代數位原住民哪一些行為他會踩到紅線呢？其實我覺得這個真的要透過大家的努力，不管是教育講座或是國民素養的培養，因為我覺得法律和法院它是不可避免的最後手段。
但我覺得遠比法律重要，可能是透過大家宣導我覺得是更長遠的影響、改變社會的方向。我也不知道我們是幸運還是不幸，我們活在一個很變動的社會，就是科技帶來的轉變，好像被迫要一直改變、去適應新的東西。其實早期社會很固定嘛，進入一個公司可能可以待很久或是終身雇用制，可是現在時代不同了，速度好快好快，法律要怎麼因應、回應？我覺得這都是蠻大的問題，所以我覺得今天這個講座讓我收穫很多，很感謝今天可以參與這個活動。
