數字安全的悖論：韓國的深度偽造、人工智能與性別化風險
- Sungshin (Luna) Bae
- 1天前
- 讀畢需時 6 分鐘
原文標題：The paradox of digital safety: Deepfakes, AI and gendered risk in South Korea
原文發佈於2025年11月19日
作者：Sungshin (Luna) Bae
博士候選人（犯罪學專業），蒙納士大學性別與家庭暴力預防中心
本篇文章由作者Sungshin (Luna) Bae 授權翻譯發佈。她於2025年 12 月 10 日 通過線上講座分享韓國在應對技術助長型暴力（Technology-facilitated Abuse）方面的法律、政策與機制革新。
以下為全文翻譯：
數字安全的悖論：韓國的深度偽造、人工智能與性別化風險
深度偽造技術（Deepfake Technology）正在重塑同意權、隱私權與安全權的邊界。2025年9月，聯邦法院判處一名男子支付34.35萬澳元罰金及訴訟費用，因其發佈多名澳大利亞知名女性的深度偽造圖像——這是澳大利亞《網絡安全法》實施後的首起重大案件。
這是法律應對AI輔助的影像類暴力的里程碑時刻。但在韓國，危機更為嚴峻。
美國網絡安全公司Security Hero的全球分析顯示，網絡上超過半數的深度偽造色情視頻涉及韓國女性，從流行偶像、演員到學生及未成年人皆在其中。
來自韓國的數據更令人不安。韓國女性人權研究所的數據顯示，2023年共有8983人因數字性暴力尋求幫助，較上年增長12.6%。近四分之三受害者為30歲以下女性，涉及深度偽造圖像的舉報量較去年翻倍。
該中心處理了約25萬起求助請求，其中多數是要求刪除圖像的訴求，這不僅揭示了暴力行為的規模之巨，更凸顯了數字安全日益緊迫的現狀。
脆弱的數字化社會
這些數據揭示了一個悖論：韓國在打擊數字性暴力方面領先全球，但其高度數字化的社會面對深度偽造等新型侵害行為卻尤為脆弱。
韓國常被視為數字創新的先行者。在這個全球最發達的網絡社會之一，連接人們的技術同時也催生了新風險，這尤其使女性更容易遭受數字控制與剝削。
2019年「N號房」案件——一個策劃針對未成年人性勒索的大規模加密聊天網絡——揭露了加密與匿名的數字設施如何助長並掩蓋性別暴力，使有組織的暴力在日常技術架構中肆意滋生。
韓國通信標準委員會（KCSC）在2024年中期的臨時停擺，暴露了制度缺失的代價。數月間逾1.2萬張非法的性影像（含深度偽造內容）因政治僵局而滯留未清。
國會數據顯示，2024年1月至7月間，KCSC審查了逾15800張深度偽造圖像——相關案件數量從2021年的1900起激增至2024年的23000余起。
系統崩潰後，首爾市政府啓動了基於人工智能的針對非法性影像的全天候檢測及清除系統。
監控與保護的平衡
然而，這些數字安全措施的擴展也揭示了監控與保護之間持續存在的張力，顯示韓國的高科技治理在為受影響者提供持續有效的保護方面依然面臨挑戰。
深度偽造技術不僅被陌生人利用。在親密和同儕關係中，這種技術正日益被武器化，用於分手或衝突後的勒索、控制和脅迫。
有關技術助長型暴力的研究表明，基於影像的侵害往往是更廣泛的家庭暴力和性脅迫的一部分。受害幸存者描述了對於曝光的持續恐懼——前伴侶隨時可能再次製作或傳播性影像的威脅——這模糊了數字安全與物理安全的界限。
早期的分析指出，若缺乏倫理與性別敏感的治理機制，人工智能恐將加劇社會不平等。一年後，該技術及其濫用手段均已更趨複雜，留下未解之問：（技術）進步與（安全）保護能否真正共存？
此次改革建立在早前的立法里程碑之上——韓國2024年頒布的法律不僅將深度偽造色情內容的製作傳播定為犯罪，更將持有和觀看行為納入刑責範疇，違法者最高可判處三年監禁。
2025年4月，政府成立了國家數字性犯罪應對中心，這個全天候運作的樞紐旨在協調全國17個省份的舉報、咨詢及內容刪除支持工作。該中心整合了基於人工智能的系統，可自動清除深度偽造內容及非法拍攝素材，並擴大了對Telegram等封閉平台的秘密調查範圍。
該舉措是韓國《第二期預防暴力侵害婦女基本計劃（2025-2029）》的重要組成部分，標誌著國家對數字性暴力採取更統一且更積極的應對策略。
這些改革與韓國新的《人工智能基本法》同步推進，該法案旨在促進安全創新。但批評者指出，該法律忽視了深度偽造等性別化傷害，從而凸顯了人工智能治理保護最易受傷害群體的必要性。
有限的國際合作
儘管取得進展，人工智能相關性別暴力領域的國際合作仍顯不足。深度偽造技術的濫用在各國表現各異，從親密伴侶脅迫勒索到大規模利用女性影像的犯罪行為。
然而多數應對措施仍處於孤立狀態，受制於各國法律框架及對隱私、性和同意的文化態度。
蒙納士大學的澳大利亞-韓國合作項目「應對技術助長的性別暴力：人工智能與數字安全」從三個維度探討人工智能與性別暴力的交集：
•人工智能作為檢測與監控的工具；
•人工智能作為治理對象，受《人工智能基本法》等法規及平台治理框架等塑造；
•人工智能作為新型傷害的來源，尤其是 AI 生成的影像類暴力，使脅迫性控制、群體性騷擾以及技術放大的社會懲罰成為可能。
這些視角共同揭示人工智能兼具保護與危害的雙重屬性，並探討如何通過倫理與政策應對確保其服務於最易受傷害的群體。
數字安全與性別平等密不可分
韓國近期的改革，標誌著全球關於人工智能與性別暴力討論的轉折點。儘管沒有任何體系是完美的，但該國將先進技術與強化受害者保護相結合的雙軌應對策略，體現了一個日益明確的認識：數字安全與性別平等密不可分。
當各國政府競相擁抱人工智能創新之際，韓國的經驗提供重要啓示——進步的衡量標準不僅是速度與效率，更在於它保障了誰的安全。
「消除性別暴力16日行動」（11月25日至12月10日）恰逢其時地提醒我們：技術既能賦權也能帶來傷害。深度偽造的濫用揭示了權力與不平等如何通過新型數字工具被重新編寫，也說明為何問責機制必須融入創新的每個環節。
在人工智能時代，真正的安全不僅需要法律與算法——還需要一種倫理承諾：讓技術的設計旨在保護，而非傷害。
關於作者
Sungshin (Luna) Bae
博士候選人，犯罪學專業，蒙納士大學性別與家庭暴力預防中心。
她擁有美國康涅狄格大學法律碩士學位及韓國梨花女子大學女性學碩士學位。攻讀博士學位前，她曾任職於韓國最高檢察廳，擔任性別平等政策專家，期間制定了應對性別暴力及技術助長型暴力的專項舉措，並為首爾市政府性別平等政策工作提供支持。憑借其國際學術與政策背景，她獲得蒙納士研究生獎學金支持其博士研究。她擅長連接研究、政策與實踐，致力於推動基於實證的策略，加強在多元環境中對性別暴力及技術助長型暴力的應對能力。
文中引用資料的相關鏈接
1. 澳大利亞深度偽造案件判決： https://www.esafety.gov.au/newsroom/media-releases/court-orders-343500-penalty-for-posting-deepfakes-of-australian-women?
2. Security Hero的全球分析：https://www.securityhero.io/state-of-deepfakes/#appendix
3. 韓國女性人權研究所數據：https://www.stop.or.kr/streamdocs/view/sd;streamdocsId=CfdTJI4koJu7hZNB8Ja1tldSUI4HZ2uL4qhrQT2aCus
6. 「N號房」案件： https://www.hrw.org/news/2024/08/29/south-koreas-digital-sex-crime-deepfake-crisis?
7. 2024年中韓國通信標準委員會（KCSC）的臨時停擺：https://biz.chosun.com/en/en-it/2025/10/23/FDL66CK2OJEYPE2MCBOROWVRE4
9. 首爾政府的AI檢測系統： https://english.seoul.go.kr/seoul-becomes-first-in-korea-to-use-ai-to-detect-and-report-online-sexual-exploitation-videos-in-just-six-minutes/
11. 有關技術助長型暴力的研究：https://journals.sagepub.com/doi/full/10.1177/08862605251368834
12. Luna之前的文章： https://theconversation.com/ai-is-fuelling-a-deepfake-porn-crisis-in-south-korea-whats-behind-it-and-how-can-it-be-fixed-238217
13. 韓國2024年頒布的法律：https://www.businessinsider.com/south-korea-threatens-deepfake-porn-viewers-three-years-prison-fine-2024-9
14. 國家數字性犯罪應對中心：https://www.korea.net/NewsFocus/policies/view?articleId=270565
15. 韓國人工智能基本法：https://www.msit.go.kr/eng/bbs/view.do?sCode=eng&mId=4&mPid=2&pageIndex=&bbsSeqNo=42&nttSeqNo=1071&searchOpt=ALL&searchTxt=
16. 澳大利亞與韓國的合作項目： https://www.monash.edu/arts/gender-and-family-violence/research-and-projects/responding-to-technology-facilitated-gender-based-violence/_nocache
17. 消除性別暴力16日行動： https://www.unwomen.org/en/get-involved/16-days-of-activism
留言