歐盟將 "禁止AI生成僞造色情內容" 寫入《人工智能法案》！！

當地時間 5 月 7 日，歐盟理事會與歐洲議會就修訂《人工智能法案》達成共識，正式將禁止 AI 生成非自願深度僞造色情內容納入法案，成爲全球首個以立法嚴控此類惡意應用的區域，引發國際社會廣泛關注。

此次禁令全面覆蓋圖像、視頻、音頻等形式，嚴禁 “脫衣換臉”、AI 僞造私密影像等行爲，同時明確禁止製作兒童性虐待相關虛假內容。根據新規，相關 AI 系統不得在歐盟市場銷售或使用，服務商需在 2026 年 12 月 2 日前完成整改，違規將面臨高額罰款與市場禁入。

歐洲議會議員邁克爾・麥克納馬拉表示，此舉爲 AI 倫理劃出 “紅線”，強調 “人工智能絕不能用於羞辱、剝削他人”。新規直指年初 Grok AI 生成大量女性及兒童僞造色情影像的亂象，同時配套水印溯源機制，實現內容全鏈條可追溯。

爲平衡安全與創新，歐盟同步推遲高風險 AI 系統監管生效時間，獨立系統延至 2027 年 12 月，嵌入系統延至 2028 年 8 月。此舉既遏制 “數字性侵”，也爲企業留出合規緩衝期，爲全球 AI 治理提供重要參考。