AI生成兒童色情影像爭議延燒 美上訴法院援引25年前判例裁定家中持有不違法

美國聯邦第七巡迴上訴法院近日裁定，考量2002年最高法院一項歷史性判決，政府無權將在家中持有AI生成兒童色情影像定罪；然而審理法官同時嚴正警告，現代科技發展已使25年前所劃定的法律界線趨於模糊。

根據《華盛頓郵報》報導，第七巡迴上訴法院維持了下級法院的裁決，駁回針對威斯康辛州男子Steven Anderegg的兒童色情影像持有罪指控。調查人員表示，在從其住處查獲的設備中，發現數百張由AI生成的兒童性虐待影像。

Anderegg共面臨四項罪名：生產與散布AI生成的兒童性虐待內容、將相關內容傳送給未滿16歲的未成年人，以及持有此類內容。聯邦地方法院僅以《憲法第一修正案》保障言論自由為由，撤銷持有罪指控，其餘三項罪名則予以保留。司法部隨即提起上訴，主張即便虛擬兒童性虐待素材的製作過程未涉及真實兒童，政府仍應有權禁止持有此類猥褻內容。然而，第七巡迴上訴法院最終仍支持下級法院的裁定。

此項裁決凸顯出最高法院先例與AI技術快速演進之間日益擴大的鴻溝。上訴法院表示，其受2002年「Ashcroft v. Free Speech Coalition」案判決約束，該案認定當虛構兒童的性影像製作未涉及真實未成年人時，對此類內容的限制措施違憲。然而兩位法官提出警告，現代AI技術如今已能生成幾乎無法與真實兒童性虐待素材區分的影像。

主審法官John Lee在協同意見書中寫道：「在Free Speech Coalition案中，最高法院確實處理了虛擬兒童性虐待素材（CSAM）的第一修正案保護範圍問題，但那是將近二十五年前的事，當時可取得的影像生成技術在當時恐怕難以想像。考量到AI模型的持續快速演進，我們對於這些案例所劃定的界線確有疑慮，但我們無權自行重新劃定。」

一般而言，政府不得將在家中私密持有猥褻內容的行為入罪，但當內容涉及真實兒童的性虐待素材時，因其製作過程已對實際受害者造成傷害，政府可予以禁止。然而最高法院在2002年的判決中將此區分複雜化，推翻了針對未使用真實未成年人製作的虛構兒童性影像的限制。大法官們當時的推理是，當無真實兒童牽涉其中時，政府保護兒童免受剝削的至上利益並不適用。

「推進美國自由」（Advancing American Freedom）資深研究員Hans von Spakovsky告訴《Fox News Digital》，考量最高法院的判例，上訴法院「除了維持下級法院以第一修正案為由的駁回裁決外，別無選擇」。但他認同Lee法官與Joshua Kolar法官在協同意見書中的看法，亦即警告最高法院AI技術的快速發展可能迫使大法官們重新審視先例。

von Spakovsky表示：「不幸的是，AI生成的影像如今已與真實內容幾乎無法區分，其中部分影像甚至是基於真實的兒童性虐待素材所生成。科技可能已經超越並淹沒了過去那些判決所依據的論理基礎。」

最高法院在Free Speech Coalition案中先前曾裁定，將真實兒童的影像「變造」為性露骨姿態的行為，不受其針對虛構兒童性虐待素材持有的判決所保護，因為此行為涉及真實兒童的利益。司法部律師警告，AI生成兒童性虐待素材的激增，可能癱瘓調查人員辨識真實受害者的努力，因為日益逼真的AI影像愈來愈難與實際虐待場景區分。

Lee與Kolar法官在協同意見書中提出另一項憂慮，引述研究指出，一個用於訓練影像生成AI的主要數據集中，含有數百張兒童性虐待素材影像。法官們認為這可能在AI生成素材與真實兒童的剝削之間建立連結，儘管他們強調政府在本案中並未提出此一問題，且現有紀錄不足以解決此爭議。

大法官Clarence Thomas早在二十多年前便預見此一困境，在最高法院2002年的判決中警告，科技進步最終可能使虛擬影像與涉及真實受害者的兒童性虐待素材難以區分。

Thomas寫道：「若科技進展妨礙對『非法言論』的追訴，政府很可能擁有迫切利益去禁止或以其他方式規範某些狹義範疇內的『合法言論』，以執行對透過真實兒童虐待所製作素材的相關法律。」

另一方面，《Breitbart News》今日報導，一名童年時期曾遭剝削、被迫製作兒童色情的受害者，已對Elon Musk旗下的xAI提起訴訟，指控其影像被用於訓練Grok AI模型。

該名原告透過美國司法部受害者通知系統接收警報，每當其遭受虐待的素材出現在新位置時便會收到通知。加拿大兒童保護中心告知她，涉及她的AI生成兒童性虐待素材已出現在xAI平台上。根據訴狀，網路論壇上的犯罪者曾討論「生成原告及其他類似已知、既有兒童性虐待素材受害者的AI CSAM內容」。

該訴訟主張xAI儲存Grok生成的影像並重複使用這些影像來進一步訓練模型。原告律師發布的新聞稿將相關素材描述為「相同素材」，指涉調查人員所稱已流入Grok輸出的涉及該名原告的兒童性虐待內容。訴狀本身則指控「含有原告影像、具備其長期已知雜湊值的兒童性虐待素材，已被作為xAI所使用數據集的一部分」。

此事件凸顯AI在展現協助人類的龐大潛力之同時，亦潛藏重大風險。AI技術所衍生的法律與倫理爭議，正促使監管機關與科技企業重新思考如何在創新與社會責任之間取得平衡。