今（2026）年 1 月 10 日，印尼通訊與數位部宣布，封鎖馬斯克旗下 xAI 公司推出的 AI 模型 Grok 在當地的服務。
封鎖的原因並非政治言論，而是 Grok 在未獲得當事人同意的情況下，生成女性與孩童裸露影像。印尼也因此成為全球首個封鎖 Grok 的國家，馬來西亞則在隔日跟進（編按：馬來西亞已在 1 月 23 日解除禁令）。
Grok 是社群平台 X 上的 AI 工具，但全球陸續傳出使用者的日常生活照被有心人士利用，用以生成不雅影像。部分受害者指出，即使向平台檢舉，也未能獲得有效回應，反而讓影像在檢舉過程中被更多人看見。
對此，半島電視台向 xAI 要求回應時，一度只收到「經典的媒體謊言」（Legacy Media Lies）的自動回覆，後來才由發言人回應，平台將針對非法內容採取行動。
隨著相關事件快速蔓延，用戶隱私與科技防護之間的拉鋸，已成為一項核心公共議題，也再次將一個長期存在的社群矛盾推到檯面上：在數位與 AI 時代，平台究竟該負起多少責任？
科技如何改寫數位性暴力的樣貌？
綜觀網路世界，Grok 的事件只是冰山一角。這場關於 AI 濫用的爭議，也揭示了科技時代中更廣泛的現象──數位性暴力的多元演化。
要理解各國如何防堵性剝削之前，我們應先了解這些「暴力」在現代社會的多樣面貌，包含：
-
深偽影像：透過 AI 技術，將臉孔合成到既有的性影像
-
網路誘拐：透過網路平台與受害者建立信任，再以誘騙或施壓等方式要求受害者錄影、拍攝私密影像，進而勒索和威脅
-
身分冒用或駭客行為：竊取受害者社群帳號後，散布私密資料
-
網路騷擾與跟蹤：持續傳送訊息、定位追蹤、蒐集並散布個資
-
基於性別的貶抑或仇恨言論
這些手段多元且手法不斷更新，讓保護受害者和防堵犯罪變得極為困難，也迫使政府和科技公司持續尋找更有效的防範措施。
歐盟的艱難抉擇：防兒少性剝削與隱私權之爭
面對日益多樣的數位性暴力形式，各國陸續嘗試以法律與技術防堵其中最嚴重的部分──兒童性剝削。
2022 年，歐盟提出了《兒童性剝削規範》（CSAM，Child Sexual Abuse Material）。其中最具爭議的措施「聊天控制」（Chat Control），要求網路服務供應商（online service providers）掃描使用者裝置中的內容，以確認是否有涉及兒童性剝削的內容。
隨著網路及社群平台的普及，性暴力早已不是一次性的傷害，而是透過圖片和影像的複製、轉傳及長期留存，持續對受害者造成更深遠的創傷。也正是在這樣的背景下，歐盟選擇以制度介入，試圖從源頭阻止影像流通。
然而，這種高度介入個人隱私的規範，引發社會質疑──在歐洲，兒童數位性剝削究竟已嚴重到什麼程度，才會讓歐盟考慮採取如此具爭議的防禦方式？反對者認為，這項技術可能為平台、國家或其他有權有勢者開後門，讓全面掌控人民隱私成為現實。即便最初目的是防堵兒童性剝削，也難確保未來不會被擴大適用至其他內容。
此外，AI 技術至今仍存在誤判的可能。若無辜者因誤判而遭到停權、通報，權益受損時又該由誰負責、如何補償，也成為另一項未解之謎。
為了獵捕少數犯罪者，而犧牲多數人的隱私，這樣的手段是否符合法治社會的比例原則？在防止性剝削與守護個人自由之間，歐洲也面臨前所未有的倫理與政策兩難。
社群平台的抉擇：放任、介入，還是退一步？
類似的拉鋸，同樣發生在各大科技平台上。當「防護兒少」與「保障隱私」碰上「言論自由」時，科技企業同樣必須在道德責任與個人權利之間尋求平衡。
2024 年，社群平台 Telegram 創辦人杜洛夫在法國被捕，引發了關於言論自由的討論──人們究竟是否該為自己在網路世界的言論負責？數位平台和國家又是否有權箝制網路上的言論？言論自由的界線究竟在哪裡？
相較之下，蘋果則選擇了一條相對保守的路線。2021 年，公司開發了一個名為 neuralMatch 的技術，當用戶上傳內容至雲端時，系統將主動偵測是否涉及兒童性影像，並在必要時停權並通報。然而，考量到這項技術可能涉及使用者隱私，甚至擔憂此工具可能遭濫用、轉而變成監控人民的管道，這項功能最終未正式上線。
取而代之，蘋果改推出「通訊安全」功能，讓家長可以主動設定是否開啟。當兒童裝置上偵測到可能裸露的畫面時，系統會自動模糊圖像。也就是說，從原本概括性的主動監測內容，轉為家長手動開啟是否啟用的保護機制。
防堵數位性暴力，台灣法制還差哪一步？
若將視角拉回台灣，根據衛福部 2024 年的報告，民眾最常遇到的數位性暴力為「騷擾」，其次依序為「羞辱與攻擊」、「跟蹤或肉搜」、「控制或限制表意」及「影像性暴力」等。其中，最讓師長們關注和擔心的，正是排名第五的「影像性暴力」。
自從藝人黃子佼疑涉持有兒童性暴力影像的事件爆發後，社會對這個議題的警覺度明顯升高。再加上網路和手機的普及，使孩子在網路上交友，甚至被哄騙自行拍攝身體部位照片的案例日益增加，也讓「數位性剝削防治」成為教育與政策的重要議題。
兒童之所以容易淪為受害者，部分原因是對身體界線缺乏足夠的認識，也因誤信隱藏在另一端的「朋友」、「戀人」或「前輩」。為防範此類事件，除了透過新聞報導和教育宣導外，台灣也積極應對數位性別暴力事件。
2023 年，台灣通過「性影像四法」擴大對性影像的防治範圍，將過去僅針對散布影像者追究刑責，擴大為只要不當擁有就會課以刑責，藉此減少被害者遭威脅、活在恐懼中的情況。
若比較台灣與歐盟的相關措施，會發現歐盟在 2018 年即通過《一般資料保護規定》（GDPR），建立相對完善的監管法制；相較之下，台灣雖於 2023 年修訂《個資法》，但主責機關個人資料保護委員會仍處於籌備階段，導致法案尚未全面落實。
另外，歐盟在 2022 年通過《數位服務法》（DSA），明確強化對科技平台的責任約束。反觀台灣的《數位中介法》卻仍懸而未決，使科技監管上面臨挑戰。未來，唯有進一步強化數位隱私概念、健全的事後救濟機制，才能真正降低數位性剝削的風險。
遇到「數位性剝削」可以怎麼做？
法律與制度固然重要，但要避免數位性剝削傷害擴大，教育與日常陪伴的作用同樣關鍵。高雄空中大學大傳系的宗靜萍教授認為，孩子不一定完全沒有危機意識，問題往往出現在事件發生後，孩子不知道如何處理，導致流出的私密照片持續外流。
比起加害者的威逼利誘，孩子更害怕來自家長的憤怒，被親近的人貼上「愚蠢」、「製造麻煩」或「識人不明」的標籤，甚至遭受同儕嘲笑。這種恐懼讓他們選擇默默吞下委屈，不敢向外求助。
對家長而言，平時與孩子建立良好的家庭信任，是防範問題擴大的防波堤。除了教導孩子如何正面面對困難、理解「犯錯並不可怕，只要做好補救就好」，更應避免在事件發生後責備孩子，讓他們害怕犯錯、甚至隱藏問題而不解決。
此外，家長也可以像分享校園生活一樣，自然關心孩子在數位世界中的點點滴滴，例如認識了哪些網友、是否遇到不舒服的狀況，藉此建立彼此間的信任。
若仍不幸發生私密影像外流，甚至「被製造」相關影片的狀況，除了報警求助外，也可採取以下具體方式：
-
向衛服部的性影像處理中心申訴，尋求專業協助
-
使用 web885 網路諮詢平台，與專業社工討論，獲得心理與法律支持
-
利用 web547 檢舉熱線，不論是受害者、家屬或一般民眾，均可主動檢舉兒童性影像
-
若影像跨境流傳時，也可參考歐盟的 INHOPE 網站提供的國際申述管道
數位工具和技術本身是雙面刃，為我們帶來便利生活的同時，也伴隨者許多風險和道德挑戰。與其等待法律的審判，不如在遇到危險前，先建立起良好的觀念，避免落入陷阱。
隱私和監管間的矛盾，是難以破解的問題，但藉由提升自身的防禦意識及數位素養，即便社會暫時缺乏完備的監管制度，孩子們也能更安全地使用數位空間，不必害怕數位性剝削的威脅。
執行編輯：洪翊芳
核稿編輯：羅思涵
