你需要知道的最重要的事情
- 一項調查顯示，Facebook 和 Instagram 上有 332 則利用人工智慧產生的兒童性剝削廣告，這些廣告將普通的真實兒童照片篡改為虐待性內容。
- 即使在所謂的改進之後，Meta 的 AI 系統仍然未能檢測到數百個付費濫用廣告，而其他廣告則推廣了近 50 個可透過應用程式商店下載的濫用圖像創建應用程式。
- 家長不應轉發人工智慧產生的兒童虐待圖片，而應直接向相關平台舉報並收集帳號資訊。他們可以使用美國國家失蹤與受虐兒童中心（NCMEC）的「刪除圖片」服務來留下數位足跡。
孩子們在海灘上玩耍的照片、兒子踢足球的照片，甚至是全家在家門口微笑的照片——這些都是我在社群媒體上分享過的照片。我知道我並非孤例，因為我經常看到類似的圖片，它們捕捉了我們現代生活的細節。
但人工智慧帶來了一種新的、令人擔憂的危險，它使得像我剛才提到的那些普通的、真實的兒童照片，在兒童或其父母不知情的情況下，變成了性剝削的照片。
需要明確的是，這並非理論上的威脅。
332條由人工智慧產生的兒童性剝削圖片廣告被轉發。
科技透明計畫（TTP）的一項最新調查揭露了數百條人工智慧產生的兒童性剝削材料（CSAM）廣告在Facebook和Instagram上流傳。根據《連線》雜誌報道，研究人員發現了四名真實兒童，他們的普通照片遭到竄改。其中包括兩名青少年網紅、一名照片出現在圖庫網站上的未成年兒童，以及一名歐洲王室的年輕成員。
TTP共查獲332則包含人工智慧產生的兒童性剝削材料（簡稱CSAM）的廣告。這些廣告大多描繪了經過人工智慧處理的兒童形象，使其看起來像是在進行性行為。
這些發現令人不安地提醒我們，生成式人工智慧改變了兒童影像在網路上傳播的風險。如今，製作逼真的假影像不再需要真實的照片；一張普通的圖片就能提供素材。
如何將普通圖像轉化為人工智慧生成的攻擊性內容
影像生成人工智慧工具可以取得現有影像並修改其中的部分內容，同時保留人物的原始可辨識特徵。
研究人員表示，在 Meta 廣告中發現的一些兒童就遭遇了這種情況。
根據《連線》雜誌報道，研究人員追蹤到了四張未成年人照片的原始出處。其中兩名是擁有公開社群媒體帳號的青少年網紅。另一名是照片出現在圖庫網站上的未成年少女。第四名是歐洲某王室的年輕成員。
即使這些原始圖片本身並不包含色情內容，它們也可能被濫用。
網路觀察基金會通訊主管艾瑪·哈迪告訴《連線》雜誌：“人工智慧應用程式可以非常容易地創建逼真的兒童性虐待犯罪圖像，從而造成兒童日常照片被拍攝並轉化為性內容的新風險。”
一旦普通圖像公開可用，任何人都可以下載並將其輸入到旨在編輯圖像的人工智慧工具中。
Meta的AI未能偵測到數百條廣告。
最近的調查規模也表明，要阻止由此產生的內容是多麼困難。
8月份，TTP的研究人員最初在Meta平台上發現了53則包含兒童性虐待內容的廣告。 Meta後來表示，其中許多廣告出現在該公司推出旨在提升其在廣告上傳時檢測不當廣告能力的新型人工智慧技術之前。
然而，研究人員仍在不斷發現這類廣告。事實上，TTP表示，他們最終識別出332條包含人工智慧生成的兒童性虐待材料（CSAM）的廣告，其中數百條是在Meta宣布其改進的檢測技術之後出現的，這引發了人們對人工智慧監控有效性的質疑。
這一點尤其重要，因為這些並非普通的Facebook或Instagram帖子，而是付費廣告。
Meta 表示，廣告在獲準展示前都會經過審核，而自動化系統在這過程中扮演關鍵角色。
Meta發言人特蕾西·克萊頓告訴《連線》雜誌，該公司對「裸露」應用程式或兒童剝削行為零容忍，無論圖像中的兒童是真實存在的還是由人工智慧生成的。 Meta表示，不法分子會故意逃避其檢測系統，有些影片更難檢測，因為兒童影像只出現一瞬間或模糊處理。
該公司表示，研究人員發現的許多廣告已被移除，大多數廣告的展示次數不足200次，且公司從這些廣告中獲得的收入不足5000美元。然而，研究人員也記錄了一些廣告在被舉報後覆蓋範圍反而擴大的案例。
TTP報告稱，一則針對真實青少年的廣告在被舉報給Meta時已觸達四個歐洲帳戶。幾天后，當Meta移除該廣告時，其觸達帳戶已超過330個。
調查顯示，這些工具的使用非常普遍。
研究人員發現，有廣告將用戶引導至蘋果應用商店和谷歌應用程式商店中近 50 個應用程式。根據《連線》雜誌報道，在更廣泛的調查中，約有 300 則廣告（共 350 則）推廣了人工智慧圖像或影片產生器。
蘋果告訴《連線》雜誌，一些開發者最初提供的是合規版本的應用程序，之後才添加了被禁止的剝離功能。蘋果表示，他們已經下架了研究人員發現的20款應用程式中的17款，並對剩餘的3款應用程式以及《連線》雜誌揭露的其他7款應用程式採取了行動。
谷歌方面表示，已刪除報告中提到的所有應用程序，並暫停了數百個違反其政策的其他應用程式。
然而，這些發現揭示了一個超越任何單一平台的問題，因為人工智慧可以被用來製作這些冒犯性圖像。大多數人工智慧工具都缺乏監管，這給企業帶來了風險。應用程式商店可以分發用於製作這些圖像的工具，然後廣告平台可以投放推廣這些圖像的廣告。
該系統的每一層可能都有自己的安全系統，但攻擊性內容只需要通過這些系統一次就能到達使用者手中。
如果你發現人工智慧產生了你孩子的圖像，你會怎麼做？
如果你發現人工智慧產生了你孩子的性圖像，不要轉發或廣泛分享該圖像以試圖警告他人。
相反，請保留有助於識別此類內容出現位置的信息，例如帳戶名稱、頁面標題和其他相關詳細信息，並直接向平台舉報該內容。
在美國，疑似兒童性剝削案件也可以向國家失蹤與受虐兒童中心的網路舉報熱線舉報。
家長還可以使用NCMEC 的「刪除」服務，該服務旨在幫助阻止 18 歲以下未成年人的裸照、半裸照或露骨性照片或影片在網路上流傳。該系統會為圖像創建數位指紋或雜湊值，而無需上傳圖像本身。
由於人工智慧產生的圖像會創造出新的、更複雜的場景，因此，如果家長不確定處理後的圖像是否符合報告標準，應該報告他們發現的情況，而不是試圖自己判斷。
結論
多年來，家長們一直被警告「分享」及其子女數位足跡的危險性。 「分享」（Sharing）一詞是由「分享」（sharing）和「育兒」（parenting）兩個字組合而成，指的是家長在社群媒體上分享子女的照片、影片和個人資訊的行為。
雖然父母無法完全消除人工智慧濫用他們發布的照片或視頻的風險，但減少孩子公開照片的數量，並更有選擇性地分享照片或視頻，可以減少可能被濫用的人可獲取的素材量。
評論被關閉。