運用生成式 AI（人工智慧）在未經本人同意下，製作性私密影像的「AI 性私密偽造影像」。受害者不只有名人。
一項針對澳洲、英國、美國成年人7230的調查顯示，有7%的受訪者曾遭受 AI 生成的性私密偽造影像侵害。此外，約有87%的受害者表示，他們的生活在健康、人際關係或工作等方面受到影響。
這項研究由澳洲墨爾本皇家理工大學於11月4日發布，論文刊載於學術期刊《International Journal of Human–Computer Interaction》。
◆男性申報受害的比例約是女性的2.7倍
研究團隊於2024年7至8月期間，針對3個國家、18歲以上的男女進行線上調查。
調查詢問受訪者是否曾遭人未經同意，使用 AI 製作含有本人臉部或身體的性私密偽造影像；是否曾在未經同意下被分享這類影像；或是否曾被威脅散布這類影像。
結果顯示，7%的受訪者表示自18歲起，至少經歷過1種形式的受害。以國家而言，英國的比例最高，為9.3%；澳洲為7.7%；美國則為6.5%。
尤其令人意外的是性別差異。男性申報受害的比例為10.2%，女性為3.8%，男性約是女性的2.7倍。
年齡差異也很大，35歲以下的受訪者中有15.1%回報曾受害，而35歲以上則有3.6%。
不過，研究團隊指出，這個數字不一定反映實際受害的全貌。
例如，出於騷擾、勒索或惡作劇目的的偽造影像，有時會直接發送給目標本人。另一方面，以性為目的製作的偽造影像，有時會在本人不知情的情況下被製作和分享。
因此，男性可能更容易察覺到自己是受害者，並在調查中回報較高的比例。
◆女性回報受到更嚴重的心理影響
回報曾有受害經驗的人中，有90.3%表示曾感受到至少一種負面情緒，例如憤怒、屈辱或焦慮。
比較男女，單獨回報負面情緒的比例為女性佔87.6%，男性佔71.2%。
特別是對於人身安全的恐懼，差異最大。女性受害者中有42.4%感到人身安全受威脅，而男性則為18.1%。
回報精神健康受到負面影響的比例，女性為35.5%，男性為16.0%，差距也很大。
受害並不僅限於線上，也有人回報人際關係惡化、影響工作、遭受金錢損失等。
英國一名18至24歲的女性回憶受害經歷時說：「事情發生得很快，但隨後的影響卻是漫長而難以承受的。」
此外，一些受害者表示，即使向周圍的人求助，也因為「不是真實圖片」而被輕視。
◆如何防止受害
本次調查中，55.6% 的受害者表示，加害者是「只在網路上有過接觸的人」。
最常見的應對方式是在線上服務中封鎖對方（69.2%）。其次是向服務營運公司舉報（56.8%）。
此外，另一項使用相同調查數據的研究顯示，3.2% 的受訪者曾申報在未經本人同意的情況下，製作、分享或威脅散布由 AI 生成的性影像。另一項分析則指出，約每5位成人中就有1位曾刻意瀏覽以真實人物為主題的 AI 生成性影像。然而，此瀏覽率不限於未經本人同意製作的影像。
主導這項研究的 RMIT 大學教授尼古拉·亨利（Nicola Henry）指出，研究結果揭示了濫用 AI 圖像的受害情況不僅限於名人或公眾人物，而是影響著社會上廣泛的人群。
她解釋：「實際的受害規模可能更大。因為有些人即使他們的圖像被 AI 製作或分享了，卻毫不知情。」
亨利教授強調，僅在事件發生後才處理是不夠的。除了法律規範外，還需要加強教育和對受害者的支援，同時 AI 開發公司和線上服務營運公司也必須採取安全措施，從源頭預防此類傷害的發生。
值得注意的是，本次調查於 2024 年實施，並未將日本納入研究對象。此外，這項研究由 Google 贊助並執行，該公司的研究人員也參與其中。
