現(xiàn)如今人工智能讓“換臉”變得輕而易舉，一旦被不法分子利用，會(huì)給普通人帶來(lái)嚴(yán)重傷害。近日，遼寧沈陽(yáng)警方公布了一起利用AI技術(shù)合成他人不雅視頻并惡意傳播的案件。

今年5月，遼寧的王女士在瀏覽某短視頻平臺(tái)時(shí)，竟發(fā)現(xiàn)自己的“不雅照”被公開(kāi)傳播。視頻中，她的面部被合成到一個(gè)裸體女性的身體上，還配有侮辱性文字。王女士從未拍過(guò)類似視頻，隨即選擇報(bào)警。

遼寧省沈陽(yáng)市康平縣公安局勝利派出所副所長(zhǎng) 胡俊焯：報(bào)警的時(shí)候，因?yàn)楦杏X(jué)這個(gè)事比較丟人，她一邊說(shuō)一邊哭，主要是不知道有多少人看過(guò)這視頻，對(duì)她影響有多大。

經(jīng)過(guò)技術(shù)偵查，警方發(fā)現(xiàn)惡意視頻的發(fā)布者指向一個(gè)姓劉的男子。到案后據(jù)劉某交代，其發(fā)布的不雅視頻是在網(wǎng)絡(luò)上找人用AI合成的。

據(jù)了解，王女士在本地經(jīng)營(yíng)著一家理發(fā)店，劉某曾在理發(fā)店短暫試工。由于試工期間的工資問(wèn)題，兩人產(chǎn)生了分歧，劉某因此萌生了發(fā)惡意短視頻報(bào)復(fù)王女士的念頭。

最終，劉某因觸犯《中華人民共和國(guó)治安管理處罰法》，被遼寧警方處以行政拘留十日，罰款500元的處罰。

AI合成有破綻

警方教您來(lái)分辨

近年來(lái)，利用AI換臉實(shí)施的違法犯罪活動(dòng)不在少數(shù)，除了在網(wǎng)上發(fā)布惡意視頻，還有利用AI換臉偽造視頻通話進(jìn)行欺詐等。日常生活中，被AI換臉有哪些風(fēng)險(xiǎn)？消費(fèi)者又該如何防范呢？

記者注意到，近年來(lái)因AI換臉給消費(fèi)者造成損失的案件不在少數(shù)。

今年五月，上海警方破獲一起專門利用AI生成虛假網(wǎng)戀女友詐騙案，涉案金額達(dá)200余萬(wàn)元。2024年，內(nèi)蒙古鄂爾多斯一名消費(fèi)者曾遭遇AI換臉詐騙，險(xiǎn)些損失40萬(wàn)元。視頻通話中，詐騙人員利用AI換臉技術(shù)冒充該名消費(fèi)者朋友，以資金周轉(zhuǎn)為由，誘騙其轉(zhuǎn)賬40余萬(wàn)元。好在警方介入及時(shí)才未造成實(shí)際損失。 同年，安徽一名消費(fèi)者也遭遇過(guò)相同套路AI換臉詐騙，損失金額達(dá)六十余萬(wàn)元。

記者調(diào)查發(fā)現(xiàn)，現(xiàn)如今，AI技術(shù)迅速發(fā)展的同時(shí)，也被一些不法分子盯上，淪為了非法牟利的工具。

據(jù)警方介紹，要想實(shí)現(xiàn)AI換臉，過(guò)程非常簡(jiǎn)單：僅需一張照片，不到十秒就能合成一張換臉圖片。

遼寧省沈陽(yáng)市康平縣公安局網(wǎng)絡(luò)安全大隊(duì)大隊(duì)長(zhǎng) 鞏超：我們?cè)诰W(wǎng)上找了一個(gè)軟件，先選擇人臉照片，目標(biāo)照片選擇后，點(diǎn)擊開(kāi)始生成，這就是一個(gè)最初級(jí)簡(jiǎn)單的AI換臉過(guò)程和生成的圖像。

然而，AI換臉視頻雖然迷惑性較強(qiáng)，但也有些破綻。

遼寧省沈陽(yáng)市康平縣公安局網(wǎng)絡(luò)安全大隊(duì)大隊(duì)長(zhǎng) 鞏超：如果在直播中AI換臉，轉(zhuǎn)臉的時(shí)候，側(cè)臉是會(huì)虛的。上下左右晃動(dòng)的時(shí)候會(huì)有虛影出現(xiàn)。如果是別人和你視頻通話的時(shí)候。建議讓對(duì)方上下左右晃晃頭，或者用一句方言跟對(duì)方說(shuō)話。他不可能模仿你的聲音，再把你的方言模仿下去。

警方提醒，網(wǎng)絡(luò)并非法外之地，任何違法行為都將留痕，利用AI技術(shù)從事非法活動(dòng)終將會(huì)被罰。警方提示消費(fèi)者應(yīng)注意保護(hù)個(gè)人隱私，不隨意上傳包含個(gè)人信息的圖片、視頻。

遼寧省沈陽(yáng)市康平縣公安局網(wǎng)絡(luò)安全大隊(duì)大隊(duì)長(zhǎng) 鞏超：可以去發(fā)照片，但不透露個(gè)人信息或聯(lián)系方式，還有位置、工作地點(diǎn)。這樣能降低被詐騙的風(fēng)險(xiǎn)。遇到事不要慌，一定要相信，報(bào)警一定能幫大家解決問(wèn)題。

免責(zé)聲明：凡本網(wǎng)注明“來(lái)源：XXX（非駐馬店廣視網(wǎng)、駐馬店融媒、駐馬店網(wǎng)絡(luò)問(wèn)政、掌上駐馬店、駐馬店頭條、駐馬店廣播電視臺(tái)）”的作品，均轉(zhuǎn)載自其它媒體，轉(zhuǎn)載目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)，作品版權(quán)歸原作者所有，如有侵犯您的原創(chuàng)版權(quán)請(qǐng)告知，我們將盡快刪除相關(guān)內(nèi)容。凡是本網(wǎng)原創(chuàng)的作品，拒絕任何不保留版權(quán)的轉(zhuǎn)載，如需轉(zhuǎn)載請(qǐng)標(biāo)注來(lái)源并添加本文鏈接：http://www.892249.com/showinfo-124-369157-0.html，否則承擔(dān)相應(yīng)法律后果。