用“AI換臉技術(shù)”合成淫穢視頻，收費(fèi)供他人觀看，甚至根據(jù)顧客的需要使用不同的女明星形象進(jìn)行“私人定制”。還通過(guò)出售“換臉軟件”非法獲利。4月9日，據(jù)杭州市人民檢察院消息，近日，80后安徽男子虞某因涉嫌制作、傳播淫穢物品牟利罪被提起公訴。

【資料圖】

虞某稱，早在2020年“AI換臉”剛剛開始興起的時(shí)候，他就對(duì)該項(xiàng)技術(shù)產(chǎn)生了興趣，甚至還專門在網(wǎng)上購(gòu)買了換臉軟件的教程并通過(guò)自學(xué)掌握了這門技術(shù)。“換臉”剪輯開始有熱度后，他想到了在網(wǎng)上推廣該項(xiàng)技術(shù)及相關(guān)的軟件并從中獲利，于是虞某在國(guó)外的社交平臺(tái)上注冊(cè)賬號(hào)并建公開群，通過(guò)在其他公開群打廣告、發(fā)鏈接等方式，吸引更多對(duì)“AI換臉”技術(shù)感興趣的人到他本人所建的群里來(lái)。

但一段時(shí)間過(guò)去了，虞某的公開群卻始終沒(méi)有什么關(guān)注度。偶然的一次機(jī)會(huì)，虞某在該國(guó)外平臺(tái)上看到有些人會(huì)在群里發(fā)布一些淫穢信息來(lái)吸引他人關(guān)注，就也動(dòng)起了歪腦筋。

虞某先是將原本“換臉軟件資源群”的群名更改為“女神試看群”，后又通過(guò)互聯(lián)網(wǎng)下載了部分淫穢視頻，截取片段后發(fā)布在該公開群中，吸引、招攬觀看者加入，當(dāng)觀看者達(dá)到一定人數(shù)后，虞某會(huì)發(fā)布群消息稱，進(jìn)入“內(nèi)部群”可以收看完整版。虞某稱，他會(huì)在“內(nèi)部群”里放一些清晰度更高、時(shí)長(zhǎng)更長(zhǎng)的淫穢視頻，而觀看者想要進(jìn)入“內(nèi)部群”則要繳納198元-498元不等的“會(huì)費(fèi)”。

除此之外，虞某表示，“內(nèi)部群”里發(fā)送的淫穢視頻有不少是由其本人使用“AI換臉技術(shù)”合成的，根據(jù)顧客的需要還可以使用不同的女明星的形象，進(jìn)行“私人定制”。也有不少人因?yàn)榭戳诉@些視頻后對(duì)換臉技術(shù)產(chǎn)生了興趣，向其咨詢?nèi)绾钨?gòu)買換臉軟件。

一面通過(guò)“吸粉引流”，收取會(huì)費(fèi)；一面又通過(guò)出售“換臉軟件”，頻頻獲利。虞某原本毫無(wú)起色的“生意”一下子打開了局面，短短幾個(gè)月的時(shí)間里就收獲了數(shù)萬(wàn)元。

截至案發(fā)，公安機(jī)關(guān)共在虞某所組建的公開群內(nèi)查證淫穢視頻1200余部、圖片1600余張，經(jīng)鑒定，上述均系淫穢物品。

2023年3月28日，蕭山區(qū)檢察院依法以制作、傳播淫穢物品牟利罪對(duì)虞某提起公訴。

案件目前正在法院審理中。

檢察官提醒，近年來(lái)，“AI換臉技術(shù)”頻頻被一些犯罪分子盯上，隨之而來(lái)的犯罪手段也是花樣百出、層出不窮。除了女明星外，部分不法分子還將“AI換臉技術(shù)”使用在普通人身上，由此制造一些所謂的遭泄露的“私密照片”，對(duì)當(dāng)事人實(shí)施敲詐勒索。即便只是用“AI換臉技術(shù)”來(lái)搞笑或者制作惡搞照片，也有可能涉及侵犯肖像權(quán)、名譽(yù)權(quán)，造成嚴(yán)重后果的，還可能構(gòu)成侮辱罪或者誹謗罪。這不是開玩笑！希望大家依法使用該項(xiàng)技術(shù)，一旦遇到類似本案中利用AI技術(shù)實(shí)施犯罪行為的，應(yīng)第一時(shí)間固定證據(jù)，并及時(shí)向司法機(jī)關(guān)報(bào)案。

來(lái)源：北京青年報(bào) 記者：李鐵柱

關(guān)鍵詞：