中國寧波網(wǎng)記者蔡嘉妮
網(wǎng)紅自曝有人利用AI換臉軟件制作其不雅視頻、AI孫燕姿火遍全網(wǎng)……一系列關(guān)于AI換臉的信息頻頻沖上熱搜,引發(fā)眾多熱議。
(資料圖片)
在檢索欄里輸入“AI換臉”,各項(xiàng)教程和制作案例撲面而來。在銷售平臺(tái)上,也出現(xiàn)了各式各樣的付費(fèi)AI軟件,套餐價(jià)格在499元到2888元不等。
看似熱鬧的背后,不禁引發(fā)我們思考:AI換臉為什么會(huì)火?它有什么樣的魅力?作為一項(xiàng)新興技術(shù),它的邊界感又在哪里?
一
AI換臉被大眾熟知其實(shí)是在2019年。當(dāng)時(shí),一款名叫ZAO的APP火遍全網(wǎng)。只需上傳一張照片就能成為影視作品的主角。該APP僅上線一天就刷爆各大社交平臺(tái),下載量在APPStore排名第一,甚至其服務(wù)器也因?yàn)橛脩暨^多,使用量過大而癱瘓。但不到3天,它就被下架,其制作公司也被工信部門約談。
近年來,關(guān)于AI換臉的話題總是爭議不斷。那么,究竟什么是AI換臉?
AI換臉其實(shí)就是一種基于人工智能的人體圖像合成技術(shù),是深度偽造技術(shù)最廣泛的應(yīng)用。通過AI人工智能技術(shù),捕捉不同的角度、表情、光線的人臉圖片,將一個(gè)人的臉嫁接到另一個(gè)人身上,從而合成一段新的視頻,進(jìn)行一場(chǎng)新的演繹。
AI換臉網(wǎng)上教程
“AI換臉都不用自己出去照相了”“火遍抖音的AI換臉,制作方法那么簡單”“AI換臉,我也來試試娛樂圈”……翻開社交平臺(tái),不少年輕人都曬出自己的經(jīng)驗(yàn)貼,通過軟件創(chuàng)造出逼真的視頻和圖片,有趣又吸睛。筆者查閱發(fā)現(xiàn),APP store里排名第一的換臉軟件faceplay下載量達(dá)24萬。
AI換臉,換的是一種沉浸式體驗(yàn)。一些網(wǎng)友將自己的臉換到喜歡的熱播劇中,合成視頻發(fā)布到短視頻平臺(tái)上。收獲點(diǎn)擊量和評(píng)論量的同時(shí)仿佛自己也親身經(jīng)歷了這段表演。娛樂化的背后,也幫助網(wǎng)友將一些現(xiàn)實(shí)中不可能的畫面“實(shí)現(xiàn)”,滿足了他們的想象。
AI換臉,換的是一種情懷“重現(xiàn)”。比如,演員保羅·沃克因?yàn)檐嚨溔ナ?。電影《速度與激情7》團(tuán)隊(duì)為了盡可能尊重演員與電影,通過AI換臉技術(shù)讓他“親自”參演了電影。為此,團(tuán)隊(duì)收集了保羅·沃克的350個(gè)CGI鏡頭并與他的親兄弟進(jìn)行鏡頭配對(duì)。電影在全球的發(fā)行量也因此增加,喚醒了影迷的集體回憶。
AI換臉,換的是一種自主傳播。AI換臉技術(shù)走紅,最主要是立足用戶感受,激勵(lì)用戶進(jìn)行自主傳播。比如,央視在疫情期間曾推出“云全家?!被顒?dòng),分隔兩地的一家人,可以上傳自己的照片,生成“云合照”,一時(shí)間引得大家爭相“換臉”。AI換臉技術(shù)還可以根據(jù)新聞熱點(diǎn)、重要節(jié)日等不斷變化各種有趣玩法,深度鏈接用戶,創(chuàng)新應(yīng)用場(chǎng)景。
二
都說流行是個(gè)輪回,四年前風(fēng)靡一時(shí)的AI換臉,在四年后的今天再次出現(xiàn)在大眾的視野里。為什么它能再度爆火,它究竟有什么樣的魅力?筆者總結(jié)了以下幾個(gè)原因。
其一,大數(shù)據(jù)的背景下,單一化的審美制造更多的容貌焦慮。容貌焦慮現(xiàn)在已經(jīng)成為一種社會(huì)情緒。中青校媒曾對(duì)全國2063名高校學(xué)生進(jìn)行容貌焦慮問題的專項(xiàng)調(diào)查。結(jié)果顯示,59.03%的大學(xué)生存在一定程度的容貌焦慮。其中,男生嚴(yán)重容貌焦慮的比例達(dá)到9.09%,比女生3.94%還高。在中度容貌焦慮的比例中,女生為59.67%比男生37.14%要高。在大數(shù)據(jù)的沖刷下,“顏值即正義”似乎成為無可爭議的共識(shí)。瓜子臉、小翹鼻、雙眼皮等千篇一律的“白幼瘦”審美根深蒂固。人們對(duì)“美”的認(rèn)知逐漸變得單一與偏激。
有人說,“面具是很多國家和民族共生的一種文化現(xiàn)象。”AI換臉能夠只用一張照片,點(diǎn)點(diǎn)手指,讓陷入焦慮的人們快速且“無痛”實(shí)現(xiàn)自己的幻想??粗曨l里美美的自己,在很大程度上能夠緩解焦慮的心理。
其二,擁有新奇感,滿足用戶的獵奇心理。天文學(xué)家卡爾·薩根曾寫道:“好奇是人類的天性?!盇I換臉作為一項(xiàng)人工智能技術(shù),毫無預(yù)兆地闖入人類的世界。看似遙不可及的科學(xué)技術(shù),竟然操作起來如此簡單。新生事物刺激著人們“嘗鮮”。
豐富的素材,多變的應(yīng)用場(chǎng)景,一些熱門的影視劇、表情包都涵蓋其中。有網(wǎng)友發(fā)文說,融合效果感覺很不錯(cuò),換臉之后感覺特別自然,換明星臉也不違和,感覺自己更好看了,但是又不失本來面目??梢哉f,AI換臉熱潮是一場(chǎng)線上社交世界的狂歡。
其三,技術(shù)門檻和制作成本低,普通人也能輕松體驗(yàn)。以往制作換臉視頻,制作者需要依托開源庫和一些輔助工具,無論是在技術(shù)還是設(shè)備都一定的門檻和要求,普通用戶非常難以實(shí)現(xiàn)?,F(xiàn)如今,在手機(jī)應(yīng)用商城搜索AI換臉等關(guān)鍵詞,有不少相關(guān)App推薦,在社交平臺(tái)也有許多類似的小程序提供服務(wù)。AI換臉應(yīng)用的誕生,只要一部手機(jī),上傳一張照片就能輕輕松松實(shí)現(xiàn)需求,技術(shù)門檻大大降低。
三
對(duì)于AI換臉這一技術(shù)的應(yīng)用,網(wǎng)上一直爭議不斷,新鮮有趣的背后也暴露出不少的問題。
AI換臉暴露出不少問題
比如,隱私權(quán)和肖像權(quán)受到侵犯。未經(jīng)本人允許,將他人發(fā)布在平臺(tái)上的照片通過換臉制作惡趣味視頻。一位博主曾公開發(fā)布聲明,稱“被AI軟件盜用圖片當(dāng)做模板”。一些不法分子甚至通過“AI換臉技術(shù)”偽造“私密照片”,對(duì)當(dāng)事人進(jìn)行敲詐勒索,甚至制作虛假視頻實(shí)施詐騙,觸碰法律的底線。
比如導(dǎo)致視覺失真,對(duì)人的信任是一個(gè)巨大的挑戰(zhàn)。打破“人臉即真實(shí)”的社會(huì)共識(shí),眼見不再為實(shí)。AI換臉將虛實(shí)難辨的信息場(chǎng)景提升到新的高度。近日,幾張?zhí)乩势赵诩~約街頭遭警察圍捕的圖片在美國社交網(wǎng)絡(luò)上瘋傳。雖然外媒很快辟謠稱,這些照片只是AI換臉,并非真實(shí)照片。但由于圖片太過以假亂真,騙到了不少美國網(wǎng)民,
網(wǎng)絡(luò)不是法外之地。筆者認(rèn)為,AI換臉技術(shù)也應(yīng)有其明確的邊界感,建立一個(gè)有效的應(yīng)對(duì)新技術(shù)的風(fēng)險(xiǎn)防范體系。
比如,對(duì)于政府層面,可出臺(tái)相關(guān)監(jiān)管措施,劃清底線。我國刑法、民法典等多部法律法規(guī)及政策,都涉及了深度合成應(yīng)用規(guī)范等相關(guān)內(nèi)容。4月11日,國家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見稿)》,對(duì)生成式人工智能產(chǎn)業(yè)給出較為詳盡的規(guī)定,其中包括定義、準(zhǔn)入資格、責(zé)任義務(wù)和處罰措施等。同時(shí)要增加技術(shù)監(jiān)測(cè)手段,完善相關(guān)法律法規(guī),比如《個(gè)人信息保護(hù)法》將“人臉信息”明確納入個(gè)人信息的保護(hù)范疇,減少灰色地帶和監(jiān)管漏洞,提高不法分子的違法成本。
比如,對(duì)于視頻社交平臺(tái),要嚴(yán)格規(guī)范內(nèi)容審核制度。有的平臺(tái)為了博流量,疏于對(duì)視頻內(nèi)容進(jìn)行審核,甚至“睜一只眼閉一只眼”,企圖打擦邊球。技術(shù)開發(fā)者、相關(guān)內(nèi)容傳播平臺(tái)都應(yīng)做到“嚴(yán)于律己”,對(duì)視頻內(nèi)容進(jìn)行風(fēng)險(xiǎn)審核。同時(shí)在接到投訴和舉報(bào)時(shí),能夠根據(jù)法律法規(guī)及時(shí)建立應(yīng)對(duì)機(jī)制,盡可能將傷害降到最低。
比如,對(duì)于普通用戶,要提高自己辨別信息的能力和法律意識(shí)。普通網(wǎng)友也要認(rèn)真研讀APP中的用戶授權(quán)條款,權(quán)衡其隱藏的“霸王條款”。不利用技術(shù)手段去傷害別人,侵犯別人的權(quán)益;在自己權(quán)益受到傷害時(shí),勇于維權(quán),積極投訴和舉報(bào)。
AI換臉作為一項(xiàng)新興技術(shù),在影視制作、廣告、品牌營銷等領(lǐng)域具有積極意義,不應(yīng)全盤否定,但同時(shí)也要充分明確其邊界感,依法打擊濫用行為,不必過于恐懼技術(shù)本身。
當(dāng)下,人工智能已經(jīng)是大勢(shì)所趨。AI換臉技術(shù)或許只是一個(gè)開始。技術(shù)本身是中立的,關(guān)鍵在于使用技術(shù)的人。當(dāng)我們?cè)谂d致勃勃探索前沿技術(shù)的同時(shí),必須要嚴(yán)守法律底線,明確倫理邊界,這樣才有助于新技術(shù)向著安全、可控的方向不斷發(fā)展。
關(guān)鍵詞:
最新資訊