在科技日新月異的今天，人工智能已經(jīng)滲透到我們生活的方方面面，從智能家居到自動(dòng)駕駛，從醫(yī)療診斷到金融風(fēng)控，AI的應(yīng)用場景越來越廣泛。然而，卻有不法分子將AI技術(shù)應(yīng)用在詐騙上。近年來AI換臉騙局頻發(fā)，2024年年初，香港警方披露了一起多人 “AI換臉”詐騙案，涉案金額高達(dá)2億港元。

　　“3·15打假”后，“AI換臉”騙局引發(fā)了社會(huì)各界的廣泛關(guān)注和討論。近期不少逝世明星被AI“復(fù)活”，重新出現(xiàn)在屏幕前，也讓大眾唏噓，這類“AI原生”背后的Deepfakes技術(shù)開始被大眾所關(guān)注。

　　生成式AI模型是Deepfakes(深度偽造)的技術(shù)基礎(chǔ)，而以“AI換臉”為代表的人臉偽造技術(shù)是Deepfakes的一個(gè)重要分支。在2019年，藝術(shù)家Bill Posters和Daniel Howe聯(lián)手廣告公司Canny，創(chuàng)作出了一段引人注目的Deepfakes視頻，該視頻的主角為Facebook的創(chuàng)始人馬克·扎克伯格。

　　這段視頻中，扎克伯格仿佛坐在辦公桌前，發(fā)表了一場關(guān)于Facebook數(shù)據(jù)掌控權(quán)的演講，其言辭犀利，指出：“想象一下：一個(gè)人完全控制了數(shù)十億人被盜的數(shù)據(jù)、他們所有的秘密、他們的生活、他們的未來。誰控制了數(shù)據(jù)，誰就控制了未來。”這段演講的原始視頻來源于扎克伯格在2017年的一次公開發(fā)言，而經(jīng)過CannyAI的視頻對話替換(VDR)技術(shù)的處理后，它呈現(xiàn)出了令人難辨真假的逼真效果。

　　畫面中的AI版“扎克伯格”形象生動(dòng)，仿佛是一位真實(shí)的新聞人物。詞條上更是標(biāo)注著“我們正在提高廣告的透明度”，為這段視頻增添了幾分可信度。然而，這段視頻迅速引發(fā)了Facebook及社會(huì)各界的強(qiáng)烈反響。自此，Deepfakes技術(shù)開始以驚人的速度發(fā)展，并逐漸演變成為一種新型的詐騙手段。

　　生成式AI不斷進(jìn)步，眼見不再為實(shí)

　　AI換臉、變聲等新型騙局已經(jīng)發(fā)生多起，令人防不勝防，對社會(huì)秩序和公眾安全造成了嚴(yán)重威脅。今年央視3·15晚會(huì)的曝光再次將人們的視線聚焦到了AI技術(shù)可能帶來的風(fēng)險(xiǎn)上。

　　在2023年，由大模型掀起的AI熱潮洶涌澎湃，各路大廠紛紛下場，從百度率先發(fā)布試圖對標(biāo)Chat GPT的“文心一言”，到阿里的“通義千問”大語言模型，再到360集團(tuán)的“360智腦4.0”、騰訊的混元大模型等等，國內(nèi)的“百模大戰(zhàn)”愈演愈烈。

　　隨著AI技術(shù)的快速發(fā)展，AI成像、AI仿聲、圖像生成等各種內(nèi)容卻成為了某些灰色產(chǎn)業(yè)的斂財(cái)工具。iiMedia Research(艾媒咨詢)數(shù)據(jù)顯示，2023年中國AIGC行業(yè)核心市場規(guī)模為79.3億元，2028年有望達(dá)2767.4億元。隨著生成式AI模型的不斷進(jìn)步，未來將在更多領(lǐng)域得到廣泛應(yīng)用，而技術(shù)的提升也會(huì)使得Deepfakes等安全問題日益難以被有效檢測，這無疑給企業(yè)和個(gè)人帶來了更大的挑戰(zhàn)。

　　央視3·15晚會(huì)所曝光的AI換臉騙局只是冰山一角。據(jù)新京報(bào)報(bào)道，前不久，國內(nèi)多地公布網(wǎng)絡(luò)謠言典型案例，其中有多起系“AI生謠”。不法分子利用AI“移花接木”拼成假視頻，借此博眼球、賺流量、非法獲利，以及利用“AI換臉”技術(shù)進(jìn)行各式詐騙，造成惡劣社會(huì)影響。

　　2024年初，文生視頻模型Sora的出現(xiàn)，對于這些AI造謠、AI換臉騙局而言，能夠?qū)崿F(xiàn)更逼真的效果。Sora模型能夠生成高度逼真的視頻內(nèi)容，使得假視頻與真實(shí)視頻幾乎難以區(qū)分。這種技術(shù)的發(fā)展為不法分子提供了更大的操作空間。

　　除了不法分子利用AI換臉技術(shù)進(jìn)行詐騙外，還有人開始嘗試?yán)�用AI換聲換臉技術(shù)來“高效”制作短劇了。短劇概念的爆火，讓演員的片酬水漲船高，也直接導(dǎo)致了短劇的成本變高。隨著國內(nèi)監(jiān)管紅線收緊，題材重復(fù)飽和、行業(yè)加速內(nèi)卷，不少短劇廠商紛紛將目光轉(zhuǎn)向海外，把短劇中華人演員的面孔替換為外國演員的模樣，成為一些短劇公司低成本出海的新思路，對此一些網(wǎng)友表示：難道你小子竟是天才?但也有更多的網(wǎng)友質(zhì)疑，這難道不也是一種對于消費(fèi)者的欺詐嗎?

　　隨著AI時(shí)代的到來，“眼見為實(shí)”的觀念已經(jīng)過時(shí)。AI生成的假視頻、假音頻已經(jīng)日漸泛濫，因此，對AI技術(shù)和工具的監(jiān)管顯得尤為重要。

　　2023年，中國最高人民法院、最高人民檢察院、公安部聯(lián)合發(fā)布的《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見》中規(guī)定，對“利用‘深度合成’等生成式人工智能技術(shù)發(fā)布違法信息”的情形，依法從重處罰。

　　2024年3月13日，《人工智能法案》在歐洲議會(huì)通過，成為全球首個(gè)“AI法案”。

　　除了從政府的角度對AI技術(shù)進(jìn)行監(jiān)管外，企業(yè)和平臺也應(yīng)承擔(dān)起自身的責(zé)任，加強(qiáng)對AI生成內(nèi)容的審核和管理。通過技術(shù)手段和人工審核相結(jié)合的方式，及時(shí)發(fā)現(xiàn)和刪除虛假信息，防止其傳播和擴(kuò)散。公眾也應(yīng)提高警惕，增強(qiáng)對AI騙局的識別和防范能力。消費(fèi)者在面對可疑信息時(shí)，要保持冷靜和理性，不輕信、不傳播未經(jīng)證實(shí)的信息。同時(shí)，加強(qiáng)個(gè)人信息保護(hù)意識，避免個(gè)人信息被不法分子利用。

　　AI“復(fù)活”明星，是緬懷還是生意?

　　如果說AI換臉、變聲等視頻是基于真視頻原有基礎(chǔ)上進(jìn)行“改裝”的，那么“復(fù)活”明星這類“無中生有”的視頻更讓人感受到技術(shù)的先進(jìn)了。

　　最近，一位博主利用AI技術(shù)生成視頻和聲音，將已故明星李玟、張國榮、高以翔、喬任梁等人“復(fù)活”在公眾視野中，這一舉動(dòng)立刻引發(fā)了網(wǎng)友們的廣泛討論和熱議。在相關(guān)視頻的評論區(qū)，有些人甚至打著溫情的旗號，借機(jī)進(jìn)行AI技術(shù)的推廣和收費(fèi)服務(wù)。對此，喬任梁的父親表示無法接受，并希望博主能盡快下架這些視頻，因?yàn)樗�認(rèn)為這種行為未經(jīng)他們同意，就像是在揭開他們的傷疤。目前，該博主的賬號下已經(jīng)看不到之前發(fā)布的這些AI復(fù)活明星的視頻了。

　　(圖片來源：抖音)

　　僅需一張照片、一段聲音，再配上幾十上百個(gè)定制的文字，逝去的人仿佛就能重新“活”過來，音容笑貌栩栩如生，甚至能“開口”說話。人們在驚嘆AI“復(fù)活”技術(shù)日益先進(jìn)和智能的同時(shí)，也對這種“復(fù)活”明星、親人的做法所暴露出的“失控”一面表示深深的擔(dān)憂。

　　據(jù)報(bào)道，如今“復(fù)活”逝者的服務(wù)已經(jīng)形成了一條成熟的產(chǎn)業(yè)鏈。提供這種服務(wù)的個(gè)人和商家數(shù)量快速增長，他們聲稱只需花費(fèi)10元至數(shù)百元不等，就能生成高度還原的“復(fù)活”視頻。小編在電商平臺搜索相關(guān)服務(wù)時(shí)，發(fā)現(xiàn)也有不少人購買。

　　(圖片來源：淘寶)

　　然而，AI“復(fù)活”服務(wù)自誕生以來就一直飽受爭議。支持者認(rèn)為這種服務(wù)形式新穎、成本不高，通過隔空互動(dòng)可以寄托對逝者的情感慰藉。而反對者則認(rèn)為，這項(xiàng)技術(shù)無疑是在“揭活人的傷疤”，甚至可能侵犯逝者的肖像權(quán)、名譽(yù)權(quán)和隱私權(quán)。

　　顯然，當(dāng)涉及到逝者這一特殊群體時(shí)，AI“復(fù)活”服務(wù)就不僅僅是一個(gè)單純的技術(shù)問題，還需要綜合考慮人文情感、社會(huì)倫理、公序良俗等多重因素。在追求技術(shù)進(jìn)步的同時(shí)，也應(yīng)該審慎思考其可能帶來的社會(huì)影響，確保技術(shù)的發(fā)展能夠真正造福人類社會(huì)，而不是帶來傷害和困擾。

　　AI換臉和“復(fù)活”明星的技術(shù)背后，實(shí)際上都是深度學(xué)習(xí)、圖像處理和語音合成等多個(gè)領(lǐng)域的交叉應(yīng)用。通過收集目標(biāo)人物的影像和音頻資料，AI模型能夠模擬其表情、動(dòng)作和聲音，從而生成逼真的虛擬形象，這種技術(shù)的出現(xiàn)，讓我們有機(jī)會(huì)再次目睹那些已經(jīng)離開我們的藝人的風(fēng)采，無疑是一個(gè)技術(shù)奇跡。

　　然而，技術(shù)發(fā)展到一定高度往往伴隨著一系列問題和挑戰(zhàn)。在AI換臉和“復(fù)活”明星的過程中，如何確保數(shù)據(jù)的合法性和隱私性是一個(gè)亟待解決的問題。收集和使用目標(biāo)人物的影像和音頻資料，必須得到其本人或家屬的明確同意，否則就可能侵犯到他們的隱私權(quán)。此外，AI技術(shù)的濫用也可能導(dǎo)致虛假信息的傳播和誤導(dǎo)公眾，對社會(huì)造成不良影響。

　　除了技術(shù)層面的問題，AI換臉和“復(fù)活”明星還涉及到倫理和道德層面的考量。在追求商業(yè)價(jià)值和市場熱度的同時(shí)，是否應(yīng)該更多地考慮人文關(guān)懷和尊重?讓已故之人“重現(xiàn)”在大眾視野，雖然能夠帶來短暫的關(guān)注和熱議，但對于逝者和家屬來說，卻可能是一種傷害和侵?jǐn)_。因此，在使用AI技術(shù)進(jìn)行這類操作時(shí)，我們必須謹(jǐn)慎對待，尊重逝者和家屬的意愿和感受。

　　此外，AI換臉和“復(fù)活”明星也對娛樂產(chǎn)業(yè)產(chǎn)生了深遠(yuǎn)的影響。一方面，這種技術(shù)為娛樂市場帶來了全新的商業(yè)模式和盈利點(diǎn)。通過利用AI技術(shù)復(fù)活已故明星或進(jìn)行虛擬角色的創(chuàng)作，娛樂公司可以吸引更多的觀眾和粉絲，提升市場影響力。另一方面，這種技術(shù)也促使娛樂產(chǎn)業(yè)不斷探索新的創(chuàng)意和表達(dá)方式，推動(dòng)產(chǎn)業(yè)的創(chuàng)新和發(fā)展。

　　但與此同時(shí)，我們也需要警惕娛樂產(chǎn)業(yè)過度依賴AI技術(shù)的風(fēng)險(xiǎn)。雖然AI技術(shù)能夠帶來許多便利和創(chuàng)新，但它并不能完全替代人類的創(chuàng)造力和想象力。如果娛樂產(chǎn)業(yè)過于追求技術(shù)的炫耀和表面的華麗，而忽視了作品的內(nèi)容和質(zhì)量，那么最終可能會(huì)導(dǎo)致產(chǎn)業(yè)的衰敗和觀眾的流失。

　　從利用AI技術(shù)換臉娛樂乃至詐騙，到網(wǎng)友通過AI技術(shù)讓已故明星“重現(xiàn)”在大眾視野，這些事件都讓網(wǎng)友們對AI技術(shù)感到震驚。然而，這些現(xiàn)象也引發(fā)了我們對技術(shù)倫理、隱私保護(hù)和娛樂產(chǎn)業(yè)邊界的深入思考。

　　僅為娛樂的AI換臉視頻和“復(fù)活”明星視頻都只是AI技術(shù)在娛樂產(chǎn)業(yè)中的一次重要嘗試，它展示了技術(shù)的無限可能性和巨大潛力。然而，我們也必須清醒地認(rèn)識到，這種技術(shù)并非萬能的，它所帶來的問題和挑戰(zhàn)同樣需要我們認(rèn)真對待和解決。在未來的發(fā)展中，我們應(yīng)該在尊重技術(shù)倫理和人文關(guān)懷的前提下，探索更加合理和可持續(xù)的技術(shù)應(yīng)用模式，讓AI技術(shù)真正為人類社會(huì)的進(jìn)步和發(fā)展貢獻(xiàn)力量。