免费观看已满十八岁电视剧国语_人妻 色综合网站_欧美大尺寸suv视频_成人免费高清在线观看_久久久成人毛片无码_老头解开奶罩吸奶头高潮视频_sm调教室论坛入口_欧美夫妻交换久久丫1000_一级黄色大片在线免费观看了

首頁 > 資訊 > 評論

張文宏 雷軍 靳東深受其害 AI仿冒名人到底有多真?

2024/12/24 16:02      元宇宙新聲


  從智能家居的語音助手到自動(dòng)駕駛汽車,AI正以前所未有的方式改變著世界,但隨著AI技術(shù)的不斷發(fā)展和應(yīng)用其雙刃劍的特性也逐漸顯現(xiàn),深度偽造技術(shù)就帶來了不小的隱患。

  AI能夠輕松換臉、模仿聲音,能夠做到讓張文宏深夜帶貨,讓雷軍大罵網(wǎng)友,就連明星靳東都被AI硬塞代言。

  張文宏深夜帶貨?

  近日,有網(wǎng)友向媒體反映:家中老人在網(wǎng)絡(luò)賣貨視頻中看到知名傳染病學(xué)專家張文宏醫(yī)生在賣一種蛋白類的產(chǎn)品,老人信以為真,不僅下了單還轉(zhuǎn)發(fā)了很多群。

image.png

  事實(shí)上,該視頻并非張文宏醫(yī)生本人發(fā)布的,而是有人利用AI技術(shù)合成的。在這段視頻中,被合成的人像反復(fù)介紹一種產(chǎn)品,聲音聽起來也很像張文宏本人,商品櫥窗內(nèi)的某蛋白棒售賣鏈接顯示已出售1200多件。目前,該賬號已搜索不到。

  對此,張文宏醫(yī)生在回應(yīng)媒體時(shí)表示,“我在發(fā)現(xiàn)這個(gè)事情后立即投訴過那個(gè)AI合成的視頻,但他的賬號一直在換,我最后也沒有精力了。這些假的AI合成信息就像蝗災(zāi)一樣,一次又一次發(fā)生,像漫天飛過來的蝗蟲一樣害人。事實(shí)上,從平臺(tái)投訴結(jié)果來看,我覺得最終也難以解決問題。”

  除了向平臺(tái)方投訴,張文宏稱自己也曾考慮過報(bào)警,但對方看不見摸不到,就像幽靈一般難以描述,只能寄希望于相關(guān)部門加強(qiáng)監(jiān)管。“報(bào)警總要有個(gè)對象對吧,現(xiàn)在報(bào)警報(bào)誰呢?他一天換一個(gè)賬號,而且全是虛擬的,我向誰報(bào)警?所以我認(rèn)為,他侵犯的是消費(fèi)者的利益,我覺得相關(guān)部門應(yīng)該處理。”張文宏說。

  科技旋渦認(rèn)為,當(dāng)前AI技術(shù)飛速發(fā)展,特別是深度學(xué)習(xí)算法的不斷成熟,使得換臉技術(shù)的門檻大大降低。在前面提到的假張文宏之前,已經(jīng)出現(xiàn)過假靳東、假雷軍、假于東來等。

  AI雷軍罵翻全網(wǎng),AI靳東詐騙老人

  國慶假期,短視頻平臺(tái)上出現(xiàn)了大量“雷軍”的發(fā)言視頻,涉及堵車、調(diào)休、游戲等熱門話題,不僅言辭犀利,還常爆粗口。

image.png

  對于很多熟悉網(wǎng)絡(luò)環(huán)境的人來說,這些“雷軍 AI 配音”視頻可能是“一眼假”,但雷軍的名氣太大,影響力也很大,難免會(huì)有人當(dāng)真。畢竟,在短視頻平臺(tái)上,那些甚至都沒有用AI配音,只是用剪輯的影像配文字字幕的“假靳東”視頻,都有不少人上當(dāng)。

  據(jù)報(bào)道,今年11月,江西一位65歲老人到銀行辦理業(yè)務(wù),聲稱要貸款200萬元給男朋友“靳東”拍戲。經(jīng)調(diào)查發(fā)現(xiàn),老人手機(jī)里的“靳東”出自AI合成的視頻。

image.png

  今年10月,老牌港星黃百鳴通過社交媒體鄭重聲明,有人盜用其過去影片,利用AI替換聲音,代言一個(gè)不知名的藥膏品牌。

image.png

  科技旋渦認(rèn)為,技術(shù)進(jìn)步帶來了信息的洪流,我們對于所謂的“名人信息”及吸睛信息,不可“聽風(fēng)就是雨”,盲目相信、輕易下單購買。AI換臉等新型侵權(quán)案件不斷涌現(xiàn),除了用戶自身提高網(wǎng)絡(luò)安全意識(shí),對于AI換臉相關(guān)風(fēng)險(xiǎn)的預(yù)防與整治,需要從源頭進(jìn)行監(jiān)管、司法形成多主體、全鏈條的治理。

  科技進(jìn)步,監(jiān)管趨嚴(yán)

  今年9月,國家網(wǎng)信辦已經(jīng)發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見稿)》,要求從視頻制作和發(fā)布的源頭做好信息管理。其中明確提出兩種人工智能生成合成內(nèi)容標(biāo)識(shí)的種類,即“顯式標(biāo)識(shí)”與“隱式標(biāo)識(shí)”,還明確了兩類標(biāo)識(shí)所應(yīng)當(dāng)適用的場景,將《深度合成規(guī)定》第十七條所提出的“顯著標(biāo)識(shí)”與“顯式標(biāo)識(shí)”建立了直接的對應(yīng)關(guān)系。

image.png

  12月15日,“微信珊瑚安全”微信公眾號發(fā)布關(guān)于打擊利用AI仿冒知名人士進(jìn)行營銷宣傳的公告,已處理532條內(nèi)容,關(guān)閉賬號209個(gè)。

  今年3月份,抖音安全中心發(fā)布不當(dāng)利用AI生成虛擬人物的治理公告,指出將嚴(yán)格處罰違規(guī)使用AI生成虛擬人物發(fā)布違背科學(xué)常識(shí)、弄虛作假、造謠傳謠的內(nèi)容。

  除去監(jiān)管部門和平臺(tái)出臺(tái)相關(guān)規(guī)定,AI工具的制作者也需遵守相關(guān)法律法規(guī)。今年5月,OpenAI在未經(jīng)美國演員“寡姐”斯嘉麗·約翰遜的同意模仿其聲音,已經(jīng)收到律師函。

  而在我國,也已經(jīng)出現(xiàn)了第一例AI生成聲音人格權(quán)侵權(quán)案,北京互聯(lián)網(wǎng)法院在4月份對全國首例“AI聲音侵權(quán)案”進(jìn)行一審宣判。就此事,我們曾咨詢北京鼎世律師事務(wù)所執(zhí)行主任孫亮律師,他表示:“《民法典》第四編為人格權(quán)編,在該編中就涉及自然人的肖像權(quán)、名譽(yù)權(quán)、隱私權(quán)、聲音權(quán)益等民事權(quán)利進(jìn)行了專門的規(guī)定。相關(guān)主體在利用AI技術(shù)進(jìn)行創(chuàng)作的過程中,要對此予以重視,避免侵犯自然人的民事權(quán)益。”

  科技旋渦認(rèn)為,人工智能技術(shù)是一把雙刃劍,張文宏、雷軍、靳東等案例不斷提醒著我們正在直面AI帶來的種種挑戰(zhàn)。只有全社會(huì)共同努力,需要企業(yè)、學(xué)界、立法機(jī)構(gòu)等各方攜手,才能遏制技術(shù)飛速發(fā)展所帶來的各種問題。

  寫在最后

  迅猛發(fā)展的AI技術(shù)需要通過多方努力為其劃定“底線”和“紅線”才能大力降低AI生成的內(nèi)容所隱藏的種種風(fēng)險(xiǎn),從而真正享受新興技術(shù)帶來的便利,推動(dòng)人工智能產(chǎn)業(yè)的良性健康發(fā)展。

  榜單收錄、高管收錄、融資收錄、活動(dòng)收錄可發(fā)送郵件至news#citmt.cn(把#換成@)。

海報(bào)生成中...

分享到微博

掃描二維碼分享到微信

分享到微信
一鍵復(fù)制
標(biāo)題鏈接已成功復(fù)制

最新新聞

熱門新聞

看美女搞逼| 公车疯狂高潮h失禁| 黄色一级片免费观看| 美女搡bbb又爽又猛又黄www| 亚洲乱子伦| 四虎网站网址| 天堂网久久久| 日韩性网站| 青娱乐免费| 魅魔大胸挤奶喷奶水出来| 亚洲teen| 噼里啪啦完整高清观看视频| 大尺度床戏无遮观看免费软件| 国产传媒久久| 夜夜爽爽| 下载中国毛片| 皇上粗暴的破了她的处h| 小莹的乳液计完整版| 久久成人高清视频| 韩国av一区| 桥本有菜 在线| 国产在线999| 娇妻在上司的胯下娇吟在| 扒下她的小内裤揉弄免费视频| 女人自己扒荫道口视频原神| 久热这里有精品| 差差差差差| 成人福利视频app| 精品国产一区二区三区四| 国内毛片在线视频| 伊人wwwyiren22cn| 西班牙做爰猛烈大尺度电影| 韩国大尺度激情做爰电影| sb少妇高潮二区久久久久| 欧美人与牲禽动交精品| 我和漂亮邻居疯狂做爰韩剧| 国产精品第一区第27页| 美女极度色诱图片mm200| 三上悠亚作品在线观看未删减版| 姐妹5完整版观看| 少妇扒开腿狂桶30分钟|