誰來定義偶像的“親密權(quán)”?
6月初,一款主打偶像AI聊天的應(yīng)用Almigo掀起爭議漩渦。
該應(yīng)用由中型娛樂公司RBW與AI技術(shù)公司KLLEON聯(lián)合推出,提供與旗下藝人包括Solar(MAMAMOO)、許齡智(KARA)、效定(OH MY GIRL)等在內(nèi)的“AI分身”互動(dòng)功能,卻因被質(zhì)疑存在疑似擦邊功能,被全網(wǎng)聲討。
AI合成語音、復(fù)刻形象、擬人對話,本是看似順理成章的技術(shù)拓展。而從“陪伴”到“擦邊”,AI介入得有多深,才算越界?
01 AI分身辣聊風(fēng)暴
據(jù)悉,在這款A(yù)I應(yīng)用Almigo上,用戶不僅可以文字聊天、聽AI仿生語音回復(fù),甚至還能開啟仿真人臉的視頻對話。
而最具爭議的部分,落在了名為“Spicy”的付費(fèi)功能上。該功能宣傳中暗示,付費(fèi)用戶可以與AI偶像進(jìn)行更私密、更親昵的交流。
盡管內(nèi)容以文字為主,但不少用戶發(fā)現(xiàn)對話中頻繁出現(xiàn)擦邊暗示、挑逗用語,并通過“對我撒嬌吧”、“你喜歡什么樣的男生”這類回復(fù)設(shè)置,制造曖昧氣氛。
而在平臺(tái)未對用戶身份、年齡做出明確限制的情況下,部分未成年偶像的AI形象也被納入可互動(dòng)角色之列,使得輿論質(zhì)疑進(jìn)一步升溫。
與此同時(shí),社交媒體上很快炸鍋。
推特、Instiz等社交平臺(tái)上涌現(xiàn)大量抗議聲音:“AI物化女性”、“Deepfake犯罪”。不少海外粉絲也聯(lián)合發(fā)起Tag“運(yùn)動(dòng)抵制Almigo”。事件發(fā)酵后,藝人Solar本人通過粉絲平臺(tái)回應(yīng)稱“已向公司表達(dá)意見”,但表態(tài)克制,并未直接提及合成內(nèi)容的授權(quán)過程。
最終,在上線不到48小時(shí)后,RBW宣布下架APP,并向公眾致歉。KLLEON也發(fā)布聲明稱將“重構(gòu)模型”、“暫停商業(yè)推廣。”
面對爭議,KLLEON代表在6月9日接受《韓民族日報(bào)》采訪時(shí)表示:“Almigo從技術(shù)上并不可能進(jìn)行與偶像的性暗示對話”,并強(qiáng)調(diào)平臺(tái)已采取相關(guān)措施,以遵守AI倫理準(zhǔn)則。他還補(bǔ)充稱,項(xiàng)目自2023年初啟動(dòng),已通過所屬公司向藝人們“充分傳達(dá)相關(guān)內(nèi)容”,但“可能在溝通上產(chǎn)生了一些偏差”。
一場試圖借AI變現(xiàn)的新嘗試,在數(shù)天內(nèi)以道歉、下架、口碑下滑收場。然而,其引發(fā)的討論遠(yuǎn)未平息。
02 推手與共謀
這場AI應(yīng)用的越界是如何發(fā)生的?
從表面看,這似乎只是AI公司過度逐利、娛樂公司監(jiān)管不力。
但若回溯合作背景會(huì)發(fā)現(xiàn),RBW與KLLEON并非簡單的甲乙方關(guān)系,而更像一組利益一致、愿賭同輸?shù)腁I投機(jī)聯(lián)盟。
KLLEON是韓國近年來頗具代表性的AI內(nèi)容創(chuàng)業(yè)公司之一,成立于2018年,核心產(chǎn)品包括AI視頻轉(zhuǎn)換平臺(tái)KAMELO、AI人設(shè)生成工具Klone以及數(shù)字人實(shí)驗(yàn)性服務(wù)Killing。
該團(tuán)隊(duì)以KAIST和首爾大學(xué)的AI專家為主,曾獲得韓國信息通信技術(shù)創(chuàng)新獎(jiǎng)、入圍CES創(chuàng)新獎(jiǎng)單元,創(chuàng)始人姜重赫與黃素賢還雙雙入圍2023年《福布斯》亞洲版(Forbes Asia)的“30 Under 30”榜單。
此前他們曾與CJ ENM、MBN電視臺(tái)合作實(shí)驗(yàn)虛擬主持人等內(nèi)容項(xiàng)目,積累一定技術(shù)口碑。
而RBW的介入,并不只是合作授權(quán)方那么簡單。
據(jù)韓媒《Digital Daily》報(bào)道,RBW在2023年就已參與KLLEON的A輪融資,成為公司戰(zhàn)略股東之一。根據(jù)商業(yè)登記信息,兩家公司在日本市場的分公司地址也高度重合,有分析認(rèn)為二者在海外市場開拓中可能存在資源整合、渠道共享等合作。
在AI成為韓娛新熱詞的當(dāng)下,RBW顯然希望借Almigo搶占一席之地。作為擁有MAMAMOO、Purple Kiss等藝人的中型娛樂公司,RBW在近年面對K-Pop高度競爭時(shí)顯露出一定的增長瓶頸——新人女團(tuán)Purple Kiss尚未走紅,而MAMAMOO成員個(gè)體活動(dòng)多、團(tuán)體曝光少,粉絲增長趨緩,公司迫切希望尋找新的收入增長點(diǎn)。
同時(shí),RBW作為KLLEON股東之一,本身就對AI技術(shù)商業(yè)化有利益訴求。推出合作產(chǎn)品既可以驗(yàn)證投資成果、分享收益,也有助于RBW對外樹立科技先鋒形象。在如今娛樂業(yè)與AIGC結(jié)合的趨勢下,RBW希望走在前列,通過AI偶像互動(dòng)開創(chuàng)行業(yè)新模式,搶占賽道高地。
相比耗費(fèi)人力拍真人綜藝、辦巡演、開粉絲見面會(huì),一個(gè)可復(fù)制、可全天候運(yùn)營的“AI藝人”看起來更具ROI潛力,還能綁定會(huì)員制度帶來持續(xù)收益。
歸根結(jié)底,這是一種試圖“低成本再造偶像生產(chǎn)力”的想象。
但問題在于,RBW高估了技術(shù)換情感的能力,也低估了粉絲對“擬人親密關(guān)系”的邊界執(zhí)念。特別是在女偶像深陷過度物化爭議已久的背景下,這種將AI作為“定制情欲陪聊”的操作,不僅踩到了粉絲心理底線,也引發(fā)公眾對“女性AI商品化”的普遍警惕。
RBW的問題,并非出在對AI技術(shù)的想象力,而是缺乏想象力之外的判斷力。這次冒進(jìn)不僅沒有帶來預(yù)期收益,還導(dǎo)致市場信任度直線下降、粉絲群體流失與藝人受挫,可謂得不償失。
有業(yè)界評論指出,RBW此舉也暴露出中小型娛樂公司在品牌轉(zhuǎn)型上的浮躁,一味追趕AI風(fēng)口,卻忽視了偶像關(guān)系的核心資產(chǎn):粉絲對藝人的情感投射,以及公司對藝人品牌的長期培育。
短視逐利而損害這兩類關(guān)系,則終將自食惡果。
03 誰來決定親密的尺度?
AI偶像并不罕見。
早在2010年代中期,Hatsune Miku等虛擬偶像便已完成從“技術(shù)產(chǎn)物”到“文化角色”的躍遷;日本市場也早已培育出虛擬YouTuber、AI歌姬等成熟品類,粉絲樂于接受“TA們本就不真實(shí)”的前提,與其建立獨(dú)特的投射關(guān)系。
這類虛擬形象并無現(xiàn)實(shí)對應(yīng)人物,公司對其擁有完全的控制權(quán)和IP歸屬,公眾的關(guān)注點(diǎn)主要集中在“技術(shù)實(shí)現(xiàn)”和“人設(shè)魅力”,而非倫理風(fēng)險(xiǎn)。
近年興起的AI聊天平臺(tái),如Character.AI與Replika,則將AI擬人推向了“對話親密關(guān)系”維度。
前者允許用戶創(chuàng)建包括明星在內(nèi)的各類角色AI,自娛自樂為主,系統(tǒng)會(huì)過濾露骨語句,強(qiáng)調(diào)這些AI“不是本人”;而后者則一度鼓勵(lì)用戶與AI伴侶發(fā)展戀愛甚至情色關(guān)系,最終因過界問題引發(fā)爭議,在2023年被迫調(diào)整“成人模式”權(quán)限。
但無論是哪種模式,它們大多劃清了底線,包括回避使用現(xiàn)實(shí)藝人真實(shí)姓名、臉部建�;蚵曇舨蓸�;明確標(biāo)注AI為虛擬形象,避免誤導(dǎo);以及控制內(nèi)容尺度,杜絕情色誘導(dǎo)或擦邊營銷。
Almigo的爭議,正是在于它同時(shí)違背了法律與倫理的兩重準(zhǔn)線——既動(dòng)用現(xiàn)實(shí)偶像的圖像與語音,又在內(nèi)容上模糊互動(dòng)界限,制造有意的曖昧空間。
在法律尚未完全明確“數(shù)字人格權(quán)”的當(dāng)前階段,一個(gè)至關(guān)重要的問題被擺上臺(tái)面:公司是否有權(quán)以“授權(quán)”為名,讓AI分身替藝人進(jìn)入模糊的親密關(guān)系場?哪怕合約上允許合成語音或形象生成,是否也應(yīng)單獨(dú)征得偶像本人對具體應(yīng)用場景的知情同意?
不少行業(yè)觀察者指出,這種合成互動(dòng)如果涉及性暗示,其倫理風(fēng)險(xiǎn)幾乎等同于未經(jīng)授權(quán)的深度偽造內(nèi)容。
此外,作為最常被AI擬像瞄準(zhǔn)的群體,女性偶像的權(quán)利邊界也因此再度受到挑戰(zhàn)。即便Almigo中不存在直接裸露或猥褻對話,技術(shù)手段的開放性本身就為濫用埋下隱患——AI模型極易被二次“訓(xùn)練”說出低俗話術(shù)、生成性別暴力內(nèi)容,成為對偶像的另一種深偽式傷害。
更重要的是,偶像本就是高度依賴公眾情感想象的存在。一旦與AI形象之間產(chǎn)生混淆,她們所面對的不只是權(quán)責(zé)的模糊,更是人格邊界和情感認(rèn)知的持續(xù)侵蝕。
粉絲愿意為情感投資,但這份投資從不是對算法的投注。RBW這次的翻車,并非AI“不可用”,而是技術(shù)濫用。
技術(shù)可以突破場景,卻不能突破體驗(yàn)的邊界。AI確實(shí)為娛樂業(yè)帶來了前所未有的想象空間——數(shù)字人能讓偶像同時(shí)出現(xiàn)在千千萬萬粉絲面前,虛擬偶像可以24小時(shí)營業(yè)“永不塌房”,但偶像產(chǎn)業(yè)始終建立在真實(shí)連接之上,有著脆弱而珍貴的情感生態(tài)和倫理底線。
榜單收錄、高管收錄、融資收錄、活動(dòng)收錄可發(fā)送郵件至news#citmt.cn(把#換成@)。
海報(bào)生成中...