作者 | 丹木

編輯 | 麻吉

來源 | 價值星球Planet

最近，“AI孫燕姿”成了B站網(wǎng)紅，B站上流傳的各種“孫燕姿”翻唱其他歌手的視頻，點擊量往往超過了十萬，甚至有些突破百萬。

在一個又一個視頻里，印著孫燕姿頭像的光盤緩緩旋轉(zhuǎn)，由其聲音翻唱的各種經(jīng)典或流行歌曲包括周杰倫的《發(fā)如雪》《愛在西元前》、劉歡的《好漢歌》等等。

彈幕評論給AI孫燕姿的歌曲視頻增加了更多樂趣。有人說：“這是中了十香軟筋散的好漢唱的吧？”還有人說：“聽到孫燕姿唱這首歌，這輩子值了。”

利用AI模擬人聲、生成歌曲，是AI技術的一大進步，但同時也帶來各種各樣的問題。例如，用AI翻唱歌曲，可能涉及版權問題。

圖源：Pexels

而AI技術的發(fā)展，也讓文化娛樂行業(yè)的工作者感到了巨大危機——也許有一天，他們的工作將被AI取代。

AI歌手走紅網(wǎng)絡

對于當下的許多年輕人來說，孫燕姿這個名字，已經(jīng)有些陌生了。

2021年，一名14歲的網(wǎng)友在NGA論壇發(fā)帖：“給大家推薦一個冷門華語歌手孫燕姿”，話題立刻登上了微博熱搜，無數(shù)80后、90后網(wǎng)友感嘆，在00后的世界里，孫燕姿竟然也成了“時代的眼淚”。

二十多年前，周杰倫、孫燕姿等歌壇“天王天后”，曾經(jīng)引領了一代人的青春。如今，那個華語歌壇最璀璨的時代已經(jīng)過去，流行歌手的唱片、歌迷的彩鈴、卡拉OK里略顯模糊的MV，對很多人來說，成為了久遠的記憶。

但這一次，AI讓孫燕姿翻紅，再次成了名人。

根據(jù)許多歌迷鑒定，AI孫燕姿與其本人歌聲相似度非常高，無論是音色、唱腔，還是極具個人特征的咬字和尾音，都能夠以假亂真。由AI孫燕姿翻唱的《發(fā)如雪》等歌曲幾乎難辨真假，而與歌手本人風格迥異的《好漢歌》則因極具反差感，激起了網(wǎng)友玩梗的強烈欲望。

AI孫燕姿引發(fā)歌迷和網(wǎng)友瘋狂的同時，也帶動了資本市場的熱度。5月11日，與AIGC相關的華策影視和其他多支影視傳媒股漲停收盤，有券商分析師認為，擁有經(jīng)紀業(yè)務的影視公司掌握大量藝人版權素材，結(jié)合AIGC，互動版本的AI藝人將應運而生。

同時，這位分析師也認為，比起上次的元宇宙風口，這次AIGC的風口更加“靠譜”，因為階段性的進展正在發(fā)生。

AI孫燕姿的原理，是通過開源的生成式語音訓練模型收集素材，進行訓練。首先，需要把孫燕姿的歌曲去掉伴奏，或截取孫燕姿的訪談、對話視頻，獲取沒有伴奏、混響的原始聲音，然后把素材作為目標音色輸入到模型中進行訓練，得到一個孫燕姿音色的模型，轉(zhuǎn)換任意的歌聲，最后進行后期處理。

或許，AI歌手在未來有廣闊的前景，除了娛樂性的AI歌手視頻，詞曲作者也可以借助不同歌手的AI模型生成樣帶，進行試聽之后，為歌曲匹配到風格最合適的演唱者。此外，唱片公司還可以發(fā)布旗下歌手的音色模型供用戶有償使用。

圖源：Unsplash

對于已故歌星、演員的粉絲來說，AI技術也是一個福音：人們可以通過AI技術生成逝者的聲音模型，重現(xiàn)那些令人念念不忘的聲音。

目前，B站上已經(jīng)有人發(fā)布了已故相聲大師馬三立的單口相聲，通過一個叫“SoVits AI”的開源項目，生成了一段馬三立的虛擬表演節(jié)目。在這段節(jié)目中，馬三立的頭像與電腦繪制的長衫結(jié)合在一起。

在節(jié)目開頭，馬三立的聲音說道：“我們這兒其實來說挺新鮮的，都是高科技啊這是，叫什么人工智能，AI搞出來的，都是假的，沒有真人……您在這聽個味道吧。”

很多網(wǎng)友期待，可以用AI“復活”更多逝世名人的聲音，如張國榮、黃家駒等，在建立聲音模型后，可以為他們撰寫與個人風格匹配的新作品，或者演唱他們所屬樂隊的新歌，讓他們在逝世多年以后，以另一種方式再次為他們的粉絲獻唱。

AI合成聲音被濫用，后果可能很嚴重

盡管AI歌手前景廣闊，“復活”已經(jīng)去世的知名歌星、演員也令觀眾充滿期待，但它仍然可能涉及侵權問題。另外，AI模擬聲音也可能帶來一系列倫理和法律的風險。

技術更新的速度，已經(jīng)超過了知識產(chǎn)權法律更新的速度，經(jīng)過人工智能提取的歌手音色模型，尚未被納入現(xiàn)行知識產(chǎn)權法律保護范圍內(nèi)，但利用AI歌手翻唱其他歌手的作品，至少已經(jīng)涉及原唱歌手、詞曲作者的版權。

按照相關法律規(guī)定，除非著作權人聲明不得使用，對已經(jīng)合法錄制為錄音制品的音樂作品進行翻唱、二次創(chuàng)作等可以不經(jīng)著作權人許可，但應當按照規(guī)定支付報酬。

被用作素材的孫燕姿聲音同樣可能涉及“侵權”。律師、學者普遍認為，雖然音色和唱腔不受到著作權法的保護，但按照《商標法》規(guī)定，聲音和文字、圖形等一樣，可以作為商標申請注冊。

另外，根據(jù)《民法典》規(guī)定，對自然人聲音的保護參照適用肖像權保護規(guī)定，以防止聲音被混淆、濫用、冒用、不正當使用，損害聲音主體的合法權利。

是否起訴“AI孫燕姿”的制作者，需要孫燕姿自行決定，截止到目前，孫燕姿尚未在其個人微博上做出回應。

AI歌手可能侵犯相關各方的權利，除此之外，用AI生成人聲，可能還會為社會帶來其他更嚴重的法律和倫理問題。

圖源：Pexels

隨著通信技術的進步，電信詐騙成為了各個國家都要面臨的問題。過去的電信詐騙多半是通過文字信息偽裝成熟人，或通過電話偽裝成各個機構的工作人員進行詐騙，但在AI聲音模型技術輔助下，騙子可以很輕易地模仿熟人聲音進行詐騙。

在國外，已經(jīng)發(fā)生了AI語音詐騙的案例。據(jù)報道，4月初，加拿大有犯罪分子利用AI技術行騙，他們合成了受害者親人的聲音模型，實施電話詐騙，在3天內(nèi)騙了8名老年人。受害者表示，騙子使用的聲音和親人一模一樣，難以分辨。

得到語音素材并不難，詐騙者既可以通過黑客手段、非法購買信息等渠道獲得素材，也可以通過不斷撥打騷擾電話，以“廣撒網(wǎng)”的方法獲得語音素材，經(jīng)過AI訓練和后期處理后，制作成足以亂真的語音信息。

除此之外，AI語音的侵權使用可能還會造成倫理問題。例如，如果有人收集網(wǎng)紅、主播的聲音進行AI訓練，用于提供軟色情服務，既違反法律，也會對當事人的名譽、心理造成傷害。

4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《生成式人工智能服務管理辦法（征求意見稿）》，有法律學者認為，這是對人工智能進行管理的良好開端，但在未來，仍然需要制定更詳細的規(guī)定，對使用人工智能的各個主體進行更加明確的責任認定，對提供模型的服務商、內(nèi)容生產(chǎn)者和發(fā)布者進行責任區(qū)分。

文娛產(chǎn)業(yè)創(chuàng)作者開始反擊

對人工智能的未來感到擔憂的，不只是法律界學者，還有各類文化工作者——AI在文化領域的應用，可能會讓他們的工作岌岌可危。

前段時間，聊天機器人模型ChatGPT走紅，它的本質(zhì)是一種大型預訓練語言模型，可以和人類通過人機對話的形式溝通。

在各個社交平臺上，網(wǎng)友們紛紛曬出自己與ChatGPT的對話，它可以檢索信息、生成文案，一些網(wǎng)友也表達了對ChatGPT的擔憂：它可以讓寫作效率更高，在未來，這可能導致相當一部分靠“碼字”吃飯的記者、編劇、作家甚至社會科學研究人員失業(yè)。

除了文字工作者，插畫師、視頻制作者、教師也擔心自己的“飯碗”被AI搶走。人類剪輯一條視頻、繪制一張畫可能需要幾個小時的時間，但AI只需幾分鐘就可以完成。

目前，ChatGPT可能并不會和人類“搶飯碗”，因為AI的力量還不夠強大。

一位研究歷史、藝術的工作者告訴價值星球，在試用了ChatGPT之后，他“松了一口氣”，因為ChatGPT在專業(yè)領域獲得的訓練材料還比較少。當他試圖讓ChatGPT寫一段關于昆曲的文字，他發(fā)現(xiàn)ChatGPT缺乏基本常識。

另一位用AI生成畫像的網(wǎng)友則發(fā)現(xiàn)，在他提供給AI的幾張素材中，只有一張自拍合照被生成了勉強能看出長相的繪畫，“但是人臉閃爍著奇怪的星形光芒，眼鏡框也扭曲了，看起來十分恐怖。”而其他照片生成的圖片則更加詭異，風景變成了扭曲的色塊，人像則全部變成了二次元風格的“紙片人”。

不過，隨著訓練素材的增加，以及人工智能技術的發(fā)展，未來AI確實可能對各行各業(yè)造成威脅：只要添加的訓練素材足夠多，AI的“學習能力”更強，它就可以生成更加精美、更加準確的作品。

而且，很多文字、藝術工作者創(chuàng)作的作品版權并不屬于自己，而是屬于公司。在公司面前，個人的力量過于渺小，一旦公司把作品用作訓練素材，作者很難采取有效的措施通過法律維護權益。

面對這種可能出現(xiàn)的威脅，美國好萊塢的編劇們已經(jīng)坐不住了。5月2日，美國編劇協(xié)會（WGA）與電影制作、流媒體公司談判破裂后宣布罷工，除了呼吁提高薪資待遇，他們還要求限制人工智能的使用，例如不允許公司將編劇的原創(chuàng)作品提供給AI進行訓練，不承認AI作品的原創(chuàng)定義。此前，在談判中，WGA要求制片公司“確保編劇不被強迫改寫AI創(chuàng)作的劇本”。

圖源：Pexels

WGA的罷工隊伍經(jīng)過迪士尼、華納、Netflix等大型制片公司和流媒體公司的門口，他們手中的牌子印有“WRITERS GUILD ON STRIKE（編劇協(xié)會正在罷工）”的統(tǒng)一標語，以及編劇們手寫的口號。

有人打出“AI沒有靈魂”的標語，有人打出“用AI代替高管”，希望把矛盾轉(zhuǎn)移到更高薪的其他行業(yè)；還有人幽默地吐槽ChatGPT寫作能力較差：“我讓ChatGPT寫一個標語，但它的表現(xiàn)很爛。”

目前，沒人可以預測這次罷工會持續(xù)多久。

在這一次罷工之前，美國編劇已經(jīng)十幾年沒有發(fā)生過大罷工了。上一次罷工發(fā)生在2007年到2008年之間，持續(xù)了100多天，導致美國電影業(yè)損失高達20億美元，2008年電影電視金球獎頒獎典禮被迫取消，只公布了獲獎名單。

WGA宣布，在達成協(xié)議之前，任何WGA成員都放棄收入，并不會再撰寫新的劇本。這意味著，如果無法就編劇報酬和人工智能兩個問題達成協(xié)議，好萊塢影視行業(yè)目前600部作品或?qū)⑹艿接绊懀?萬名員工有可能停工、失業(yè)，損失高達810億美元。

最近一段時間，谷歌、百度、騰訊、華為等國內(nèi)外大廠已經(jīng)開始競相布局AI，2023年或許成為真正意義上的“人工智能元年”，而各行各業(yè)對AI技術的擔憂也越發(fā)嚴重，擔心AI成為一個“潘多拉魔盒”，打開它將造成人類無法預測的后果。

許多專家認為，AI并不會真正取代人類的工作，它只是人類工作的輔助者，幫助承擔較為初級的工作，例如屬于簡單重復勞動的校對、生成文字、剪輯視頻、繪畫等，但真正的創(chuàng)意是無法被AI取代的。以編劇行業(yè)為例，AI可以寫出通順的文字，但很難通過對社會的深入觀察產(chǎn)生創(chuàng)作靈感，寫出一個有新意或發(fā)人深省的故事。

然而，任何領域都遵循“二八定律”，能夠站在成功的巔峰、獲得較高收入的，永遠是少數(shù)人，大多數(shù)人都在從事重復的勞動。

編劇的常態(tài)是為已經(jīng)設計好的大綱撰寫分場劇本，插畫師的常態(tài)是按照甲方的需求畫出他們想要的圖片，教師的常態(tài)是講解基礎知識……如果AI足夠強大，并取代大部分基礎工作，仍然會造成相當嚴重的失業(yè)。

《未來簡史》作者尤瓦爾·赫拉利在書中提出了“無用階級”這個新概念，他認為，隨著生物工程、人工智能等技術的革新，未來99%的人都將淪為“無用的人”，他們做的工作無法超過計算機和人工智能。

在一次采訪中，赫拉利對大型公司收集用戶數(shù)據(jù)、發(fā)展人工智能的未來表達了擔憂：“（如果）只有少數(shù)精英擁有了數(shù)據(jù)、權利，而大多數(shù)人卻沒有，那些擁有了數(shù)據(jù)的人，可能比你自己更了解你，他可以預測你的行為和決策，操控你的選擇和想法，為你做決定。”

因此，赫拉利呼吁，要讓大多數(shù)人能從新技術中獲益，而不只是少數(shù)精英。

技術的更新，往往會超過很多人的學習能力。在智能手機的浪潮中，我們已經(jīng)看到很多老年人不會使用智能手機，淪為“技術難民”，而比起智能手機，AI波及的人群可能更加廣泛，影響也更加深遠。

解決新技術帶來的法律問題，乃至社會和倫理問題，已經(jīng)迫在眉睫。如果等到AI已侵入每個人的日常生活再做出反應，可能為時過晚。面對這種可能顛覆人類生活的技術，態(tài)度無論如何謹慎也不算過分。

參考資料：

[1]《“AI孫燕姿”終于對人工智能下手了，律師說問題很大》，澎湃新聞

[2]《“AI孫燕姿”成頂流，一場法律與倫理大考》，新京報

[3]《直擊罷工中的好萊塢：萬余編劇拒絕給AI打工，為加薪而戰(zhàn)》，澎湃新聞