近日，一段美國女歌手“說”中文的短視頻在網(wǎng)絡(luò)刷屏，引發(fā)熱議。

??視頻中，這位女歌手“說”著流利中文，音色和講母語時的音色類似，甚至連口型都能對上。

??類似的視頻還有很多外國人“說”地道中文、很多中國藝人“說”起流利的英文……不少網(wǎng)友感嘆，“嘴型、手勢都對得上，太自然了，差點兒以為是真的。”“除了嘴形，還有身體動作和語速的配合。”

??其實，這些視頻有一個共同點：都是由AI（人工智能）生成的。

??AI“翻譯”以假亂真

??小編試用了一款A(yù)I人像視頻工具，只需上傳視頻，選擇語言，就能生成自動翻譯、音色調(diào)整、嘴型匹配的新視頻。

??對比原片，AI“翻譯”后重新配音的新視頻不僅進(jìn)行了較準(zhǔn)確翻譯，而且連聲線和情緒都近乎擬真，嘴型很貼合，難辨真假。

??對此，有網(wǎng)友表示，這種技術(shù)看起來很炫酷，應(yīng)用場景很廣泛，未來可能會越來越成熟，比如翻譯配音會更自然、傳神。

??但也有網(wǎng)友表示擔(dān)憂，“這會不會被用來模仿聲音進(jìn)行詐騙？”“再加上換臉，以后網(wǎng)上啥都不能信了。”“以后視頻造假會越來越容易。”

??還有網(wǎng)友表示，“希望AI技術(shù)發(fā)展能被控制在正軌，技術(shù)濫用，就是災(zāi)難。”

??AI技術(shù)是把“雙刃劍”

??近年來，AI技術(shù)被廣泛應(yīng)用于短視頻的二次創(chuàng)作，比如AI換臉及換聲等。可以說，AI技術(shù)是把“雙刃劍”。

??一方面，AI換臉及換聲技術(shù)對于工作效率的提高具有非常強(qiáng)的作用。清華大學(xué)新聞與傳播學(xué)院教授司若舉例說，AI換臉及換聲技術(shù)讓已故的演員、歷史人物可以通過換臉技術(shù)重現(xiàn)在屏幕上，在不同國家的語言轉(zhuǎn)譯上也可以通過AI的換聲技術(shù)進(jìn)行實時轉(zhuǎn)譯。

??另一方面，近年來，有不法分子為了牟利，利用AI技術(shù)進(jìn)行詐騙。比如利用AI換臉冒充熟人詐騙，甚至將“魔爪”伸向兒童，或者制作發(fā)布假新聞混淆視聽、賺取流量等。

??此外，AI換臉、AI換聲還存在法律風(fēng)險。近期，不少相聲演員“說”英文相聲、小品演員“演”英文小品的視頻在網(wǎng)絡(luò)上傳播。對此，北京岳成律師事務(wù)所高級合伙人岳屾山律師表示，用AI技術(shù)為他人更換聲音、做“翻譯”并發(fā)布視頻，可能涉嫌侵權(quán)，主要有三個方面：

??一是著作權(quán)，例如相聲、小品等都屬于《中華人民共和國著作權(quán)法》保護(hù)的“作品”。網(wǎng)友用AI軟件將相聲、小品等“翻譯”成其他語言，需經(jīng)過著作權(quán)人授權(quán)，否則就存在侵權(quán)問題。

??二是肖像權(quán)，根據(jù)《中華人民共和國民法典》，任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。網(wǎng)友用他人形象制作視頻，并在網(wǎng)站發(fā)布，需要取得肖像權(quán)人的同意，否則涉嫌侵權(quán)。

??三是聲音權(quán)，根據(jù)《中華人民共和國民法典》規(guī)定，對自然人聲音的保護(hù)，參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定。也就是說，需要取得聲音權(quán)人的同意，才能夠使用他人的聲音。

??岳屾山律師強(qiáng)調(diào)，技術(shù)濫用，可能會侵犯他人權(quán)益，“AI技術(shù)本身不是問題，關(guān)鍵是我們要怎么用它。”

??如何對AI技術(shù)加強(qiáng)監(jiān)管？

??AI技術(shù)發(fā)展，需要多層面約束規(guī)范——

??在源頭端，需要進(jìn)一步加強(qiáng)公民個人信息保護(hù)。專家建議，加強(qiáng)公民信息尤其是生物特征等隱私信息的技術(shù)、司法保護(hù)力度。

??在技術(shù)層面，數(shù)字水印鑒偽等技術(shù)有待進(jìn)一步普及利用。比如AI生成的視頻需帶有不可消除的“AI生成”水印字樣。

??在法律制度層面，進(jìn)一步完善人工智能等領(lǐng)域相關(guān)法律法規(guī)。今年8月15日，《生成式人工智能服務(wù)管理暫行辦法》正式施行。《辦法》規(guī)定，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個人信息權(quán)益。
?

??中國科學(xué)技術(shù)大學(xué)公共事務(wù)學(xué)院、網(wǎng)絡(luò)空間安全學(xué)院教授左曉棟表示，總體而言，生成式人工智能仍處于發(fā)展的初期階段，風(fēng)險沒有完全暴露，應(yīng)用前景難以估量，所以應(yīng)當(dāng)采取包容審慎的態(tài)度，堅持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合，要采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展。

??據(jù)了解，目前我國人工智能產(chǎn)業(yè)蓬勃發(fā)展，核心產(chǎn)業(yè)規(guī)模達(dá)到5000億元，企業(yè)數(shù)量超過4300家。隨著各項措施規(guī)范出臺，我們期待未來人工智能發(fā)展更加健康規(guī)范，從多方面助力人們的工作和生活。