听到的未必为真？AI声音克隆来袭
继6月AI孙燕姿、7月AI写真之后，近日AI声音引爆网络。在AI技术克隆声音网站MyVocal.AI上，用户不仅可以克隆自己的声音，还能在网站上利用克隆的声音输出唱歌的音乐和流利口播。现在，不止AI孙燕姿可以翻唱周杰伦的歌曲，所有人都可以借助技术平台克隆自己的声音。
虽然该网站还不支持克隆中文音色，在免费模式下仅支持英语，付费模式则在英语基础上增加了德语、西班牙语、葡萄牙语的选项，但是依然不能阻挡眼下人们对它的关注。在登录该网站后，网站页面显示有25个声音样本等待采集。在依次点击声音样本并朗读样本中所示的语句后，网站就可以自动进行声音克隆。网站还支持将AI语音同步到网站自带的语音模板，生成歌曲、口播语音等各种用户想要的内容。操作方式也非常直接，在网站上选择自己想唱的歌曲，随后点击同步我的声音，系统就可以自动生成一份由用户演唱的音乐作品。
目前，该网站把服务分为多个不同标准，主要对每位玩家的文字转语音数量有所限制，有免费、每月10美元和每月30美元三个档次。免费玩家每月可享受2000个TTS（字符转语音服务），每次生成的语音限制在500个字符以内。如果是每月10元的标准玩家，每月则可以拥有50000个TTS使用空间，每次限制1000个字符。如果是每月30元的玩家，每月就拥有120000个TTS使用空间，单次容量也进一步扩大到1500个字符。
AI声音克隆明星，让翻唱变得很简单
在MyVocal.AI走红之前，AI克隆明星音色对其他歌手作品进行翻唱的视频就已走红网络。在B站搜索关键词AI孙燕姿，就能发现用户使用AI软件让AI孙燕姿翻唱张学友、莫文蔚、张震岳等一大批明星代表作的视频。一位B站用户整理的合集显示，AI孙燕姿已经翻唱了100首来自不同歌手的作品。随机点开了几个视频，发现视频中AI孙燕姿的音色和真实的孙燕姿音色极其相似，除了在翻唱个别极具个人特色歌手的作品时AI孙燕姿会明显存在原唱歌手的风格以外，其他作品中AI孙燕姿的音色难辨真假。
在该关键词下发现，播放量排名第一的《发如雪cover周杰伦》，播放量达到275万，评论数也超过了3400个，更有网友笑称2003年大火的歌手是孙燕姿，2023年大火的是AI孙燕姿。
除了AI孙燕姿，网络上还流传有AI周杰伦AI王菲AI林俊杰等克隆其他歌手音色进行翻唱的作品。还有在网络上教学如何训练AI克隆他人音色的视频，也受到了很多用户的收藏和关注。
AI声音法律空白，使用还需提高警惕
当想就AI音色相关问题进一步咨询网站运营公司时，却发现该网站存在一定的猫腻。这个落户在境外的能够AI克隆声音的网站，在其网页上却没有留下任何联系方式，甚至没有关于公司地址和所属地的相关信息。也就是一旦用户充值后服务不兑现，连找谁要钱，向谁投诉都不知道。这些问题无疑给这场狂欢蒙上了一层阴影。如果该有人将收集到的个人音色，在未经本人许可的情况下用作非法目的，后果将不堪设想。虽然在网站的隐私政策显示，该公司要求上传者必须是声音本人，承诺所有的服务都将加密传输，但这些还并不足以完全避免有心之人将收集到的音色在加工后用于其他用途。
这并不是杞人忧天。今年以来，我国公安就通报了多起通过伪造他人声音进行诈骗的案例。例如今年6月，江苏省一名女子接到了自称是其哥哥打来的借款电话。女子信以为真，情绪激动，最终在民警的劝阻下，该女子才挂断骗子电话并成功联系上自己真正的哥哥，并明白自己受到了AI声音诈骗。
与传统诈骗方式相比，通过AI拟声、换脸伪装成受害人家属进行诈骗更容易使受害人信以为真。而同样面对AI拟声带来的问题的，也包括火爆全网的AI孙燕姿原型孙燕姿。不过她面对的问题又和大众有些不同。
孙燕姿曾在MAKE MUSIC网站上发表过对AI歌手的看法：讽刺的是，人类再怎么快也无法超越它。作为专业歌手，个人音色是辨识歌手身份的重要一环，也是专业歌手在歌曲版权之外的另一条护城河。然而， AI歌手的出现很快将这条护城河抹平，虚拟歌手和现实歌手之间的界限也变得模糊不清。
虽然孙燕姿经纪团队目前透露暂无针对相关AI音色作品的维权计划，但事实上就算孙燕姿及其经纪团队，想针对克隆其音色的AI作品进行维权，也并不是那么容易的。当前我国在克隆AI音色领域的法律几乎空白，仅有一份2023年7月由国家互联网信息办公室发布的《生成式人工智能服务管理暂行办法》。办法中明确，对于生成式人工智能产品，提供者应当对生成的图片、视频等内容进行标识。可是对于AI拟声该如何保护，办法中却没有明确提及，只是笼统规定在发现侵害相关权利时应当采取措施，停止生成，防止危害持续。
眼下AI技术的快速迭代，正在法律和技术之间制造空白。归根到底，法律还亟需对不同主体进行更加明晰的责任认定，尤其是对于采集和AI内容生成、发布的各个阶段。只有更明确地规定和限制AI用途，才能降低人们当前对AI技术与日俱增的担忧。
南方+ 徐勉 实习生 杨博文
【作者】 徐勉
科技能见度
