原标题：“耳听”也未必为真！给AI换声套上“紧箍”

来源：人民日报海外版

原标题：给AI换声套上“紧箍”（社会杂谈）

从假冒名人直播带货，到模仿亲友声音实施诈骗，再到未经授权制作“AI配音”短视频，随着AI换声技术门槛不断降低，声音正成为一种可以被低成本复制、加工和传播的数字信息。如果说过去人们担心的是“眼见未必为实”，那么今天更值得警惕的是，“耳听”也未必为真。

长期以来，声音具有一定的身份识别功能。一个人的音色、语速、语调和表达方式，往往构成具有个人特征的声音印记。电话那头一句“是我”，家人便能辨认；新闻节目里一句开场白，观众便知道是谁在播报。然而，AI换声技术几乎可以抹平这种辨识度：喂给AI几段音频，就能够训练出一个高度相似的声音模型。借助部分语音样本，一些AI工具便可以生成与本人音色较为相似的声音；随着技术发展，所需样本不断缩短，部分工具还能模拟一定的语气和情绪。

更值得关注的是，AI换声改变的不只是造假的方法，还有公众判断真实性的方式。过去，要判断一段视频是真是假，人们还能观察画面是否存在拼接痕迹；对于图片是否经过处理，人们也能借助各种工具进行辨别；而声音的真实性却更难验证。它没有明显的视觉破绽，真实性往往更难凭直觉判断。当技术越来越成熟，人耳能够识别的差异越来越小，公众只能不断提高警惕：听到熟人的声音，要先想想是不是AI；听到名人的发言，要先进行核实；甚至接到家人的电话，也要反复确认身份。

这种变化看似只是多了一层防范意识，实际上意味着社会信任成本的上升。原本一句话能够建立的信任，如今需要视频验证、身份核验甚至多方确认才能完成。技术让“复制”变得越来越容易，却让“相信”变得越来越困难。

技术能否造福大众，依靠掌握技术的人。AI换声可以帮助失语患者重建声音，为影视制作降低成本，也能够促进数字人、智能客服等新业态的发展。技术不断刷新能力边界，但责任落实、侵权识别和权益救济仍有需要补强之处，这给一些不规范应用留下了空间。

治理AI换声，要给规范技术应用套上“紧箍”。

对于技术开发者来说，声音克隆不应是“打开软件就能实现”的默认功能，而应建立更加严格的身份验证和授权机制；对于平台而言，应严格落实相关要求，让显式标识便于识别，让内容来源能够追溯；对于监管部门来说，也需要进一步细化声音权益保护规则，提高侵权成本，斩断利益链条，让违法者为“借声生利”“借声造谣”付出应有代价。

与此同时，公众也需要重新建立数字时代的媒介素养。听见熟悉的声音，并不意味着说话的人就在电话另一端；看见逼真的视频、图片，也不一定能证明事情真的发生过。在技术不断突破感官边界的今天，保持必要的核实意识，已经成为每个互联网用户的必修课。一旦发现自己的声音被冒用、篡改或未经授权传播，更应及时固定证据，通过法律途径维护自身合法权益。

AI不断刷新技术边界，人类更需要守住信任边界。对于AI换声，既不能因噎废食，也不能放任自流。近年来，围绕声音权益保护的法律规则不断完善，民法典、个人信息保护法等为依法维权提供了依据，AI声音侵权案件的司法实践也在持续推进，只有让技术创新与规则建设同步推进，让开发者、平台、监管部门和公众共同守护数字时代的“声音秩序”，才能让AI真正成为赋能社会的工具。

想爆料？请登录《阳光连线》、拨打新闻热线0531-66661234或96678，或登录齐鲁网官方微博提供新闻线索。齐鲁网广告热线0531-81695052，诚邀合作伙伴。