如何将经同意的语音克隆制作成个性化？

在这篇博客文章中，我们介绍了“语音同意验证机制 (voice consent gate)”的概念，支持通过明确同意来进行语音克隆。我们还提供了一个 示例 Space 应用 和 相关代码，帮助大家快速上手这一想法。 近年来，逼真的语音生成技术已经达到了令人惊讶的水平。在某些情况下，生成出来的合成语音几乎能以假乱真，和真人的声音非常相似。如今，曾经只存在于科幻小说中的“语音克隆”已经成为现实。只需要几秒钟的录音，就能让任何人的声音“说出”任何内容。 语音生成，尤其是语音克隆技术，既有风险也有益处。它可能被用于制作“深度伪造”内容，例如 有人用前总统 Biden 的克隆语音进行自动电话宣传，误导公众以为他说过其实并未说的话。但与此同时，语音克隆也可以带来积极作用，比如 帮助失语者 重新用自己的声音表达，或者辅助人们学习语言和方言。 那么，我们该如何实现“有意义的使用”而不是“恶意的滥用”？我们正在探索一种可能的答案：引入一个语音同意验证机制 (voice consent gate)。也就是说，只有当说话人明确表达了同意，语音克隆模型才能使用其声音。换句话说，模型不会擅自“说出”你的声音，除非你亲口同意。 下面是我们对这一想法的基础演示：https://society-ethics-repeatafterme.hf.space 实践中的伦理：将“同意”融入系统基础设施 语音同意门是我们正在尝试的一种基础设施设计，用来把“同意”这样的伦理原则直接嵌入到 AI 系统的工作流程中。在我们的演示中，模型只有在检测到说话人清楚地说出了同意语句之后，才会启动。也就是说，“同意”成为系统运行的前提条件，让原本抽象的伦理原则变成了具体可操作的系统规则，并形成可追溯、可审核的交互记录：AI 模型只会在明确同意之后才运行。 这样的设计不仅适用于语音克隆，更展示了如何从系统层面保障用户的自主权，以及如何将透明和同意变成 可执行的功能，而不仅仅是口头承诺。 技术细节 要构建一个包含语音同意门的基础语音克隆系统，你需要以下三部分： 一种方法，用来生成说话人当前上下文中可用的、表达明确同意的唯一语句。 一个 自动语音识别（ASR）系统，用于识别说话人所说的同意语句。 一个 语音克隆的文本转语音（TTS）系统，可以接收文本和说话人的语音片段来合成新的语音。 我们的发现是： 现在很多语音克隆模型只需要一句话就能模仿说话人的声音，因此这句用于表达“同意”的句子，也可以同时作为语音克隆的输入数据。 实现方法 关于“同意”： 在英语语音克隆系统中创建语音同意门的方式是：为说话人生成一句简短、自然、约20个单词左右的英文语句，让其朗读。这句话要明确表达对当前使用情境的知情同意。我们建议在句中明确包含“同意语句”和“模型名称”，比如：“I give my consent to use the voice cloning model with my voice（我同意使用 <模型名称> 语音克隆模型克隆我的声音）”。同时建议使用 麦克风实时录音，而不是上传音频文件，以防止使用之前录音剪辑过的语音。使用全新（从未说过的）句子也能进一步确保这个“同意”是针对当前情境、主动做出的、知情且明确的同意。 当然，这种设计不是万无一失的。理论上，人们依然可能用其他 TTS 系统来伪造这段“同意”语音。未来的版本可以进一步尝试音频来源验证、说话人嵌入相似度分析、或通过实时录音元数据来提升验证能力。 关于“适合语音克隆的语句”部分： 已有的语音克隆研究表明，用于训练模型的语句需要具备以下几个特点： 音素多样性：语句中应包含多种元音和辅音，确保发音覆盖范围广，参考文献。 语气中性或礼貌：语音应保持自然、平静或友善的语调，参考文献，避免情绪化表达。 录音环境安静，发音自然：尽量避免背景噪音，并在说话人状态舒适时录制。 语音片段要有完整的起止：录音剪辑时不能截断词语，要保留完整的一句话，确保语音首尾清晰。 为了实现这两个目标，在演示中我们使用语言模型自动生成一组句子：一句用于表达明确的同意，另一句则是中性内容，用于增加音素多样性（覆盖不同的元音、辅音和语调）。 每次生成时，系统会随机选择一个日常话题（如天气、美食或音乐），使句子内容丰富多样，也更自然好读，有助于录音清晰、自然，并具备良好的语音质量，同时包含明确的同意声明。 这个句子生成过程是 自动完成 的，而不是预先写好的，确保每位用户都会获得 独一无二 的句子组合，避免文本被重复使用，也确保每次录音都是针对当前会话场景所做出的具体同意。 换句话说，语言模型在每次“同意实例”中都会生成两句全新的句子： 一句表达明确的使用同意， 一句则用于增加语音中的音素多样性。