爱AI工具库,国内AIGC产品探索者分享平台
注册
当前位置:首页

语音克隆技术引发担忧,OpenAI 再次解释其文本转语音工具

爱AI工具库 2024-06-10
6

6 月 10 日,OpenAI 在几个月内第二次就其文本转语音工具进行解释,并再次强调该工具目前并未大范围开放,且未来也可能不会。图源 Pexels“无论我们最终是否会大规模部署这项技术,让世界各地的人们理解这项技术的发展方向都非常重要,”OpenAI 公司周五在其网站上发布的一份声明中表示,“这就是为什么我们想要解释模型的运作方式、我们如何将其用于研究和教育,以及我们如何围绕该技术实施安全措施的原因。”据IT之家了解,去年年底,OpenAI 与一小部分外部用户分享了其“语音引擎”。该引擎利用文本输入和 15 秒的人声音频剪辑,即可“生成听起来自然的人声,并与原始说话人非常相似”。该工具可以创建以假乱真的多语言人物声音,当时该公司表示他们选择预览这项技术而非大规模发布,是为了“增强社会抵御能力”,以应对“越来越逼真的人工智能生成模型”带来的威胁。作为这些努力的一部分,OpenAI 表示他们正在积极淘汰使用语音识别进行银行账户验证的方式,探索保护个人声音在人工智能中使用的政策,教育公众有关人工智能的风险,并加快开发跟踪视听内容的技术,以便用户识别他们是在与真人还是合成内容进行互动。然而,尽管做出了上述努力,人们对这项技术的担忧仍然存在。美国总统拜登的人工智能负责人布鲁斯・里德 (Bruce Reed) 曾表示,声音克隆技术是他夜不能寐的原因之一。美国联邦贸易委员会 (Federal Trade Commission) 今年 3 月表示,诈骗分子正在利用人工智能技术来提高他们欺诈行为的可信度,他们使用声音克隆工具,使得人们更难区分人工智能生成的声音和人类的声音。OpenAI 在周五更新的声明中试图缓解这些担忧,“我们继续与来自政府、媒体、娱乐、教育、民间社会等领域的美国和国际合作伙伴接触,以确保我们在构建过程中纳入他们的反馈。”该公司还指出,一旦“语音引擎”配备了其最新模型 GPT-4o,它也将带来新的威胁。该公司表示,他们内部正在积极地“对 GPT-4o 进行‘红队测试’,以识别和解决来自社会心理学、偏见和公平以及错误信息等领域的已知和未知风险。”

来源:IT之家

相关推荐

暂无数据

评论 ( 0 )

aiaitool@163.com

扫一扫,备注来意

qrcode

回顶部