【资料图】
人形机器人在学习真实的嘴唇动作。图片来源:美国哥伦比亚大学
科技日报北京1月19日电 (记者张梦然)美国哥伦比亚大学科学家设计出一种新型框架,使人形机器人面部能够根据音频生成逼真的唇部动作,实现与人类语音的同步。该技术还展示了较强的泛化能力,可推广至包括法语、汉语和阿拉伯语在内的多种语言,即使这些语言并未出现在训练数据中。研究团队在发表于最新一期《科学·机器人学》上的论文中指出,这一进展是朝着构建不仅能执行功能,还能进行人性化交流的机器人迈出的重要一步。
在对话中,如果机器人的唇部动作与声音不匹配,会显得呆板且不自然。然而,现有机器人普遍缺乏执行精细口部动作的灵活性,能实时将语音转化为自然唇部运动指令的技术也寥寥无几。
研究团队在2024年曾发表研究,描述了一种人形机器人面部可以预测人类的微笑并同时再现该表情。在此基础上,为更加精细化唇部与声音的匹配,团队设计了一套学习流程:首先采集机器人唇部运动的视觉数据,用于训练模型并生成运动参考点;随后通过一个名为“面部动作转换器”的模块产生运动指令,使机器人的唇部能够流畅配合不同词语。他们还专门研制了一种人形机器人面部结构,采用柔软硅胶皮肤,配合磁性连接器,具备10个自由度,可驱动复杂的唇部运动。其唇部结构能形成覆盖24个辅音和16个元音的各种口型。
在验证过程中,团队借助ChatGPT生成测试语句,并合成了具有理想唇部动作的视频作为对比基准。结果表明,该方法在5种比较方案中表现最优,其生成的唇部动作与理想视频差异最小。此外,该框架还能为11种不同语音结构的非英语语言生成自然的唇部同步效果。
研究团队推测,这类人形机器人在教育、老年护理等领域具有应用潜力。但他们也强调,未来的设计工作需格外谨慎,以防止技术被滥用。
【总编辑圈点】
现在,AI让虚拟人物动嘴说话已经“不在话下”,然而让机器人做到这点还相当困难。大多数机器人“说话”时并不动嘴,即使动嘴,也只是象征性一张一合。这次,科研人员试图让机器人拥有人类一般细腻、精准的唇部动作,教它们通过合成视频以“照镜子”的方式学习;还开发了硅胶皮肤,设计了面部机械系统。结果表明,机器人可以“学会”多种语言的唇部动作。不过,研究也不禁让人思考,当机器人真的开口说话,“恐怖谷效应”是会加重还是减轻?
凡本网注明“XXX(非中国微山网)提供”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和其真实性负责。
清理规范城镇供水供电供气供暖行业收费意见三月起施行水电气暖四十余项不合理收费将取消初春的大地,乍暖还寒。每天的开销看似不大,但一样
2021-02-22 15:22
还记得沸沸扬扬的退出家长群新闻吗?这几年来,批改作业已成为越来越多家长的痛。为了给家长减负,多地陆续出台规定,明确要求教师亲自批改
2021-02-22 15:24
ok镜在感冒期间是不能佩戴的,很容易引起眼部不适,还会影响视力恢复,降低塑形效果,这个时候一般都需要停戴一个星期左右的时间,等感冒好
2022-03-28 12:47
大学被退学能考研吗是很多人好奇的,毕竟大学作为你步入社会前的一个垫脚石,很多人觉得上了大学就没什么事情了,但是吧如果你严重违反了纪律
2022-03-28 12:57
2020年10月17日,上海野生动物园一名工作人员在猛兽区实施作业时,遭到棕熊攻击不幸身亡。日前,这一事件调查结果公布,9名相关责任人被处
2021-02-22 15:25
受冷空气影响,昨天(2月21日)夜间开始,北京告别了白天的假夏天模式,大风降温齐上线。今天,冷空气带来的影响会更加明显,预计白天的最高
2021-02-22 15:29
为何这些从业门槛较低的岗位总缺人?阅读提示营销员、保洁员、餐厅服务员等从业门槛较低的工种之所以持续招工难,专业人士认为,一方面是受
2021-02-22 15:29
从疫情爆发至今已有超过一年的时间,人们已经习惯戴上口罩。在口罩的掩护下,就算是最精致的丽人们,也减少了使用口红的频率。红星资本局从
2021-02-22 15:51
原标题:教育部发布预警: 高校招生录取期间谨防诈骗 勿信不实传言据教育部网站消息,2021年普通高校招生录取工作即将开始,一些不法分子
2021-07-08 17:25
赟是一个汉字,读音yūn,作人名时亦为yún,常用意思美好,大等美好。该字因其由文、武、贝三字组成,古代‘贝’指&lsquo
2020-12-16 15:12