[发明专利]联合音频视频面部动画系统在审
申请号: | 201880069766.1 | 申请日: | 2018-10-26 |
公开(公告)号: | CN111279413A | 公开(公告)日: | 2020-06-12 |
发明(设计)人: | 曹晨;陈欣;W·楚;薛泽浩 | 申请(专利权)人: | 斯纳普公司 |
主分类号: | G10L21/003 | 分类号: | G10L21/003;G10L21/055;G10L15/183 |
代理公司: | 北京市中咨律师事务所 11247 | 代理人: | 宛丽宏;杨晓光 |
地址: | 美国加利*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 联合 音频视频 面部 动画 系统 | ||
1.一种方法,包括:
在客户端设备处接收音频数据和视频数据;
基于所述视频数据确定面部界标集合的位置;
基于所述面部界标集合的位置生成第一面部模型;
基于所述音频数据生成第二面部模型;
基于所述第一面部模型和所述第二面部模型构建复合面部模型;以及
导致在所述客户端设备处显示所述复合面部模型。
2.根据权利要求1所述的方法,其中,在所述客户端设备处接收音频数据和视频数据还包括:
在所述客户端设备处接收视频,其中,所述视频包括所述音频数据和所述视频数据;以及
从所述视频中提取所述音频数据和所述视频数据。
3.如权利要求1所述的方法,其特征在于,所述客户端设备是第一客户端设备,并且导致显示所述复合面部模型包括:
生成包含所述复合面部模型的消息;以及
导致在第二客户端设备处显示消息的呈现,所述消息的呈现包括所述复合面部模型。
4.根据权利要求1所述的方法,其中,所述音频数据包括语音信号,并且基于所述音频数据生成所述第二面部模型还包括:
确定所述语音信号的音素序列;以及
基于所述音素序列生成所述第二面部模型。
5.根据权利要求1所述的方法,其中,所述方法还包括:
基于来自所述视频数据的面部界标集合的位置来识别用户;
从所述用户的用户简档中检索显示规范;以及
其中,基于所述第一面部模型、所述第二面部模型和所述显示规范构建所述复合面部模型。
6.根据权利要求1所述的方法,其中,基于所述第一面部模型和所述第二面部模型构建所述复合面部模型是实时发生的。
7.根据权利要求1所述的方法,其中,所述位置是第一位置集合,所述视频数据包括视频帧集合,并且所述方法还包括:
检测实时数据中的丢失;
响应于检测到所述实时数据中的丢失,解析所述视频数据以从所述视频帧集合中识别第一帧;
确定在所述视频数据的第一帧内所述面部界标集合的第二位置集合;以及
基于所述面部界标集合的第二位置集合来改变所述复合面部模型。
8.一种系统,包括:
存储器;以及
至少一个硬件处理器,其耦合到所述存储器并包括使所述系统执行操作的指令,所述操作包括:
在客户端设备处接收音频数据和视频数据;
基于所述视频数据确定面部界标集合的位置;
基于所述面部界标集合的位置生成第一面部模型;
基于所述音频数据生成第二面部模型;
基于所述第一面部模型和所述第二面部模型构建复合面部模型;以及
导致在所述客户端设备处显示所述复合面部模型。
9.根据权利要求8所述的系统,其中,在所述客户端设备处接收所述音频数据和所述视频数据,还包括:
在所述客户端设备处接收视频,其中,所述视频包括所述音频数据和所述视频数据;以及
从所述视频中提取所述音频数据和所述视频数据。
10.根据权利要求8所述的系统,其中,所述客户端设备是第一客户端设备,并且导致显示所述合成面部模型包括:
生成包含所述复合面部模型的消息;以及
导致在第二客户端设备处显示所述消息的呈现,所述消息的呈现包含所述复合面部模型。
11.根据权利要求8所述的系统,其中,所述音频数据包括语音信号,并且基于所述音频数据生成所述第二面部模型还包括:
确定所述语音信号的音素序列;以及
基于所述音素序列生成所述第二面部模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于斯纳普公司,未经斯纳普公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201880069766.1/1.html,转载请声明来源钻瓜专利网。