MediaPipe4U 简介

MediaPipe4U 是一个 UnrealEngine 插件,将众多复杂技术融合到 Unreal Engine , 提供一站式的数字人开发解决方案。

你需要知道

虽然你可以免费获的授权文件,但是 MediaPipe4U 并不是免费软件。

  • 我不会对使用免费授权文件的用户做出任何承诺。包括提供免费的授权文件,将来或许也会改变。

MediaPipe4U 插件中包含一个带有有效期的授权文件。通常,这个授权文件会在 30 天后过期(从新版发布的日期开始)。

  • 换句话说,每 30 天必须更新插件版本(也可以下载新版插件,从新版的插件中找到授权文件,覆盖你正在使用的授权文件)。

关于授权许可的详细信息,请看这里

功能

  • 动作捕捉
    • 身体运动捕捉
    • 手指运动捕捉
    • 位移捕捉
    • 3D 模型驱动
    • 实时驱动
    • 支持普通摄像头
    • ControlRig 支持
  • 表情捕捉
    • 面部表情
    • Arkit Blendshape 兼容 (52 个表情)
    • Live link 兼容
    • 实时驱动
    • 支持普通摄像头
  • 多捕捉源
    • 普通摄像头
    • 视频文件
    • 图片
    • 流媒体 (RTMP/SMTP)
    • 安卓设备(手机、平板) (M4U Remoting)
  • 大语言模型(LLM)
    • 离线部署和推理
    • CPU/GPU 推理
    • 多模型支持
      • LLaMA/LLaMA2
      • ChatGLM (开发中…)
  • 语音合成(TTS)
    • 离线合成
    • 实时合成
    • 3D 模型口型同步
    • 多模型支持
      • PaddleSpeech: 中文、英文
      • Bart: 13 种语言
  • 语音识别(ASR)
    • 离线识别
    • 实时识别
    • 多模型支持
      • FunASR: 中文
      • Whisper: 99 种语言
  • 动画导出
    • BVH 数据导出
  • 纯插件
    • 无需外部程序
    • Unreal Engine 中完成一切

视频教程

动作和表情捕捉(Metahuman)

Youtube (For English)

MediaPipeU Metahuman Tutorials

bilibili (中文)

bilibili

UnrealEngine 5.4 Demo 工程

https://gitlab.com/endink/MediaPipe4U-Demo