00:00 / 00:00

Persona

摄像头追踪

适用于Live2DVRM

摄像头追踪源利用连接至运行 Persona 设备的摄像头,捕捉面部表情、手部动作与身体姿态。底层基于 Google MediaPipe 本地运行,无需手机或额外动作捕捉软件,也可与网络追踪源配合使用,例如用手机捕捉面部表情、mocopi 驱动身体姿态、摄像头捕捉手指动作。单个摄像头可同时驱动多个 Live2D 与 VRM 虚拟形象。

配置

  1. 在捕捉面板的摄像头追踪分区中,若尚未安装附加组件,会显示摄像头追踪附加组件提示卡,点击下载即可按需下载安装(约 22 MB;也可在 素材库 的附加组件或下载内容中获取)。安装完成后,开启启用摄像头追踪。首次开启时将自动创建摄像头追踪源,即一张名为 MediaPipe 网络摄像头的配置卡片。
  2. 展开卡片进入设置面板,选择相机设备,并勾选所需启用的追踪任务。
  3. 点击卡片上的面部、身体与手部按钮,分配目标虚拟形象。
  4. 保持自然放松表情,面向正前方站直身姿,点击卡片下方的校准按钮。

在 macOS 系统中,摄像头首次启动时将弹出系统权限授权请求;若此前曾拒绝授权,请参阅 疑难排查。

来源设置

系统仅维护一个全局摄像头追踪源,其启停由启用摄像头追踪总开关控制,卡片内部不设单独开关。该开关独立于启用面部捕捉与启用姿态捕捉(后两者仅作用于网络追踪源)。关闭总开关会完整保留各项任务选项与形象分配;重新开启后将原样恢复,不会影响其他追踪源的通道分配。

设置说明
相机选择使用的摄像头设备。默认摄像头跟随系统默认输入设备;已断开的设备显示为不可用的摄像头
面部捕捉捕捉表情与头部运动。默认开启
手部追踪捕捉 Live2D 手部输入,以及 VRM 形象的手臂与手指骨骼。默认开启
身体追踪适用于VRM 捕捉躯干与腿部运动。默认关闭
镜像追踪默认开启:形象呈镜像对称运动(右手驱动左手)。关闭后左右方向保持一致
处理方式可选 CPU(默认)或 GPU。GPU 处理可提升追踪帧率,但会与虚拟形象渲染共用显卡资源
〈某某〉的手部动作适用于VRM 手部由摄像头驱动的各形象独立选项:可选手臂和手指(默认)或仅手指,详见 VRM

仅已勾选开启的任务会被加载并常驻执行。更换相机设备、切换任务开关或更改处理方式均会触发摄像头重新初始化。

Web 控制台 与 插件 API 共享操作同一个摄像头源、配置任务与形象分配。附加组件下载、相机设备列表、校准与实时预览功能仅在桌面客户端中提供;桌面端尚未安装附加组件时,该追踪源保持 waiting… 状态。

分配形象

网络追踪源卡片只有一个分配虚拟形象按钮,摄像头卡片则提供三个独立的通道分配按钮:面部、身体与手部。三个按钮都会打开多选窗口,其中身体仅列出 VRM 形象。每个虚拟形象的这三个通道各自只能绑定一个追踪源,这让摄像头可以与其他追踪设备分通道协同驱动。

因此,同一个虚拟形象可配置为由 LAPLACE Persona Tracker 提供面部表情、mocopi 驱动身体姿态、摄像头捕捉手指手势。当勾选已由其他追踪源驱动同一通道的形象时,系统会弹出重新分配捕捉确认对话框。关闭某项追踪任务后,分配至该任务的形象对应通道将停止受控,Persona 不会自动回退切换至其他追踪源。

与其他追踪源相同,单个摄像头源可同时驱动多个虚拟形象,所有形象将实时接收同一份捕捉数据。

校准

校准按钮位于卡片下方的状态栏中;已完成校准时,按钮文案将切换为重新校准。仅当摄像头视野内成功检测到面部、手部或身体时,校准按钮才处于可用状态。预览下方的提示指引了校准姿势:面向正前方保持自然放松表情,站直身姿,随后点击校准。

  • 面部:记录当前瞬间的头部朝向与面部肌肉状态作为中性参考系。头部旋转角与俯仰位移均以此为基准,表情形变则以放松状态为零点起算。在完成校准前,系统将以摄像头捕捉到的首帧面部数据作为中性基准。
  • 手部 适用于VRM:校准后当视野中首次出现单手时,系统将记录手部相对摄像头的距离与高度,并以此为比例基准缩放手臂解算范围。
  • 身体:记录身体当前朝向与站立平面,作为全身旋转与位移的世界原点。屈膝状态不会被误判为静止基准姿态。

重新启动摄像头或切换镜像追踪设置均会清除当前的校准基准数据。

预览与帧率

卡片下方的摄像头追踪预览区域会将 MediaPipe 检测到的特征点(眼睛、唇部轮廓、手部骨骼与身体姿态关节点)绘制为线框图;开启镜像追踪时,线框也会同步镜像翻转。为保护隐私,该区域不会显示原始摄像头画面,且在两次计算之间仅保持最新特征点,不会引入补间插值。上方状态栏显示当前追踪源状态,正常运行时还会标明追踪帧率(例如 tracking · 30 FPS)。

追踪帧率统计的是每秒实际完成的算法检测周期,与显示 FPS 计数器展示的舞台渲染帧率彼此独立。Persona 默认向摄像头硬件请求最高 60 fps 的采集流;实际达到的帧率取决于摄像头硬件的真实输出能力、启用的任务数量(各任务在每一帧按流水线依次串行计算)以及处理方式。即使配备高性能 GPU,也无法突破硬件采集的帧率上限,且每增加一项追踪任务均可能带来额外的帧率损耗。

状态

卡片本身以及启用摄像头追踪开关旁的状态指示,遵循与其他追踪源相同的 状态体系,具体依据摄像头视觉检测结果判定:

状态说明
off启用摄像头追踪处于关闭状态,或内部所有追踪子任务均未启用
waiting…摄像头设备正在启动初始化,或在面部捕捉关闭时未检测到手部与身体
tracking任意启用的子任务成功检测到面部、手部或身体(即使画面中无脸部亦可显示该状态)
no face面部捕捉已启用但未检测到人脸,且手部与身体亦未入镜

实时预览上方的状态栏在组件加载期间会显示 starting…;若加载失败则显示 unavailable,并附带错误提示与重试按钮。需要注意的是,面部捕捉与姿态捕捉主面板的聚合状态仅汇总统计网络追踪源。

各项任务驱动机制

Live2D

  • 面部:沿用与移动端追踪相同的 映射机制,将 FaceAngleX、MouthOpen 等派生参数及 ARKit* 标准 BlendShape 输入通过模型的参数绑定机制驱动模型。
  • 手部:输出 28 项标准 手部输入,同样经由模型的参数绑定抵达 Cubism 参数。
  • 身体:Live2D 模型无驱动效果。由于 Live2D 缺少人形骨骼架构,Persona 不会凭空生成躯干或四肢控制参数。

VRM

  • 面部:与移动端等同驱动表情、视线与头部姿态,且完全支持 perfect sync。
  • 手部:设置为手臂和手指时,驱动肩部、手臂、手腕及手指骨骼,系统将画面中的手腕位置作为手臂反向运动学(IK)目标点,结合形象自身臂长求解;设置为仅手指时,仅驱动手指骨骼旋转。
  • 身体:驱动躯干与下肢骨骼姿态,并根据算法估算微移形象。水平与垂直位移追踪画面中的空间投影;前后景深根据躯干投影尺寸变化估算,活动范围严格限制在 ±0.5 m 以内。该功能并非绝对空间位移追踪,亦不会锁定双脚于地面。

身体追踪不会解算或覆盖手臂运动,手臂姿势统一由手部追踪负责。当有独立的面部追踪源驱动该形象时,头部与颈部姿态始终由面部追踪源接管。

与 VMC 或 mocopi 协同

当配合 VMC 或 mocopi 驱动 VRM 身体时,肩部与肘部关节完全由全身姿态源控制,摄像头手部追踪仅在上层叠加手腕与手指的相对旋转。若切换为仅手指模式,手腕旋转控制权亦完全归还给身体姿态源。

手部输入

手部追踪为 Live2D 的 参数绑定 提供以下输入参数,在绑定编辑器中归入手部分类。命名沿用 VTube Studio 的手部追踪标准,另外增加了 HandLeftAngleY 与 HandRightAngleY。每个 HandLeft… 输入都有对应的 HandRight… 输入:

输入范围说明
HandLeftFound0 – 1成功检测到对应手部时置为 1
HandLeftPositionX、HandLeftPositionY、HandLeftPositionZ−10 – 10手腕坐标:X 向外、Y 向上、Z 朝向镜头,Z 轴由手掌轮廓估算
HandLeftAngleX、HandLeftAngleZ−180° – 180°手腕欧拉角旋转
HandLeftAngleY−90° – 90°手腕航向角旋转
HandLeftOpen0 – 1五指开合度的加权平均值
HandLeftFinger_1_Thumb … HandLeftFinger_5_Pinky0 – 1各独立手指屈伸度,完全伸直时为 1
BothHandsFound0 – 1双手同时入镜且有效追踪时置为 1
HandDistance0 – 10双手手腕之间的空间欧氏距离

未预设专属绑定的 Live2D 模型将自动绑定与手部输入同名的 Cubism 参数,并严格适配参数自身的数值范围(例如针对 ±1 范围设计的模型参数绝不会被越界驱动为 ±10)。

局限说明

  • MediaPipe 的面部 BlendShape 虽遵循 ARKit 命名标准,但算法模型未包含舌部特征,因此不支持 tongueOut;普通单目摄像头画面无法替代 iPhone 原深感摄像头(TrueDepth)的深度测量能力。
  • 所有空间坐标均由单目 RGB 画面估算:距离深浅依赖手掌轮廓大小,躯干景深依赖上半身占比。上述数据均为视觉估算值,而非传感器直接测量的真实物理距离。
  • 手部若发生遮挡、双手重叠或离开镜头视场,算法将直接丢弃当前手部数据而非进行盲目猜测。身体追踪要求双肩与双髋均位于画面有效取景范围内。
  • 在 VRM 形象中,当追踪目标短暂丢失时,系统将维持末帧姿态 200 毫秒,并在随后的约 0.4 秒内平滑过渡回底层静止姿态;在 Live2D 模型中,手部丢失将触发 Found 输入归零,其余参数保留最后有效值,以便模型自身的淡出机制顺畅播放。

隐私与安全

摄像头追踪算法完全在本地设备端执行。MediaPipe WebAssembly 运行时与特征点检测模型作为可选的摄像头追踪附加组件按需下载一次(由应用内置清单固定版本并执行 SHA-256 校验,应用更新提升版本时会在启动后自动更新;也可在素材库中通过「删除下载内容…」移除),安装后运行时无需联网加载任何外部云端权重。原始摄像头画面不会上传云端,也不会离开 Persona 的渲染沙箱,控制面板内的预览区域同样只接收抽象特征点数据。针对底层 MediaPipe 库默认包含的 Google 使用统计上报行为,Persona 已在代码层实施严格拦截。有关本地存储内容与安全访问机制的更多信息,请参阅 隐私与安全。

疑难排查

「摄像头访问被拒绝」

请在操作系统设置中授予 Persona 访问相机的权限,随后重启 Persona。macOS 系统中的设置路径为系统设置 → 隐私与安全性 → 摄像头;权限更改后需重启 Persona 客户端方能生效。

「摄像头不可用」

摄像头硬件已被拔出断开,或已被系统内其他应用程序独占访问。请在设置中切换为其他相机设备,或点击重试重新尝试连接。

「无法启动摄像头追踪」

追踪算法引擎组件未能成功加载。请点击重试按钮尝试重新加载算法运行时。

最后更新于 2026年11月3日

Tech otakus destroy the world