00:00 / 00:00

Persona

口型同步

适用于Live2DVRM

单支麦克风即可独立驱动 Live2D 模型唇形以及 VRM 虚拟形象 的元音口型。该机制完全独立于面部捕捉:在无摄像头或移动设备时亦可正常工作;当同时启用面部捕捉时,口型同步将与面部追踪算法自动平滑融合。

相关配置位于 捕捉 面板中摄像头追踪下方的口型同步分区。该设置属于全局应用级配置,切换场景时保持不变,Web 控制台 中的捕捉页面操作的亦为同一份配置。音频流完全在本地设备端解算:既不会向扬声器输出监听,也不会通过 插件 API 传输原始音频流;外部插件仅能读取瞬时音量电平与元音识别权重,无法获取音频内容本身。

配置

  1. 在口型同步分区中开启启用口型同步(默认处于关闭状态)。在 macOS 系统中,首次启用将弹出麦克风系统授权请求。
  2. 在麦克风下拉列表中选择默认麦克风或指定的音频输入硬件。
  3. 对准麦克风正常发声,观察输入电平以及 A、I、U、E、O 五项元音指示条是否灵敏响应;如有需要可调节 电平参数。
  4. 各虚拟形象图层详情中的 麦克风口型同步 选项默认设置为始终;开启全局总开关后,场景中的对应虚拟形象即可开始口型同步。

麦克风

默认麦克风跟随操作系统的系统级默认输入设备,亦可手动锁定具体的音频硬件。设备列表展示运行 Persona 的本机上所有可用的音频输入硬件(在 Web 控制台中同样只展示运行主机的输入设备,不会列出浏览器所在设备的麦克风)。系统中安装的虚拟音频设备(如虚拟声卡)同样会完整列出。配置项下方将实时显示当前实际采样的硬件名称。

当选定的麦克风设备离线或断开连接时,Persona 不会擅自切换至其他设备:下拉菜单将显示为不可用的麦克风,状态同步变更为不可用,直至手动切换其他可用设备或点击重试按钮。

Persona 不提供麦克风音频本地监听回放功能,亦不会直接录制或采集本机正在播放的系统扬声器输出。

电平

控制项范围默认值说明
输入增益0 – 30 dB0 dB补偿低灵敏度麦克风的输入信号,在噪声门之前生效。过度增益会导致嘴部持续大幅张开
噪声门−60 – 0 dB−45 dB滤除低于该阈值的环境背景底噪
平滑0 – 300 ms80 ms平滑嘴部开合度与元音过渡变化。数值越大,动态越柔和但延迟相应增加

噪声门比较的是经过输入增益放大后的信号电平。高于噪声门阈值直至满刻度的信号动态范围,将线性映射为嘴部从完全闭合到最大张开的行程。若静音时嘴部依然张开,请调低输入增益或调高噪声门阈值;若正常说话时嘴部动作幅度过小,则反向调整上述参数。这三项参数的修改将立即作用于当前的实时音频流分析;切换麦克风或重启口型同步将重新初始化音频采集上下文。

状态与指示条

启用口型同步开关旁侧实时显示当前工作状态:

状态说明
已关闭口型同步功能处于未启用状态
启动中…正在打开麦克风硬件流并初始化音频分析算法
正在监听音频流正在正常采集并持续进行特征提取
不可用采集失败;面板下方将显示失败原因与重试按钮

当口型同步处于运行状态时,控制项下方将展示输入电平与 A、I、U、E、O 五项元音相似度指示条。指示条数值表示各元音特征的相似度权重,而非绝对概率分布:发音含糊时可能同时触发相邻的两个元音指示条;而不符合任何标准元音的声音特征将导致指示条回落,但嘴部开合仍会依据当前音量正常张开。

当出现以下三类情况时,音频流采集将中断并进入不可用状态:麦克风系统权限被拒(需在操作系统安全设置中允许 Persona 访问麦克风)、选定硬件断开或不存在,或底层音频分析组件加载失败。点击重试按钮将针对当前选定设备重新尝试初始化采集。

校准声音

在麦克风正常采集期间,声音配置信息行展示该麦克风的配置文件状态:若已建立专属校准,则显示为已针对〈麦克风〉校准;否则显示为默认配置。仅当状态为正在监听时,校准声音… 按钮才处于可交互状态。

校准引导对话框包含 A、I、U、E、O 与背景噪声共六项采集目标,每一项均配有标准发音提示:

  1. 保持日常说话音量与麦克风距离,点击对应项的录制按钮,平稳持续发音两秒;在背景噪声阶段保持安静并维持正常呼吸。
  2. 采集成功的项目会标记对勾,按钮变为重试,可单独重录该项。元音的信号电平必须高于噪声门才算有效;背景噪声没有音量下限。若采集未达标,对话框会保留上一轮有效的校准基准并说明原因,例如:
    • 「声音太小。请以高于噪声门限的音量发声后重试。」
    • 「采集的音频不足。请保持发声平稳后重试。」
  3. 全部六项采集完毕后,点击预览配置即可让临时配置立即生效。依次朗读 A、I、U、E、O,观察对应的元音指示条是否占据主导,并确认场景内虚拟形象的口型反馈。若某个元音容易与其他音混淆,可返回单独重录该项并再次预览。
  4. 确认无误后点击保存配置写入本地设置。点击取消或关闭对话框将舍弃临时草稿,恢复至此前保存的配置或内置默认配置。

若当前麦克风已存在历史校准,对话框将自动预载既有数据,用户仅需针对性重新录制个别元音,无需重复录制整套六项。关闭口型同步、切换输入设备、采集异常或触发重试操作,均会导致未保存的临时校准数据丢失。

校准配置与具体的物理麦克风硬件唯一绑定,每台设备维护独立配置,并在开始采集时自动匹配加载。重置配置按钮仅在当前麦克风拥有自定义校准时显示;点击将清除该麦克风的专属配置并重置回内置基准,其他设备的配置文件不受任何影响。当选择默认麦克风时,Persona 将尽力解析其对应的底层物理设备;若无法精确识别,建议在校准前手动切换为指定的具体硬件。

在未完成个性化校准前,系统统一使用内置基准配置(即默认配置)。内置配置基于通用模型训练,可能无法完美契合所有声线特征与麦克风频响曲线。若元音识别准确率欠佳,建议执行个性化发音校准。系统不支持直接导入外部 MotionSync 配置文件。

麦克风口型同步

每个虚拟形象均可独立配置是否响应麦克风音频驱动。选中目标图层后,在其属性面板的捕捉分区中可找到麦克风口型同步配置项,该项使用全局统一设置的麦克风输入源:

选项说明
关闭当前虚拟形象完全忽略麦克风输入
始终 · 默认始终响应麦克风;当存在实时面部捕捉时,口型动作将依据音量进行权重融合
面部捕捉不可用时当面部捕捉信号正常时,嘴部完全交由面部捕捉控制;仅在面部捕捉丢失期间(包括保持末帧姿态时)由麦克风接管

当采用始终模式且存在实时面部捕捉时,Persona 会依据平滑后的音量包络在两者之间建立动态融合:静音状态下,嘴部完全保留视觉捕捉到的微表情、无声哈欠、下巴开合与唇形细节;随着说话音量提升,基于麦克风的元音口型逐渐取得控制主导权。当面部捕捉信号丢失时,嘴部动作完全切由麦克风驱动,不会受丢失前锁定的残余姿态干扰。

新建形象与历史场景导入的形象默认均设为始终;但因全局启用口型同步默认关闭,因此在开启全局开关前不会产生任何动态。该同步模式归属于场景内的具体实例并随场景工程保存;同一个模型的两个独立实例可指定不同的口型模式,而模型的标准 参数绑定 仍归模型资产自身所有。

驱动模型

Live2D

无需为模型添加额外的伴随文件。麦克风的分析结果会叠加到以下标准嘴部输入上,模型自带的嘴部绑定可以直接生效:

  • MouthOpen、MouthSmile、JawOpen
  • ARKitJawOpen、ARKitMouthClose、ARKitMouthFunnel、ARKitMouthPucker

嘴部张合在元音形态与瞬时音量之间连续融合,发辅音时不会突然跳变。

模型的 LipSync 参数组(在 .model3.json 中声明,即 模型信息 面板中口型同步栏列出的参数)只要没有设置专门的绑定规则,就会直接接收音量电平。因此,即使模型的嘴部参数命名不标准,也无需手动配置绑定。若模型为每个元音单独制作了嘴部参数,可在参数面板中将 VoiceA…VoiceO 映射到这些参数。

当触发播放模型动作自带的内置音频或通过 插件 API 播放语音 时,音频播放流将抢占嘴部驱动权,麦克风口型将自动避让。

VRM

每个元音驱动模型的一个标准 表情:A → aa、I → ih、U → ou、E → ee、O → oh。表情权重等于音量电平与该元音相似度份额的乘积。没有标准元音预设、但有 ARKit jawOpen 表情的模型,会改为仅按音量开合下巴。口型的最终效果取决于模型自身表情资产的制作精细度。

在与实时面部捕捉融合时,元音表情与产生冲突的 ARKit 嘴部表情会依据音量电平动态交接权重。麦克风写入的表情权重在每一帧渲染循环结束时均会复原清空,绝不会残留固化到视觉追踪的保持姿态中。

语音输入

在 参数绑定 编辑器的嘴巴分类下,系统额外提供了 12 项专属语音输入参数,可同时应用于 Live2D 与 VRM 模型的绑定逻辑:

输入编辑器中的显示名称范围说明
VoiceVolume语音音量0 – 1经过平滑处理的瞬时音频音量包络
VoiceA、VoiceI、VoiceU、VoiceE、VoiceO语音 A … 语音 O0 – 1各独立元音强度,经音量加权并平滑处理
VoiceSilence语音静音0 – 11 减去当前音量,静音状态下恒为 1
VoiceFrequency语音口型0 – 1元音特征在常规唇形轴上的空间投影(0.5 为中性,非音高)
VoiceVolumePlusMouthOpen语音 + 嘴巴开闭0 – 2音量包络叠加面部捕捉的张嘴幅度
VoiceFrequencyPlusMouthSmile语音 + 嘴巴变形0 – 1面部捕捉唇形形态叠加声音产生的带符号形态偏移
VoiceMouthOpen语音嘴巴开闭0 – 1依据元音加权并结合音量综合计算的嘴部张开投影
VoiceMouthSpread语音嘴巴横向伸展−1 – 1依据元音加权并结合音量、具备正负方向的嘴角延展投影

VoiceVolumePlusMouthOpen 与 VoiceFrequencyPlusMouthSmile 两项复合参数将声音与面部捕捉结合:

  • 相加后的数值可能超出标准上限,由绑定规则自身的输入输出范围钳位。
  • 缺少视觉人脸信号时,只使用音频分量;视觉丢失后暂存的静态姿态不会混入。
  • 麦克风未对该形象生效时(口型同步关闭、形象模式设为关闭,或模式为面部捕捉不可用时且面部捕捉正在生效),只保留面部捕捉分量,绑定规则仍能稳定响应视觉追踪。

导入

在导入 .vtube.json 预设时,上述输入参数名称不区分英文大小写。

Persona 采用自主优化的音频分析管线,针对同一段语音信号提取出的音量与元音判定特征,可能与 VTube Studio 存在算法层面的合理差异。

自动化集成

在 自动化 系统中,麦克风音量触发条件与此处的口型同步模块共享相同的麦克风硬件、输入增益、噪声门与平滑参数。即使启用口型同步处于关闭状态,该触发器仍可正常工作,此时仅不驱动虚拟形象口型。

自动化系统的 播放音频 动作亦支持直接使用音频文件驱动口型:将动作中的驱动口型同步指定给目标虚拟形象(Live2D 或 VRM 均可),文件播放期间目标形象的唇形将完全跟随该音频文件运动,麦克风输入自动避让。该分析过程采用内置的标准声音基准配置,直接在应用音频增益与淡入淡出之前解析源信号,且无需开启实体麦克风。若多个音频文件并发驱动同一形象,系统以最后发起的音频流为准;当所有音频播放停止后,麦克风与面部捕捉将平滑重新接管控制。

最后更新于 2026年11月3日

Tech otakus destroy the world