单支麦克风即可独立驱动 Live2D 模型唇形以及 VRM 虚拟形象 的元音口型。该机制完全独立于面部捕捉:在无摄像头或移动设备时亦可正常工作;当同时启用面部捕捉时,口型同步将与面部追踪算法自动平滑融合。
相关配置位于 捕捉 面板中摄像头追踪下方的口型同步分区。该设置属于全局应用级配置,切换场景时保持不变,Web 控制台 中的捕捉页面操作的亦为同一份配置。音频流完全在本地设备端解算:既不会向扬声器输出监听,也不会通过 插件 API 传输原始音频流;外部插件仅能读取瞬时音量电平与元音识别权重,无法获取音频内容本身。
配置
- 在口型同步分区中开启启用口型同步(默认处于关闭状态)。在 macOS 系统中,首次启用将弹出麦克风系统授权请求。
- 在麦克风下拉列表中选择默认麦克风或指定的音频输入硬件。
- 对准麦克风正常发声,观察输入电平以及 A、I、U、E、O 五项元音指示条是否灵敏响应;如有需要可调节 电平参数。
- 各虚拟形象图层详情中的 麦克风口型同步 选项默认设置为始终;开启全局总开关后,场景中的对应虚拟形象即可开始口型同步。
麦克风
默认麦克风跟随操作系统的系统级默认输入设备,亦可手动锁定具体的音频硬件。设备列表展示运行 Persona 的本机上所有可用的音频输入硬件(在 Web 控制台中同样只展示运行主机的输入设备,不会列出浏览器所在设备的麦克风)。系统中安装的虚拟音频设备(如虚拟声卡)同样会完整列出。配置项下方将实时显示当前实际采样的硬件名称。
当选定的麦克风设备离线或断开连接时,Persona 不会擅自切换至其他设备:下拉菜单将显示为不可用的麦克风,状态同步变更为不可用,直至手动切换其他可用设备或点击重试按钮。
Persona 不提供麦克风音频本地监听回放功能,亦不会直接录制或采集本机正在播放的系统扬声器输出。
电平
| 控制项 | 范围 | 默认值 | 说明 |
|---|---|---|---|
| 输入增益 | 0 – 30 dB | 0 dB | 补偿低灵敏度麦克风的输入信号,在噪声门之前生效。过度增益会导致嘴部持续大幅张开 |
| 噪声门 | −60 – 0 dB | −45 dB | 滤除低于该阈值的环境背景底噪 |
| 平滑 | 0 – 300 ms | 80 ms | 平滑嘴部开合度与元音过渡变化。数值越大,动态越柔和但延迟相应增加 |
噪声门比较的是经过输入增益放大后的信号电平。高于噪声门阈值直至满刻度的信号动态范围,将线性映射为嘴部从完全闭合到最大张开的行程。若静音时嘴部依然张开,请调低输入增益或调高噪声门阈值;若正常说话时嘴部动作幅度过小,则反向调整上述参数。这三项参数的修改将立即作用于当前的实时音频流分析;切换麦克风或重启口型同步将重新初始化音频采集上下文。
状态与指示条
启用口型同步开关旁侧实时显示当前工作状态:
| 状态 | 说明 |
|---|---|
| 已关闭 | 口型同步功能处于未启用状态 |
| 启动中… | 正在打开麦克风硬件流并初始化音频分析算法 |
| 正在监听 | 音频流正在正常采集并持续进行特征提取 |
| 不可用 | 采集失败;面板下方将显示失败原因与重试按钮 |
当口型同步处于运行状态时,控制项下方将展示输入电平与 A、I、U、E、O 五项元音相似度指示条。指示条数值表示各元音特征的相似度权重,而非绝对概率分布:发音含糊时可能同时触发相邻的两个元音指示条;而不符合任何标准元音的声音特征将导致指示条回落,但嘴部开合仍会依据当前音量正常张开。
当出现以下三类情况时,音频流采集将中断并进入不可用状态:麦克风系统权限被拒(需在操作系统安全设置中允许 Persona 访问麦克风)、选定硬件断开或不存在,或底层音频分析组件加载失败。点击重试按钮将针对当前选定设备重新尝试初始化采集。
校准声音
在麦克风正常采集期间,声音配置信息行展示该麦克风的配置文件状态:若已建立专属校准,则显示为已针对〈麦克风〉校准;否则显示为默认配置。仅当状态为正在监听时,校准声音… 按钮才处于可交互状态。
校准引导对话框包含 A、I、U、E、O 与背景噪声共六项采集目标,每一项均配有标准发音提示:
- 保持日常说话音量与麦克风距离,点击对应项的录制按钮,平稳持续发音两秒;在背景噪声阶段保持安静并维持正常呼吸。
- 采集成功的项目会标记对勾,按钮变为重试,可单独重录该项。元音的信号电平必须高于噪声门才算有效;背景噪声没有音量下限。若采集未达标,对话框会保留上一轮有效的校准基准并说明原因,例如:
- 「声音太小。请以高于噪声门限的音量发声后重试。」
- 「采集的音频不足。请保持发声平稳后重试。」
- 全部六项采集完毕后,点击预览配置即可让临时配置立即生效。依次朗读 A、I、U、E、O,观察对应的元音指示条是否占据主导,并确认场景内虚拟形象的口型反馈。若某个元音容易与其他音混淆,可返回单独重录该项并再次预览。
- 确认无误后点击保存配置写入本地设置。点击取消或关闭对话框将舍弃临时草稿,恢复至此前保存的配置或内置默认配置。
若当前麦克风已存在历史校准,对话框将自动预载既有数据,用户仅需针对性重新录制个别元音,无需重复录制整套六项。关闭口型同步、切换输入设备、采集异常或触发重试操作,均会导致未保存的临时校准数据丢失。
校准配置与具体的物理麦克风硬件唯一绑定,每台设备维护独立配置,并在开始采集时自动匹配加载。重置配置按钮仅在当前麦克风拥有自定义校准时显示;点击将清除该麦克风的专属配置并重置回内置基准,其他设备的配置文件不受任何影响。当选择默认麦克风时,Persona 将尽力解析其对应的底层物理设备;若无法精确识别,建议在校准前手动切换为指定的具体硬件。
在未完成个性化校准前,系统统一使用内置基准配置(即默认配置)。内置配置基于通用模型训练,可能无法完美契合所有声线特征与麦克风频响曲线。若元音识别准确率欠佳,建议执行个性化发音校准。系统不支持直接导入外部 MotionSync 配置文件。
校准算法全程在本地计算执行,系统仅提取并保存各分析帧的 12 维 MFCC 特征系数,不会保存或上传原始录音。配置文件保存在 Persona 本机设置中,不会写入模型附属文件,也不会通过插件 API 暴露。详见 隐私与安全。
麦克风口型同步
每个虚拟形象均可独立配置是否响应麦克风音频驱动。选中目标图层后,在其属性面板的捕捉分区中可找到麦克风口型同步配置项,该项使用全局统一设置的麦克风输入源:
| 选项 | 说明 |
|---|---|
| 关闭 | 当前虚拟形象完全忽略麦克风输入 |
| 始终 · 默认 | 始终响应麦克风;当存在实时面部捕捉时,口型动作将依据音量进行权重融合 |
| 面部捕捉不可用时 | 当面部捕捉信号正常时,嘴部完全交由面部捕捉控制;仅在面部捕捉丢失期间(包括保持末帧姿态时)由麦克风接管 |
当采用始终模式且存在实时面部捕捉时,Persona 会依据平滑后的音量包络在两者之间建立动态融合:静音状态下,嘴部完全保留视觉捕捉到的微表情、无声哈欠、下巴开合与唇形细节;随着说话音量提升,基于麦克风的元音口型逐渐取得控制主导权。当面部捕捉信号丢失时,嘴部动作完全切由麦克风驱动,不会受丢失前锁定的残余姿态干扰。
新建形象与历史场景导入的形象默认均设为始终;但因全局启用口型同步默认关闭,因此在开启全局开关前不会产生任何动态。该同步模式归属于场景内的具体实例并随场景工程保存;同一个模型的两个独立实例可指定不同的口型模式,而模型的标准 参数绑定 仍归模型资产自身所有。
驱动模型
Live2D
无需为模型添加额外的伴随文件。麦克风的分析结果会叠加到以下标准嘴部输入上,模型自带的嘴部绑定可以直接生效:
MouthOpen、MouthSmile、JawOpenARKitJawOpen、ARKitMouthClose、ARKitMouthFunnel、ARKitMouthPucker
嘴部张合在元音形态与瞬时音量之间连续融合,发辅音时不会突然跳变。
模型的 LipSync 参数组(在 .model3.json 中声明,即 模型信息 面板中口型同步栏列出的参数)只要没有设置专门的绑定规则,就会直接接收音量电平。因此,即使模型的嘴部参数命名不标准,也无需手动配置绑定。若模型为每个元音单独制作了嘴部参数,可在参数面板中将 VoiceA…VoiceO 映射到这些参数。
当触发播放模型动作自带的内置音频或通过 插件 API 播放语音 时,音频播放流将抢占嘴部驱动权,麦克风口型将自动避让。
VRM
每个元音驱动模型的一个标准 表情:A → aa、I → ih、U → ou、E → ee、O → oh。表情权重等于音量电平与该元音相似度份额的乘积。没有标准元音预设、但有 ARKit jawOpen 表情的模型,会改为仅按音量开合下巴。口型的最终效果取决于模型自身表情资产的制作精细度。
在与实时面部捕捉融合时,元音表情与产生冲突的 ARKit 嘴部表情会依据音量电平动态交接权重。麦克风写入的表情权重在每一帧渲染循环结束时均会复原清空,绝不会残留固化到视觉追踪的保持姿态中。
语音输入
在 参数绑定 编辑器的嘴巴分类下,系统额外提供了 12 项专属语音输入参数,可同时应用于 Live2D 与 VRM 模型的绑定逻辑:
| 输入 | 编辑器中的显示名称 | 范围 | 说明 |
|---|---|---|---|
VoiceVolume | 语音音量 | 0 – 1 | 经过平滑处理的瞬时音频音量包络 |
VoiceA、VoiceI、VoiceU、VoiceE、VoiceO | 语音 A … 语音 O | 0 – 1 | 各独立元音强度,经音量加权并平滑处理 |
VoiceSilence | 语音静音 | 0 – 1 | 1 减去当前音量,静音状态下恒为 1 |
VoiceFrequency | 语音口型 | 0 – 1 | 元音特征在常规唇形轴上的空间投影(0.5 为中性,非音高) |
VoiceVolumePlusMouthOpen | 语音 + 嘴巴开闭 | 0 – 2 | 音量包络叠加面部捕捉的张嘴幅度 |
VoiceFrequencyPlusMouthSmile | 语音 + 嘴巴变形 | 0 – 1 | 面部捕捉唇形形态叠加声音产生的带符号形态偏移 |
VoiceMouthOpen | 语音嘴巴开闭 | 0 – 1 | 依据元音加权并结合音量综合计算的嘴部张开投影 |
VoiceMouthSpread | 语音嘴巴横向伸展 | −1 – 1 | 依据元音加权并结合音量、具备正负方向的嘴角延展投影 |
VoiceVolumePlusMouthOpen 与 VoiceFrequencyPlusMouthSmile 两项复合参数将声音与面部捕捉结合:
- 相加后的数值可能超出标准上限,由绑定规则自身的输入输出范围钳位。
- 缺少视觉人脸信号时,只使用音频分量;视觉丢失后暂存的静态姿态不会混入。
- 麦克风未对该形象生效时(口型同步关闭、形象模式设为关闭,或模式为面部捕捉不可用时且面部捕捉正在生效),只保留面部捕捉分量,绑定规则仍能稳定响应视觉追踪。
导入
在导入 .vtube.json 预设时,上述输入参数名称不区分英文大小写。
Persona 采用自主优化的音频分析管线,针对同一段语音信号提取出的音量与元音判定特征,可能与 VTube Studio 存在算法层面的合理差异。
自动化集成
在 自动化 系统中,麦克风音量触发条件与此处的口型同步模块共享相同的麦克风硬件、输入增益、噪声门与平滑参数。即使启用口型同步处于关闭状态,该触发器仍可正常工作,此时仅不驱动虚拟形象口型。
自动化系统的 播放音频 动作亦支持直接使用音频文件驱动口型:将动作中的驱动口型同步指定给目标虚拟形象(Live2D 或 VRM 均可),文件播放期间目标形象的唇形将完全跟随该音频文件运动,麦克风输入自动避让。该分析过程采用内置的标准声音基准配置,直接在应用音频增益与淡入淡出之前解析源信号,且无需开启实体麦克风。若多个音频文件并发驱动同一形象,系统以最后发起的音频流为准;当所有音频播放停止后,麦克风与面部捕捉将平滑重新接管控制。
最后更新于 2026年11月3日