使用基于对象的音频

空间音频 / Wwise 技巧和工具

基于对象的声音系统

市场对于沉浸式音频体验的渴求催生了一批远超7.1的扬声器设置,在包括增强式二维性能的同时增加了高度这一维度。这也迫使一些类似Dolby Atmos和DTS:X的环绕声系统以及MPEG-H这类新兴发布格式推出了音频对象的概念,以便将扬声器配置抽象化,而空间化的音频内容也会在这个配置基础上渲染。

基于声道的音频和基于对象的音频有一个非常重要的区别就是基于声道的音频从制作阶段到回放都依靠固定数目的声道,而且音频混音是针对严格的扬声器配置设计或是必须进行下混来适应更简单的扬声器设置。基于对象的音频意味着“音频对象”(即单声源+相对于听者的3D坐标)必须留存,并交给渲染器根据用户设置进行空间化。换句话说,基于对象的音频将“对象”或音频元素视为独立的流,并且允许每个流含有元数据来描述该音频对象应在三维空间的何处播放,这些元数据与扬声器设置无关。音频对象在制作过程中可以独立被精确地放置在空间中,而且每个音频对象都是经过一个叫做自适应渲染的流程针对正确的扬声器组合进行实时渲染,而自适应渲染会考虑扬声器布局。自适应渲染也允许对在接收端的渲染进行调整。

VR音频中常用的双耳虚拟化用对象范式来解释会很好理解。双耳化流程一般都是将每个独立的音频对象通过一个滤波器(HRTF)。它的频率响应取决于声源相对于听者的3D位置。

 

留存对象的缺点

虽然基于对象的音频希望从空间的角度优化渲染质量,但是留存对象在音频设计流程上本身就有限制,因为它与一些重要的音频创作手法不兼容。

比如,声音设计师想要控制一组声音的动态范围。他们一般的做法是在汇集所有输入声音的总线上添加压缩器-换句话说,就是创建一个子混音。子混音的采用也有别的各种原因,例如:

  • 性能
  • 旁链
  • 母带处理
  • 电平计量,响度计量
  • 分组

在Wwise里,Master-Mixer Hierarchy(主混音器层级)的对象就用于这些目的。总线在需要的时候可以成为混音总线

现在,假设您将两个3D声源发送到一条混音总线,您从总线得到的输出音频数据将会呈现多个声源/对象的叠加,而构成这个叠加的方向分量将会丢失。Screen_Shot_2016-06-17_at_2.34.19_PM.png

图1-两个入射角不同的声源被声像平移并混音到一条多声道总线上。声像平移意味着输入信号(此处表示为入射角Ɵi)的空间表示转换到输出信号(比如通过把信号分配到7.1扬声器设置的两个或更多声道上)的空间表示。输出就是声像平移对象的混合,并且不一定有一个确定的入射角(按照之前给的概念,输出不是一个对象)。

 

所以,基于对象的音频不兼容子混音,因为对象只存在于混音的上游,这一点可能限制声音设计师,让他们无法进行音频创作,而音频创作的很多手法一般都会用在子混音上。

 

案例分析

Wwise中的混音器插件界面是一种基于对象的插件架构,因为混音器插件需要独立的声源或“对象”来访问每个输入信号并生成双耳声音频。虽然它们看来是非常好的执行双耳声虚拟器的框架,但使用它们会导致对设计流程有所制约,因为基于对象的音频本身有局限性:

1.您不应该在双耳声信号上添加Effects(效果器)(至少不该添加非线性Effects, 如压缩器),因为它们可能会破坏您想用双耳声处理达到的空间音频感。

Screen_Shot_2016-06-17_at_2.46.12_PM.png

图2-错误地在混音器插件输出的双耳声信号下游添加压缩器Effect。

 

2.您不应该使用混音器插件上游的混音总线,因为缩混的结果将不再含有双耳声处理所需的3D信息。

Screen_Shot_2016-06-22_at_5.30.15_PM.png图3-混音器插件上游的对象混音。子混音信号不携带对象,因此不能被插件所双耳声化。

 

 

折衷

那么,如果我们能结合两者的长处该多好?我们能否以不错的空间精度渲染音频,同时又免受基于对象音频的缺点所困?请继续关注我们的博客,学习更多ambisonics的相关知识,也许能帮助您做到这一点!

Screen_Shot_2016-06-17_at_2.47.53_PM.png

图4-对象被自由地缩混并声像平移到一个多声道空间音频表示上去,它能够传达所有成分的方向强度,并且能够通过添加Effects等来进行操纵。

 

 

 

Xavier.png

LOUIS-XAVIER BUFFONI
主管, R&D - Audiokinetic

Xavier Buffoni在Audiokinetic负责领导空间音频研究。他拥有电器工程硕士学位并且偶尔会针对各种音频相关话题撰写文章、教授课程,如音乐、HDR动态混音等, 以及最近的基于对象的声像平移和ambisonics。Xavier曾在AES for Games,MIGS,以及其他行业会议中演讲。

Linkedin      @xbuffoni

 

 

 

Louis-Xavier Buffoni

Director, R&D

Audiokinetic

Louis-Xavier Buffoni

Director, R&D

Audiokinetic

Louis-Xavier Buffoni leads the research team at Audiokinetic and has been focusing on spatial audio, sound synthesis, audio coding and machine learning.

 @xbuffoni

评论

留下回复

您的电子邮件地址将不会被公布。

更多文章

Wwise 2019.1 上线了!

Wwise 2019.1 现已推出并可通过 Wwise Launcher 下载。 为了顺应广大用户的要求,我们新增了 Voice Inspector 功能。届时,我们将在 2019...

2.4.2019 - 作者:Audiokinetic (音频动能)

关于结合 Wwise 在 UE4 中运用音频工具的尝试:利用 Spline Based Audio Emitter 创建自定义形状

大家好!我计划撰写一系列短文来探讨关于结合 Wwise 在 Unreal Engine 4...

3.6.2019 - 作者:特罗尔斯.尼加德(TROELS NYGAARD)

简化 Wwise 音频插件构建管线

就音频插件开发来说,Wwise 与数字音频工作站 (DAW) 有很大的不同。Wwise...

23.3.2020 - 作者:乔尔·罗比哈德(Joel Robichard)

Wwise 中针对 Spatial Audio 所作的改进 – 第 1 部分:距离建模和早期反射

随着 2019.2 的发布,我们对 Spatial Audio 做了很多改进。比如,我们参考光照技术提升了射线投射引擎的性能。对此,我们团队的克里斯托弗·托尼里 (Christophe...

31.5.2021 - 作者:路易斯-扎维尔·布法尼 (Louis-Xavier Buffoni)

atmoky Ears | 针对耳机为 Wwise 开发的空间音频插件

atmoky Ears 一站式解决方案允许通过耳机为用户提供逼真的空间音频体验。它具备无可比拟的感知品质和效率,能将每一空间音频混音打造到极致。atmoky Ears...

15.12.2021 - 作者:马库斯•扎恩施姆 (Markus Zaunschirm)

ReaWwise:连接REAPER和Wwise

介绍...

23.9.2022 - 作者:安德鲁·科斯塔 (Andrew Costa)

更多文章

Wwise 2019.1 上线了!

Wwise 2019.1 现已推出并可通过 Wwise Launcher 下载。 为了顺应广大用户的要求,我们新增了 Voice Inspector 功能。届时,我们将在 2019...

关于结合 Wwise 在 UE4 中运用音频工具的尝试:利用 Spline Based Audio Emitter 创建自定义形状

大家好!我计划撰写一系列短文来探讨关于结合 Wwise 在 Unreal Engine 4...

简化 Wwise 音频插件构建管线

就音频插件开发来说,Wwise 与数字音频工作站 (DAW) 有很大的不同。Wwise...