聚焦:空间音频
2023 年 3 月 13 日
为 App 和游戏设计音景时,正确的音符可以大大改善效果。如果这些音符支持多声道音频,它们甚至可能美妙得让人蓦然回首,沉浸其中 — 就是真的能让人惊叹到回头的程度。
出色利用空间音频的 App 和游戏众多,Endel 和 Odio 便是其中两款。它们使用多声道混音、Core Audio 和 AVFoundation 来增添质感和维度,打造能够引起共鸣的环绕声体验,让听众进一步沉浸在 App 的世界中。
专为空间交互设计
Watch nowEndel (见上图) 会根据生物特征和环境来创造个性化的自适应音景,帮助用户集中注意力并获得更好的睡眠。它首度推出的空间音频音景具有超凡脱俗的名称 Spatial Orbit,将 App 的非凡艺术和人工智能融合提升到了一个新的维度。
“感觉就像身处广阔、璀璨的空间里”,Endel 联合创始人兼首席音效官 Dmitry Evgrafov 说道。“这大致等同于点彩画法在声音领域中的应用,无数的圆点本身形成了一种结构,你会沉浸在其中。它是一种至美的境界,不是用立体声就能重现的。”
将空间音频引入他们的生态系统中时,Endel 团队的第一个任务是确定这项技术是否与他们不断变化的生成音景兼容。这项工作主要由联合创建人兼首席音效官 Kyrylo Bulatsev 负责。“[空间音频] 意味着我们必须在非静态元素中再增加一个维度,”他说道。“除了选择播放什么声音以及何时播放,我们还必须考虑声音的位置以及它环绕你的移动方式。”
此外,音景还必须把握“增强体验与令人分心之间的细微界限”,Evgrafov 说道。这是因为,虽然大多数 App (以及游戏、影片和歌曲) 都力求吸引用户积极互动,但 Endel 的目标是作为背景完美衬托,从而提升体验,同时又不会让你失去专注。“我们的用例与其他采用这项技术的产品是不同的”,Evgrafov 说道 (其同事兼联合创始人 Oleg Stavisky 对“App 中的所有美妙音效”给予了高度赞扬)。
这大致等同于点彩画法在声音领域中的应用。
Dmitry Evgrafov,Endel 联合创始人兼首席音效官
作为发过 10 张专辑的钢琴家和音乐家,Evgrafov 对于立体声当然非常了解。“但是,说到在空间中音频位置的随机化,那是完全不同的领域”,他说道。
Spatial Orbit 第一个真正意义上的原型是设为逼真丛林场景的陆地景象。“我们的创意是你在神奇的伊甸园里散步,各种珍奇的热带动物在你身边唱歌”,他说道。“我们构思了水边演奏的竖琴、小溪、现实世界中不存在的鸟儿等诸如此类的创意。”
类似的创意不断涌现:一个慢慢走过你身边、同时唱着圣歌的修道院唱诗班,或是从洞穴里录制的野外录音。虽然这些概念很酷,原型听起来也不错,但是团队总是会提出同样的问题。那就是……“它们不是 Endel 的风格”,Evgrafov 说道。“它们将你带到了一个地方,但是这意味着用户在有意识地使用 App。它们与我们的设计主张不符。”
Spatial Orbit 的最终版本符合 Endel 的设计主张,并实现了艺术与技术的融合,这正是 Endel 追求的目标。“[在我们的音景中] 雨滴之声仿如一种暗示”,Evgrafov 说道。“它带来那一丝深刻的感觉,让你静下心来,深入想法,专心于所读之书或手中的事。”
调整音景本身就是一次冒险。“观察用户测试 Endel 是非常有趣的做法,”Stavitsky 笑着说道。这是因为,目前还没有在一群用户中同时测试自动生成的个性化音景的既定方法。
[雨滴之声可以带来] 一丝深刻的感觉,让你静下心来,深入想法,专心于所读之书或手中的事。
Dmitry Evgrafov
“我们发明了这个流程和工具集”,Evgrafov 说道。其中隐含了很多人在柏林办公室 (还有……天知道哪里) 漫无目的的踱步,“当然也隐含了我在公共场所的那些发呆时光 — 眼神放空,像只猫咪一样。”
最后,Spatial Orbit 终于将创新技术和艺术信念浑然天成地融合在一起。“当我们意识到科学就在身边,并且与 Endel 的宗旨完美契合时,我们大大松了一口气”,Evgrafov 说道。“我们想,‘好了,我们终于能既保证本真自然,同时又兼顾空间感了。’”
Download Endel from the App Store
Odio 同样专注于打造出色的环境音景,同时还带了一点科幻色彩。“我希望我们的作曲家能够想象他们在创造星球,用各种音效填满其中”,App 首尔地区的联合创始人 Joon Kwak 说道,“我们想让用户在这些新的星球中探索畅游。”
这款 App 的音景可以营造任何声音,从哗啦啦的瀑布声到嗡嗡作响的数字背景,再到深海诡异的平静,一应俱全。它还能使用头部跟踪和多声道音频来打造真正令人着迷的混音。(这款 App 也可以带来视觉盛宴,每个音景都配有日新月异的工艺艺术设计。)
但是在这些音频领域,你不是被动的听众。构成每个音景的各个元素可以通过富有想象力且饶有趣味的 UI 进行操控,让你可以将每个音频元素 (如瀑布) 重新放置到你喜欢的任何位置。
与其未来主义风格相称,Odio 的背景故事是一次偶然的会议,适时发布的硬件和软件,再加上一点好运。Kwak 在埃因霍芬设计学院作为毕业项目设计了这款 App 的初始版本。该原型最初被称为 Virtual Sky,它包含 Odio 前身的框架,但是主要基于现实世界中的声音。它还需要一大堆硬件和专用设备,在配备空间音频功能的 AirPods 推出后,所有这些都变得无关紧要了。
“我有一段时间非常沮丧。”Kwak 笑着说道。“我当时想,‘我已经花了几个月的时间来开发这些功能,现在没有意义了!”但是后来我更深入地想了想,并意识到,‘哦,这只是意味着我不需要提供硬件了’,这真是太好了。”
Kwak 与 Volst 合作,Volst 是一家对 3D 音景 App 很感兴趣的公司。有了构建块后,将 Kwak 的项目变为现实的挑战便落到了 Odio 的 UI 开发者和设计师 Rutger Schimmel 肩上,这个过程的进展速度比预期快得多。
我希望我们的作曲家能够想象他们在创造星球,用各种音效填满其中。
Joon Kwak,Odio 联合创建人
“我们知道 AirPods 支持 [环绕声],但是我们对此表示怀疑,”他说道。“我们认为,‘好的,它们配备头部跟踪功能,但是可能只适用于第一方内容。’但是我们仍然感到兴奋,于是我们快速设置了一个 Xcode 项目,以将 AirPods 的数据传输到设备。”
原型在几分钟内便准备就绪并能够在耳机上正常运行。“操作起来如此简单,我们都震惊了”,Schimmel 说道。“只用了大约一个小时,我们便决定使用 Apple 提供的出色 3D 音频框架,这些框架为我们正在开发的软件奠定了完美的基础。”编码从 1 月份开始,而到了 4 月份,这个团队便准备好了使用 Swift 构建的演示。
为了打造 Odio 音景,Kwak、Odio 音效设计师 Max Frimout 等作曲家与一组外部音乐家通过混合环境声、合成钟声和哨声以及音乐开展协作 (通常使用 Logic Pro)。
音景制作完成并在咖啡厅、公园和地铁中进行严格的现场测试后,艺术家会将他们的文件交给 Schimmel。Schimmel 的工具箱可以发挥的作用包括带来前沿设计、沉浸式音效以及令人惊叹的自定程度,工具箱非常整洁:AVAudioEnvironmentNode (AVKit) 用于打造 3D 音频环境;CMHeadphoneMotionManager (Core Motion) 用于访问耳机运动数据;Sentry 用于错误跟踪和 QA。
“Odio 中的所有其他功能都是使用 Swift 从头开始创建的,从数据管理到与音景交互,再到实时缓冲交互式声音文件,都是如此”,Schimmel 说道。
最终的结果完美地说明了空间音频设计的强大之处,以及操作起来有多简单易用。“坦白说”,Schimmel 说道,“作曲家的工作比我们的难多了。”
Download Odio from the App Store