变革空间计算:详解高通第二代骁龙XR2和第一代骁龙AR1平台

🤖 由 文心大模型 生成的文章摘要

在9月28日凌晨举办的Meta Connect大会上,新一代VR一体机Meta Quest 3和Ray-Ban | Meta 第二代智能眼镜正式亮相。除了硬件规格的升级和软件的迭代,这两款新品最吸引人眼球的地方,无疑是其搭载的两款全新计算平台——第二代骁龙XR2平台和第一代骁龙AR1平台的全球首秀。

过去的几年中,高通陆续推出了多款XR专用平台,包括第一代骁龙XR1、第一代骁龙XR2、第一代骁龙XR2+以及第一代骁龙AR2。基于这些平台,PICO、Meta、联想等行业领军企业和更多的初创企业打造并发布了超过80款XR设备,共同构成了繁荣的高通「朋友圈」,为XR产业的发展壮大贡献了巨大的力量。

围绕着第二代骁龙XR2平台和第一代骁龙AR1平台这两大全新的计算平台,高通的XR与空间计算战略将如何续写?在近期高通举办的媒体沟通会上,高通技术公司副总裁兼XR业务总经理司宏国为我们做了详细的介绍。

第二代骁龙XR2,体验和可负担性的最优平衡

在媒体沟通会一开场,司宏国就表示:“第二代骁龙XR2旨在真正推动VR和MR普及,让所有人都能享受到逼真的沉浸式VR和MR体验。”

VR和MR的普及,需要XR硬件厂商为消费者提供体验不断提升、售价相对合理的产品。而第二代骁龙XR2平台,正是高通面向OEM厂商打造的变革之作。

根据司宏国介绍,相比第一代骁龙XR2和骁龙XR2+,第二代骁龙XR2具备三大亮点:一是面向视觉、图形和多媒体带来突破性的沉浸式体验;二是流畅交互,更加沉浸的交互体验能够让虚拟世界和物理世界完美融合;第三是现实重构,通过提升视频透视能力,赋能混合现实。这三大亮点将变革下一代VR和MR头显,引领市场迈入空间计算的时代。

具体而言,首先是性能方面

第二代骁龙XR2的整体架构针对性能和能效进行了大幅度优化,可以在无需外接电池组的情况下为顶级的一体机头显设备提供出色的性能保障。

和前代相比,第二代骁龙XR2的GPU实现了2.5倍的性能提升,能够赋能惊艳的图形效果和出色的色彩和细节。开发者可以充分利用新平台的GPU能力,提升应用和游戏的视觉保真度,或是在同样的视觉效果下节省50%的功耗,更好的应对消费者对于画面升级的渴望。

反映到具体的参数上,基于第二代骁龙XR2打造的Meta Quest 3将其设备的分辨率从前代产品的单眼1832×1920提升至单眼2064×2208,像素数量提升近30%,同时将最高刷新率由90Hz提升至120Hz,带来更清晰、逼真、流畅的画面效果。

但这并不是第二代骁龙XR2 GPU性能的极限。根据司宏国的介绍,第二代骁龙XR2能够优化支持最高单眼3K×3K的显示分辨率,这对于目前的VR和MR设备来说是最理想的方案。

此外第二代骁龙XR2还能够支持众多的先进特性,例如空间扭曲、游戏超级分辨率和注视点渲染,以推动VR和MR体验提升至一个新的水平。

其次,是交互方面

流畅交互主要指两方面,一方面是计算机和周围环境的交互,另一方面则是计算机与人的交互。无论是对用户的头部、手部、眼球、全身动作进行追踪,还是对周围环境做3D重建、平面检测、语义理解、物体识别和追踪,都需要强大的算力作为保证。

得益于终端侧AI能力的大幅度提升(相比第一代骁龙XR2每瓦特性能提升8倍),第二代骁龙XR2能够支持出色的并发感知技术,以实现用户和环境理解。司宏国告诉我们,第二代骁龙XR2实现了对INT8的支持,并优化了不同AI模块之间的连接,以实现紧密的协同处理,同时还扩展了终端侧的内存。

而除了AI引擎能力的大幅提升之外,高通还实现了6DoF中的特征探测和追踪(Feature detection and tracking)功能从软件向芯片硬件视觉分析引擎(Engine for Visual Analytics)的迁移,不仅提升了性能实现了关键点检测数量的的大幅提升,同时还大幅度降低了该功能的功耗和时延。

在连接方面,第二代骁龙XR2能够支持Wi-Fi 7、Wi-Fi 6E连接,带来更低延迟、更高带宽的网络接入,以适应不同应用场景下对于网络连接的不同需求。此外,第二代骁龙XR2还支持了面向XR的高通FastConnect软件套件,能够实现25%功耗的降低,峰值速度可达5.8Gbps,并且时延降低80%。

在司宏国看来,VR和MR设备不仅可以作为一体式设备提供丰富的用例,还可以与强大的游戏PC相连接,在更强大的散热能力和专用显卡的支持下,赋能不同游戏生态的融合。因此,在上述这种情况下,对于XR设备与其他设备之间的互联来说,Wi-Fi 7技术同样非常重要。

最后则是各大VR厂商重点发力的VST混合现实技术

第二代骁龙XR2最高能够支持并行处理10路传感器和摄像头数据,不仅能够满足实现VST与头手6DoF追踪功能对不同类型摄像头的需求,也为眼球追踪、面部捕捉所需的摄像头预留了充足的处理能力。高通还对整个VST(视频透视)的线程进行了全面优化,不仅支持通过几何校正、降噪、动态亮度调整等技术提升VST的图像质量,还实现了低至12ms的VST时延。

VST时延直接关乎用户MR体验的优劣,动作到画面之间较高的MTP延迟不仅会让用户在人机交互的过程中感受到迟滞感,还有可能导致晕动症的发生。因此VST时延这一指标是衡量VST效果的重要标准之一。

传统的VST功能中,单帧画面需要经过摄像头、镜头校正、等待帧、渲染、等待显示、扭曲、显示7个环节才能最终呈现在用户的眼前,因此时延一直居高不下,通常会大于50毫秒,导致用户体验不佳。在6月份发布的Vision Pro上,苹果凭借M2+R1芯片的组合实现了12ms以内将摄像头图像流式传输到屏幕上,被广泛认为是Vision Pro实现出色VST效果的重要原因之一。

不过高通并未跟随苹果的步伐选择采用多芯片的方案来改善VST的时延,而是在单芯片的基础上给出了另一个选择,避免计算平台产生较大的架构变动,推高企业的研发和量产成本。

第二代骁龙XR2搭载了新一代高通Spectra ISP,能够在单步中完成几何校正、降噪、动态亮度调节等多项图像处理工作,一次性将VST时延降低至约12毫秒,达到持平Vision Pro M2+R1芯片的水准。重要指标上的追平意味消费者无需购买昂贵的Vision Pro,选择搭载了第二代骁龙XR2计算平台的硬件产品同样能获得出色的VST体验,覆盖了更广泛的用户群体。

从这三大亮点中我们不难看出,贯穿第二代骁龙XR2计算平台始终的,是如何在不推高成本的情况下,将更好的体验带给广大的消费者,无处不彰显高通普及XR与空间计算的决心和独到的路径。也正如司宏国在采访中所说:“目前来说我们关心的是,如何让消费者能够买到经济实惠的设备。我们认为,绝大多数用户关心的,也是我们正在努力解决的问题是,如何在产品体验和产品的可负担性之间实现最优的平衡。”

第一代骁龙AR1,补足轻量级智能眼镜生态

尽管市场成熟度相对VR和MR仍稍显青涩,AR智能眼镜这一正在飞速成长的赛道同样是高通重点关注和发力的对象。自2021年以来,高通陆续发布了基于骁龙XR1的分体式连接AR参考设计、基于第一代骁龙XR2的无线AR眼镜参考设计和基于第一代骁龙AR2的轻量级无线AR眼镜参考设计。

从产品路线来看,高通专为AR智能眼镜打造的计算平台已经逐渐形成了独立的产品线,不再完全和VR与MR头显共用。这也符合AR智能眼镜与VR、MR头显相异的追求——产品更追求轻薄,对于芯片的大小和发热量有严格的要求,需要高续航以满足全天候使用需求,对于显示分辨率的提高没有迫切要求,语音作为重要的交互方式对于平台的AI能力有更高的需求等等。

甚至在AR智能眼镜这个大的框架内,因为产品的目标人群不同,不同的AR眼镜在功能上也存在着差异。支持不支持6DoF,支持不支持全彩显示,单目显示、双目显示还是仅有语音,侧重观影还是信息提示,是否支持实时拍摄,都对计算平台的能力提出了不同的考验。

第一代骁龙AR1正是高通面向下一代智能眼镜推出的首个专用计算平台。相比第一代骁龙AR2更强调的分布式计算支持的沉浸式体验,第一代骁龙AR1主打的是出色的拍摄与AI能力,更加契合以信息提示为主要目标的轻薄AR智能眼镜,是对主打观影等沉浸式体验的AR眼镜生态的补足。

“在AR领域,面向消费者的沉浸式体验刚刚起步,但我们看到已经有大量的企业正在使用丰富的AR应用,包括远程协助、说明/指导、以及通过AR智能眼镜赋能的生产力工具。我很高兴宣布推出第一代骁龙AR1平台,这是高通为赋能下一代智能眼镜打造的首个专用平台“,司宏国在媒体沟通会上表示。

拍摄方面,第一代骁龙AR1采用14-bit双ISP,支持顶级即时拍摄体验,可以拍摄1200万像素照片和600万像素视频,此外它还加入了高通为智能手机打造的诸多顶级特性,比如自动曝光、自动人脸检测、计算HDR和人像模式。第一代骁龙AR1赋能的智能眼镜将变革拍摄照片和视频的方式,让人们可以解放双手进行拍摄。

AI方面,第一代骁龙AR1采用了第三代Hexagon NPU,在眼镜侧支持本地部署视觉搜索、定向音频采集、实时翻译等AI能力。它还能帮助增强照片和视频的拍摄质量、通过降噪实现更清晰的通话,并可以通过计算机视觉实现更清晰的视频拍摄。

除此之外,第一代骁龙AR1可以处理面向健康和运动追踪的传感器数据,让智能眼镜可以为用户提供实用的情境信息和指令。对语音指令的支持让基于第一代骁龙AR1打造的智能眼镜可以解放双手,这一功能在滑板、骑自行车、做饭时将变得非常实用。

在拍摄和AI两个高通最看重的功能外,第一代骁龙AR1能够支持3DoF追踪,单目/双目显示方案,像素数量最高可达单眼160万像素(1280×1280),给与了OEM厂商灵活打造AR智能眼镜产品的余裕,能够很好的应对从具备出色摄像头和音乐功能、以图像拍摄为核心的智能眼镜;到支持单目显示、完美支持提醒通知和导航应用的智能眼镜;再到支持双目显示、具备更丰富视觉效果的更强大的智能眼镜等不同AR硬件对于芯片能力的需求。

在必不可少的连接方面,第一代骁龙AR1配备了与第二代骁龙XR2相同的高通Fast Connect软件套件,支持Wi-Fi 7无线网络、蓝牙5.2和5.3,胜任高频并发多连接的使用场景,峰值速度达到5.8Gbps,时延也降低了80%。

“第一代骁龙AR1是我们为赋能下一代智能眼镜打造的首款专用平台。它支持顶级照片和视频拍摄功能,具备强大的眼镜侧AI能力,可以增强照片和视频拍摄体验、支持虚拟助手从而解放双手,并且支持多种智能眼镜类型,包括仅采用摄像头的款式,到支持单目显示和双目显示的款式”,司宏国在媒体沟通会的最后总结道。

立足广大用户,走实用的普及之路

在媒体沟通会后的采访环节,司宏国就许多人关心的问题也做出了详细的解答。

对于目前市面上单眼4K分辨率Micro OLED微显示器的涌现,司宏国表示,骁龙平台何时实现对单眼4K分辨率的支持,仍需观察4K Micro OLED微显示器的成熟度。目前4K显示仍然是非常昂贵的解决方案,也并不具备足以实现规模化扩展的供应能力。3K×3K分辨率已经能够带来出色的视觉效果,相比市场上已有的解决方案有着很大的优势。高通非常看好4K显示未来的潜力,同时也密切关注整个产业的就绪程度。但就目前来说高通关心的是,4K显示何时才能真正实现大规模量产。

至于苹果Vision Pro对于整个XR行业的影响,司宏国认为苹果进入XR市场,为行业带来的影响无疑是积极的,将进一步提升XR市场的关注度。随后司宏国解释了高通和苹果策略的差异:苹果产品的价格较为昂贵,并且需要采用多个芯片以及外置电池来支持。但是对于广大用户来说,这可能并不是他们所期待的,这样的架构也很难确保终端价格是大多数用户可以负担的。以手势追踪为例,高通的平台能够实现同样的手势识别和追踪功能,还能支持更多能力。相比苹果,高通采用了一种更加实用的思路,以将VR和MR体验带到更广阔的市场当中。

XR技术要实现更广泛的市场普及,不仅需要像Vision Pro这样在技术层面达到极致的高端产品,还需要更多从用户需求角度出发,寻求体验和价格最佳平衡的大众产品。高通希望推动技术不断进步,降低价格,提高性能,使XR技术更加普及,让更多人享受到其带来的乐趣和便利,迎接空间计算时代的到来。或许这也正是高通想通过第二代骁龙XR2和第一代骁龙AR1,达成的XR普及之路。

「路虽远,行则将至」。

「93913原创内容,转载请注明出处」