视觉连贯性

混合现实技术的核心在于将虚拟内容无缝融入物理环境,这被认为是实现人机视觉融合的关键技术之一。从用户体验角度来看,混合现实的真实感主要取决于虚拟与现实图像在人类感知层面的融合程度。

为实现沉浸式体验,混合现实系统必须提供连贯一致的视觉刺激。因此,提升画面的视觉连贯性(Visual Coherence),消除混合现实环境中的视觉割裂感,是当前图形显示领域亟待解决的关键问题。

../../../assets/images/about/P3-1.png



光照视觉连贯性

传统的视觉连贯性研究主要聚焦于几何遮挡和物理碰撞等方面,而对虚拟对象的光照效果关注不足。在大多数混合现实系统中,虚拟与真实对象之间缺乏合理的阴影交互,也没有考虑环境光照对虚拟物体的影响。这种仅限于几何层面的一致性难以产生令人信服的真实感。

由于缺乏对现实场景光照信息的准确获取,混合现实环境中的虚拟物体往往表现出与周围环境不协调的光照效果(包括漫反射、镜面反射、阴影等),这种视觉上的不一致会显著影响用户的沉浸体验。

../../../assets/images/about/P3-2.gif





../../../assets/images/about/P3-3.png

混合显示图像渲染

基于光照视觉连贯性的考量,混合现实渲染必须支持虚拟光照对真实物体的渲染(Re-Lighting),相对的,也需要支持物理光源的识别(Light Estimation),以支持物理光照对虚拟物体的渲染.入左图所示,将不同layer的图形分别渲染,并在合成后通过VST/OST的头戴式显示器进行显示是目前可行性较高的实现方案.

考虑到穿戴式设备的运算能力,这项工作势必要使用分布式计算与轻量化模型.在此基础上,笔者提出了基于先验知识的实时渲染/模型训练优化方法






感知先验研究

大量研究表明,人类的视觉经验会显著影响实际的视觉感知过程。这些积累的先验知识在大脑中形成稳定的记忆表象,进而影响最终的视觉感知结果(心理像)。这种基于经验的视觉偏差(视错觉)现象,为我们优化实时渲染和机器学习提供了新的思路,使我们能够从人类感知的角度出发,在保证视觉效果的同时有效降低计算负载。

../../../assets/images/about/P3-6.png


../../../assets/images/about/P3-4.png

亮度与色彩感知方面的先验

../../../assets/images/about/P3-5.png

光照方向感知方面的先验






实时渲染优化

在渲染技术方面,我们通过深入分析真实光源的视觉特性,创新性地提出了一种基于后处理的自发光物体渲染方法。该方法不仅避免了对间接光照灯罩的复杂渲染计算,还实现了更加真实的视觉效果。

同时,我们搭建了一个基于智能照明系统(Yeelight)的可控光照实验环境,通过系统性的参数匹配测试,建立了物理光照参数与渲染参数之间的精确映射关系,为混合现实环境中的光照一致性提供了可靠的技术支持。

../../../assets/images/about/P3-7.png


../../../assets/images/about/P3-8.gif

暗室与可控光源