VR设备的作用及如何实现眼动追踪?
虚拟现实技术利用计算机生成一种模拟环境,是一种多源信息融合的、交互式的三维动态视景和实体行为的系统仿真使用户沉浸到该环境中。
好的,我们来详细解答一下VR设备的作用以及眼动追踪技术是如何实现的。
一、 VR设备的主要作用
VR设备的核心目标是创造沉浸式体验,让用户感觉身临其境地置身于一个虚拟环境中。这种体验主要通过以下几个核心作用来实现:
-
取代真实视觉:
- 通过头戴显示器中的屏幕(或透镜系统),直接将计算机生成的3D图像投射到用户眼前,完全取代用户对真实世界的视觉感知。
- 关键点: 高分辨率、低延迟显示、宽视场角、透镜畸变矫正。
-
追踪头部运动:
- 利用内置的传感器(如陀螺仪、加速度计、磁力计)以及外置或内置的摄像头/红外传感器(Inside-Out/Outside-In追踪)。
- 作用: 实时检测用户头部的旋转(偏航、俯仰、翻滚)和平移运动。
- 结果: 根据头部运动实时更新虚拟场景的视角,使得用户转动头部时,看到的景象也跟着变化,这是实现空间感和临场感的基础。
-
提供立体视觉:
- 左右屏幕(或单个屏幕分区)分别显示针对左右眼视角渲染的略微不同的图像。
- 结果: 模拟人眼双目视差,让大脑将两个图像融合,感知到深度和立体感。
-
提供空间音频:
- 利用头戴式耳机或集成扬声器,根据用户头部位置和虚拟声源的位置,实时计算并输出3D音效。
- 作用: 声音随着头部转动而改变,进一步增强空间定位感和真实感。
-
(可选) 提供交互能力:
- 通过手柄(通常带有按钮、摇杆、扳机、触摸板及位置追踪)、手势识别(利用摄像头识别手部动作)或全身追踪(附加追踪器)等方式。
- 作用: 允许用户在虚拟环境中进行操作、抓取物品、射击、移动、绘画等,实现与虚拟世界的互动。
- 关键点: 定位精度高、延迟低、交互方式自然、反馈及时。
-
(更高级) 其他感官反馈:
- 触觉反馈: 手柄或手套中的震动电机提供基础触感;力反馈手套或外骨骼能模拟阻力或力感;触觉背心提供身体冲击感。
- 前庭反馈: 部分高级平台(如动感座椅)尝试模拟运动加速度感。
- 嗅觉/味觉: 极少数探索性设备提供气味或味觉反馈。
总结来说,VR设备的作用本质上是:欺骗人的感官系统(主要是视觉、听觉、本体感觉/前庭觉),将用户的意识从物理现实中剥离并沉浸到计算机生成的虚拟世界中,并允许用户在该世界中进行交互。
二、 眼动追踪在VR设备中是如何实现的?
眼动追踪是VR领域一项越来越重要的技术,它通过捕捉用户的眼球运动、注视点和瞳孔变化来获取信息。其实现原理和方法主要基于光学和图像处理技术:
-
核心硬件: 小型红外摄像头和红外光源
- 红外光源 (IR LEDs): 通常安装在头显内部(透镜附近),发出人眼不可见的红外光束照亮用户的眼睛(主要是虹膜和巩膜)。使用红外光是为了避免用户看到干扰光源,并且在大多数光照条件下提供稳定的图像。
- 红外摄像头: 同样安装在头显内部,朝向用户的眼睛。专门用于捕捉被红外光照亮的眼球图像。这些摄像头体积小巧,需要较高的帧率(通常在90Hz到250Hz以上)来精确捕捉快速的眼球运动(扫视)。
-
图像捕捉与特征识别:
- 红外摄像头持续拍摄用户的眼部图像。
- 图像处理算法(通常在头显或连接设备上运行)分析这些图像,识别关键的眼部特征点:
- 瞳孔中心: 一个清晰可见的黑色圆形区域。
- 角膜反射点: 红外光照射到角膜(眼球最外层透明组织)表面形成的亮点,也称为普尔钦光斑。这个光斑相对于眼球是固定的(假设光源位置固定)。
- 有时也会利用虹膜纹理或眼睑轮廓作为辅助参考点。
-
确定注视点方向的原理:
- 普尔钦光斑 + 瞳孔中心向量: 这是最常用和可靠的方法。
- 在头显坐标系中,红外光源位置是已知且固定的。
- 红外光在角膜表面反射形成明亮的普尔钦光斑,在摄像头的图像中清晰可见。
- 摄像头识别出图像中角膜反光点(对应普尔钦光斑)的位置和瞳孔中心的位置。
- 计算瞳孔中心相对于角膜反光点的偏移向量。
- 这个偏移向量的大小和方向直接反映了眼球相对于头显的姿态(即眼睛看向哪里)。
- 简单理解: 当用户直视前方时,角膜反光点正好在瞳孔中心的位置(向量为零)。当用户看向左边时,瞳孔中心会向右相对移动(与视线方向相反),反之亦然。这个相对移动的向量决定了视线方向。
- 模型与标定:
- 眼球并非完美的球体,用户间也存在个体差异(如角膜曲率、瞳孔大小)。
- 为了精确映射偏移向量到空间中的实际注视方向,需要一个眼球模型和一个标定过程。
- 用户标定: 在首次使用或需要精确追踪时,系统会要求用户注视屏幕上几个已知位置的点(通常是5点或9点)。通过记录在不同注视点时的偏移向量,系统可以拟合出该用户眼球的个性化模型参数(如中心偏移量、角膜球半径等),显著提高后续追踪精度。
- 眼球模型: 算法通常使用简化的眼球几何模型(如球体或椭球体)来计算空间视线方向。
- 普尔钦光斑 + 瞳孔中心向量: 这是最常用和可靠的方法。
-
确定注视点在3D空间中的位置 (3D Gaze Point):
- 结合已知的头部位置(来自VR设备自身的6DoF头部追踪)和计算出的视线方向向量(在头显坐标系中)。
- 通过三维空间的几何计算,将视线向量投射到虚拟场景中,就可以计算出用户实际注视的虚拟物体或空间位置(即3D注视点)。
-
其他测量:
- 瞳孔大小: 算法还可以计算瞳孔直径。瞳孔大小受环境光、情绪、认知负荷等因素影响,是另一个重要的生物信号源。
- 睁闭眼状态: 识别眼睑是张开还是闭合。
总结眼动追踪实现流程:
[红外光源]照亮眼睛 -> [红外摄像头]拍摄眼部图像 -> [算法]识别角膜反光点和瞳孔中心 -> [计算]偏移向量 + 个人标定数据 + 眼球模型 -> [得出]眼睛相对于头显的旋转角度 (2D视线方向) -> [结合]实时头部6DoF位置 -> [计算出]在3D虚拟空间中的注视点位置。
眼动追踪在VR中的意义:
- 注视点渲染: 只在用户注视的中心区域进行高分辨率渲染,周边区域采用低分辨率渲染,大幅提升渲染效率(性能优化)。
- 用户行为分析 & UI交互: 研究用户如何查看虚拟场景,无需手柄即可通过“注视”进行菜单选择、确认操作。
- 社交临场感增强: 虚拟角色眼神能准确跟随真实用户(需多用户眼动追踪)。
- 生物识别 & 健康应用: 监测认知状态、情绪压力、甚至潜在的眼部健康问题(如瞳孔不等大)。
- 视光学应用: 测量近视/远视程度、斜视等。
眼动追踪的精度、延迟、对用户差异(如深色虹膜、戴眼镜)的鲁棒性、舒适度(无接触)等是技术不断发展和优化的方向。随着技术的成熟和成本的降低,它正成为新一代高端VR头显(如Meta Quest Pro, Apple Vision Pro, Pico 4 Pro)的标准配置或重要选项。
Meta上半身追踪技术助力VR游戏抗晕动症挑战
更为引人注目的是,上半身追踪并不仅仅提升游戏沉浸感,同时有望缓解VR领域一大顽疾——晕动症。据IT之家观察,知名
2023-12-20 10:06:40
AR/VR市场情况及上游产业链分析
IDC最新预测数据,2021年全球AR/VR总投资规模接近146.7亿美元,并有望在2026年增至747.3亿美元,五年复合增长率(CAGR)将达38.5%。其中,中国市场五年CAGR预计将达43.8%,增速位列全球第一。
资料下载
Hx_hxhx
2023-10-17 13:35:04
基于LoRa无线射频信号的行走追踪系统
然而,现有的行走追踪系统依然面临感知范围小、感知设备部署稠密等问题。在本文中,我们首次将用于物联网低功耗、远距离通信的LoRa技术应用到非接触式的大范围行走追
资料下载
佚名
2021-05-19 10:53:12
VR设备主要有哪些?可以用来做什么?资料下载
电子发烧友网为你提供VR设备主要有哪些?可以用来做什么?资料下载的电子资料下载,更有其他相关的电路图、源代码、课件教程、中文资料、英文资料、参考设计、用户指南、解决方案等资料,希望可以帮助到广大的电子工程师们。
资料下载
djelje
2021-04-09 08:48:00
解读Facebook Oculus VR手势追踪资料下载
电子发烧友网为你提供解读Facebook Oculus VR手势追踪资料下载的电子资料下载,更有其他相关的电路图、源代码、课件教程、中文资料、英文资料、参考设计、用户指南、解决方案等资料,希望可以帮助到广大的电子工程
资料下载
佚名
2021-04-08 08:46:21
Facebook欲凭借VR/AR开创下一代的沉浸式社交新纪元
“未来的VR产品要实现眼动跟踪和面部跟踪功能,这真的让我很兴奋,因为如果你对社交的临场感真的很感兴趣,就需要确保
2021-03-18 15:17:09
眼动追踪能提供全新人机互动体验
强大的电脑芯片、高效的红外LED以及新型的摄像传感器,让先前复杂的眼动追踪系统如今能够适应消费类电子应用的各种需要。借助这些系统,电子设备可以检
眼动追踪将是下一代VR头显非常重要的一项技术
眼动追踪是许多人认为下一代VR头显必备的重要技术,近日Lemnis Technologies最新的变焦原型旨在为头显制造商提供软件和硬件,了解眼
2019-12-28 11:03:56
在VR领域中眼动追踪技术有着广泛的应用
VR技术尚处于发展早期,距离成熟仍有距离。为了能够帮助其快速发展,从业者及研究人员想出了诸多技术解决方案,其中眼动追踪技术以及内向外定位
2019-09-26 09:57:40
换一换
- 如何分清usb-c和type-c的区别
- 中国芯片现状怎样?芯片发展分析
- vga接口接线图及vga接口定义
- 华为harmonyos是什么意思,看懂鸿蒙OS系统!
- 芯片的工作原理是什么?
- ssd是什么意思
- 什么是蓝牙?它的主要作用是什么?
- 汽车电子包含哪些领域?
- TWS蓝牙耳机是什么意思?你真的了解吗
- 什么是单片机?有什么用?
- 升压电路图汇总解析
- plc的工作原理是什么?
- 再次免费公开一肖一吗
- 充电桩一般是如何收费的?有哪些收费标准?
- ADC是什么?高精度ADC是什么意思?
- EDA是什么?有什么作用?
- 中科院研发成功2nm光刻机
- 苹果手机哪几个支持无线充电的?
- dtmb信号覆盖城市查询
- 怎样挑选路由器?
- 华为芯片为什么受制于美国?
- 元宇宙概念股龙头一览
- type-c四根线接法图解
- 锂电池和铅酸电池哪个好?
- 什么是场效应管?它的作用是什么?
- 如何进行编码器的正确接线?接线方法介绍
- 虚短与虚断的概念介绍及区别
- 晶振的作用是什么?
- 大疆无人机的价格贵吗?大约在什么价位?
- 苹果nfc功能怎么复制门禁卡
- 单片机和嵌入式的区别是什么
- amoled屏幕和oled区别
- BLDC电机技术分析
- 复位电路的原理及作用
- dsp是什么意思?有什么作用?
- iphone13promax电池容量是多少毫安
- 苹果无线充电器怎么使用?
- 芯片的组成材料有什么
- 特斯拉充电桩充电是如何收费的?收费标准是什么?
- 直流电机驱动电路及原理图
- 自举电路图
- 通讯隔离作用
- 苹果笔记本macbookpro18款与19款区别
- 新斯的指纹芯片供哪些客户
- 伺服电机是如何进行工作的?它的原理是什么?
- 无人机价钱多少?为什么说无人机烧钱?
- 以太网VPN技术概述
- 传感器常见类型有哪些?
- 手机nfc功能打开好还是关闭好
- 十大公认音质好的无线蓝牙耳机