1 定义

体感交互是一种直接利用躯体动作、声音、眼球转动等方式与周边的装置或环境进行互动的交互方式。相对于传统的界面交互(WIMP),体感交互强调利用肢体动作手势语音等现实生活中已有的知识和技能进行人与产品的交互,通过看得见摸得着的实体交互设计帮助用户与产品、服务以及系统进行交流。[1]

1.1 WIMP界面

Xerox Palo研究中心于70年代中后期研制出原型机Star,形成了以窗口(Windows)、菜单(Menu)、图符(Icons)和指示装置(Pointing Devices)为基础的图形用户界面,也称WIMP界面。Apple最先采用了这种图形界面,斯坦福研究所60年代的发展计划也对WIMP界面的发展产生了重要的影响。该计划强调增强人的智能,把人而不是技术放在了人机交互的中心位置。该计划的结果导致了许多硬件的发明,众所周知的鼠标就是其中之一。[2]

2 研究的发展历程

2.1 研究的起步

2.1.1 知网数据库

知网搜索体感交互这个关键词,搜索到总共约500篇文献。其中,第一次提到体感交互(somatosensory interaction)这个词是1977年一篇名为Vestibular and somatosensory interaction in the cat vestibular nuclei 的论文,中文名可以翻译为“猫前庭核团的前庭和体感相互作用”,是一篇医学领域的论文。第二次是在1987年,也有一篇名为Somatosensory interaction in opossums as measured by evoked potentials (用诱发电位测量负鼠的体感相互作用)的动物科学领域的论文提到了体感交互这个词。一直到2008年,体感交互一词均出现在诸如医学、神经学、生理学等领域的论文中。
知网的数据库中,第一次在计算机或工程领域出现“体感交互”是在2010年,一篇提到了体感设备,但没有提到体感交互的论文,其次是2011年一篇名为 视频体感交互试衣系统开发 的硕士学位论文,其参考文献没有任何一篇标题带有体感交互的文献。

2.1.2 WOS所有数据库

Web of science 所有数据库里搜索somatosensory interaction,从1951年看到了2010年都没有出现计算机或是工程领域的论文(看到都快不认识NEURO这个词了)。好不容易找到了第一篇,就是知网搜索到的那一篇2010年的提到了体感设备但没有提到体感交互的论文呢体感设备与被动立体相结合的人机交互方法研究。其次是一篇名为Dynamic Brain-Machine Interface: a novel paradigm for bidirectional interaction between brains and dynamical systems 的论文,2011年发表在IEEE 会议上(33rd Annual International Conference of the IEEE Engineering-in-Medicine-and-Biology-Society (EMBS)),是一篇有关于脑机接口的的论文。而其所引用的论文有一篇于2002年也提及了大脑与机器连接的技术(Connecting cortex to machines: recent advances in brain interfaces)因此可以发现在工程领域体感交互有关的学术研究几乎是从2011年才开始起步,且很可能主要以脑机接口为契机,开始进入工程领域的应用。这也说明了体感交互领域与神经学等生命科学领域有着密不可分的关系。
同时,在wos上检索出来工程/计算机领域与体感交互有关的文献数量相对较少(约12篇左右),且多数文献作者还是中国人,因此可以判断体感交互是在国内热度较大的领域,且体感交互这个词在国内的使用更加广泛一些。不知道英语国家是使用什么另外的叫法,或是本身研究热度就不高?

因此wos的数据库事实上不具有很大的优势,所以采用知网对中文数据库做如下分析。

2.2 研究的概况

总体来看,计算机领域与自动化技术领域的文献相对较多,且从2011年才开始出现,研究热度在2017年达到峰值。从主要主题和次要主题分布图来看,在一些细分领域的关键词中,Kinect是一个非常热门的关键词,其他还有体感游戏、虚拟现实、手势识别、Leap Motion、教学应用、智能家居、Unity3D、传感器和骨骼追踪等,均是值得研究探索的领域。哈工大在这个领域发表的论文比较多,其次是我们浙江大学。
知网上只有一篇综述论文体感设计的未来趋势研究,看了一下……写了跟没写一样,不具有太大的参考价值(我这个文档整理整理都比那篇看起来像一个综述)。
image.pngimage.pngimage.pngimage.pngimage.pngimage.png

2.2.1 Kinect

介绍

Kinect是微软在2009年6月2日的E3大展上,正式公布的XBOX360体感周边外设。Kinect彻底颠覆了游戏的单一操作,使人机互动的理念更加彻底的展现出来。
它是一种3D体感摄影机(开发代号“Project Natal”),同时它导入了即时动态捕捉、影像辨识、麦克风输入、语音辨识、社群互动等功能。玩家可以通过这项技术在游戏中开车、与其他玩家互动、通过互联网与其他Xbox玩家分享图片和信息等。
Kinect V1(第一代 Kinect)是微软在2010年6月14日对XBOX360体感周边外设正式发布的名字。伴随Kinect名称的正式发布,Kinect还推出了多款配套游戏,包括Lucasarts出品的《星球大战》、MTV推出的跳舞游戏、宠物游戏、运动游戏《Kinect Sports》、冒险游戏《Kinect Adventure》、赛车游戏《Joyride》等。
“Kinect”为 kinetics(动力学)加上 connection(连接)两字所自创的新词汇,读音为ki-nect(/kɪn’ɛkt/) 。
体感交互 - 图7

原理:红外定位

Kinect比一般的摄像头更为智能。首先,它能够发射红外线,从而对整个房间进行立体定位。摄像头则可以借助红外线来识别人体的运动。除此之外,配合着Xbox 360上的一些高端软件,便可以对人体的48个部位进行实时追踪。该设备最多可以同时对两个玩家进行实时追踪。[6]

2.2.2 Leap motion

介绍

体感控制器制造公司Leap于2013年2月27日发布的体感控制器。Leap Motion 控制器不会替代您的键盘、鼠标、手写笔或触控板,相反,它与它们协同工作。当 Leap Motion 软件运行时,只需将它插入您的 Mac 或 PC 中,一切即准备就绪。只需挥动一只手指即可浏览网页、阅读文章、翻看照片,还有播放音乐。即使不使用任何画笔或笔刷,用您的指尖即可以绘画,涂鸦和设计。
Leap Motion 控制器可追踪全部 10 只手指,精度高达 1/100 毫米。它远比现有的运动控制技术更为精确。Leap Motion 控制器以超过每秒 200 帧的速度追踪您的手部移动,这就是屏幕上的动作与您的每次移动完美同步的原因。[7]
体感交互 - 图8

原理:双目立体视觉


体感交互 - 图9
红外LED+灰阶camera

2.3 研究的趋势

将知网的500条数据放入citespace中进行分析。连线按照光谱的颜色,红色代表年代更近,紫色代表年代更远。将图谱按照关键词聚类,并按照时间线排列,可以大致看出,近两年的研究主要几种在虚拟现实、人-机器人交互和人工智能上。这些领域将是未来的研究重点。

DCA_v353e758.png

3 分类

体感交互可以分成两类,一类是更智能化的,另一类是更自然的。

3.1 智能体感交互(被动)

在只能体感交互中,产品可以预测用户的需求并且自动化地提供服务。换句话说,产品具有感知环境的能力(context-awareness),可以与整个场景交互。例如,当有人走进了一个房间,灯就会自动亮起来。在这个例子中,这个人的进入控制了灯的打开,所以如何获取不可见的输入参数是最重要的。

3.1.1 传感器

3.1.2 人工智能

3.2 自然体感交互(主动)

事实上没有绝对的自然体感交互。人大多数的习惯都是后天形成的,这里的“自然”指的是顺从人的“习惯”,不只是行为习惯,还有人的认知习惯。比如,你可以在iphone或者surface上通过双指操作放大或缩小一张图片,大多数人都能轻松地理解这个操作,即使这个操作在现实生活中无法实现。

“Comparatively, there are two kinds of natural somatosensory interactions, one is more intelligent, and the other is more natural. In intelligent mode, the product can predict user needs and provide ser-vice automatically. In other words, the product is context-awareness, which can react to the whole situation. For example, when someone walked into the room, the light was turned on automatically. In this case, the person’s entering was as the command of “to open the light”, and how to get some invisible input parameters was most im-portant in this situation. As to natural one, actually, there is no exactly natural way. Most habits are constructed after birth. “Natural” here means to be in line with human habits, which aren’t only behavior habits, but also habits of human cognition. For example, you can pinch a picture to zoom in or out on iPhone or Surface, many people understand the operation easily even though it can’t work in real life. ”[5]

3.2.1 手势识别

3.2.2 动作识别

3.2.3 力触觉模拟/控制

用于触摸屏图像感知的指端力触觉再现系统.pdf
基于共享控制的人机灵巧力触觉交互系统设计与实现.pdf
Recognition of Haptic Interaction Patterns.pdf
Not just seeing, but also feeling art Mid-air hap.pdf
岱仕科技 dextarobotics

Dexmo是全球第一款商业化便携式双手无线力反馈手套,兼具手部动作捕捉与力反馈功能,带来最激动人心的力反馈互动体验,可广泛应用于航空航天、工业培训、教育科研、医疗康复、仿真建模、游戏社交等各领域。自2014年以来,我们一直在探索VR/MR中的人机交互方式,致力于寻找适用于所有人的最自然直觉的解决方案。我们一直在努力让力反馈手套成为现实。

岱仕科技DextaRobotics
PedroLopes-EMS-AR-CHI2018-Submission_s.pdf 肌肉电刺激反馈

4 应用举例

4.1 游戏

如体感互动可应用于体感游戏当中,它通过模拟器模拟出三维场景,玩家手握专用游戏手柄,通过自己身体的动作来控制游戏中人物的动作,让玩家“全身”投入到游戏当中,享受到前所未有的体感互动新体验。

4.1.1 Wii

体感交互 - 图11

4.2 医疗产业

医院的康复在治疗、医用资料的浏览,这种非直接触碰可以减少细菌传播。

4.3 教育培训

学校的教学培训、智力开发,动态的教学更容易产生深刻的记忆。[3]

4.4 博物馆展示

5 参考资料

[1]交互设计中的体感交互您来看看-简书
[2]百度百科人机交互技术词条
[3]百度百科体感交互词条
[4]什么是体感交互技术-知乎
[5]Wu, Q., Li, X.R., Wu, G.S., 2014. Interface Design for Somatosensory Interaction, in: Information Security and Privacy. Information Security and Privacy, pp. 794–801.. doi:10.1007/978-3-319-07626-3_75
[6]百度百科Kinect词条
[7]百度百科leap motion词条