首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >MIT团队将脑机接口与机器人结合起来

MIT团队将脑机接口与机器人结合起来

作者头像
脑机接口社区
发布于 2024-01-07 06:35:22
发布于 2024-01-07 06:35:22
5790
举报
文章被收录于专栏:脑机接口脑机接口

将BCI和机器人系统结合,使用无线、可穿戴的BCI设备控制波士顿动力的四足机器人Spot,并探索其在个人助理场景中的使用。用户通过脑力计算回答一系列问题,每个问题有对应的Spot动作。该系统成功率为83.4%。这是首次将无线、非视觉型BCI系统与Spot在个人助理使用案例中进行集成。未来版本可能具有友好和直观的提示,类似于普通导盲犬。该项目旨在为由无线和可穿戴的BCI系统提供动力的现代个人助理机器人的未来发展铺平道路。

机器人行业正在崛起,机器人在许多环境中都扮演着积极的角色,但专门为用户需求而设计的个人助理移动机器人,如帮忙拿东西、浇花、开门等,实际上几乎不存在。此外,大多数控制模式几乎完全使用语音或触摸界面,不能使用这些模式操纵机器人的用户被给予使用BCI控制所需的选项。这些系统更常被称为脑-计算机接口(BCIs)。在许多情况下,患有“注视症候群(LIS)”或“肌萎缩侧索硬化症(ALS)”等疾病的用户从使用BCI控制机器人中受益最大。然而,大多数为这些用户设计的系统包括轮椅或外骨骼控制。此外,要控制轮椅,在大多数情况下,用户仍需要依靠视觉刺激的注视。此外,在大多数情况下,这些BCI系统与承载电极的基于凝胶的帽子相结合,或者是可植入解决方案,因此在现实世界中很少尝试交互,或者由于手术成本而难以扩展。

本文介绍了一个基于可穿戴、无线BCI控制的辅助机器人概念验证系统。这个系统使用非视觉的思维任务进行控制,能够帮助用户拿物品或打开门等操作。为了实现移动、无线和自主的功能,作者选择了一副带有EEG/EOG电极的无线眼镜,并将其嵌入到眼镜的框架中。研究人员还选择了波士顿动力公司的移动机器人Spot作为原型。用户通过iPhone回答一系列YES/NO问题,同时戴着眼镜,每个问题都有一个预设的Spot动作集。该系统的总体准确率达到了83.4%。尽管Spot的价格较高,但它是目前唯一能够执行重型任务并在以人为中心的环境中执行其他任务的敏捷机器人。这是第一次将无线、非视觉型BCI系统与Spot在个人助理使用案例中进行集成。

现有技术

在机器人应用中使用的BCI范式

在过去的20年里,人们积极探索利用非侵入性脑电图(EEG)控制不同机器人和神经假肢设备的可能性。至今,EEG仍然是最实用和适用的非侵入性BCI方法之一。BCI系统可以使用内源(自发性)或外源(诱发性)信号进行控制。在外源BCI中,当一个人专注于外部刺激(如视觉或听觉提示)时,会出现诱发信号。这种方法的优点包括训练简化以及高达60位/分钟的比特率。然而,用户需要始终关注刺激,这限制了其在真实生活条件下的适用性。并且用户可能很快感到疲劳。然而,运动想象被认为是一项复杂的、认知要求高的任务,因此人们正在积极探索其他用于BCI控制的脑力策略,如想象音乐、音素想象、视觉想象、心理旋转、心理计算和词汇联想。

在研究中,研究人员探索了心理计算-一种需要特定问题的心理工作,但不像外源任务那样需要刺激的心理任务,因此有时被称为“脑筋急转弯”。对于这个任务,易用性评估显示随着训练次数的增加,负担似乎在减少,这表明训练可能会减轻这个任务的负担,不像运动想象等策略。据研究人员所知,研究人员还没有找到涉及无视觉训练和使用“脑筋急转弯”策略进行控制任务的脑-机器人系统(见图1)。因此,研究人员认为探索其他非视觉范式对于脑控机器人的控制可能会有益,因为设备本身的可穿戴性增强(无需将电极放置在前运动皮层和运动皮层上,只需要一个头带设计即可);“脑筋急转弯”任务通常不需要任何视觉训练,并且对参与者的认知要求较低。

图1. 2023年脑机接口和机器人技术的最新进展概述。包括(A) 和(F)——使用MI BCI范式控制肢体和外骨骼的植入物;(E)——至今最新的论文,采用混合MI + SSVEP + EMG系统;(B)、(D)和(G)都使用相同的帽子,用于不同的机器人应用案例以及MI BCI范式;(C)展示了P300界面;最后,(H)是研究人员所知道的唯一一篇关于四足机器人并采用SSVEP BCI范式的论文。所有接受过上述系统训练的用户还需要进行基于视觉的训练方案。该图还说明了佩戴BCI设备的可携带性和舒适度方面的挑战,而研究人员在本文中提出的解决方案(I)是唯一一个真正的可穿戴形式,安装时间不到2分钟。

脑机接口(BCI)实现的机器人应用

通常使用BCI的机器人应用最常见的是为需要帮助的人群提供服务,其中包括轮椅和外骨骼等。图1展示了机器人和BCI技术最新进展的概述。研究人员还参考了Zhang和Wang的综合论文,对由运动想象BCI控制的机器人进行了全面的评论,包括移动机器人和机械臂。

智能轮椅通常具有不同的功能,从辅助到康复都有。脑控机器人系统可以通过使这些功能对LIS、ALS等人群可访问来进一步扩展它们的用途。一些研究者提出了基于64通道脑电图(EEG)的BCI,结合左手想象运动、休息和词汇联想等脑力任务,用于驱动轮椅沿预定路线行驶。另一些研究者使用混合型BCI系统,结合运动想象、眨眼和P300,以控制轮椅前后移动。为了适应真实世界的环境,一些实验室开始使用少量电极并将信号处理放在移动应用程序上的BCI系统,以提供相同的轮椅控制功能但在移动环境中使用。同时,还有研究致力于使用大脑信号控制外骨骼,以帮助康复脊髓损伤的人。另外,还有一些研究关注脑控人形机器人作为LIS患者的潜在解决方案。现在,研究人员介绍研究人员的系统架构,研究人员将其称为Ddog:使用基于心算任务的移动BCI解决方案控制Spot机器人。

Ddog的组成结构

该系统的目标是设计一款自主应用程序,使用户能够基于BCI的输入控制Spot机器人,并通过应用程序使用语音向用户和他们的护理者提供反馈。该系统旨在完全离线或完全在线工作。在线版本具有更先进的机器学习(ML)模型,并且经过更好的微调,同时保留本地设备的电池。该系统旨在运行生产,同时允许对大部分组件进行快速迭代。系统概述可见图2和图3。

图2. Ddog系统的架构。

图3. 全系统总览

在客户端方面,用户通过移动应用程序与脑-计算机界面(BCI)设备(在本文中为AttentivU设备,将在本文第4节中深入介绍)进行交互,该应用程序使用蓝牙低功耗(BLE)协议与设备通信。用户的移动设备(手机B)与另一部控制Spot机器人的移动电话进行通信,以实现代理、操作、导航和最终的用户辅助。移动电话之间的通信可以通过Wi-Fi或长期演进(LTE)协议进行。在Phone D上建立了一个Wi-Fi热点,Ddog通过Wi-Fi连接到它。Phone B也是如此 - 它通过相同的Wi-Fi连接到Phone D。

图4. Cloud B和Cloud D的视觉表现。

图5. Boston Dynamics的Spot机器人的臂和夹持器。

图6. 一个戴着AttentivU眼镜的人即将执行一个心理任务,进行计算,以便将Spot从“客厅”空间发送到“厨房”空间。

同时,该系统有可能在线运行系统,独立于云中运行的模型。敏感生物数据专用的人工智能(AI)模型与用于机器人和代理系统的AI模型分别处理。

图7. 试次运行的顺序

展望

总体而言,研究人员的研究应被视为一个概念验证,并且所有的发现都应被视为初步的,因为研究人员只有两个健康受试者;因此,任何统计分析都是不可能的。参与研究人员研究的受试者指出,他们在控制机器人和使用BCI系统时都感到高度参与。研究人员认为应该进行更多的研究,包括健康对照组和LIS/ALS患者。还应进一步评估所使用的BCI范式,尽管其他研究使用心算方法并未出现性能下降或习惯化导致的下降,但个性化模型和其他“脑筋急转弯”范式,如词语联想,值得进一步探索。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2024-01-07,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 脑机接口社区 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
戴在头上的未来——可穿戴脑机接口,会是下一个智能手机吗?
你可能听过“脑机接口”这个词。简单来说,就是让人类的大脑和计算机直接交流,不用键盘、不用屏幕、不用鼠标——思想发出指令,设备执行动作。
Echo_Wish
2025/08/12
1990
戴在头上的未来——可穿戴脑机接口,会是下一个智能手机吗?
脑机接口+机器狗 | MIT的 Ddog 项目将脑机接口与Spot 机器人连接起来
未来,将脑机接口(BCI)和机器人系统结合起来,就能在日常生活中实现无缝个人助理系统,只需利用大脑活动,就能以离散的方式执行请求。
脑机接口社区
2024/01/05
3910
脑机接口+机器狗 | MIT的 Ddog 项目将脑机接口与Spot 机器人连接起来
AI读心术再升级!一副眼镜直接控制波士顿机器狗,脑控机器人成真
来自麻省理工的研究人员发表了Ddog项目,通过自己开发的脑机接口(BCI)设备,控制波士顿动力的机器狗Spot。
新智元
2024/02/06
2080
AI读心术再升级!一副眼镜直接控制波士顿机器狗,脑控机器人成真
基于EEG-EMG混合控制方法的研究—生物机器人应用:现状、挑战与未来方向(二)
02 基于肌电图的混合控制方法综述 基于EEG-EMG的混合控制接口的基本思想是在控制方法中融合EEG和EMG信号,信号的融合可以以许多不同的方式进行,并且可能取决于特定应用和用户能力等因素。在这个混合接口中,结合了EEG信号和EMG信号,混合方法的应用可能有所不同,从一个简单的游戏控制应用程序,到假肢手臂控制应用程序。 这篇综述的主要目的是研究生物机器人学的应用,例如假肢和外骨骼,因此范围缩小到研究混合EEG-EMG方法在生物机器人中的应用。如前所述,有许多可能的方法将肌电图和脑电图信号结合在一种特定的控制方法内,以提高有效性。 一般来说,EEG或EMG信号可用于操作应用程序的各个部分,例如辅助设备中的部件,或者,所有这些都可以组合起来。后者将允许用户根据自己的喜好从一个控制信号平稳地切换到另一个控制信号。 有几种方法可以用来对生物机器人应用中的脑电-肌电混合控制方法进行分类,如特定的应用/设备(如假肢、外骨骼、轮椅)或输入处理方法。作为一个双输入系统,混合EEG-EMG接口可以同时处理输入信号,也可以按顺序处理输入信号。 在这篇综述文章中,我们将把生物机器人应用中的混合控制方法的每一项研究分为两类,根据输入处理方法是同时的还是顺序的,EEG-EMG方法的比较和本文讨论的不同混合方法的重要特征总结如表1所示。重要的是,无论EEG-EMG信号的融合方法是什么,与单独使用EMG或EEG信号的方法相比,混合方法能获得更高的有效性。
BCIduino脑机接口社区
2020/12/23
1.1K0
基于EEG-EMG混合控制方法的研究—生物机器人应用:现状、挑战与未来方向(二)
运动想象脑机接口控制机器人的研究概述
BCI是一种特殊的信息交换系统,它使大脑能够直接与外部环境互动,而不依赖于大脑的外周神经系统和人体的运动系统。随着BCI的快速发展,对于思维正常但患有神经系统疾病或严重残疾的患者,BCI可使他们重新获得锻炼或与环境沟通的能力,提高生活质量。对于健康人群来说,BCI可提供前所未有的感官体验并帮助提高注意力。最近,BCI技术已变得越来越成熟,该技术在医疗康复、娱乐、教育、军事等领域获得了更多关注和认可。
脑机接口社区
2023/09/28
8220
运动想象脑机接口控制机器人的研究概述
可穿戴的脑机接口设备将运动意念转化为行动
由佐治亚理工学院(GeorgiaInstitute of Technology) won - hong Yeo实验室领导的多个机构研究团队将无线软头皮电子和虚拟现实结合在一个BMI系统中,用户可以想象一个动作,并无线控制轮椅或机械臂。
脑机接口社区
2022/08/17
5510
可穿戴的脑机接口设备将运动意念转化为行动
基于EEG-EMG混合控制方法的研究—生物机器人应用:现状、挑战与未来方向(一)
在过去的几十年里,生物机器人的应用,如外骨骼、假肢和机器人轮椅,已经从科幻小说中的机器发展到几乎商业化的产品。尽管肌电图(EMG)信号仍然存在一些挑战,但利用EMG信号控制此类生物机器人应用的进展是巨大的。
BCIduino脑机接口社区
2020/12/22
6760
基于EEG-EMG混合控制方法的研究—生物机器人应用:现状、挑战与未来方向(一)
研究人员呼吁是时候关注神经数据隐私问题
近年来,可穿戴技术和计算智能的显著进步极大地提高了基于 EEG 的 BCI (eBCI) 的性能和能力,并推动它们走出实验室,走向现实环境中。这种快速转换构成了人机交互的范式转变,它将在不久的将来深刻改变不同行业,包括医疗保健、娱乐、安全、教育和营销。
脑机接口社区
2022/08/17
3190
研究人员呼吁是时候关注神经数据隐私问题
新闻述评:众包机器学习与ReWalk外骨骼
华盛顿大学发布了一种比个人示教更高效,使用众包技术教育机器人完成物体识别和操作任务的技术。通过众包获取的大量数据,能够提高机器学习模型的准确度并提供备用场景。随着时间的推移,模型(例如抓取和移动特定类别的物体)变成广义上的操作,一种通用操作能够应用于多种情况。 Myria点评:尽管华盛顿大学的研究人员关注的是相对简单的任务和模型,但是随着研究的深入,会增加研究的复杂程度,例如开门,爬楼梯等等。任务模型库的不断增加和对这些模型的学习,最终会增加机器人自动执行任务的能力。对于商用的,特别是消费机器人系统,将需要
机器人网
2018/04/12
6290
国内多所单位联合推出的基于SSVEP可穿戴BCI开放数据集
脑机接口(BCI)的各种应用中,基于稳态视觉诱发电位(SSVEP)的BCI因其高信息传输率(ITR)、较少的培训过程和简单的操作而备受研究人员的青睐。近年来出现了基于SSVEP的BCI的开放数据集,开放数据集为研究人员在BCI高速拼写功能方面的研究提供了很大的便利,就BCI设备而言,穿戴式BCI系统在实践中更受欢迎,但对数据采集、数据分析和用户体验方面的要求也更高。而基于SSVEP的可穿戴BCI仍缺少充分的可供参考的数据集,可穿戴BCI由于直接面向用户,其使用的电极、长期用户体验和系统稳定性都是决定其性能的重要指标。近期,来自中科院国家重点实验室的研究人员为基于SSVEP的可穿戴BCI构建了一个包含大量受试者信息的开放数据集,以供实际应用。
脑机接口社区
2022/09/22
6040
国内多所单位联合推出的基于SSVEP可穿戴BCI开放数据集
运动想象脑机接口编码:运动想象的执行与能力评估及提高方法 || 伏云发教授等
运动想象(MI)是驱动脑机接口(BCI)的一种重要范式,但 MI 心理活动不易控制或习得,MI-BCI 的性能严重依赖被试 MI 的表现。因此 MI 心理活动的正确执行以及能力的评估和提高对 MI-BCI 系统性能的提升及应用具有重要的甚至关键性的作用。然而,在 MI-BCI 的研发中,已有研究主要聚焦于解码 MI 的算法,对 MI 心理活动的这三个方面没有足够的重视。本文针对 MI-BCI 的这些问题进行详细论述,指出被试易把动觉运动想象执行为视觉运动想象;未来需要研发客观的、定量可视化的 MI 能力评估方法,并且需要研发有效的、训练时间短的 MI 能力提高方法,也需要在一定程度上解决个体之间和内部 MI 的差异性、共性和 MI-BCI 盲问题。
脑机接口社区
2022/09/22
2.8K0
运动想象脑机接口编码:运动想象的执行与能力评估及提高方法 || 伏云发教授等
SCIENCE ROBOTICS:一种供四肢瘫痪患者使用的基于混合EEG/EOG信号的非侵入式脑/神经手外骨骼装置
请点击上面“思影科技”四个字,选择关注作者,思影科技专注于脑影像数据处理,涵盖(fMRI,结构像,DTI,ASL,EEG/ERP,FNIRS,眼动)等,希望专业的内容可以给关注者带来帮助,欢迎留言讨论,也欢迎参加思影科技的其他课程。(文末点击浏览)
用户1279583
2019/12/25
9770
SCIENCE ROBOTICS:一种供四肢瘫痪患者使用的基于混合EEG/EOG信号的非侵入式脑/神经手外骨骼装置
深度解析脑机接口技术的现状与未来!
通过在脑后插入一根线缆,我们就能够畅游计算机世界;只需一个意念我们就能改变“现实”;学习知识不再需要通过书本、视频等媒介,也不需要在花费大量的时间,只需直接将知识传输到大脑当中即可。这是1999年上映的经典科幻片《黑客帝国》当中,为我们描绘的画面。这并非是天马行空的幻想,而是基于早已有之的“脑机接口”技术的的合理设想。
数据猿
2020/06/28
2K0
深度解析脑机接口技术的现状与未来!
个性化脑机接口及应用
脑机接口(BCI)是一种变革传统人机交互的新型技术,用户的大脑是直接的控制信号源。在BCI转化为实际应用时,由于用户个体之间的感觉、知觉、表象与认知思维活动、脑结构与功能具有一定的差异,通用BCI难以满足不同个体的需求。为此,需要为特定用户定制个性化的BCI。迄今为止,少有文献对个性化BCI涉及的关键科学与技术问题进行阐述,本文聚焦个性化BCI,给出个性化BCI的定义,详述其设计研发以及评价方法和应用,并讨论个性化BCI面临的挑战及未来方向。期望本文对个性化BCI创新研究及实用化提供有益的思路。
脑机接口社区
2023/02/14
7120
个性化脑机接口及应用
脑机交互可提高行动能力
发表在《ScienceTranslational Medicine》和《Lancet Neurology》上的两项新研究表明,大脑和假肢设备之间的交流可以改善截肢患者和四肢瘫患者的灵活性。这些概念和研究为这些新技术应用于临床铺平了道路。
脑机接口社区
2022/09/22
2580
脑机交互可提高行动能力
通用脑-机接口研究软件介绍
g.tec提供了完整的基于MATLAB的研发系统,包括数据采集,实时和离线数据分析,数据分类以及提供神经反馈所需的所有硬件和软件组件。可以使用g.MOBIlab +,g.USBamp-RESEARCH,g.HIamp或g.Nautilus构建BCI系统。g.MOBIlab +最多可提供8个带有无线信号传输的EEG通道,并且是便携式的。g.USBamp-RESEARCH可用于16-64 EEG通道,并通过USB将数据传输到PC或笔记本电脑。g.HIamp通过USB获取64-256个通道。g.Nautilus无线EEG具有8-64个通道。下图就是g.Recorder的效果图。
脑机接口社区
2020/06/30
1.6K0
实际BCI应用:异步EEG/EOG BCI手抓取和释放的可行性
Crea等人在Scientific Reports 2018中的论文《Feasibility and safety of shared EEG/EOG and vision-guidedautonomous whole-arm exoskeleton control to perform activities of daily living》这篇论文代表了迈向实用脑机接口(BCI)的激动人心的一步。在该项研究中,研究人员专为手臂和手指控制严重缺陷而影响日常活动(例如饮酒或饮食)的患者设计了BCI系统。例如,这种损伤是由脊髓损伤或中风引起的,并且对生活质量有很大的影响。
脑机接口社区
2020/07/01
6060
脑机 | 聚焦人工智能:脑机接口技术
精神控制的外骨骼和先进的神经假肢;虚拟和增强现实;可穿戴设备使用来自大脑的数据来影响用户的情绪和情绪——这些曾经是科幻小说的内容。今天,它们越来越多地出现在科学事实的范围内,并将影响医疗保健、游戏和国家安全的方方面面。随着这一领域的预期增长,专利申请的繁荣肯定会随之而来。
脑机接口社区
2022/09/22
8080
脑机 | 聚焦人工智能:脑机接口技术
脑机接口新进展!意念控制机器人离实现更近了一步!
多年来,研究人员一直在努力制造一种设备,让人们可以用他们的思想控制并独立地进行某些活动。
脑机接口社区
2022/08/25
6450
脑机接口新进展!意念控制机器人离实现更近了一步!
Nature子刊 | 清华大学研究团队联合提出一种基于视觉和听觉的耳内脑机接口
近日,清华大学柔性电子技术实验室冯雪教授课题组与医学院高小榕教授课题组合作,在《Nature Communications》期刊上在线发表了题为“用于视觉和听觉脑机接口的入耳式共形生物电子器件”(Conformal in-ear bioelectronics for visual and auditory brain-computer interfaces)的研究成果。在该研究中,研究人员提出了一种耳内的柔性三维附壁攀爬神经电子器件,开展了基于稳态视觉诱发电位和鸡尾酒会效应的视觉及听觉脑机接口(BCI)研究,并提出了基于耳内生物电子学的耳内视觉和听觉脑机接口,命名为Spiral E,这是一种耳内式脑电图监测设备。耳内式脑电图监测以其独特的可穿戴性和离散性等优点而备受关注。
脑机接口社区
2023/09/19
7460
Nature子刊 | 清华大学研究团队联合提出一种基于视觉和听觉的耳内脑机接口
推荐阅读
戴在头上的未来——可穿戴脑机接口,会是下一个智能手机吗?
1990
脑机接口+机器狗 | MIT的 Ddog 项目将脑机接口与Spot 机器人连接起来
3910
AI读心术再升级!一副眼镜直接控制波士顿机器狗,脑控机器人成真
2080
基于EEG-EMG混合控制方法的研究—生物机器人应用:现状、挑战与未来方向(二)
1.1K0
运动想象脑机接口控制机器人的研究概述
8220
可穿戴的脑机接口设备将运动意念转化为行动
5510
基于EEG-EMG混合控制方法的研究—生物机器人应用:现状、挑战与未来方向(一)
6760
研究人员呼吁是时候关注神经数据隐私问题
3190
新闻述评:众包机器学习与ReWalk外骨骼
6290
国内多所单位联合推出的基于SSVEP可穿戴BCI开放数据集
6040
运动想象脑机接口编码:运动想象的执行与能力评估及提高方法 || 伏云发教授等
2.8K0
SCIENCE ROBOTICS:一种供四肢瘫痪患者使用的基于混合EEG/EOG信号的非侵入式脑/神经手外骨骼装置
9770
深度解析脑机接口技术的现状与未来!
2K0
个性化脑机接口及应用
7120
脑机交互可提高行动能力
2580
通用脑-机接口研究软件介绍
1.6K0
实际BCI应用:异步EEG/EOG BCI手抓取和释放的可行性
6060
脑机 | 聚焦人工智能:脑机接口技术
8080
脑机接口新进展!意念控制机器人离实现更近了一步!
6450
Nature子刊 | 清华大学研究团队联合提出一种基于视觉和听觉的耳内脑机接口
7460
相关推荐
戴在头上的未来——可穿戴脑机接口,会是下一个智能手机吗?
更多 >
领券
一站式MCP教程库,解锁AI应用新玩法
涵盖代码开发、场景应用、自动测试全流程,助你从零构建专属AI助手
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档