该项目曾获:中国人工智能学会博耳杯三等奖,中国移动物联网创客大赛一等奖
摘要
本项目主要是针对脑电信号控制的智能轮椅的设计,脑电控制是智能医疗领域的重要研究方向,旨在帮助行动不便但智力清晰的老年人和残疾人士重获自主行动能力,使用者可以自主上的控制轮椅的前进、左拐、右拐、停止等运动。
本项目以STM32单片机为核心器件,包括脑电波采集及处理模块(以下简称脑电模块),电机驱动模块,语音控制模块,APP-WIFI控制模块和软件设计模块。控制系统不仅可以实现脑电与眼电信号相结合的混合脑机接口控制的主控制模式,同时还具备语音控制、APP-WIFI控制的智能辅助控制模式,多种智能控制模式的结合使轮椅控制更加高效可靠。
脑电模块通过ThinkgearAM芯片采集脑电原始信号和辅助肌电信号,并对原始脑电波数据流进行滤波降噪,处理后的脑电波信号通过蓝牙透传至STM32单片机。原始信号经过模式解析后作为轮椅运动方向的调控信号。单片机通过串行接口与主控制器之间进行数据传送,结合软,硬件的搭建,实现对智能轮椅的运动轨迹的控制。电机驱动模块通过L298n驱动电路及单片机模拟PWM波来控制伺服电机的转速及舵机转向,控制轮椅的运动状态。软件设计模块包括数据解析算法设计和移动端安卓APP的开发。语音控制模块和APP-WIFI控制模块作为智能辅助部分,实现使用者语音或移动端APP通过WiFi通信控制轮椅运动的目的,使设计更加人性化,智能化。
轮椅运用人机工学设计方法,并结合本项目的控制方法在现有的轮椅结构上进行一些整合和改进。同时结合老年人及残疾人士的生理需求和心理需求,调整了轮椅的外观形状,并加强了安全性的设计,增强了用户使用轮椅时的安全系数。
关键词:脑电波智能医疗语音安卓APP人机工学设计
目录
一、前言.............................................................................................3
二、项目的立项依据..........................................................................3
2.1研究意义...............................................................................3
2.2国内外研究现状及发展趋势.................................................4
三、项目的研究内容、研究目标及关键技术....................................4
3.1研究内容...............................................................................4
3.2研究目标.............................................................................10
3.3关键技术.............................................................................10
四、采用的研究方案及可行性分析.................................................11
4.1系统的总体研究方案..........................................................11
4.2方案可行性分析..................................................................12
4.2.1脑电信号采集及处理模块.........................................12
4.2.2单片机及电机驱动模块.............................................19
4.2.3语音控制模块............................................................19
4.2.4WiFi通信模块...........................................................20
五、项目的特色与创新之处............................................................21
六、结论...........................................................................................21
参考文献...........................................................................................23
随着科技水平的不断提高,智能化轮椅将成为更多老年人和残疾人士的选择,具有广阔的市场空间。而具有脑电信号控制的轮椅从一个崭新的角度综合生物医学,计算机,控制理论等方面进行研究,为智力清晰但行动不便的老年人或肢体有残疾的群体提供帮助。随着科学技术的发展和医疗水平的提高,人类预防和控制了多种疾病,因此高龄老人的数量随之逐年增加。同时,由于交通工具的普及化和自然天气等原因,导致交通事故频发,使得残疾人数量增多。他们存在不同程度的能力丧失,这一特殊群体的医疗和护理,将成为经济和社会发展的巨大压力。
本项目实现脑电信号对轮椅的智能化控制。我国人口数量居于世界首位且人口老龄化趋势显著,智力清晰老年人以及残疾人士占总人口比重较大。根据国家统计局数据显示2014年65岁及以上人口为1.3755亿,占当年总人口的比例为10.10%。同时,我国各类残疾人总数已达8500万,约占我国总人口的6.21%,而且每年还在不断增加。他们存在不同程度的行动能力丧失,这一特殊群体的医疗和护理,将成为经济和社会发展的重大问题。基于脑电波即意念控制的智能轮椅能够使他们重获自主行动能力,而且脑电波控制创新有效地方法也会创造更多的社会价值。脑电信号控制已经成为生物医学、人机交互、康复工程等领域的热点研究方向。
脑科学与认知科学被列入《国家中长期科学和技术发展规划纲要(2006-2020年)》八大前沿科学问题之一。对于脑电波的研究是认知脑功能并进而探讨意识本质的科学前沿,这方面探索不仅有重要的科学意义,而且对脑疾病防治,智能技术发展具有重要的引导作用。
许多国外研究者继英国研制的第一辆智能轮椅以来研究出了许多智能轮椅,例如西班牙的SIAMO项目、法国的VAHM项目、德国乌尔姆大学的MAID项目、希腊的FoundationforResearch&TechnologyHellas开发的商业化智能轮椅MEYRA等,近几年又相继问世了丰田公司发明的脑电波控制轮椅、日本科学家发明的面部肌肉控制轮椅、以色列科学家发明的鼻息控制轮椅等[2]。
我国也相继研制出了很多接近国外先进水平的轮椅,如台湾中正大学设计的LUOSON智能轮椅、中科院自动化所的“863项目”、上海交通大学研发的声控轮椅、重庆邮电大学研发的多智能化轮椅以及广州华南理工大学研发的利用意念控制的智能轮椅等[3]。
脑机接口(BMI)就是这样的绿色通道,让瘫痪病人通过劳“心”操控自己的肢体或机械手(“人”)。脑机接口研究领域市场前景广阔,根据加州大学伯克利分校电子工程和神经科学的副教授JoseCarmena研究表明,目前脑机接口市场已经达到65亿美元,到2018年,这个市场可以达到107亿美元,市场规模非常庞大。
3.1研究内容:
(1)脑电信号的采集和处理:
现代研究证明大脑在至少有六个不同的脑电波[4],如下图所示:
图1脑电波分类示意图
按照振幅和频率的不同,脑电信号一般分为以下几种波形:
θ波,也记作Theta波,幅值约为10-50μV,频率为4-8Hz。
α波,也记作Alpha波,幅值约为10-100μV,频率为8-13Hz。
β波,也记作Beta波,幅值约为5-20μV,频率约为14-30Hz。
γ波,也记作Gamma波,幅值小于2μV,频率大于30Hz。
此外,人脑还具有μ波和δ波,因为太过微弱无法准确采集。
上述几种典型的脑电组成波形如图所示。
图2典型脑电波图
脑电波采集系统根据信号采集方式的不同分为无创伤和有创伤两种。其中,无创伤型又通常被称作非侵入型,有创伤型又分为侵入型、部分侵入型和非侵入型三类。侵入型和部分侵入型系统将电极植入大脑,虽然可以准确大脑皮层中神经元的活动信息,避免信号衰减,但易引发免疫反应和愈伤组织的病变。非侵入型脑波采集系统是将电极放在人体的头皮上,具有结构简单、佩戴方便以及无创性等优点。因此,本系统采用了这种非植入式的脑电信号采集方式。
本项目使用的采集装置直接与干电极相连,较之医用脑电波采集器来说使用方便。EEG脑电通道+参考电极+地线,可以检测到极微弱的脑电信号。信号通过滤除噪声和伪迹成分,增强抗干扰能力。再通过脑电信号的特征提取、模式分类将采集的脑电波信号处理转化为轮椅的控制信号。
图3脑电波信号研究过程
(2)语音信号控制:
本系统语音信号控制采用LD3320芯片非特定人语音识别(SI-ASR)技术实现,其基本特性如下:
①可动态编辑的关键词语列表:利用非特定人语音识别技术,在不需要用户进行录音训练的情况下,将待识别的关键词语以字符串的形式传送至芯片,即可实现对设定关键词语的识别。
②芯片集成高精度的A/D和D/A通道,不需要外接辅助的Flash和ARM,并提供550mW内置放大器,可实现语音识别、声控,人机对话功能。
(3)APP-WiFi通信:
WiFi模块为串口或TTL电平转WiFi通信的一种传输转换产品。WiFi网络的传输速度非常快,可以达到54Mbps,符合个人和社会信息化的需求。无线最主要的优势在于不需要布线。通常有如下工作形态:
①STA型态:模组通过路线器连线互联网,手机或电脑通过互联网实现对装置的远端控制。
②AP型态:模组作为热点,实现手机或电脑直接与模组通讯,实现区域网路无线控制。
③STA+AP型态:两种型态的共存型态,即可以通过互联网控制可实现无缝切换,方便作业。
本项目主要研究WiFi直连(WiFiDirect),也称为WiFi点对点(WiFiPeer-to-Peer),是一套软体协定,让WiFi装置可以不必透过无线网路基地台(AccessPoint),以点对点的方式,直接与另一个WiFi装置连线,进行高速资料传输。
图4WiFi通信模式
(4)轮椅人机工学设计[5]
①轮椅设计需求分析
根据马斯洛需求层次理论[6]中的五个层次需求,可以看作是从生理到心理的需求,这五种需求是逐级实现的。
图5马斯洛需求层次论
在轮椅设计上,如何去满足老年人及残疾人士的层次需求?首先要解决老年人及残疾人士的生理需求,老年人及残疾人士因为生理上的缺陷,经常要求助于别人,所以在设计轮椅时,应当尽量让他们能够独立生活,不求助于他人或者少求助于他人。在满足生理需求的情况下,轮椅还应该被更方便和安全的使用,从而满足老年人及残疾人士的安全需求。
前面两个层次的需求是物质层面上的需求,后面的是精神层面上的需求,且对于残疾人来说很重要。因为残疾人本身的缺陷,他们的活动受限,他们更希望得到社会的尊重和认同,去融入社会,像正常人一样生活,实现自己的理想抱负。在轮椅的设计上,应当尽量考虑并帮助残疾人实现这些需求。
因此,将轮椅的设计分成两个部分,从使用者的生理需求和心理需求上分别进行讨论设计。
②坐垫的设计
坐垫主要用来支撑臀部,而臀部最能承受压力的地方就是坐骨结节处。尽量让压力分布于坐骨结节,是坐垫设计的关键。臀突坐点距是坐姿状态时两个臀部凹陷最低点之间的距离。人坐时,大腿和上身的重量必须由轮椅坐垫部分来支撑。人体结构在骨盆下面有两块圆骨,这两块小面积能够支撑大部分上身的重量覆盖在它们外面的皮肤能获得丰富的动脉血液供应,就像脚底一样。而在臀部的边缘部分,血液循环则大不一样,在这部分静脉较多(包含较少的氧)。当人坐着的时候,覆盖着坐骨结节的皮肤能够更好地经受住持久的压力。
因此,座面上的臀部压力分布应使坐骨结节最大,由此向外,压力逐渐减小,直至与座面前缘接触的大腿下部的压力为最小,所以,坐垫的设计应符合人体臀部形状曲线。
图6人体体压分布图
③靠背的设计
为了让座椅体现最好的舒适性,应让使用者坐的时候使自己的脊柱处于最佳的位置,保持合适的曲度,肌肉放松,保证受压迫的部位保持正常的血液循环,如果在这种情况下,身体的曲线和座椅靠背的曲线相吻合,此时座椅的靠背的设计比较好。同时老年人因为肌肉力量的减弱,考虑到安全性,还需要在轮椅的靠背上加装头枕,用来维持颈部的曲线位置。
图7脊柱结构图
④轮椅尺寸的确定
轮椅座椅的高。这个高度是指椅面到踏板面的距离,就是为了保证椅面到踏板面的距离等于小腿的长度,属于被包容的空间尺寸,该尺寸确定为413mm。
座椅的深度,是座面的前后距离。要保证臀部得到全部支撑,而大腿有部分支撑,属于包容空间尺寸。座椅的深不宜过大,一般取臀部至大腿全长的3/4比较合适。这个尺寸确定为405mm。
座椅的宽度,是座面的左右距离,座椅宽度要满足臀部横向宽度的尺寸,应该要略微比臀宽要宽,也属于包容空间尺寸。采用95百分位数作参考,确定为465mm。
靠背的高度应该比人的坐高稍矮一点,属于包容空间尺寸,采用95百分位数作参考,确定为833mm。
靠背的倾角,是靠背与垂直方向的夹角,是残疾人主要的和最佳的活动区域,确定倾角为:5°~50°,使靠背可以在很大范围内调节。
并结合安全性考虑,在轮椅上增加安全带,前照灯及侧照灯,紧急刹车装置,测速预警等从而提高轮椅的安全系数。
⑤色彩设计
3.2研究目标
设计实现一款以STM32为控制核心,智能轮椅控制系统不仅可以实现脑电波控制的主控制模式,同时还具备语音控制、APP-WIFI控制的智能辅助控制模式,多种智能控制模式的结合使轮椅控制更加高效可靠。使用者在经过一定训练后,可以很好的控制轮椅的前进、左拐、右拐、停止等运动。
3.3关键技术:
①脑电波信号采集预处理:
由于脑电信号是一种随机性强,幅度微弱的特殊生理电信号,容易受到外界的干扰。因此滤除脑电波原始信号中的干扰,提高系统信噪比对保障后续处理的有效性和可靠性具有相当重要的意义。
②脑电波信号特征提取,模式分类:
③智能辅助移动端控制及语音信号控制:
为提高用户的使用体验同时方便轮椅产品的批量检测,所以有必要实现智能轮椅控制系统的语音信号控制和移动端APP控制,提高轮椅的可靠性,使轮椅更加智能化。
4.1系统的总体研究方案:
整个系统包括主控制电路,脑电波采集处理模块,WiFi通信电路,语音控制模块,电机驱动模块。主控制器采用意法半导体公司的STM32F103单片机,实现对脑电信号的处理,电机控制等功能;语音控制模块采用LD3320芯片;WiFi模块采用TLN13UA06芯片,实现与移动端APP的互联和功能的拓展。脑电波采集芯片采用美国Neurosky公司的ThinkgearAM芯片。
图9总体方案硬件结构图及实现流程图
4.2方案可行性分析
图10脑电信号采集及处理过程示意图
(1)原始数据采集和预处理:
①脑电波信号的采集
脑电波原始信号采用Thinkgear脑电波采集芯片进行采集,该芯片为高度集成的单一芯片脑电式传感器,可以检测到极微弱的脑电信号,同时能够检测接触不良的异常状态,而且具有较好的滤噪能力。
脑电波采集传感器模块和采集示意图分别如下所示:
图11&12脑电波模块
传感器通过一个标准蓝牙串口传输数据,且传感器蓝牙设置为从机,波特率为57600bit/s,一位停止位和无奇偶校验位,秘钥为0000。本系统中采用HC-05蓝牙作为主机,通过设置与传感器蓝牙相同的秘钥和波特率进行配对连接,从而实现脑电波数据串口透明传输。
图13蓝牙透传连接图
采集到的脑电波原始波形如下图所示:
图14原始脑电波波形图
脑电信号是一种随机性强,幅度微弱的特殊生理电信号,不同的人或者同一个人在不同的环境和情绪下的脑电信号都会有差异。脑电波传感器通过放置在头皮处的电极来检测和记录大脑的活动,采集芯片内置了采集检验纠正算法和高灵敏度放大器,并每秒回传脑电信号质量值。
图15信号过程
(2)脑电波特征提取:
①特征提取方法
图16特征信号时域波形
(3)脑电波模式识别:
但窗口算法对每个到达的数据均需进行一次完整的匹配分析,且随着当前数据段内数据的增多,计算量加大,降低系统的及时性。因此对现有的窗口算法进行改进,利用曲线数据特征变化情况,并定义一个最大窗口值,若数据段长度大于该值,自动将新到的数据判断为分割点,重新开始匹配分析,这样明显提高了系统的及时性。
图17滑动窗口算法流程图
本设计以STM32F103单片机为核心,STM32系列基于专为要求高性能、低成本、低功耗的嵌入式应用专门设计的ARMCortex-M内核。
STM32的标准外设包括10个定时器、两个12位1-Msample/s模数转换器,2个12位数模转换器、两个I2C接口、五个USART接口和三个18兆位/秒的SPI端口,18MHz的I/O翻转速度,模拟外设性能十分优异。该单片机除了具有系统工作稳定,强大的处理能力,方便高效的开发环境,高性能模拟技术及丰富的片上外设的优点外它还具有以下特性:
①运算速度快:TM32的GPIO模块最高可达到18MHz信号输出。
②低功耗:在72MHz时消耗36mA(所有外设处于工作状态),待机时下降到2μA。
③最大的集成度:复位电路、低电压检测、调压器、精确的RC振荡器等。
本系统轮椅模型由轮椅支架,四个直流电机和电机驱动L298n组成。直流电机采用HC02-48型号的减速双轴直流电机。利用L298n驱动模块控制电机的转动和转速,芯片驱动的电压范围为+5V-+30V。
该模块通过解析算法,对蓝牙透传原始脑电波数据流进行解析,将调控信号传输到单片机控制器,通过电机驱动模块来控制伺服电机的转速,最终达到控制轮椅运动的目的。
4.2.3语音控制模块:
语音控制模块采用LD3320芯片,其内部集成了快速稳定的优化算法,不需要外接Flash和ARM等存储设备,语音识别率稳定,准确率高。LD3320芯片语音识别原理框图如下:
图18语音识别原理
非特定人语音识别技术,是一种基于关键词语列表的匹配识别技术,算法本质是在提取输入声音的特征后,在关键词语列表中寻找一个相似度最高的词语作为识别结果。本项目LD3320芯片采用SPI接口与STM32单片机通信,在用户的语音特征提取后,LD3320将特征数据传输至主控制器,主控制器处理后,发送命令控制直流电机完成相应动作。语音控制实现流程图如下:
图19语音识别实现流程
4.2.4WiFi通信模块:
移动端APP通过WiFi连接单片机控制端,通过APP控制智能轮椅的运动,应用安卓技术开发移动端APP。
WiFi模块采用TLN13UA06串口扩展板,TLN13UA06是一款超低功耗的UART-WiFi透传模组,拥有业内极富竞争力的封装大小和超低能耗技术,专为移动装置和物联网应用设计,可将用户的物理装置连线到WiFi无线网路上,进行互联网或区域网路通讯,实现联网功能。
TLN13UA06模组支援STA/AP/STA+AP三种工作型态。
模块采用AP型态,将TLN13UA06模组作为热点,实现手机APP直接与模组通讯[12],进行控制轮椅。
图20APP-WIFI控制实现流程
目前市场上的轮椅智能化程度普遍较低,无法满足当代人的需求。该项目研究的智能轮椅更加智能化,人性化,是一款性能更加优越的代步工具。项目主要有以下几个亮点:
亮点1:脑电波控制无需肢体动作。本项目通过对脑电波数据流解析算法的设计实现脑电与眼电信号相结合的控制系统,在操作模式上不需要肢体动作即可实现对智能轮椅运动的控制。为肢体行为受限的人士提供一个自由可靠的代步工具,很大程度上提高残障人士的行动自由度。
亮点2:高效的模式分类算法。该方法通过K-临近算法,有效地解决了单一算法识别率不高的问题,为智能轮椅的使用者提供了安全保障。
亮点3:控制系统实现多种智能方式相结合。轮椅控制系统包括脑电波控制,语音控制,APP-WiFi移动端控制三种智能控制方式,实现分别单独控制和混合控制。三种方式的结合使轮椅在操作使用中更加智能化简单化,极大提高轮椅控制的可靠性,同时也拓宽了轮椅的受众范围。
亮点4:轮椅的人机工学设计。轮椅运用人机工学设计方法,并结合本项目的控制方法在现有的轮椅结构上进行一些整合和改进。同时结合老年人及残疾人士的生理需求和心理需求,调整了轮椅的外观形状,并加强了安全性的设计,增强了用户使用轮椅时的安全系数。
亮点5:项目应用前景广阔。基于脑电波的控制技术可广泛应用于控制领域,给人们带来极大便利,为社会创造更多价值。
目前世界各国都面临人口老龄化的问题,并且我国人口老龄化趋势显著,同时由于交通意外事故频发,造成肢体残疾人数巨大。这些人普遍存在行动困难,丧失生活自主行动能力的问题。本项目设计并实现了基于脑电波控制的智能轮椅系统,为上述人群重获自主行动能力提供了一套更加智能化、人性化的解决方案。
脑电波控制系统包括脑电波原始信号的采集预处理,通过MATLAB仿真得到出现概率最稳定的四种特征波形;在模式识别中通过对滑动窗口算法的改进,大大提高系统控制的及时性,并通过K-临近算法达到较高的模式识别率,解决现实中脑电波识别效率低的缺陷。
语音控制系统采用非特定人语音识别技术,通过特征识别算法实现语音识别功能,APP-WIFI控制系统通过安卓APP与轮椅控制端通过UDP协议通信,进而达到控制轮椅运动的目的。智能辅助模块的设计实现了轮椅智能功能的拓展,同时也拓宽了轮椅的受众范围,多种智能控制方式的融合为用户带来更加智能可靠高效的使用体验。
[1]杨建平.我国体育运动领域中脑电图研究现状的综述[J].山西体育科技,2008(4):36-38.
[2]廖晓辉,沈大中,王东署.智能轮椅的研究现状与关键技术分析[J].制造业自动化,2008,30(4):1-6.
[3]何清华,黄素平,黄志雄.智能轮椅的研究现状和发展趋势[J].机器人技术与应用,2003(2):12-16.
[4]张海军,王浩川.多导联EEG信号分类识别研究[J].计算机工程与应用,2008,24.
[5]赵江洪.人机工程学[M].北京:高等教育出版社,2006.5.58—63.
[6]杨楠.老年多功能电动轮椅的人性化设计研究[D].西南交通大学,2015.
[7]任怡.智能轮椅结构设计与研究[D].天津科技大学,2009.
[9]陈东伟.非线性动力学、因果脑网络与聚类稳定性在脑电信号分析中的应用研究[D].太原理工大学,2015.
[10]李岩,王惠文,叶明.数据流分析与技术研究[J].计算机工程与应用,2008,44(15):8-11.
[11]KoskiA,JuholaM,MeristeM.SyntacticrecognitionofECGsignalsbyattributedfiniteautomata[J].PatternRecognition,1995,28(12):1927-1940.
[12]燕永新.一种基于UDP协议的即时通信系统的研究[D].大连海事大学,2008.