众所周知,手语很难学习并且更难进行教学。手语沟通不仅仅使用手势、口腔,更重要的是使用面部表情和身体姿势来传达含义,这种复杂性意味着专业手语教学仍然很少并且很昂贵。但在人工智能(AI)的帮助下,这一切都可能很快改变,目前萨里大学计算机视觉研究团队研发出一款以自动、直观的方式教授手语的软件。目前该软件可以分析瑞士德语手语进行教学,并且提供有关如何改善手型、动作、位置和时间的详细信息。未来我们可以运用人工智能(AI)考虑创建支持世界各地语言的手语学习软件,并支持更多复杂语法等。
练习和评估手语很难,因为你无法阅读或书写,但是萨里大学计算机视觉研究团队开发了一款针对手语的游戏,游戏会给你一个正在执行的手势的视频,或者给你一个描述这个手势的最近的口语单词(或者两者)。然后它会记录下你学习的手势,并告诉你如何才能做得更好。研发团队把它变成一个游戏会鼓励人们通过游戏竞争排名以获得最好的分数,并在这一过程中改进手语的标准姿势。
人工智能(AI)用于绩效评估的所有阶段。首先,卷积神经网络(CNN)从视频中提取有关您上半身姿势的信息。 CNN是一种基于大脑视觉皮层处理松散的AI。然后,您的骨架姿势信息和原始视频将被发送到手形分析器,其中另一个CNN查看视频并在视频中的每个点处拉出手形信息。
然后将骨骼信息和手形状发送到手动分析仪,该分析仪使用称为隐马尔可夫模型(HMM)的东西。这种类型的人工智能(AI)允许我们随着时间的推移对骨架和手型信息进行建模。然后,它将它所看到的内容与表示该符号的完美版本的参考模型进行比较,并得出其匹配程度的得分。 然后对手形分析仪和手动分析仪的结果进行评分并作为反馈呈现给您。
因此,所有人工智能(AI)都隐藏在简单易用的界面背后,让您专注于学习。我们希望自动的个人反馈能让学生更多地参与学习签名的过程。
人工智能(AI)带到教室
到目前为止,该软件仅适用于瑞士德语手语。但是研究表明,系统的“架构”不需要改变来处理其他语言,系统只需要更多的每种语言的录像作为数据来训练即可。研究团队的目的是想我们如何使用人工智能(AI)将已知的知识来帮助人们学习新的语言,同时团队还想看看如何在使用手语(如面部表情)的同时,增加交流的其他方面功能。
目前该软件在教室等简单环境中工作得最好,但是软件如果能兼容视频画面背景的更多变化将更加强大。研发团队正在评估软件将和许多流行的应用程序一样,让你在没有专家老师帮助的情况下在任何地方学习手语,随着此类技术的发展,很快将有可能使每个人都能简单快乐的学习手语。
领取专属 10元无门槛券
私享最新 技术干货