争议学生注意力监控头环 创始人回应数据隐私与技术的质疑

  • 时间:
  • 浏览:12
  • 来源:DNF私服

近日 ,浙江金华的一所小学“火了”。

为了提高学习的专注程度 ,这家学校为学生们配置了一种被称为“脑机接口头环”的产品。根据公开信息显示  ,这款产品可以检测脑电波 ,评判学生上课、写作业时是否集中了注意力。

同时 ,根据注意力集中的程度形成的分数 ,还会实时传输到老师的电脑上 ,也会像考试成绩排名一样被发到家长群里。

根据公开信息显示 ,生产这款产品的是一家叫做BrainCo的公司  ,总部位于深圳  ,是国内最早进行脑机商业化的公司之一。BrainCo发明的教育头环目标定位在小学生、中学生群体 ,根据这家公司在美国与哈佛共同发布的产品测试报告 ,学生平均使用产品达到两个周期  ,平均一个周期21天后  ,成绩能够实现从B到B+、B+到A-的提升 ,并能够长期保持下去。

但消息经过发酵  ,引发了各种声音。如同前段时期“旷视监视学生上课”事件  ,比起技术本身  ,人们更关注的是为此做出的牺牲。当人工智能等前沿技术逐渐应用于现实场景  ,“数据”是否以牺牲用户隐私安全为代价?被技术“监控” ,小学生还有没有自由?但也有使用过产品的师生对头环的使用效果给予了肯定  ,并认为可以在某种程度上提高成绩。

面对质疑  ,BrainCo(强脑科技)创始人韩璧丞11月1日在接受第一财经记者采访时对此事做出了回应 ,认为赋思训练系统  ,是用于做训练的产品  ,而不是用来监视的。

“它根本就没有监视的功能。”韩璧丞对记者表示 ,如果我有孩子的话 ,我是会很好地引导他来用产品做训练 ,我们很多员工的孩子  ,以及员工自己  ,都在使用公司的产品进行专注力训练  ,这样的训练和锻炼身体没有任何差别。

从创始人背景来看  ,韩璧丞拥有“漂亮”的简历  ,在国内完成高中学业后 ,他2007年起在韩国科学技术院学习机械工程本科  ,此后在美国西雅图医疗设备研究中心工作 ,之后进入哈佛大学脑科学中心攻读博士学位。

2015年  ,在攻读博士学位期间  ,韩璧丞创立了BrainCo ,并成为历史上第一支入选哈佛大学官方孵化器“哈佛创新实验室”的华人团队。1987年出生的他曾入选麻省理工科技评论35岁以下35名顶级科学家名单。

在他看来  ,大脑数据与其他人体体征数据并无太大差别。“现在人们已经能够接受检测血压血样  ,心率  ,甚至基因测序 ,为什么不可以训练检测自己的大脑数据呢?我充分的看好脑机接口  ,因为脑机接口是人工智能的下一代技术 ,他可以让人类本身变得更强。”韩璧丞说。

事实上  ,脑机接口不是新鲜的科学技术  ,在业内简称为BCI  ,通常是指通过在人脑神经与具有高生物相容性的外部设备间建立直接连接通路 ,实现神经系统和外部设备间信息交互与功能整合的技术。简单来说  ,就是实现用意念控制机器。它意味着 ,人与机器的主要交互方式  ,除了手工输入  ,以及近几年兴起的人工智能语音交互之外 ,还可以直接通过大脑向机器发指令。

清华大学医学院生物医学工程系教授高小榕此前接受媒体采访时表示 ,以往的人机交互都需要外周肌肉组织参加。比如敲键盘需要用手指 ,语音交互需要嘴部肌肉 ,而脑机接口技术则不依赖肌肉组织  ,它是靠直接提取大脑神经信号来控制外部设备。目前的脑机接口技术可以分为两类 ,一类是侵入式  ,比如在大脑中植入芯片  ,还有一类为非侵入式  ,比如戴上可以采集脑电波的头盔或帽子。

此前  ,美国哥伦比亚大学神经工程学院的一个研究团队开发出一款新型的助听器  ,使用脑机接口(BCI)在语音合成器的帮助下  ,可以将脑波模式转换为语音。

但脑机接口技术距离全社会的普及还有一段距离。

比如使用脑机接口设备的过程十分耗费脑力 ,选手需要注意力非常集中  ,才能让脑电波信号被脑机接口设备检测到 ,所以一段时间后大脑会感到很疲惫。

而另一个挑战则来自于数字伦理的挑战。

随着5G时代即将到来  ,面向万物互联  ,人工智能的深度利用与广泛共享无法扭转。而在这样的时代 ,数字社会的技术伦理问题将会层出不穷。

今年8月  ,瑞典数据保护机构根据《通用数据保护条例》(GDPR)对当地一所高中开出罚单  ,原因是使用人脸识别系统记录学生的出勤率 ,这件事引发了教育机构中是否应使用人工智能技术的讨论。此外  ,欧盟在2018年出台的GDPR规定称 ,公司在收集用户包括面部等生物特征数据前必须经得个人同意 ,如有违反  ,企业可以被罚款金额达其全球收入的4%。

今年4月8日  ,欧盟委员会发布人工智能伦理准则  ,以提升人们对人工智能产业的信任  ,列出了“可信赖人工智能”的7个关键条件——人的能动性和监督能力、安全性、隐私数据管理、透明度、包容性、社会福祉、问责机制 ,以确保人工智能足够安全可靠。欧盟将“人工智能”定义为“显示智能行为的系统”  ,它可以分析环境  ,并行使一定的自主权来执行任务。

根据官方解释  ,“可信赖的人工智能”有两个必要的组成部分:一是应尊重基本人权、规章制度、核心原则及价值观;二是应在技术上安全可靠  ,避免因技术不足而造成无意的伤害。

“我们充分保护学生隐私  ,赋思教育训练系统并没有将报告发给家长的功能  ,老师可以看到全班级的平均专注力  ,根据班级学生的专注力来调整教学方式。我们非常重视数据隐私的保护 ,BrainCo的产品在使用过程中提取到的所有数据  ,都遵循欧盟GDPR商用资料的使用规范  ,上传到公司经过加密的云端数据库。”韩璧丞说。

他强调 ,在用户端  ,针对学校  ,老师  ,学生都有严格的数据方面的限制  ,公司是没有办法超越自己角色的权限去查看数据的。

“新的技术总是会引起争议的  ,旷视之前还有许多其他公司 ,每一个推陈出新都注定要经历风口浪尖。作为一个科学家我觉得这是不可避免的  ,公众需要一个途径先认识一个技术 ,然后才能更加深入地了解  ,之后才能到理性辩证地看待它  ,这都需要一个过程 ,不是能够一蹴而就的。”韩璧丞说。

责编:刘佳

此内容为第一财经原创  ,著作权归第一财经所有。未经第一财经书面授权  ,不得以任何方式加以使用  ,包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。 如需获得授权请联系第一财经版权部:021-22002972或021-22002335;banquan@yicai.com。