向“我懂你”迈进:机器人实现“换位思考”

中国科学报 2020-10-23 作者:田瑞颖

  “你是机器人吗?为什么不能站在我的位置上想想?”

  每当人们发生争执时,这种“灵魂拷问”总让人哑口无言。

  然而,现实是,也许现在的机器人比你更懂得“换位思考”。

  近日,中国科学院自动化研究所研究员、类脑智能研究中心副主任曾毅团队提出机器人类脑思维揣测模型,实现了机器人的自我经验学习,使其可以对他人信念进行揣测和预测,这种“换位思考”距离“我懂你”更进一步,相关研究成果发表于Frontiers in Neurorobotics。

  曾毅在接受《中国科学报》采访时表示:“类脑思维揣测模型为将来智能体获得更深刻的情感共情奠定了基础,只有具备认知共情与情感共情等能力,才能使未来人工智能与人类和谐共生。”

  

  机器人正在进行“不透明—透明眼罩测试”。 曾毅供图

  从“冷冰冰”走向“我懂你”

  智能体的思维揣测模型旨在使人工智能获得思维揣测的能力,简单而言,就是帮机器人实现“换位思考”。

  然而,思维揣测作为一种高级认知功能,其神经基础和神经机制尚未明确。

  “如何结合现有研究基础,探索思维揣测机制,构建可行的类脑思维揣测理论模型是需要解决的关键问题。”曾毅表示。

  为此,曾毅团队结合认知心理学、神经影像学、脑科学等学科在思维揣测领域的成果,确定了思维揣测的神经基础,并采用脉冲神经网络对所涉脑区进行认知功能建模,详细构建了脑区间信息环路的连接结构。

  此外,曾毅团队还融合抑制控制机制,构建了类脑思维揣测模型,使智能体可以利用自身经验完成对其他个体信念的推理。

  “这是继机器人通过镜像测试,获得初步自我感知能力后开展的又一次大胆尝试。”曾毅说。

  从“类脑”走向“类人”

  与其他模型不同,曾毅团队提出的思维揣测模型强调自身经验和脑区发育对思维揣测能力的影响。

  研究人员模拟了包括颞顶联合区、内侧前额叶在内的多个脑区及脑区间信息传递的通路,特别是额下回和颞顶联合区的自我视角抑制、额下回和腹内侧前额叶的自我信念抑制,然后将模型部署到机器人上,通过“不透明—透明眼罩测试”验证了模型的效果。

  该眼罩测试包括训练和测试部分。首先将机器人分为两组,一组为“不透明眼罩组”,一组为“透明眼罩组”,两组外观一致。

  在训练中,首先将瓢虫放在两个黑色矩形框中的一个上,然后分别将不透明眼罩和透明眼罩插入到机器人和物体之间,问机器人“瓢虫在哪”,使机器人学习眼罩的特性。

  随后,研究团队开展了让被试机器人(红色机器人)推理表演机器人(蓝色机器人)信念的测试。

  首先,研究人员将瓢虫放在其中一个黑色矩形框上,再将瓢虫藏在黄色盒子中,随后将眼罩插入到蓝色机器人和瓢虫之间,然后又将瓢虫藏在绿色盒子中,最后将眼罩移开。

  “对蓝色机器人来说,瓢虫在哪里?” 当研究人员向红色机器人提问时,根据自身经验的不同,“透明眼罩组”的红色机器人和蓝色机器人对物体位置的信念一致,都会指向绿色盒子;而“不透明眼罩组”红色机器人会指向黄色盒子。

  随后,研究人员又向红色机器人提问:“对你自己来说,瓢虫在哪里?”结果显示,“不透明眼罩组”和“透明眼罩组”的红色机器人都会指向绿色盒子。

  曾毅解释道:“抑制控制是思维揣测过程中的重要机制,我们认为额下回和颞顶联合区之间、额下回和腹内侧前额叶之间的成熟连接是自我视角抑制和自我信念抑制的神经基础。”

  为验证抑制控制对实验的影响,曾毅团队设定了不同的连接强度。

  研究发现,当额下回和颞顶联合区的连接未成熟时,被试机器人无法抑制自我感知的信息,因此无法正确推理表演机器人对物体位置的信念;当额下回和颞顶联合区的连接成熟,但额下回和腹内侧前额叶的连接未成熟时,虽然被试机器人可以正确推理表演机器人对物体位置的信念,但无法抑制自身的信念。

  当这些连接都成熟时,被试机器人不仅可以抑制自我感知的信息,还能抑制自我信念。

  从“学习”走向“遵守”

  论文主要作者之一赵宇轩说:“我们通过降低额下回和颞顶联合区之间、额下回和腹内侧前额叶的连接强度使抑制控制机制失效,计算模型显示无法正确输出从他人视角感知的信息和推理他人的信念,同时机器人在行为上也无法通过测试。因此,从计算建模的角度可以证明抑制控制是思维揣测的核心机制之一。”

  对于未来的计划,曾毅坦言:“对思维揣测的计算建模,构建具有思维揣测能力的智能体只是第一步。接下来,要将类脑思维揣测模型应用于使智能体自主习得与环境、其他智能体以及人类交互过程中应当遵守的‘道德’规范。”

  美国卡内基·梅隆大学心理学博士、上海交通大学凯原法学院访问特聘教授秦裕林认为,为了使人工智能技术健康发展并造福人类,既要从法律法规层面预防、制止可能有损人类根本利益的人工智能技术,也要倡导符合人类根本利益、负责任的人工智能技术。“在这一方面,曾毅团队迈出了可喜的一步。”

责任编辑:王超

科普中国APP 科普中国微信 科普中国微博
中国科学报
是中国科协为深入推进科普信息化建设而塑造的全新品牌,旨在以科普内容建设为重点,充分依托现有的传播渠道和平台,使科普信息化建设与传统科普深度融合,以公众关注度作为项目精准评估的标准,提升国家科普公共服务水平。

猜你喜欢