2021-10-19 06:09
日前，据外媒报道，美国麻省理工学院（MIT）的研究人员展示了当某种特定的神经网络被训练执行导航任务时，其能够理解该项任务真正的因果结构。该项研究能够提升执行高风险的机器学习代理的可靠性和可信度，如在繁忙高速公路上驾驶自动驾驶汽车。
据悉，此类神经网络能够直接从视觉数据理解该任务，当在树木密集或天气条件变化迅速的地方等复杂环境中导航时，此类神经网络比其他神经网络更高效。该项新研究利用了此前Hasani和其他人的研究，后者展示了一种由液体神经网络细胞构建的、受大脑启发的深度学习系统-神经回路策略（Neural Circuit Policy，NCP），如何通过只有19个控制神经元的网络自动控制一辆自动驾驶汽车。
研究人员观察到，执行车道保持任务的NPC在做出驾驶决策时，会将注意力集中在道路的地平线和边界上，这与人类驾驶汽车时的做法相同，而所研究的其他神经网络并不会总会关注于道路。他们发现，当一个NCP在接受完成一个任务的训练时，该神经网络学会与环境互动，并理解干预行为。从本质上看，该网络能够识别其输出是否被某种干预所改变，然后将因果联系在一起。
在训练过程中，该网络向前运行以生成输出，然后返回运行以纠正错误。研究人员观察到，NPC会在前向运行和后向运行模式中将因果关系关联起来，从而可以使该网络能够将注意力集中在真正的因果结构上。
研究人员发现，在天气好的情况下，NPC在较简单任务上的表现与其他神经网络一样好，但在更具挑战性的任务上，如在暴雨中跟随移动的物体时，NPC的表现要好于其他神经网络。未来，研究人员希望探索采用NCP来构建更大的系统。将成千上万的神经网络连接在一起，从而让其处理更复杂的任务。
扫一扫关注微信
