最新最快汽车新闻
太阳能光伏网

东京科技大学发明新框架 减少内存使用量并提高大规模AI图形分析的能源效率

据外媒报道,日本东京科技大学(Institute of Science Tokyo)的研究人员开发出可扩展且高效的图神经网络加速器BingoCGN,能够通过图分区实现实时大规模图推理。这一突破性框架采用创新的跨分区消息量化技术和新颖的训练算法,显著降低了内存需求,并提高了计算效率和能效。

图神经网络(GNN)是强大的人工智能(AI)模型,旨在分析复杂的非结构化图数据。在这类数据中,实体表示为节点,实体之间的关系表示为边。GNN已成功应用于许多实际应用,包括社交网络、药物研发、自动驾驶和推荐系统。尽管GNN潜力巨大,但实现对自动驾驶等任务至关重要的实时大规模GNN推理仍然充满挑战。

大型图需要大量内存,这通常会溢出片上缓冲区(即集成在芯片中的内存区域)。这迫使系统依赖于速度较慢的片外内存。由于图数据存储不规律,这会导致内存访问模式不规律,从而降低计算效率并增加能耗。

一个有前景的解决方案是图分区,将大型图划分为较小的图,每个图分配各自的片上缓冲区。随着分区数量的增加,这将导致内存访问模式更加本地化,并且缓冲区大小要求也更小。

最新相关
千里科技AI战略布局完成第一步

千里科技AI战略布局完成第一步

9月28日,"AI重庆智驾之夜暨千里科技品牌发布会"在重庆举办。千里科技发布了新的品牌英文名--"AFARI"和品牌标识,表示"AI+"布局已完成第一步,并聚焦"AI+"发布了"千里计划(the AfariPlan)。值得...

Seeds | 乐享科技完成2亿元天使++轮融资

9月28日,盖世汽车获悉,乐享科技宣布完成2亿元天使++轮融资。本轮融资由钟鼎资本领投,老股东IDG资本持续加投,资金将主要用于自研核心零部件攻关、机器人本体与运动控制技术开发及意识仿生模型...

开普勒人形机器人K2大黄蜂开启量产

日前,开普勒机器人宣布,该公司"蓝领人形机器人"K2大黄蜂已正式启动量产,开始交付商业订单。开普勒K2大黄蜂身高达175厘米,全身拥有52个自由度,其中单只灵巧手具备11个自由度,不仅手指灵活,每个...