中科院等提出类脑神经元模型构建方法,改善传统模型计算资源消耗问题

   日期:2024-08-16     来源:网络整理    作者:二手钢材网    浏览:212    评论:0    
核心提示:日消息,据“中国科学院自动化研究所”消息,该所李国齐、徐波研究团队联合清华大学、北京大学等借鉴大脑神经元复杂动力学特性,提出了“基于内生复杂性”的类脑神经元模型构建方法,改善了传统模型通过向外拓展规模带来的计算资源消耗问题,为有效利用神经科学发展人工智能提供了示例。

IT之家附上本次调研的主要内容:

中科院神经科学研究所__北大清华生命科学联合中心

据介绍,该研究首先论证了脉冲神经网络神经元LIF(Leaky and Fire)模型与HH(-)模型动态特性的等价性,并进一步从理论上证明HH神经元可以等价于四个具有特定连接结构的时变参数LIF神经元(tv-LIF)的动态特性。基于这一等价性,该团队通过设计微架构提高计算单元的内在复杂度,使得HH网络模型能够模拟更大规模LIF网络模型的动态特性,并在较小的网络架构上实现类似的计算功能。

_北大清华生命科学联合中心_中科院神经科学研究所

▲神经元与神经网络的内在复杂性与外部复杂性(图片来源:中国科学院自动化研究所,下同)

_中科院神经科学研究所_北大清华生命科学联合中心

此外,该团队将由四个t​​v-LIF神经元构建的“HH模型”(tv-)简化为s-模型,并通过仿真实验验证了该简化模型在捕捉复杂动态行为的有效性。

实验结果表明,HH网络模型与s-网络模型在表征性和鲁棒性上具有相近的表现,验证了内在复杂性模型在处理复杂任务上的有效性和可靠性。同时研究发现,HH网络模型在计算资源消耗上更加高效,显著降低了内存使用量和计算时间,从而提升了整体的计算效率。研究团队通过信息瓶颈理论对上述研究结果进行了解释。

北大清华生命科学联合中心__中科院神经科学研究所

▲ 模型框架

该研究为将神经科学的复杂动态特性融入人工智能提供了新的方法和理论支撑,搭建了人工智能与神经科学之间的桥梁,为优化AI模型、提升实际应用中的性能提供了可行的解决方案。目前,研究团队已对更大规模的HH网络和具有更大内在复杂度的多分支多室神经元开展研究,有望进一步提高大模型的计算效率和任务处理能力,实现实际应用场景的快速落地。

 
打赏
 
更多>同类资讯

0相关评论
推荐热播视讯

推荐视频

    Copyright © 2017-2020  二手钢材网  版权所有  
    Powered By DESTOON 皖ICP备20008326号-2