IT之家附上本次调研的主要内容:

据介绍,该研究首先论证了脉冲神经网络神经元LIF(Leaky and Fire)模型与HH(-)模型动态特性的等价性,并进一步从理论上证明HH神经元可以等价于四个具有特定连接结构的时变参数LIF神经元(tv-LIF)的动态特性。基于这一等价性,该团队通过设计微架构提高计算单元的内在复杂度,使得HH网络模型能够模拟更大规模LIF网络模型的动态特性,并在较小的网络架构上实现类似的计算功能。

▲神经元与神经网络的内在复杂性与外部复杂性(图片来源:中国科学院自动化研究所,下同)

此外,该团队将由四个tv-LIF神经元构建的“HH模型”(tv-)简化为s-模型,并通过仿真实验验证了该简化模型在捕捉复杂动态行为的有效性。
实验结果表明,HH网络模型与s-网络模型在表征性和鲁棒性上具有相近的表现,验证了内在复杂性模型在处理复杂任务上的有效性和可靠性。同时研究发现,HH网络模型在计算资源消耗上更加高效,显著降低了内存使用量和计算时间,从而提升了整体的计算效率。研究团队通过信息瓶颈理论对上述研究结果进行了解释。

▲ 模型框架
该研究为将神经科学的复杂动态特性融入人工智能提供了新的方法和理论支撑,搭建了人工智能与神经科学之间的桥梁,为优化AI模型、提升实际应用中的性能提供了可行的解决方案。目前,研究团队已对更大规模的HH网络和具有更大内在复杂度的多分支多室神经元开展研究,有望进一步提高大模型的计算效率和任务处理能力,实现实际应用场景的快速落地。


