时识科技提出新脉冲神经网络训练方法 助推类脑智能产业落地
近日，synsense时识科技技术团队发表题为“exodus： stable and efficient training of spiking neural networks”的文章，在文章中提出了新的脉冲神经网络训练方法exodus。研究显示：exodus能够大大减低训练复杂程度，更具稳定性，并提升了准确度。
这项研究由synsense时识科技瑞士技术团队算法应用、机器学习工程师共同完成。具体见：https://arxiv.org/abs/2205.10242v1
code： https://github.com/synsense/sinabs-exodus
“exodus是一种更加严谨的算法，对slayer进行了优化，在多种基准数据集中显示出了更快速的收敛和更高的准确性。”
——synsense时识科技
高级算法总监sadique sheik
在如今的机器学习任务中，功耗正在被置于越来越重要的地位。受生物大脑启发的脉冲神经网络尤其在连接事件驱动的传感器及异步硬件时，显示出突出的低功耗、低延迟特征。因此，超低功耗脉冲神经网络也正在被广泛接受。
研究人员设计了不同的方法用于脉冲神经网络训练。当前，训练脉冲神经网络所运用的基于时间的反向传播（bptt），却较为耗时。来自nus的shrestha和orchard此前提出了一种名为slayer的算法，能够相当程度上提升训练速度。然而，slayer并未在计算梯度中将神经元膜电位重置机制纳入考量，这也是造成数值不稳定的一大原因。为了对抗这一缺陷，slayer引入了梯度缩放超参数，并且需要手动调试。
synsense时识科技在最新研究中，对slayer进行了改善并设计了一种名为exodus的算法。exodus将神经元膜电位重置机制考虑在内，应用了隐函数定理（ implicit function theorem /ift） 来计算梯度，无需特置梯度缩放，大大减低了训练复杂程度。
synsense时识科技在此研究过程中演示了3类类脑任务：通过dvs gesture、heidelberg spiking digits（hsd）、spiking speech commands （ssc） ，围绕exodus及slayer进行了对比，exodus显示出了较slayer更高的准确性。
验证准确度提升及训练提速对比
自成立以来，synsense时识科技持续助推类脑智能产业落地，同时在这一进程中，于脑科学、神经网络模型、算法、硬件架构、芯片设计、系统级设计、应用、软件等类脑工程相关的各个领域持续创新，对国内外科研领域产生了积极深刻的影响。synsense时识科技核心团队在类脑芯片领域科研上的实力位于世界最顶级的行列，这也将作为强大驱动，加快synsense时识科技类脑智能应用落地，为类脑技术的更广泛铺开而形成助力。
PIC单片机定时器1的实际应用
一线车厂瞄准自动驾驶 晶圆厂打造车用芯片生态系统
半导体2020迎来大变革年代，它的未来将会如何发展
富士康2.3亿美元在美收购汽车工厂
智能轨道机器人巡检系统无需人工干预
时识科技提出新脉冲神经网络训练方法 助推类脑智能产业落地
2018年JavaScript现状调查报告出来啦！
车内语音识别数据：驾驶体验升级与智能出行的未来
Viisights使用AI提前做出更好决策
高性能单片式同步降压型稳压器实现缩小各种应用中的电池供电应用
关于太赫兹开关速度晶体管的研究分析
非旋转式驾驶员安全气囊是否是较好的解决方案？
智能医疗健康设备开发解决方案
弹簧力转试验机的那些事儿，你知道吗？
《无线电工程》—基于知识图谱的直升机飞行指挥模型研究
三星率先将EUV用于DRAM内存颗粒生产中，预计12英寸晶圆生产率翻番
笔记本电脑液晶屏幕分辨率缩写解释
全场景的5G电源解决方案
NASA宣布SpaceX首次载人飞行时间确定
传三星S21系列欧洲版本将不会赠送充电器/耳机
这项研究由synsense时识科技瑞士技术团队算法应用、机器学习工程师共同完成。具体见：https://arxiv.org/abs/2205.10242v1
code： https://github.com/synsense/sinabs-exodus
“exodus是一种更加严谨的算法，对slayer进行了优化，在多种基准数据集中显示出了更快速的收敛和更高的准确性。”
——synsense时识科技
高级算法总监sadique sheik
在如今的机器学习任务中，功耗正在被置于越来越重要的地位。受生物大脑启发的脉冲神经网络尤其在连接事件驱动的传感器及异步硬件时，显示出突出的低功耗、低延迟特征。因此，超低功耗脉冲神经网络也正在被广泛接受。
研究人员设计了不同的方法用于脉冲神经网络训练。当前，训练脉冲神经网络所运用的基于时间的反向传播（bptt），却较为耗时。来自nus的shrestha和orchard此前提出了一种名为slayer的算法，能够相当程度上提升训练速度。然而，slayer并未在计算梯度中将神经元膜电位重置机制纳入考量，这也是造成数值不稳定的一大原因。为了对抗这一缺陷，slayer引入了梯度缩放超参数，并且需要手动调试。
synsense时识科技在最新研究中，对slayer进行了改善并设计了一种名为exodus的算法。exodus将神经元膜电位重置机制考虑在内，应用了隐函数定理（ implicit function theorem /ift） 来计算梯度，无需特置梯度缩放，大大减低了训练复杂程度。
synsense时识科技在此研究过程中演示了3类类脑任务：通过dvs gesture、heidelberg spiking digits（hsd）、spiking speech commands （ssc） ，围绕exodus及slayer进行了对比，exodus显示出了较slayer更高的准确性。
验证准确度提升及训练提速对比
自成立以来，synsense时识科技持续助推类脑智能产业落地，同时在这一进程中，于脑科学、神经网络模型、算法、硬件架构、芯片设计、系统级设计、应用、软件等类脑工程相关的各个领域持续创新，对国内外科研领域产生了积极深刻的影响。synsense时识科技核心团队在类脑芯片领域科研上的实力位于世界最顶级的行列，这也将作为强大驱动，加快synsense时识科技类脑智能应用落地，为类脑技术的更广泛铺开而形成助力。
PIC单片机定时器1的实际应用
一线车厂瞄准自动驾驶 晶圆厂打造车用芯片生态系统
半导体2020迎来大变革年代，它的未来将会如何发展
富士康2.3亿美元在美收购汽车工厂
智能轨道机器人巡检系统无需人工干预
时识科技提出新脉冲神经网络训练方法 助推类脑智能产业落地
2018年JavaScript现状调查报告出来啦！
车内语音识别数据：驾驶体验升级与智能出行的未来
Viisights使用AI提前做出更好决策
高性能单片式同步降压型稳压器实现缩小各种应用中的电池供电应用
关于太赫兹开关速度晶体管的研究分析
非旋转式驾驶员安全气囊是否是较好的解决方案？
智能医疗健康设备开发解决方案
弹簧力转试验机的那些事儿，你知道吗？
《无线电工程》—基于知识图谱的直升机飞行指挥模型研究
三星率先将EUV用于DRAM内存颗粒生产中，预计12英寸晶圆生产率翻番
笔记本电脑液晶屏幕分辨率缩写解释
全场景的5G电源解决方案
NASA宣布SpaceX首次载人飞行时间确定
传三星S21系列欧洲版本将不会赠送充电器/耳机