Minst综合案例
大约 2 分钟案例案例
本案例是一个结合机器视觉、脉冲编码、模型建立、突触可塑性、突触可塑性更改、权重正则化、模型编译运行、模型保存, 模型二次加载运行的综合案例。
网络结构
如图所示,宽度为28x28的Minist手写数字图像经过脉冲编码为784x512的脉冲序列,即共784个输入,每个输入的脉冲周期是512。 脉冲序列输入具有784个输入神经元的输入神经元组input,input通过突触组edge连接到具有10个神经元的General神经元组hidden, hidden自身通过突触组inhibit进行侧抑制连接;运行的过程中,通过Frequency插件frequecies监控hidden的发放频率情况。
PreDrive预训练
第一轮开始,随着脉冲的输入,由于采用了PreDrive的可塑性机制,edge的权重在逐步增加。随着权重的增加, output的神经元开始发放脉冲,被激活;
突触点位激活
多轮后,随着脉冲的输入,output被彻底激活,inhibit 节点由于采用多轮后,随着脉冲的输入了PreDrive的可塑性机制, inhibit的权重在逐步变化,由于设置了学习率为负,因此权重在逐步减少;
BCM产生选择性
20轮后,调整edge的突触可塑性为BCM,如图中第二图,此时突触的变化不是无选择性的增加,而是产生了选择性;
训练结果
经过1000的训练,模型针对不同输入图片,产生了不同的频率发放响应,形成了针对不同输入模式产生不同的脉冲输入响应特性。 本案例先使用PreDrive突触可塑性,使得hidden的神经元充分激活,input到hidden的有效连接被充分建立, 后续调整edge的突触可塑性为BCM,BCM具有选择性,可以针对不同的输入产生选择性。