算法

本章节主要介绍在 SPAIC 平台中内置的算法，目前我们已经在平台中添加了 STCA 、STBP 、STDP 与 R-STDP 算法。其中， STCA 与 STBP 都是采用了替代梯度的梯度反传算法，而 STDP 则是 SNN 中经典的无监督突触可塑性算法， R-STDP 在 STDP 的基础上添加了 reward 机制，更好的适用于强化学习。

self.learner = spaic.Learner(trainable=self, algorithm='STCA', alpha=0.5)
self.learner.set_optimizer('Adam', 0.001)
self.learner.set_schedule('StepLR', 0.01)

在示例中，采用了 STCA 算法，用户在 trainable 参数中传入需要训练的对象， self 代指整个网络。如果用户有针对性训练的需要，可以在 trainable 的地方传入指定的层，例如 self.layer1 等，若需要传入多个指定层，则采用列表的 方式: [self.layer1, self.layer2] 。如果用户制定了部分对象为可训练的，则需要启用 pathway 参数，用于辅助梯度在全局的传递。需要将剩下不需要训练的对象添加至 pathway 中，从而使其可以传递梯度。而最后的 alpha=0.5 则是传入 STCA 的一个参数。 在 SPAIC 中，算法自带参数都在末尾进行传参。

此处还使用了 Adam 优化算法与 StepLR 学习率调整机制，在平台中我们设置了诸多可供使用的优化算法:

‘Adam’, ‘AdamW’, ‘SparseAdam’, ‘Adamx’, ‘ASGD’, ‘LBFGS’, ‘RMSprop’, ‘Rpop’, ‘SGD’,‘Adadelta’, ‘Adagrad’

以及学习率调整机制：

‘LambdaLR’, ‘StepLR’, ‘MultiStepLR’, ‘ExponentialLR’, ‘CosineAnnealingLR’, ‘ReduceLROnPlateau’, ‘CyclicLR’, ‘CosineAnnealingWarmRestarts’

Note

对于 RSTDPET 学习算法， batch_size 应设为1