联邦知识蒸馏

联邦知识蒸馏概述与思考 续 随着深度学习与大数据的进一步发展,效果好的模型往往有着较大的规模和复杂的结构,往往计算效率与资源使用方面开销很大,无

FedAvg

Communication-Efficient Learning of Deep Networksfrom Decentralized Data[paper] 论文解析 开山之作 笔记: https://zhuanlan.zhihu.com/p/445458807 https://zhuanlan.zhihu.com/p/370198194 https://www.zhihu.com/question/315844487/answer/1100845525 将训练数据分布在一定设备上,通过聚合本地更新来学习共享模型。仅传递模型的更新。介绍了联邦平均算法,

联邦学习路线

https://www.zhihu.com/question/422320791/answer/1805628004 Communication-Efficient Learning of Deep Networks from Decentralized Data 开山之作,FedAvg。 三个概念:Epoch, Batch, Iteration 参考2 epoch:一个Epoch就是将所有训练样本训练一次的过程 batc

深度学习入门-基于python

Python入门 NumPy NumPy数组可以和单一数值(标量)组合起来运算,此时NumPy数组的各个元素和标量之间进行运算。(广播) 1 2 3 >>> x = np.array([1.0,2.0,3.0]) >>>

卷积神经网络

卷积神经网络 通俗理解1 卷积神经网络主要包括卷积层,池化层和全连接层三部分。卷积层用来识别这些特定线条,池化层用来减少图像的数据量,提升识别效