第110章 联邦

  左城看著这项技术，心里迅速计算。如果复製梯度稀疏化压缩，配合沈一鸣已有的自適应通信调度，联邦学习的通信效率还能再提升一个台阶。

  【复製“梯度稀疏化压缩“需要消耗8积分，是否继续？】

  確认。

  积分从二百八十五分变成了二百七十七分。一项新的技术出现在左城的科技树叶片列表中，归入万物互联枝干。

  左城关掉面板，继续看测试。

  “第三轮聚合完成，模型精度百分之八十五。“沈一鸣的声音有些发颤，“数据没有出过本地，隱私保护完全有效。第四轮。“

  “通信开销呢？“陈浩问。

  “比集中式训练降低了百分之五十二。“沈一鸣说，“这个数据已经超出了我的预期。树莓派上测试的时候只能做到百分之三十七的降幅，真机环境反而更好，因为边缘网关的算力比树莓派强很多，本地训练的梯度质量更高，聚合的效率也就更好。“

  “精度损失呢？“方泽开口了。

  “几乎没有。“沈一鸣调出一个对比图，“联邦学习训练出来的模型精度是百分之八十五，集中式训练的精度是百分之八十七，差距在误差范围內。而且隨著训练轮次增加，这个差距还在缩小。“

  左城心中一动。梯度稀疏化压缩，他已经从系统里复製了，但这项技术的载体不是沈一鸣，而是他自己的科技树。他需要把这项技术“反馈“给沈一鸣，但不能暴露来源。

  “一鸣，你之前提到的梯度稀疏化思路，有没有继续往下做？“左城问。

  沈一鸣愣了一下：“有初步的想法，但还没来得及实现。“

  “我之前看过一篇论文，讲的是梯度稀疏化的自適应閾值选择。核心思路是在训练过程中动態调整稀疏化率，前期保留更多梯度保证收敛，后期提高稀疏率降低通信。你试试这个方向。“

  沈一鸣眼睛一亮：“自適应閾值选择？这个思路很好，和我之前的自適应压缩率可以对接。我回去就做。“