fix fl format (#80)

This commit is contained in:
chengtianwu
2022-03-13 16:14:52 +08:00
committed by GitHub
parent 3355a3d2de
commit d665f9e43c
8 changed files with 7 additions and 17 deletions

View File

@@ -2,7 +2,7 @@
### 部署流程
随着端上算力的提升和算法的快速发展,跨设备联邦学习在智能手机或智能设备中的应用越来越广泛。其主要流程如:numfef:`ch10-federated-learning-flow`所示,可分为如下几步:
随着端上算力的提升和算法的快速发展,跨设备联邦学习在智能手机或智能设备中的应用越来越广泛。其主要流程如 :numfef:`ch10-federated-learning-flow`所示,可分为如下几步:
1. FL-Client选择FL-Client主动向FL-Server发起参与联邦学习的请求。FL-Server根据配置筛选出满足条件的FL-Client。选择成功后FL-Server下发模型以及相关联邦学习配置。
2. FL-Client训练在终端设备上进行本地模型训练。

View File

@@ -1,6 +1,6 @@
## 联邦平均算法
和传统分布式学习相比联邦学习存在训练结点不稳定和通信代价大的难点。这些难点导致了联邦学习无法和传统分布式学习一样在每次单步训练之后同步不同训练结点上的权重。为了提高计算通信比并降低频繁通信带来的高能耗谷歌公司提出了联邦平均算法Federated AveragingFedAvg:numfef:`ch10-federated-learning-fedavg`展示了FedAvg的整体流程。在每轮联邦训练过程中端侧进行多次单步训练。然后云侧聚合多个端侧权重并取加权平均。
和传统分布式学习相比联邦学习存在训练结点不稳定和通信代价大的难点。这些难点导致了联邦学习无法和传统分布式学习一样在每次单步训练之后同步不同训练结点上的权重。为了提高计算通信比并降低频繁通信带来的高能耗谷歌公司提出了联邦平均算法Federated AveragingFedAvg :numfef:`ch10-federated-learning-fedavg`展示了FedAvg的整体流程。在每轮联邦训练过程中端侧进行多次单步训练。然后云侧聚合多个端侧权重并取加权平均。
![联邦平均算法](../img/ch10/ch10-federated-learning-fedavg.png)

View File

@@ -1,6 +1,6 @@
# 联邦学习系统
在本章中,我们介绍深度学习的一个重要分支——强化学习及其在系统方面的知识。本章的学习目标包括:
在本章中,我们介绍深度学习的一个重要分支——联邦学习及其在系统方面的知识。本章的学习目标包括:
- 掌握联邦学习基本知识。
- 掌握联邦系统架构组成部分。

View File

@@ -2,20 +2,10 @@
为了解决“隐私保护”与“数据孤岛”这两大难题联邦学习Federated LearningFL应运而生。联邦学习的概念最早在2016年被提了出来能有效帮助多个机构在满足用户隐私保护、数据安全和政府法规的要求下进行数据使用和机器学习建模。在联邦学习场景中每个用户被定义为客户端这一角色使用各自的本地数据进行训练、模型更新、权重上传并在中央服务器的协调下多个客户端协作建立机器学习模型。
根据数据分布的不同联邦学习可以分为跨设备cross-device与跨组织cross-silo联邦学习。一般而言跨组织联邦学习的用户一般是企业、机构单位级别的而跨设备联邦学习针对的则是便携式电子设备、移动端设备等。:numref:`differences-and-connections`展示了两者的区别和联系:
根据数据分布的不同联邦学习可以分为跨设备cross-device与跨组织cross-silo联邦学习。一般而言跨组织联邦学习的用户一般是企业、机构单位级别的而跨设备联邦学习针对的则是便携式电子设备、移动端设备等。 :numref:`ch10-federated-learning-different-connection`展示了两者的区别和联系:
| | 跨设备联邦学习 | 跨组织联邦学习 |
| :------------: | :----------------------------------------------------------: | :----------------: |
| 组网架构 | 由中央服务器和不同客户端之间的交互,且客户端之间没有直接联系。 | |
| 数据分布 | 不同客户端上的数据非独立同分布。 | |
| 主要瓶颈 | 客户端的计算性能以及中央服务器的内存 | 通信开销 |
| 客户端来源 | 不同的终端设备 | 不同的组织 |
| 客户端性能 | 较差 | 较好 |
| 客户端规模 | 较大 | 较小 |
| 客户端参与情况 | 不会参与所有联邦迭代 | 参与大部分联邦迭代 |
| 客户端状态 | 无状态 | 有状态 |
| 客户端可靠性 | 高度不可靠 | 相对可靠 |
![跨设备和跨组织联邦学习的区别和联系](../img/ch10/ch10-federated-learning-different-connection.png)
:label:`differences-and-connections`
:label:`ch10-federated-learning-different-connection`
下面就联邦学习中的要点:系统架构、联邦平均算法、隐私加密算法以及实际部署时的挑战进行详细描述。

View File

@@ -1,6 +1,6 @@
## 系统架构
联邦学习系统由调度器模块、服务器模块和客户端模块三个部分组成,其系统架构如:numref:`ch10-federated-learning-architecture`所示。其中:
联邦学习系统由调度器模块、服务器模块和客户端模块三个部分组成,其系统架构如 :numref:`ch10-federated-learning-architecture`所示。其中:
- 联邦学习调度器:

Binary file not shown.

After

Width:  |  Height:  |  Size: 245 KiB

Binary file not shown.

Before

Width:  |  Height:  |  Size: 586 KiB

After

Width:  |  Height:  |  Size: 189 KiB