使用非IID数据用于个性化交叉 - 西洛联盟的基本瓶颈是错误的，因为全球模型可以适合所有客户。因此，在本文中，作者使用新颖的消息传输机制来解决具有挑战性的问题个性化交叉 - 西洛联盟学习问题。这种机制鼓励类似客户与类似客户合作，以促进客户的自适应促进客户机会。
全球联邦学习培训单一的全球模型是最大程度地减少所有客户数据的体验损失函数。但是，当不同客户之间的数据不是IID时，很难收敛到良好的全球模型。本地数据本身的处理。这里有几种方法可以自定义。首先是本地罚款，以罚款每个客户端的全局模型并为客户端生成个性化模型。相似，元学习方法可以自定义个性化的方法。模型通过基于客户的培训全球模型。模型混合方法将全球模型与潜在的客户模型定制为每个客户自定义。他人通过梯度进行调整，以纠正个性化模型和全球模型中客户之间的漂移。
考虑$ m $ a客户端$ C_1，...，C_M $，有相同类型的型号$ MATHCAL {M} $，但是$ W_1，W_2，...，W_M $的参数是不同的。$ MATHCAL {M}（W_I）$和$ D_I $指示客户端上的模型和数据$ C_I $。USE$ MATHCAL {V_I} $和$ MATHCAL {V}^（i）$表示客户端的性能i以及人性化的联邦学习旨在与数据集培训个性化模型合作，也就是说，我希望更新$ MATHCAL {M}（W_1），...，Mathcal {M}（M}（W_M）$接近$ MATHCAL {V} ^^（1），...，Mathcal {V}^*（m）$。更具体地，定义$ f_i：Mathbb {r}^d
ightarrowmathbb {r} $是一个训练功能，描述个性化问题：$ $ minw {Mathcal {g}（w）：= sum^m {i = 1} f_i（wi）+lambdasum {i {i {i {i {i {i {i {
函数$ a（|| w_i-w_j ||^2）以非线性方式以$ w_i $和$ w_j $之间的差异。一个典型的示例是：$ a（|| w_i-w_jj ||^2）=1-e^{ - ||w_i-w_j ||^2/sigma} $。
定义$ mathcal {f}（w）：= sum^m_ {i = 1} f_i（wi）$和$ mathcal {a}（w）（w）：= sum^m {i <j} a（|| w_i-w_i-w_jj||^2）$作为（1）的第一项和第二个项目，因此它变为：$ $ min_w {Mathcal {g}（w）：= Mathcal {f}（w）（w）+lambda Mathcal {a}（w）} ag2 $ $当k-round在k回合中时，我们首先更新$ mathcal {a}（w）$：$ $ u^k = w^{k-1} -alpha_k
ablamathcal {a}（w^{k-1}）ag 3 $ $ whene $ alpha $是渐变的脚步。{f}（w）+frame {lambda} {2alpha_k} ||w-u^2 ag4 $ $更新参数的方法。
通过将所有客户的私人培训数据合并到培训数据中，可以轻松实现上述常见方法。为了执行个性化的联合学习而不侵犯客户的数据隐私，我们已经开发了FedAmp。通过维护云服务器上每个客户端的个性化云模型，通用方法将在客户端服务器框架工作步骤中实现，并在个性化模型和个性化的云模型之间传输加权模型聚合消息。使用通用方法，FIFDAMP首先优化$ MATHCAL {a}（w）$，然后将$ u^k $传递给服务器。
ot = i} a'（|| w_i^{k-1} -w_j^{k-1} ||^2））w_i^{k-}＆+alphaksum^m {j {
ot = i} a'（|| w_i^{k-1} -w_j^{k-1} ||^2））wj^{k-1}＆= x {i，1} w1^k- {k- {k-1}+...+xi {i，m} w_m^{k-1} end {Anigned} ag 5 $ $经常选择一个较小的$ alphak $，以确保所有线性组合权重不为负。i，1}+...+xi_ {i，m} = 1 $，$ u_k $是客户端的个性化模型参数集的凸起组合。服务器计算（5）后，将参数返回给客户端。客户端的更新如下：$ $^k = argmin {win r^d} f_i（w）+frame {lambda} {2alpha} ||w-u_i^k ||^2 ag 6 $ $特定算法如下：
FedAmp适应性地适应相似客户之间的协作，因为重点的消息传输机制迭代以鼓励类似客户在个性化的联合学习过程中进行更多的合作。（5）计算后，每个客户端可以计算每个客户端对服务器的比例，这意味着，当两个客户的参数接近时，随着培训，他们将越来越近。因此，有更多的合作来形成积极的反馈。这段时间仅在华为云上找到。关键代码已集成到Moxing板中，找不到，因此未显示。