Posts

介绍 Dirichlet 分布的定义、浓度参数与统计性质，区分两种联邦数据划分方向，并给出可复现、无遗漏的 NumPy 实现及实验检查方法。

分析同步、异步与 K-worker SGD 的随机运行时间，结合收敛界讨论达到目标精度的时间与并行加速限制。

从 FedAvg 的本地更新推导全参与模型下的非凸驻点界与强凸误差界，区分梯度噪声、客户端漂移和采样误差，并讨论部分参与与异质性修正。

推导同步、异步及 K-Async SGD 的强凸收敛界，明确独立采样、条件无偏、梯度滞后与新鲜概率假设。

从攻击者的观察与辅助信息出发，介绍熵、条件互信息、数据处理不等式和 Fano 不等式，并通过随机响应说明信息论隐私与差分隐私的联系和区别。

梳理成员推断、属性推断、模型反演与训练数据提取，推导单样本梯度的可恢复性，并讨论联邦学习、风险评估及不同隐私保护手段的适用边界。

在条件无偏和方差有界假设下推导 mini-batch SGD 的强凸误差界与非凸驻点界，说明步长和噪声的影响。

推导光滑与非光滑、凸与非凸条件下的一阶方法收敛界，明确步长、输出点及迭代复杂度。

统一凸性、强凸性、光滑性与随机梯度的定义和假设，并推导收敛性分析常用的不等式。

通过 Python 模拟微信红包分配，比较不同领取顺序进入金额 Top K 的概率，展示模拟结果并说明模型假设与局限。