分布式机器学习中的效率分析

0x00 Preface 本文着眼于分布式机器学习中的效率分析,在分布式机器学习中,efficiency 通常指的是效率,即在一定的时间内,算法能够达到的最优解的质...

August 9, 2023 · Edited August 9, 2023 · 2214 words · 5 min · 北屿

分布式机器学习中的收敛性分析 (Part 4)

0x00 Preface 本文着眼于分布式机器学习中的收敛性分析,作为第四部分,主要介绍了分布式学习中的收敛性证明,参考主要还是1。同时我们把假设拓展到分布式的 setting...

August 7, 2023 · Edited August 9, 2023 · 1960 words · 4 min · 北屿

深度学习中的收敛性分析 (Part 3)

0x00 Preface 本文着眼于深度学习中的收敛性分析,作为第三部分,主要介绍了深度学习中随机梯度下降的收敛性证明1。相较于上一篇 (Part2) 的梯度下降,随机梯度下降的...

July 25, 2023 · Edited July 27, 2023 · 826 words · 2 min · 北屿

深度学习中的收敛性分析 (Part 2)

0x00 Preface 本文着眼于深度学习中的收敛性分析,作为第二部分,主要介绍了深度学习中梯度下降在(强凸光滑/光滑凸/非光滑凸/光滑非凸/非凸情况下)的收敛...

July 24, 2023 · Edited January 2, 2024 · 3910 words · 8 min · 北屿

深度学习中的收敛性分析 (Part 1)

0x00 Preface 本文着眼于深度学习中的收敛性分析,作为第一部分,首先介绍了深度学习中的优化问题的基本概念以及常见不等式的推导。 笔者并非优化科班出身,因为...

July 23, 2023 · Edited July 27, 2023 · 2776 words · 6 min · 北屿

Deep Learning for Pixel Art

因为内容确实不过,搜遍了全网,来做 Deep Learning for Pixel Art 的工作也没多少,肯定是实在是没有市场了吧 hhhh。 先说 GitHub 上一堆标着 pixel-art-generator 或者 image-to-pixel 的,前者大多是随机生成...

February 15, 2022 · Edited March 21, 2023 · 1865 words · 4 min · 北屿