分布式机器学习中的效率分析

0x00 Preface 本文着眼于分布式机器学习中的效率分析,在分布式机器学习中,efficiency 通常指的是效率,即在一定的时间内,算法能够达到的最优解的质...

August 9, 2023 · Edited August 9, 2023 · 2214 words · 5 min · 北屿

分布式机器学习中的收敛性分析 (Part 4)

0x00 Preface 本文着眼于分布式机器学习中的收敛性分析,作为第四部分,主要介绍了分布式学习中的收敛性证明,参考主要还是1。同时我们把假设拓展到分布式的 setting...

August 7, 2023 · Edited August 9, 2023 · 1960 words · 4 min · 北屿

深度学习中的收敛性分析 (Part 3)

0x00 Preface 本文着眼于深度学习中的收敛性分析,作为第三部分,主要介绍了深度学习中随机梯度下降的收敛性证明1。相较于上一篇 (Part2) 的梯度下降,随机梯度下降的...

July 25, 2023 · Edited July 27, 2023 · 826 words · 2 min · 北屿

深度学习中的收敛性分析 (Part 2)

0x00 Preface 本文着眼于深度学习中的收敛性分析,作为第二部分,主要介绍了深度学习中梯度下降在(强凸光滑/光滑凸/非光滑凸/光滑非凸/非凸情况下)的收敛...

July 24, 2023 · Edited January 2, 2024 · 3910 words · 8 min · 北屿

深度学习中的收敛性分析 (Part 1)

0x00 Preface 本文着眼于深度学习中的收敛性分析,作为第一部分,首先介绍了深度学习中的优化问题的基本概念以及常见不等式的推导。 笔者并非优化科班出身,因为...

July 23, 2023 · Edited July 27, 2023 · 2776 words · 6 min · 北屿

AI 会取代艺术家的工作吗?

导言 如果你是深度学习领域的工作者,最近大火的 Diffusion model 你一定不会太陌生。在知名的机器学习模型托管网站抱抱脸(Hugging Face) 的 Treading 中,前几个...

September 12, 2022 · Edited March 21, 2023 · 3854 words · 8 min · 北屿

扩散模型试玩

本来是想在 另一篇文章 中写这个部分的,结果发现这一小部分内容较多,且与文字主题相关性低了一些,于是单独提出来形成了这篇文章,也是调研了一下扩散...

September 11, 2022 · Edited March 21, 2023 · 910 words · 2 min · 北屿

Where is the Next Generation of CAPTCHA?

前言 其实,做 hcaptcha challenge 的时候笔者就一直在想,到底下一代的验证码会是什么样子?验证码的发展历程究竟会是怎样? Where is the Next Generation of Captcha?CAPTCH...

May 1, 2022 · Edited June 10, 2022 · 1820 words · 4 min · 北屿

"Please select all the elephants drawn with lеaves"

好像这个 prompt 和 水上飞机的 prompt 最近出现的频率比较高,应该是放到生产环境中了。 那么自然要来搞他,数据集可以在这里找到 先来分析一下,一共就三种类型,一...

May 1, 2022 · Edited March 21, 2023 · 2123 words · 5 min · 北屿

"Please click each image containing an airplane in the sky flying left"

My machine is a living life. I’ll prove it. 引言 hCaptcha 在今天又喜提一次更新,出现了新的标签,要求选中 在天上 的 向左飞 的 飞机。 不过幸运的是,所有的样例图片里面,都包含一个飞机...

March 3, 2022 · Edited March 21, 2023 · 1878 words · 4 min · 北屿