二零二二年终总结 关注公众号【算法码上来】,每日算法干货马上就来! 写于2022年12月13日 不知不觉,年终总结坚持写了6年了,这几年每年都在12.13发布,因为这天🎂。还记得2017年第一次写的时候才大三,现在竟然都已经工作两年多了。回顾这一年 2022-12-12 随笔 年终总结 历时一年,论文终于被国际顶会接收了 就在昨天,超算领域的国际顶会SC22放榜了,我们组的论文也被接收了,得分44332(4分制): 论文地址:https://arxiv.org/abs/2110.05722 SC会议是什么?可能很多同学都没听过SC是什么会议,SC会议全称“高 2022-06-16 深度学习 SC22 深度学习 模型优化 手推公式之“层归一化”梯度 昨天推导了一下交叉熵的反向传播梯度,今天再来推导一下层归一化(LayerNorm),这是一种常见的归一化方法。 前向传播假设待归一化的$m$维向量为$x$,均值和标准差分别是$\mu{(x)}$和$\sigma{(x)}$,LayerNor 2022-05-22 深度学习 Transformer 梯度 数学 “交叉熵”反向传播推导 交叉熵(CrossEntropy)是常见的损失函数,本文详细推导一下它的梯度,面试大厂或者工程实践中都可能会用到。 前向传播假设分类任务类别数是$V$,隐层输出是$V$维向量$\mathbf{h}$,标准的one-hot向量是$\mathb 2022-05-21 深度学习 Transformer 梯度 数学 拼图还能这么玩? 这两天将我所有微信好友的头像弄出来了,一共5000多张。然后想着可以用它们来做些啥,最后用它们拼图玩。 Mac微信的头像保存在: ~/Library/Containers/com.tencent.xinWeChat/Data/Library 2022-04-22 编程技术 图像处理 python 封城第20日,起飞了(文末有字节校招惊喜) 封城第20天了,最近上海日新增又降到2w以下了,京东快递和外卖也部分恢复了,部分小区甚至都转成防范区了。这两天小区里核酸检测率都在95%以下,有300左右的人都没去做核酸,据说达不到要求的话没法申报解封。而我也已经4天没去做过核酸了,因为在 2022-04-20 随笔 疫情 隔离 封城第14日,囤了一波好货 封城第14天了,今天去小区里小卖部买了一箱啤酒和30个鸡蛋,一共花了110,这下明天开始可以吃菜喝酒了,夜宵也可以荷包蛋自由了。京东上看了一下大概价格在90左右,看来这个小卖部还是挺良心的,现在外面团购最起码得两倍价格。 小卖部里东西还 2022-04-14 随笔 疫情 隔离 封城第13日,大数据分析团购群的各种行为 封城第13天了,小区终于发放了第3次物资。这次的物资是三次以来最丰富的一次,还算不错。但是由于天降暴雨,大米都进水了,蔬菜也都泡水了。再加上昨天刚团购到货,所以我基本不怎么需要这些物资。所以最后我只拿了三根火腿肠、土豆、抽纸,其他都分给了比 2022-04-13 随笔 疫情 隔离 封城第12日,冰箱都快塞不下咯(附菜谱分享) 封城第12天了,凌晨两点多公司组织团购的物资终于送到了。虽然200的价格有点贵,但半天就送到,我也知足了。 这下我冰箱里的菜就有点多了,之前一股脑堆在了一起,导致不到一周有些蔬菜就烂了,特别是绿叶菜。吸取了之前的教训,这次我现将蔬菜都清洗 2022-04-12 随笔 疫情 隔离 封城第11日,只需要一个茄子就能让你干两碗饭(附菜谱分享) 封城第11天了,今天没有做饭,起晚了,恶性循环,随便吃点老干妈拌饭了。 今天团购了公司组织的一份菜,下面这些要203块,也是翻倍了吧,贵的一笔。不过他送的很快,今晚就直接到了,也算是解了燃眉之急吧。 既然今天没做饭,我就分享一道非常下饭 2022-04-11 随笔 疫情 隔离 封城第10日,没蔬菜了(附菜谱分享) 封城第10天了,今天发现我们小区美团买菜和叮咚买菜还是站点关闭,而隔壁小区的站点就是开门的,应该是那个站点出了什么异常。所以目前看来我们小区还是只能团购、盒马团购、京东物流。 京东的订单依然还没有开始处理,但是小区已经有人收到京东生鲜的快递 2022-04-10 随笔 疫情 隔离 封城第9日,情况好起来了(附菜谱分享) 封城第9天了,情况貌似有转机了。美团买菜“站点关闭”的公告没了,偷偷上架了一批新菜,看来又可以抢购了。京东物流听说也快可以配送了,只要是京东物流的商品都可以下单了,但估计买的人太多了,配送时效很难保证(说是15号到)。 细数了一下囤货的余 2022-04-09 随笔 疫情 隔离