三尺微命,一介书生。
南方六月的傍晚,天气已经比较热了。终于挺到下班的王二,感觉自己像是又活过来了一样。王二住的地方离公司不远,他一般都是骑自行车回家。
介绍下 Google Scholar 最近更新的一些好用的新功能,比如 AI 导航栏,引用文献快速查看和这几天推出的 Highlight&Comment 和 Scholar Labs.
基于 PyTorch 从零实现自然语言处理经典模型的开源库 ToyNLP. 实现了 2003 年至 2018 年间共计 8 个经典的 NLP 模型:NNLM, Word2Vec, Seq2Seq, Attention, FastText, Transformer, BERT, GPT.
记录 BERT 论文的复现过程与经验教训。这是我一直想要找的一篇博客,但我一直没找到,于是决定自己来写一篇。
近期在开源项目中获得的一些积极反馈和体会。
少一些 AGI 的闲谈,少一些 FOMO 情绪,我们应该务实地享受 AI 的黄金时代!
Rust ♥️ Python: 推荐一些 Rust 做底层实现的高效 Python 库
介绍 LLM KV Cache 的原理和实现
ToyRL: 从零实现深度强化学习算法
结合最近给 Redis 社区提的一个 PR,简单聊一聊 Redis 的锁机制
LLM Speculative Sampling 论文复现
介绍一个 Presentation 开源模板集合,让 Presentation 变得简单而不失优雅。
Deepseek GRPO 中的 KL Divergence,forward kl divergence or reverse kl divergence?
大语言模型与深度学习书籍推荐。
100 道 Numpy 练习题的 Numpy 和 PyTorch 解答
2024 年度总结。
2024 年对 LLM 的一些看法,我们正处于 AI 的黄金时代
介绍一个简单的做图辅助库,让 matplotlib 显示中文更加简单
斯坦福小镇解读:探索生成式代理的架构设计与行为模拟
对标签聚合算法 (真值推断) Dawid-Skene 算法进行一些较为深入讨论。所谓标签聚合算法,是指从多个标注者的标注结果中推断出最可靠的标签。
终身学习!
记录下最近逛开源社区的体会
今天是国庆节,我一大早就起了床。我拿起宝剑就在院子大开杀戒,冬青可遭了殃,我把它的头发剪得漫天飞舞...
考研那些事...
如题,仅仅是出于好奇而已。大致分为两个部分,校园卡数据爬取与数据分析
去年在小岛上过年的时候,我完全没有想到自己的 2019 年会过得那么快。最近几年我都会写下总结,但是像今年这样心情复杂还是第一次。
根据书上的记录,我第一次阅读《寻找无双》是在 2017.05.10,17:31,海大四教,看完是在 2017.05.27 21:45,海大三教。毫无疑问的是当时就是把这本书当作色情小说 + 幽默段子来读——因为除了王小波的杂文和部分短篇,其他都是看不太懂的。时过两年,近日再重读,算是发现了一些有趣的内容,但是仍然没有完全看懂。
读一些书的时候,渐渐发现一些“所谓偶然”的东西,也就是说,似乎许多人在他们的文字都在诉说着相同的事情。以下所言,或来自读书笔记,或来自书籍的勾画,或只是回忆...作为参考。
他伸手把月亮关掉,只剩下自己和满天的星星。
尼采说:凡一切文字,我只爱以血写成的。当然,这篇文字与这句话没有太大关系,但还是希望本文能表达的东西能像鲜血一样醒目。