注册并分享邀请链接,可获得视频播放与邀请奖励。

纳米AI 的个人资料封面
纳米AI 的头像

纳米AI (@antiAIvo)

@antiAIvo
0 正在关注    0 粉丝
「从零手写大模型」系列完结了 推理篇 15 篇,训练篇 5 篇,共 20 篇 从模型的基本结构 到如何生成文字,再到损失、梯度与参数更新 把学习过程整理成了一套完整笔记 每一篇都有可练习的代码示例 📖 推理篇 · 15 篇 01|LLM From Scratch:整体大纲路线 02|Tokenizer:分词器 03|Embedding:嵌入层 04|Positional Encoding:位置编码 05|Self-Attention:自注意力机制 06|Multi-Head Attention:多头注意力机制 07|Residual Connection:残差连接 08|LayerNorm:层归一化 09|FFN:前馈神经网络 10|Activation Function:激活函数 11|Transformer Block:Transformer 模块 12|Transformer Stack:Transformer 堆叠 13|Loading Pretrained Weights:加载预训练权重 14|Text Generation:文本生成 15|Interpretability:可解释性 🛠 训练篇 · 5 篇 01|Loss Function:损失函数 02|Backpropagation:反向传播 03|Gradient Descent:梯度下降 04|Adam Optimizer:Adam 优化器 05|Learning Rate Scheduling:学习率调度 推理篇,理解模型如何一步步算出下一个 token 训练篇,理解模型如何从误差中学习、更新参数 欢迎一起学习、交流,也欢迎指出笔记里的问题
显示更多
我觉得大部分𝕏做不起来的 主要是知识储备太少了 脑子里没什么可写的 只能写写废话挣流量 我提供两个起号方向 第一个:财经赛道 用AI把整个半导体产业链学习一遍 把那几十支热门股票 每一家的基本面 好好研究明白了 每天输出总结 第二个:大模型学习赛道 就一个Transformer 把里面的所有知识点 每天学一点,输出一点 以上任何一个赛道,坚持3个月 涨多少粉,我无法保证 但是你绝对可以 成为一方专业领域的小成选手 我想大部分人 都不想成为玩“泛娱乐”的评论账号吧 最后留下来的只有一堆没有沉淀的废话 现在有了AI 学任何东西都不是问题 阻碍你的只有你的懒惰、不自律
显示更多
0
47
265
14
转发到社区