GitHub · AI 教育· poacosta·· 4 天前AI 评分50
the-transformer-drawn:GPT 解码器块交互式图解
poacosta/the-transformer-drawn
AI 导读
the-transformer-drawn 是一个交互式 GPT 解码器块图解工具,通过 10 张蓝图风格示意图展示从 token 到下一词概率的完整前向传播过程。该工具采用 8 维向量、3 个注意力头和 5 词词汇量的玩具模型,所有数值均基于真实计算生成,无需 GPU 或 API 即可运行。用户可调整温度参数、隔离特定注意力头或输入自定义句子,直观理解因果掩码、Softmax 及残差连接等机制。
来源:GitHub · AI 教育 · github.com