
CMU 15-779 学习记录 07:矩阵分块、数据复用与树形归约
用 CPU 模型统计矩阵分块的输入读取次数,再比较串行求和和树形归约的依赖深度,记录补零、同步与浮点加法顺序的边界。
FOLLOW THIS THREAD
Notes on this topic
2 篇公开笔记,沿着这个标签慢慢读。

用 CPU 模型统计矩阵分块的输入读取次数,再比较串行求和和树形归约的依赖深度,记录补零、同步与浮点加法顺序的边界。

把 nn.Linear 对应到矩阵乘法,弄清多个输出怎样计算,再逐层拆开一个绝对值网络,比较手动设置参数与训练得到的结果。