Wine & Chord

Recent posts

数据并行

1 minute read

数据并行

训练时的显存开销

5 minute read

训练时的显存开销

SGLang

3 minute read

SGLang

交叉熵

2 minute read

交叉熵中的数学

手撕 Softmax 和 Cross-entropy 公式及代码

3 minute read

回归基础，返璞归真