Embedding Research Hub

金培晟 Jarfield

这篇笔记只讲一个在深度学习里极其高频的结论：

其中 是 logits，， 是标签分布。
很多人会记这个结果，但不清楚它为什么成立，也不清楚它在 batch、one-hot、soft label 以及数值稳定写法下分别意味着什么。