相关文章
深度学习中的损失函数 与回归任务不同，分类任务是指标签信息是一个离散值，其表示的是样本对应的类别，一般使用one-hot向量来表示类别，例如源数据中有两类，分别为猫和狗，此时可以使用数字1和数字2来表示猫和狗，但是更常用的方法是使用向量[0,1]表示猫，使用向量[1,0]表示狗。one-hot的中文释义为独热，热 的位置对应于向量中的1，所以容易理解独热的意思是指向量中只有一个位置为1，而其他位置都为0。那么使用独热编码表征类别相较于直接用标量进行表征有什么好处呢，从类别的区分性来说，两者都可以完成对不同类别的区分。但是从标量数字的性质来说，其在距离方面的诠释不如one-hot。例如现在有三个类别，分别为猫，狗和西瓜，若用标量表示可以表示为label猫=1，label狗=2，label西瓜=3，从距离上来说，以欧氏距离为例，dist(猫，狗)=1，dist(狗，西瓜)=1，dist(猫，西瓜)=2，这样会得出一个荒谬的结论，狗要比猫更像西瓜，因此用标量来区分类别是不明确的，若以独热编码表示类别，即label猫=[1,0,0],label狗=[0,1,0],label西瓜=[0,0,1],容易验证各类别之间距离都相同。
