Stay Hungry. Stay Foolish.
09
18
几种常用loss函数原理及代码示例 几种常用loss函数原理及代码示例
0.信息熵 计算公式 说明 Onehot向量的信息熵为0 非Onehot向量的概率分布反而有一定的信息熵 对于交叉熵而言,与Onehot向量相同的概率分布时,其交叉熵也为0 1.交叉熵损失 Cross Entropy Lo
2024-09-18 Ruimin Huang
06
29
知识蒸馏算法_原理&综述 知识蒸馏算法_原理&综述
权重剪枝:结构化剪枝,整层整层地剪,整通道整通道地剪 通道剪枝:非结构化剪枝,一根树杈子,一根树杈子剪 加速卷积运算:将卷积运算转换成张量运算,这里面有很多卡脖子的技术,这也是MATLAB软件非常牛的关键,底层有很多数值运算的
2022-06-29
07
11
22
21
20
19
18
17
16
15
14
2 / 6