版权声明:本文为博主原创文章遵循 版权协议,转载请附上原文出处链接和本声明
在机器学习算法的学习过程中,经常会遇到对向量函数的求导问题阅读一些文章の后,对于机器学习算法中经常用到的这些求导问题做一些说明方便在不明白的时候可以进行查询。
(一)对标量求导1)向量对标量求导结果是个向量事实上就是向量的每一个元素对标量求导。举个例子对于 ,其中是个标量2)矩阵对标量求导,结果是个矩阵事实上也就昰矩阵的每一个元素对标量求导对于矩阵
,(二)对向量求导1) 标量对向量求导,结果是向量事实上这就是所谓的Gradient即对于一般标量函数