目录

矩阵求导

两种布局

        分子布局（=分母布局+转置）

        分母布局（常用）

 求导思路

将原函数写成通项or分块

借助微分定义凑导数

使用法则+查表=>导数

 重点导数

 几点提醒

---

矩阵求导

                                                

注意：矩阵或向量求导只是批量求导数的一种方式，本质还是矩阵or向量中的标量之间在求导数，只不过是借助矩阵or向量的形式，同时对多个因变量关于自变量求导

因此，所谓矩阵or向量求导，只不过是对求导结果按照约定好的规则组织起来

两种布局

        分子布局（=分母布局+转置）

                                

        分母布局（常用）

                        

 

 求导思路

• 将原函数写成通项or分块

https://www.bilibili.com/video/BV1xk4y1B7RQ?p=5&vd_source=0da0b7e545e1a65e82836ac4eff73077

例子：

•  借助微分定义凑导数

https://www.bilibili.com/video/BV1vV4y1p7Nn/?spm_id_from=333.337.search-card.all.click&vd_source=0da0b7e545e1a65e82836ac4eff73077

 

 

例子

•  使用法则+查表=>导数

https://en.wikipedia.org/wiki/Matrix_calculus

        求导规律：

                1、常量可提到导数外

                        

                2、“分子”线性组合可拆开

                        

                 3、转置符号可以提出来

                        

         导数表：

                1、scaler by scaler

                2、vector by vector

                1、默认列向量关于行向量求导

                2、也可列列、行行、行列

                3、可以用通用的矩阵方法来记

                3、scaler by vector

                最小二乘的二阶项常用

                4、vector by scaler

                5、scaler by matrix

                6、matrix by scaler

 重点导数

         

 几点提醒

不管元素的排列方式如何，求导还是按照元素求导，位元素结果是确定的，只不过元素排列有差别

 分子分母形式都有人用，还有人混用，不必过于纠结，关注式子传达的含义更重要

自己书写时按照一种规范，一般是分母型

矩阵和向量是不满足交换律的，所以不能随意变动矩阵或向量之间的相对位置常量也不行

求导法则+查表 可解决日常求导问题