到现在，我们已经把数的加法与乘法运算“推广”到了矩阵运算，那么自然要问，如何把数的除法运算推广到矩阵运算？在数的运算中，每个数a只要不是零，便有一个数a-1，使得$aa^{-1}=a^{-1}a=1$，对于除法运算b÷a可以用乘法运算$ba^{-1}$或$a^{-1}b$来表示。那么，是否每个矩阵A只要不是零矩阵，便会有一个矩阵B使得AB=BA=E呢？回答是否定的。因为，当矩阵A的行数与列数不相等时，显然就不行。那么是否所有的n阶非零方阵A都有B满足上式？回答也是否定的。
在彻底弄清上述问题之前，我们先给出逆矩阵的定义与基本性质。
定义 1.8 设A为n阶矩阵，如果存在n阶矩阵B，使得 $$ AB=BA=E_n $$ 则称A为可逆矩阵，并称B为A的一个逆矩阵。否则，便说A是不可逆的。
如果B与C都是A的逆矩阵，即AB=BA=E，AC=CA=E，则有 $$ B=BE=B(AC)=(BA)C=EC=C $$ 由此可得如下定理。
定理 1.4 若A是可逆矩阵，则A的逆矩阵是唯一的，记作$A^{-1}$
例如，单位矩阵E是可逆的，而且$E^{-1}=E$
例 1.11 判断矩阵 $ A=\begin{pmatrix} 1 & 0 \\ 0 & 0 \\ \end{pmatrix} $ 是否可逆。
解 对于任意的 $ B=\begin{pmatrix} b_{11} & b_{12} \\ b_{21} & b_{22} \\ \end{pmatrix} $ ，有 $$ AB= \begin{pmatrix} 1 & 0 \\ 0 & 0 \\ \end{pmatrix} \begin{pmatrix} b_{11} & b_{12} \\ b_{21} & b_{22} \\ \end{pmatrix} = \begin{pmatrix} b_{11} & b_{12} \\ 0 & 0 \\ \end{pmatrix} ≠ \begin{pmatrix} 1 & 0 \\ 0 & 1 \\ \end{pmatrix} $$
可见，不存在方阵B使得AB=E。所以A不可逆。
从上面的这个例子可以看出：
（1）并非所有非零方阵都是可逆的。
（2）如果一个矩阵中有某一行元素全为零（即这个矩阵有零行），那么这个矩阵一定不可逆。
例 1.12 证明可逆的行最简形矩阵为单位矩阵。
证明 设A为n阶可逆的行最简形矩阵，则A中无零行。因而A中每一行都是非零行，且非零首元为1，这些1所在的列的其余元素均为零。而A一共只有n列，故A=E。
利用定义1.8可以得到可逆矩阵的以下性质。
性质 1.5 设A与B都是n阶可逆矩阵，k是不为零的数，则$A^{-1},A^T,kA$以及AB都是可逆矩阵，而且
（1）$(A^{-1})^{-1}=A$;
（2）$(A^T)^{-1}=(A^{-1})^T$;
（3）$(kA)^{-1}=k^{-1}A^{-1}$
（4）$(AB)^{-1}=B^{-1}A^{-1}$
证明 这里只证明性质(4)，其余性质由读者自己完成。
事实上，因为 $$ \begin{flalign} (AB)(B^{-1}A^{-1})=A(BB^{-1})A^{-1}=AEA^{-1}=E \\ (B^{-1}A^{-1})(AB)=B^{-1}(A^{-1}A)B=B^{-1}EB=E \end{flalign} $$ 所以$(AB)^{-1}=B^{-1}A^{-1}$。
进一步，由归纳法可以证明：若$A_i(i,\cdots,m)$均为n阶可逆矩阵，则它们的乘积$A_1 \cdots A_m$也为n阶可逆矩阵，且 $$ (A_1 \cdots A_m)^{-1}=A^{-1}_m \cdots A^{-1}_1 $$