下列关于初等矩阵的说法错误的是（ ）

A. 给一个矩阵左乘以一个初等矩阵，相当于给该矩阵进行一次初等行变换
B. 给一个矩阵右乘以一个初等矩阵，相当于给该矩阵进行一次初等列变换
C. 一个初等矩阵的逆矩阵仍然是初等矩阵
D. 两个初等矩阵的乘积仍然是初等矩阵