向量是一组数，代表从原点向一个点引出的有方向的线段。在平面上容易理解，（X，Y）代表从原点从点（X，Y）引出的线段；三维空间中的向量也好理解，伸出胳膊随便指向一个方向，就是一个向量。超过三维的向量就只能靠想象了。 
　　向量之间线性相关的定义是这样的，对于向量B和一组向量A1，A2，……，AN，如果存在一组不全为0的数L1，L2，６，LN，使B=L1A1+L2A2+……+LNAN，则称向量B与向量组A线性相关，否则称向量B与向量组A线性无关。B与A线性相关，即B是A的一个线性组合。如三维空间中的任一向量K（X，Y，Z），都是向量组A1（1，0，0）、A2（0，1，0）、A3（0，0，1）的一个线性组合，因为K=XA1+YA2+ZA3。上述定义对解决线性相关的问题非常重要，必须深刻理解。 
　　极大无关组的概念。极大无关组是一组向量A1，A2，……，AN中选出的部分向量，组成新的向量组，假定叫向量组S。S满足：A中的任一向量都与S线性相关（保证S的极大性），S中的任一向量与S中其余的向量线性无关（保证S的无关性）。则S为A的一个极大无关组。 
　　向量组中可能存在多个极大无关组。假设三维空间中的所有向量组成一个向量组，则向量组A1（1，0，0）、A2（0，1，0）、A3（0，0，1）是其中的一个极大无关组。向量组B1（1，0，0）、B2（0，2，0）、B3（0，0，3）同样是极大无关组。只要选出的三个向量组成的行列式值不为0，就都是一个极大无关组。对于任意维空间，极大无关组可看作一组向量中选出的一组坐标系，每个向量都是这组坐标系中的一个点。
　　矩阵是一组向量排成的长方形。这组向量中，极大无关组中含有的向量的个数称为矩阵的秩。如果每个向量都视为一条信息，矩阵的秩就是矩阵包含的信息量的条数。极大无关组之外的向量，代表无效信息，因为它们可以由极大无关组中的信息表示出来。