선형대수학은 2차원 혹은 3차원의 직교 좌표계에 대한 연구로 부터 시작되었다.

선형대수학에서 기본적인 정의는 다음과 같다.
* 벡터: 벡터 공간의 원소를 벡터라 한다.
* 벡터 연산: 두 벡터끼리의 합, 혹은 벡터와 스칼라(크기만 있고 방향성은 없는 성분)사이의 곱이 벡터의 기본 연산이다.
* 벡터 공간: 벡터의 기본 연산을 만족하는 모든 벡터의 모음을 뜻한다.
* 차원: 흔히 평면을 2차원, 공간을 3차원이라고 부른다. 이때 차원을 구성하는 각각의 요소(3차원의 경우 x,y,z)는 서로 독립적인데 이에 대한 개념을 확장한 것이 바로 선형대수학의 차원이다.
* 행렬: 여러개의 숫자들을 직사각형의 모양으로 한데 묶어 나타낸 성분. 벡터를 하나의 행 혹은 하나의 열로 구성된 행렬로 볼 수도 있다. 하지만 이것이 행렬의 수학적으로 엄밀한 정의는 아니다.
보통 3차원까지의 벡터는 그림 등으로 시각적 표현이 가능하지만 그 이상의 벡터는 벡터의 각 구성요소를 괄호 안에 나열함으로써 표기한다.

여러 가지 문제를 수학으로 해결하는 데 있어 선형대수학의 개념은 매우 중요한데, 선형화 혹은 선형 근사를 통해, 복잡한 비선형 방정식 문제를 간단한 선형 방정식 문제로 변환해 문제를 해결할 수 있기 때문이다.
선형대수학을 활용하면 어려운 비선형 방정식 문제를 무엇으로 바꿀 수 있는가?
간단한 선형 방정식 문제