파이프라이닝(pipelining)이란 명령어의 처리율(throughput)을 높이기 위하여 사용되는 기법이다.

명령어를 수행하기 위한 각각의 스테이지를 병렬로 구동시켜 명령어의 처리 흐름이 끊이지 않도록 하여

마치 수도관을 흐르는 물처럼 끊임없인 명령어가 처리 된다고 하여 이러한 이름이 붙었다.

다음 4 스테이지 구조를 갖는 프로세서를 살펴보자. 파이프라이닝을 사용하지 않는 프로세서라면 다음과 같이 명령어가 처리 될 것이다. 1클럭 사이클에 하나의 동작을 한다고 가정 해 보자. 그렇다면 저 동작을 하는 동안 4클럭 사이클의 시간이 소모가 될 것이다. 그렇다면 명령어를 두 개를 처리하려면 8클럭 사이클이 소모 될 것이고, 세 개를 처리하려면 12클럭 사이클이 소모 될 것이다. 명령어가 한 개 처리 되는데 t만큼의 시간이 소요 된다면 그 처리율(throughput)은 1명령/t가 될 것이다. 그런데 이것은 시간낭비이다.

만약에 읽기를 하고나서 해석 단계로 넘어간다면 다음 명령이 올 때 까지 읽기를 하는 유닛은 쉬게 될 것이다. 다른 단계도 마찬가지이다. 자기 차례가 오지 않는 한 다음 명령이 올 때 까지는 쉬게 된다. 따라서 각 단계별로 쉴 틈 없이 부려먹기 위해서 파이프라이닝이라는 기법을 사용하는 것이다.