理想的な状態では、ステージの数だけ命令を同時に処理できるため、ステージ数が5であれば最大5倍の処理効率（スループット）が期待できます。これをパイプラインの深さ（段数）と呼びます。パイプラインの段数をさらに増やすこと（スーパーパイプライン化）で、1つのステージで行う処理をより細かく単純にでき、クロック周波数を高めやすくすることができます。しかし、段数を増やすほど後述する問題の影響も大きくなるため、無制限に深くすれば良いというわけではありません。