CPU（中央処理装置）は、コンピュータシステムにおける心臓部であり、最も高度な技術が結集された半導体チップです。CPUの主な役割は、メモリ（主記憶装置）に格納されているプログラムの命令を一つずつ読み込み（フェッチ）、その命令が何を意味しているかを解読（デコード）し、実際に計算やデータ移動などの処理を実行し、その結果を書き込むという一連のサイクルを、1秒間に数十億回という凄まじいスピードで繰り返すことです。
CPUの内部構造は、大きく分けて「制御装置」と「演算装置」、そして少量の超高速メモリである「レジスタ」から構成されています。制御装置は、メモリから命令を取り出し、全体のタイミングを合わせながら他の回路に動作の指示を出す「指揮者」のような役割を担います。演算装置（ALU：算術論理演算装置）は、足し算や引き算などの算術演算や、データの大小を比較したり論理和・論理積などを判定したりする論理演算を実際に担当する「作業員」の役割を果たします。レジスタは、演算装置が計算を行うために必要なデータを一時的に保持しておくための非常に高速な保管場所です。
さらに現代のCPUには、メインメモリ（RAM）とCPUの処理速度の大きな差を埋めるため、「キャッシュメモリ」という高速な記憶領域が内蔵されています。よく使うデータをメインメモリよりもCPUに近いキャッシュメモリにあらかじめコピーしておくことで、データを取りに行く待ち時間を大幅に削減し、全体的な処理効率を劇的に向上させています。キャッシュメモリには、CPUコアに最も近く最も高速な「L1キャッシュ」、その外側にある「L2キャッシュ」、複数のコアで共有される「L3キャッシュ」といった階層構造が設けられているのが一般的です。