CPUとGPUは、どちらもコンピュータの計算処理を担う「プロセッサ」ですが、その内部の設計思想と得意分野が根本的に異なります。CPUは、OSを動かしたり、ワープロソフトの入力を受け付けたり、複雑な条件分岐の計算を行ったりと、コンピュータ全体のあらゆる幅広い作業を「一つずつ順番に、しかし極めて高速に」処理するよう設計されています。そのため、CPU内部には少数の非常に強力な演算コア（数個〜数十個）と、複雑な制御回路が搭載されています。

一方のGPUは、画面に表示される数百万個のピクセル（画素）の色や明るさを計算したり、3D空間上のポリゴン（多角形）の頂点座標を計算したりといった、「計算自体は比較的単純だが、圧倒的な回数を同時にこなさなければならない」処理に特化して設計されています。そのため、複雑な制御回路を省く代わりに、単純な演算を行う小さなコアを数百から数千、あるいは数万個も並べた構造になっており、大量のデータを一気に並列処理（超並列処理）できるのが最大の特徴です。