ヒット率とは、CPUが必要とするデータが、目的の高速なメモリ（主にキャッシュメモリ）の中に存在していた確率のことです。ヒット率が高ければ高いほど、低速なメインメモリ（主記憶装置）にデータを読みに行く回数が減るため、システム全体の処理速度が向上します。逆に、必要なデータがキャッシュメモリに見つからない確率を「ミス率」と呼び、ヒット率とミス率を足すと1（つまり100%）になります。このヒット率を用いて、キャッシュメモリとメインメモリの両方にアクセスする時間を考慮した平均的なアクセス時間を「実効アクセス時間」と呼びます。
例えば、あなたが勉強中によく使う公式をまとめた「単語帳」を手元に置いているとします。調べたい公式が10回のうち9回、その単語帳に載っていた場合、ヒット率は90%（0.9）になります。残りの1回は本棚にある分厚い教科書を調べる必要があり、これがミス率10%（0.1）になります。このときの実効アクセス時間の計算式は以下のようになります。