主記憶装置を構成する半導体メモリとしては、大容量化が容易で安価に製造できる「DRAM（Dynamic Random Access Memory）」が一般的に使用されています。DRAMはコンデンサに電気の電荷を蓄えることで「0」と「1」のデータを表現しますが、時間の経過とともに自然に放電してしまうという特性があります。そのため、記憶内容を維持し続けるためには、定期的にデータを読み出して再度書き直す「リフレッシュ」という動作をミリ秒単位で繰り返す必要があります。このリフレッシュ動作が必要なため、主記憶装置はSRAMを使用するキャッシュメモリなどに比べると動作速度がやや遅くなります。

また、主記憶装置の内部は、データを区別するために「アドレス（番地）」と呼ばれる一意の番号が1バイトごとに割り振られています。CPUが主記憶装置から特定のデータを読み出したり、計算結果を書き込んだりする際には、必ずこのアドレスを指定してアクセスを行います。現代のコンピュータでは、主記憶装置の容量が不足した場合に、補助記憶装置の一部をあたかも主記憶装置の延長線上の領域として扱う「仮想記憶（バーチャルメモリ）」という技術も組み合わせて利用されています。