公開鍵暗号方式の代表的なアルゴリズムであるRSAは、「桁数の大きな合成数を素因数分解することが非常に困難である」という数学的な性質を安全性の根拠にしています。公開鍵と秘密鍵は数学的に対になっており、公開鍵で暗号化したデータはペアとなる秘密鍵でしか復号できません。この仕組みにより、事前に鍵を秘密裏に受け渡す必要がなくなり、共通鍵暗号方式が抱えていた鍵配送問題を解決しています。また、鍵の本数はn人が通信する場合でも「1人につき公開鍵と秘密鍵の1組(2本)」で済むため、共通鍵暗号方式に比べて鍵管理が大幅に簡単になります。
試験では「暗号化には受信者の公開鍵を使う」「復号には受信者自身の秘密鍵を使う」という鍵の使い分けを正確に問う問題が頻出します。公開鍵は誰に知られても問題ありませんが、秘密鍵は本人だけが厳重に管理する必要がある点も重要な出題ポイントです。また、公開鍵暗号方式は処理速度が遅いため、大容量データの暗号化そのものには使わず、共通鍵の受け渡しやデジタル署名に利用される、という実務上の使い分け(ハイブリッド暗号)もあわせて問われます。
処理が高速な「共通鍵暗号方式」、両者を組み合わせた「ハイブリッド暗号」、公開鍵暗号方式を応用した「デジタル署名」、代表的なアルゴリズムの「RSA」などがあります。