Algoritma RSA merupakan salah satu algoritma enkripsi asimetris yang terkenal dan dipakai hingga saat ini. Kekuatan dari algoritma ini terletak pada proses eksponensial dalam proses enkripsi dan dekripsi. Proses awal dari algoritma ini adalah menentukan private key dan public key. Algoritma untuk mencari private key dan public key adalah sbb:
1. Pilih 2 bilagan prima p dan q, dimana p tidak sama dengan q
2. Hitung M = p * q
3. Hitung N = (p-1) * (q-1)
4. Tentukan sebuah nilai e dimana 1 < e < N, e adalah bilangan prima dan FPB(N, e) = 1
5. Hitung d sehingga (d * e) mod M = 1
Public key = (M, e)
Private key = (M, d)