RAR加密算法主要使用AES（Advanced Encryption Standard）加密技術，具體包括AES-128-CBC（RAR 2.0版本）和AES-256-CBC（RAR 5.0及以後的版本）。AES是一種對稱加密算法，這意味著加密和解密使用相同的密鑰。在RAR加密過程中，密鑰的生成依賴於一個稱為Salt的隨機值（8個位元組），該Salt與密碼一起通過HASH算法生成兩個16位元組的密鑰，一個是用於AES加密的KEY，另一個是初始化向量（initVector）。
加密過程是一個循環結構，其中每16位元組的數據塊與上一個16位元組塊的加密結果進行異或運算，然後再進行AES加密。這種加密方式確保了即使使用相同的密碼，不同的檔案內容會生成不同的加密結果，因為每個檔案的壓縮數據段在加密前都是獨一無二的。
解密過程是加密過程的逆運算，同樣需要輸入正確的密碼和Salt值來生成正確的密鑰。由於AES算法的對稱性，解密時使用的AES過程與加密時不同，這是因為解密過程中生成的子密鑰表與加密時不同。
此外，RAR還支持非對稱加密技術，包括RSA算法，用於額外的安全層。在RAR 5版本之前，默認使用的是128位AES加密，而5版本及以後則默認使用256位AES加密。這些特性使得RAR成為一個強大的檔案壓縮和加密工具，廣泛套用於數據保護和檔案傳輸中。