現在在計劃盤算機網絡系統和數據庫系統的密鑰管理系統,多數使用層次化的密鑰結構。這種層次化的密鑰結構與整個系統的密鑰控制是對應關聯的。按照密鑰的作用與類型及它們之間的控制關係,可將密鑰分別為1級密鑰、2級密鑰、n級密鑰,然後構成一個多層密鑰系統。

系統運用一級密鑰經過算法保護二級密鑰,運用二級密鑰經過算法保護三級密鑰,以此類推,直到最終運用n級密鑰經過算法保護明文數據。加密過程中,各層密鑰的內容動態改變,而這種改變的規則由相應層次的密鑰協議控制。

最低層的密鑰也叫數據加密密鑰,或工作密鑰,主要是對明文數據的加解密。全部上層密鑰稱為密鑰加密密鑰,作用是維護數據加密密鑰或作為其他更低層次密鑰的加密密鑰。

數據加密密鑰並不存在,只在進行數據的加/解密時, 數據加密密鑰將在上層密鑰的保護下動態地生成(如,在上層密鑰的保護下,經過密鑰協議生成本次數據通信運用的數據加密密鑰;或在文件加密時,生成一個新的數據加密密鑰,在運用結束後,馬上運用上層密鑰進行加密後存儲。除了加密部件外,密鑰僅以密文的方法出現在密碼系統其他部分中):數據加密密鑰在運用結束後,將被馬上清除,不再以密文的方法出現在密碼系統中。

最高層的密鑰也叫主密鑰,一般主密鑰是整個密鑰管理系統的核心,應該運用最安全的方法來進行保護。

通常某一層密鑰相對於更高層密鑰，是工作密鑰,而對於低一層的密鑰是密鑰加密密鑰。

通常來說, 系統的功能決定密鑰管理系統的層次選擇。假如一個密鑰系統的功能很簡單,便可以簡化為單層密鑰系統。假如密鑰系統要求密鑰能定時替換、密鑰能自動生成和分配等。

其他的功能,則需設計成多層密鑰系統,如數據庫系統和網絡系統中的密鑰管理系統。

一個典範的密碼系統中的密鑰分為分為會話密鑰、密鑰加密密鑰和主密鑰三種。密鑰所處的層次不一樣,它的運用範圍和生命周期是不一樣的。

採用密鑰的層次結構的優點:

一是密鑰系統的安全性提高。密鑰的層次結構使得除了主密鑰外,其他密鑰密文方法存儲,有效地保護了密鑰的安全。通常,處在上層的密鑰更新周期相對較長，位於在下層的密鑰更新比較頻繁。攻擊者即便攻破一份密文,最多導致使該密鑰的報文被解密,損失也是有限的 ,也便是說下層密鑰被破譯不會影響到上層密鑰的安全,從而有效地保護了密碼系統的安全性。

二是為密鑰管理自動化帶來了方便。由於除一級密鑰由人工裝入以外,其他各層密鑰均可由密鑰管理系統實行動態的自動保護。從而減輕了人工保護和管理密鑰的負擔。