To je taky dobrá otázka , s tou detekcí, zda byl vložen správný klíč. ale třeba v ecryptfs při zadání špatného klíče se prostě rozšifrují na nesmyslná data.

Správně. A jak systém pozná, že ta rozšifrovaná data jsou smyslná nebo nesmyslná?

Systém, který hledáš není. Systémy, které pracují s šifrováním dat pouřívají jeden privátní klíč pro šifrování dat. Ty systémy nemají důvod mít pro každý soubor jiný privátní klíč. Těžko by se to udržovalo a bylo by to velmi náchylné k problémům.

Zkus prozradit, jaký má být smysl celé této konstrukce.