Z toho co píšeš v podstatě vidí jedinou možnost.
"Rozseknout" pro otestování zadané číslo podle lomítka (před lomítkem a za).
Myslím, že se to dělá konverzí na řetězec a pak se pokusíš zpět převést část řetězce na číslo. Když se to nepovede, je tam neplatný znak.

Více pro uživatele udělat nemůžeš.
editace
Stydím se . Jde následně použít modulo 11, které odkazuje kolega níže.
Je to dobře popsané na jeho odkazu.

Editace:
Kdyby se jednalo o kompletní IBAN, popis je ZDE.