Pujant per l'escala d'accés al castell, a mà dreta, trobem la porta de la cripta de Santa Quiteria. Sobre la porta, de mig punt i adovellada, un crismó lleugerament descentrat. És molt més arcaic que aquesta part del castell, pel que es creu que va ser reaprofitat d'una altra ubicació.

La cripta o església inferior ocupa el mateix espai que la capçalera de l'església de Sant Pere. Això fa que externament l'absis dels dos temples sigui de grans dimensions i d'espectacular esveltesa.

Té planta semicircular, amb un petit tram rectangular als peus. Està coberta amb volta de quart d'esfera, que es transforma en volta de canó en el tram rectangular.  L'absis està decorat amb cinc arcs cecs que es recolzen en columnes amb els capitells ricament esculpits. Lamentablement aquest espai no té cap tipus d'il·luminació artificial que impedeix la seva contemplació. Només entra la llum a través de tres finestres esqueixades per la part interior i en forma d'espitllera per l'exterior. Això fa que sigui difícil veure-hi alguna cosa i amb prou feines es distingeixen els arcs i unes imatges de sants d'època posterior que s'hi han col·locat.

Les espitlleres estan emmarcades dins d'un arc de mig punt que es recolza en columnes amb els capitells ricament esculpits.

En aquesta cripta es guardava l'arqueta de les relíquies de San Demetrio, fins que es van traslladar al temple parroquial de Loarre, on avui es conserva.

En els murs laterals de la porta d'accés trobem dues pedres amb unes imatges esculpides. En elles es pot veure un gos i una figura humana molt tosca.

En travessar la porta trobem a banda i banda unes portes amb arcs de mig punt que comuniquen amb la església superior gràcies a unes escales excavades a la roca o realitzades en l'espai interior del mur.