Subiendo por la escalera de acceso al castillo, a mano derecha, encontramos la puerta de la cripta de Santa Quiteria. Sobre la puerta, de medio punto y dovelada, un crismón ligeramente descentrado. Es mucho más arcaico que esta parte del castillo, por lo que se cree que fue reaprovechado de otra ubicación.

La cripta o iglesia inferior ocupa el mismo espacio que la cabecera de la iglesia de San Pedro. De esta manera el ábside de los dos templos se unen y externamente vemos una cabecera de grandes dimensiones y de espectacular esbeltez.

El ábside tiene planta semicircular, con un pequeño tramo rectangular a los pies. Está cubierto con bóveda de cuarto de esfera, que se transforma en bóveda de cañón en el tramo presbiterial.  El ábside está decorado con cinco arcos ciegos que se apoyan en columnas con los capiteles ricamente esculpidos. Lamentablemente este espacio no tiene ningún tipo de iluminación artificial que impide su contemplación. Sólo entra la luz a través de tres ventanas abocinadas por la parte interior y en forma de aspillera por el exterior. Esto provoca que sea difícil ver algo y a duras penas se distinguen los arcos y unas imágenes de santos, de época posterior, que se han colocado.

Las aspilleras están enmarcadas dentro de un arco de medio punto que se apoya en columnas con los capiteles ricamente esculpidos.

En esta cripta se guardaba la arqueta de las reliquias de San Demetrio, hasta que se trasladaron al templo parroquial de Loarre, dónde hoy se conserva.

En los muros laterales de la puerta de acceso encontramos dos piedras con unas imágenes esculpidas. En ellas se puede ver un perro y una figura humana muy tosca.

Al cruzar la puerta encontramos a ambos lados unos arcos de medio punto que comunican con la iglesia superior, por medio de unas escaleras excavadas en la roca o realizadas en el espacio interior del muro.