ഒരു കുന്നിന്നിറുകയിലുള്ള ഗുഹകള്ക്കുള്ളിലാണ് ഈ ക്ഷേത്രം. അസുരചുല ക്ഷേത്രവും ഇതിനടുത്തായുണ്ട്. ഒരുപാട് ദേവീദേവന്മാരുടെ ബിംബങ്ങള് ക്ഷേത്രത്തില് ഇടംപിടിച്ചിരിക്കുന്നു. കാര്ത്തികേയപുരത്തെ രാജാക്കന്മാരാണ് ഈ വിഗ്രഹങ്ങള് ഇവിടെ സ്ഥാപിച്ചതെന്ന് അനുമാനിക്കപ്പെടുന്നു. ഇവയില് രണ്ട് മുഖ്യ വിഗ്രഹങ്ങള് ഗുപ്തഭരണകാലത്ത് പ്രതിഷ്ടിച്ചവയാണ്.