പുരാതനകാലം മുതല് ഖിച്ചിംഗ് ഒരു ക്ഷേത്രനഗരമാണ്. എ.ഡി ഒമ്പതാം നൂറ്റാണ്ട് മുതല് 12-ാം നൂറ്റാണ്ട് വരെ ഖിച്ചിംഗ് ഭഞ്ജ് രാജവംശത്തിന്റെ തലസ്ഥാനമായിരുന്നു. കലാ-സാംസ്കാരിക രംഗങ്ങളില് വര്ഷങ്ങളുടെ പാരമ്പര്യവും ഖിച്ചിംഗിനുണ്ട്. ഭഞ്ജ് രാജവംശം കിച്ചകേശ്വരി ദേവിയെ ആരാധിച്ചിരുന്നു. കിച്ചകേശ്വരി ദേവി ഖിജിംഗേശ്വരി ദേവി എന്നും അറിയപ്പെടുന്നുണ്ട്. കിച്ചകേശ്വരി മാതാ ക്ഷേത്രം സന്ദര്ശിക്കാനായി ധാരാളം സഞ്ചാരികള് മയൂര്ഭഞ്ജില് എത്തുന്നു.
നിരവധി രാജാക്കന്മാര് ആരാധന നടത്തിയിരുന്ന ഈ ക്ഷേത്രം നശിപ്പിക്കപ്പെടുകയുണ്ടായി. പക്ഷെ വളരെ പെട്ടെന്ന് തന്നെ ക്ഷേത്രം പുനര്നിര്മ്മിച്ചു. 1925ല് ഭഞ്ജ് രാജവംശത്തിലെ ഭരണാധികാരികളായിരുന്ന മഹാരാജാ പൂര്ണ ചന്ദ്രഭഞ്ജ് ഡിയോയും അദ്ദേഹത്തിന്റെ സഹോദരനായ പ്രതാപ് ചന്ദ്രഭഞ്ജ് ഡിയോയും ചേര്ന്നാണ് ക്ഷേത്രം പുനര്നിര്മ്മിച്ചത്.
ക്ഷേത്രത്തിന്റെ പുനര്നിര്മ്മാണത്തിനിടെ കണ്ടെത്തിയ വസ്തുക്കളും വിഗ്രഹങ്ങളും ക്ഷേത്രത്തിന് സമീപമുള്ള മ്യൂസിയത്തില് സൂക്ഷിച്ചിരിക്കുന്നു. ശിവരാത്രിയോട് അനുബന്ധിച്ച് ക്ഷേത്രത്തില് ഏഴ് ദിവസത്തെ ഉത്സവം നടക്കാറുണ്ട്. അതിനാല് ഈ സമയം ഖിച്ചിംഗ് സന്ദര്ശനത്തിന് തിരഞ്ഞെടുക്കാവുന്നതാണ്.