ആദ്യകാല ചോളരാജാവായിരുന്ന കൊച്ചേംഗചോളനാണ് ജംബുലിംഗേശ്വരര്, അഖിലാണ്ഡേശ്വരി ക്ഷേത്രം നിര്മ്മിച്ചത്. ചോളകാലഘട്ടത്തില് രചിക്കപ്പെട്ട ലിഖിതങ്ങള് ഈ ക്ഷേത്രത്തിന്റെ ചുവരുകളില് കാണാം. 1800ഓളം വര്ഷം പഴക്കമുണ്ടെങ്കിലും കാലോചിതമായ അറ്റകുറ്റപ്പണികള് ചെയ്ത് പോരുന്നതിനാല് ഇപ്പോഴും നല്ല അവസ്ഥയിലാണ് ക്ഷേത്രം. ജംബുകേശ്വര ക്ഷേത്രത്തിന്റെ ഉള്ളറക്കടിയിലായി ഒരു നീരുറവ ഉണ്ട്. ഈ ഉറവയില് നിന്ന് എത്ര വെള്ളമെടുത്താലും അത് കുറയാതെ ഒരേ നിലയിലുണ്ടാവും.
ഐതിഹ്യമനുസരിച്ച് ശിവന്റെ ശാപമേറ്റ പാര്വ്വതീദേവിയെ പരിഹാരത്തിനായി ഭൂമിയിലേക്കയച്ചു. തുടര്ന്ന് അഖിലാണ്ഡേശ്വരിയുടെ രൂപംപൂണ്ട പാര്വ്വതി ജംബുവനത്തിലെത്തി. കാവേരിനദിയിലെ ജലത്തില് നിന്ന് ഒരു ലിംഗം പാര്വ്വതി നിര്മ്മിച്ചെടുത്തു. പാര്വ്വതി പ്രായശ്ചിത്തം ചെയ്ത സ്ഥലത്താണ് ഈ ക്ഷേത്രം പണിതിരിക്കുന്നതെന്നാണ് വിശ്വാസം.