ஸ்ரீ காளஹஸ்தி காளத்தியப்பர் கோவில், சித்தூர் மாவட்டம், காளஹஸ்தி என்ற ஊரில் அமைந்துள்ளது.
முன்பொரு காலத்தில் ஆதிசேஷனுக்கும் வாயுதேவனுக்கும் ஒரு போட்டி வந்தது. தம்மில் யார் பெரியவன் என்ற போட்டி. ஆதிசேஷன் வாயுதேவனிடம் சொன்னான்: “வாயுதேவனே, நான் கயிலாய மலையை என்னுடைய உடம்பால் சுற்றி, இறுக்கி மூடிக்கொள்வேன். நீ உன்னுடைய பலத்தால் மலைச் சிகரங்களைப் பெயர்த்தெறிந்தால் நீ பெரியவன் என்பதை ஒப்புக்கொள்வேன்”. போட்டி தொடங்கியது. ஆதிசேஷன் தன் ஆயிரம் தலைகளாலும் உடம்பாலும் வாலாலும் கயிலை மலையை இறுக்கி மூடி, மலையே தெரியாதபடி மறைத்துவிட்டார்.
வாயுதேவன் பலம் கொண்ட மட்டும் காற்றை வீசிப்பார்த்தும்கூட அசைக்க முடியவில்லை. பல நூறு ஆண்டுகளான பின் ஆதிசேஷன் லேசாக அசையவே அந்த நேரம் பார்த்து வாயுதேவன் தன் பலத்தைக்காட்ட, கயிலையில் இருந்து மூன்று சிகரங்கள் பெயர்ந்து கொண்டு புறப்பட்டன. தெற்கே வந்து விழுந்தன. அந்த மூன்றில் ஒன்றுதான் திருக்காளத்தி மலை என்கிறது புராணங்கள்.
இங்கு காளத்திநாதர் சுயம்புமூர்த்தியாக அருள்பாலிக்கிறார். இது வாயு(காற்று) தலம் என்பதால் மூலஸ்தானத்தில் இருக்கும் விளக்கு காற்றில் ஆடிக்கொண்டே இருக்கும். இறைவனுக்கு அணிவித்துள்ள தங்கக்கவசத்தை எடுத்துவிட்டு ஆரத்தி எடுக்கும்போது, லிங்கத்தின் அடிப்பாகத்தில் சிலந்தி வடிவத்தையும், நடுவில் நீண்டு கூடியனபோன்று உள்ள யானையின் இரு கொம்புகளையும், மேற்புறத்தில் – உச்சியில் ஐந்து தலைப் பாம்பு படம் எடுத்துள்ள வடிவத்தையும் வலப்புறத்தில் கண்ணப்பர் பெயர்த்து அப்பிய ஒரு கண்ணின் வடுவையும் காணலாம். அம்மனின் 51 சக்தி பீடங்களில் இது ஞான சக்தி பீடம் ஆகும். சிவனின் தேவாரப்பாடல் பெற்ற 274 சிவாலயங்களில் இது 252 வது தேவாரத்தலம் ஆகும்.
ராகு, கேது சர்ப்பதோஷம் உள்ளவர்கள், திருமணம் ஆகாதவர்கள், நீண்ட கால பிரச்சனைகளில் அவதிப்படுபவர்கள், இத்தலத்திற்கு வந்து ராகு தோஷம் நீங்கவும், சர்ப்ப தோஷம் நீங்கவும் பிரார்த்தனை செய்துகொள்கின்றனர். இத்தலத்தில் உள்ள சரஸ்வதி தீர்த்தத்தில் நீராடி அருந்தினால் பேச்சு சரளமாக வராத குழந்தைகள் கூட நன்கு பேசும் என்று பக்தர்கள் நம்புகின்றனர்.