સ્કંદ અને હરિવંશ પુરાણ અનુસાર, દક્ષ પ્રજાપતિના યજ્ઞમાં વગર આમંત્રણે ગયેલા તેમનાં પુત્રી પાર્વતીનું દક્ષે અપમાન કરતાં પાર્વતીએ યજ્ઞની વેદીમાં કૂદીને પ્રાણત્યાગ કર્યો. આથી ક્રોધે ભરાયેલા શંકરે ખભા પર પાર્વતીનો દેહ ઉઠાવીને તાંડવ નૃત્ય આદર્યું. શંકરના ક્રોધથી સૃષ્ટિને બચાવવા ભગવાન વિષ્ણુએ ચક્ર વડે પાર્વતીના દેહના ટૂકડા કરવા માંડ્યા. એ વખતે જે ટૂકડો જ્યાં પડ્યો એ સ્થાન શક્તિપીઠ તરીકે ઓળખાય છે. પાવાગઢ પણ એવી જ એક શક્તિપીઠ છે.
ગરુડ પુરાણ અનુસાર પાવાગઢ અને તેની આસપાસની નિર્જન પહાડીઓ રાજર્ષિ વિશ્વામિત્રીનું સાધનાક્ષેત્ર હતું. વિશ્વામિત્રે પોતાના તપોબળથી આ પાવાગઢની ખીણમાં પોતાની શક્તિઓ વહાવીને ટોચ પર સ્વહસ્તે કાલિકા માતાની સ્થાપના કરી હતી. આ કથાની સાહેદી પૂરતી વિશ્વામિત્રી નદી આજે પણ પાવાગઢમાંથી નીકળે છે.