जम्मू और कश्मीर की सर्दियों की राजधानी शिवालिक रेंज पर बसी है, जहाँ से उत्तरी मैदानों का नज़ारा दिखता है। इस शहर की स्थापना मूल रूप से राजा जम्बू लोचन ने की थी, जो 14वीं सदी ईसा पूर्व में रहते थे। किंवदंती के अनुसार, अपने एक शिकार अभियान के दौरान, राजा जम्बू लोचन तवी नदी के पास पहुँचे, जहाँ उन्होंने एक बकरी और एक शेर को एक ही जगह पानी पीते देखा। प्यास बुझाने के बाद, जानवर अपने-अपने रास्ते चले गए। राजा यह देखकर हैरान रह गए, उन्होंने शिकार का विचार छोड़ दिया और अपने साथियों के पास लौट आए। उनके मंत्रियों ने समझाया कि इसका मतलब है कि उस जगह की मिट्टी इतनी पवित्र थी कि कोई भी जीवित प्राणी दूसरे से दुश्मनी नहीं रखता था। वह इस अनोखे दृश्य से इतने प्रभावित हुए कि उन्होंने इस ज़मीन पर, तवी नदी के दाहिने किनारे पर, अपने भाई राजा बाहू के किले के सामने, एक राजधानी शहर बनाने का फैसला किया, जिसका नाम ‘जंबूपुरा’ रखा। यह शहर जंबू-नगर के नाम से जाना जाने लगा, जो बाद में जम्मू बन गया। ऐतिहासिक रूप से जम्मू, जम्मू प्रांत की राजधानी और तत्कालीन जम्मू और कश्मीर रियासत (1846-1952) की सर्दियों की राजधानी रहा है।
इस शहर का नाम प्राचीन ग्रंथ महाभारत में मिलता है। जम्मू शहर से 32 किलोमीटर दूर अखनूर के पास हुई खुदाई से पता चलता है कि जम्मू कभी हड़प्पा सभ्यता का हिस्सा था। जम्मू में मौर्य, कुषाण और गुप्त काल के अवशेष भी मिले हैं। जम्मू के बाद के इतिहास के बारे में ज़्यादा जानकारी नहीं है, जब तक कि 1730 ईस्वी में यह डोगरा राजा, राजा ध्रुव देव के शासन में नहीं आ गया। डोगरा शासकों ने अपनी राजधानी मौजूदा जगह पर स्थानांतरित कर दी और जम्मू कला और संस्कृति का एक महत्वपूर्ण केंद्र बन गया, खासकर पहाड़ी चित्रकला शैली का।
आज, मानो राजा जम्बू लोचन की दूरदर्शिता की गवाही देते हुए, अनगिनत मंदिर और तीर्थस्थल, जिनके चमचमाते ‘शिखर’ आसमान को छूते हैं, शहर के क्षितिज पर फैले हुए हैं, जो एक पवित्र और शांतिपूर्ण शहर का माहौल बनाते हैं। जम्मू शहर को <strong>’मंदिरों के शहर'</strong> के नाम से जाना जाने लगा है। बहादुरगढ़ किले में स्थित महा काली का मंदिर (जिसे बहू या बावे वाली माता के नाम से भी जाना जाता है), जिसे रहस्यमयी शक्ति के मामले में माता वैष्णो देवी के बाद दूसरा स्थान दिया जाता है, महाराजा गुलाब सिंह के राज्याभिषेक के तुरंत बाद 1822 में बनाया गया था। मौजूदा किला, और उसके अंदर मनसबदार का महल, 1820 में बनाया गया था।