अखंड भारत के निर्माण और देश को एकजुट करने में सरदार वल्लभभाई पटेल का योगदान बेमिसाल है। कई मौकों पर उन्होंने मज़बूत इरादा दिखाया और कठोर फैसले लेने से पीछे नहीं हटे। इसी वजह से उनको लौह पुरुष के नाम से भी जाना जाता है। उनके द्वारा विभाजन के समय रामपुर और जूनागढ़ में दिखाया गया योगदान भी काफी उल्लेखनीय है।

जब 1947 में भारत के सभी राज्यों द्वारा आज़ादी का जश्न मनाया जा रहा था, तो वहीं दूसरी ओर कई देश विभाजन के दुष्प्रभाव का सामना कर रहे थे। उस समय कुछ बड़े राज्य जैसे कश्मीर, जूनागढ़, हैदराबाद आदि आज़ादी के बाद भी आज़ाद होने के लिए संघर्ष कर रहे थे। सरदार पटेल ने देश के विभाजन के समय हो रहे दुष्प्रभावों का सामना करने में अपना काफी योगदान दिया।

हम में से बहुत कम लोग ये जानते होंगे, पर सरदार पटेल द्वारा दिल्ली में स्थित रामपुर के मुसलमानों को पाकिस्तान (बंटवारे से पहले, पंजाब का पश्चिमी भाग) जाने के लिए एक विशेष ट्रेन का आयोजन कराया गया था। उनके इस कदम की सराहना करते हुए रामपुर के नवाब ने 13 सितंबर, 1947 को सरदार पटेल को लिखते हुए कहा कि, "उनके लोगों के प्रति विशेष भाव दिखाने के लिए वे सरदार पटेल के बहुत आभारी हैं"। साथ ही उन्होंने पूर्वी पाकिस्तान में ‘स्पेशल विलेज सिक्योरिटी टीम’ (Special village security teams) की स्थापना का आदेश दिया ताकि यह सुनिश्चित किया जा सके कि मुसलमानों को पाकिस्तान ले जाने वाली ट्रेनों और लोगों को कोई नुकसान ना पहुंचे। उन्होंने आदेश दिया कि, "यदि किसी के भी द्वारा इन रेलगाड़ियों को नुकसान पहुंचाया जाता है या रेलवे पटरियों को क्षतिग्रस्त किया जाता है, तो तत्काल सामूहिक जुर्माना लगाया जाए"।

वहीं जूनागढ़ को भारत में विलय कराने में सरदार पटेल का काफी योगदान रहा था। विभाजन के समय तीन राज्यों (कश्मीर, जूनागढ़, हैदराबाद) के राजाओं द्वारा भारत और पाकिस्तान में से किसी भी देश में विलय होने से मना कर दिया गया था। तभी जूनागढ़ के नवाब द्वारा पाकिस्तान में विलय होने का फैसला लोगों को सुनाया गया। ये पश्चिम भारत के सौराष्ट्र इलाके का एक बड़ा राज्य था तथा वहाँ करीब 80% हिंदू और 20% मुस्लिम आबादी थी। इस फैसले से जूनागढ़ की जनता भड़क गई और नवाब के फैसले का विरोध करने लगी। इस विरोध का समर्थन महात्मा गांधी के भतीजे समलदास गांधी द्वारा जूनागढ़ के क्षेत्रों में प्रदर्शन करके वहाँ के लोगों को आजादी दिलाने के फैसले से किया गया। उसके बाद उनकी मदद से जूनागढ़ के हिन्दू और मुस्लिम दोनों द्वारा नवाब के खिलाफ विद्रोह किया गया। खतरे को भांपते हुए नवाब अपने परिवार के साथ कराची के लिए रवाना हो गया। फिर वहाँ सरदार पटेल द्वारा सेना को भेजकर जूनागढ़ को भारत में विलय करा दिया गया।

सरदार पटेल द्वारा जूनागढ़ में एक भाषण भी दिया गया था, जिसमें वे पकिस्तान को बनाने का कारण और जूनागढ़ में हुई अशांति ने कैसे भारत की छवी को कम किया, इसके बारे में बताते हैं। वे कहते हैं:

"हम पाकिस्तान बनाने के लिए इसलिए सहमत हुए ताकि यह दोहरी निष्ठा को समाप्त किया जा सके, वे लोग जो उस विश्वास में रहना पसंद करते हैं, तो वे अपने लिए एक ऐसा स्थान ढूंढ लें जहाँ वे इसे अपना कर रह सकें। भारत में, ऐसे व्यक्तियों के लिए कोई जगह नहीं है। भारत में रहने वाले व्यक्ति को मुस्लिम और गैर-मुस्लिम के साथ मिलकर रहना होगा। हाल ही में हुई इस अशांति ने दुनिया की नज़रों में भारत को झुका दिया है, अब हमें अपने व्यवहार और आचरण द्वारा इस खोई हुई प्रतिष्ठा को वापस जीतना है। साथ ही, मैं घबरा जाने वाली प्रवृत्ति की निंदा करता हूँ। अगर हम मरते हैं, तो हमें बहादुर पुरुषों की तरह मरना होगा। एक मनुष्य होने के नाते मानव गरिमा की भावना के साथ, ना की रोते हुए।"