यशवंतरावांच्या काळात काँग्रेस महाराष्ट्रात जनमानसात रुजली गेली. महाराष्ट्र राज्याच्या स्थापनेनंतर नव्या राज्याला स्थैर्य देण्यात व काँग्रेसला बळकटी आणण्यात यशवंतरावांचे योगदान खूपच मोठे ठरले. १९६२ मध्ये झालेल्या महाराष्ट्र विधानसभेच्या निवडणूकीत काँग्रेसला २६५ पैकी २१४ जागा मिळाल्या. इतके मोठे यश काँग्रेस पक्ष केवळ यशवंतरावांच्या कारकीर्दीतच माहाराष्ट्रात मिळवू शकला. राज्याच्या विकासाबरोबर देशाचा विकासही काँग्रेसच्या दृष्टीने महत्त्वाचा होता. महाराष्ट्राप्रमाणेच संपूर्ण देशभरात काँग्रेस पक्षाची पाळेमुळे घट्ट रुजविण्यासाठी काँग्रेस श्रेष्ठींना यशवंतरावांची गरज वाटू लागली. आता महाराष्ट्राचे नेतृत्व दुस-या फळीतील नेतृत्त्वाकडे देऊन यशवंतरावांना दिल्लीच्या राजकारणात आणण्याची आवश्यकता श्रेष्ठींना वाटू लागली.

१९६२ साली भारत-चीन यांच्यात युद्ध झाले. चीनच्या अचानक आक्रमणामुळे भारताला नामुष्कीजनक पराभव पत्करावा लागला. चीनचे राष्ट्राध्यक्ष माओ-से-तुंग यांच्याकडून झालेला विश्वासघात नेहरुंच्या जिव्हारी लागला. 'हिंदी-चीनी भाई भाई' या घोषणेला चीनने दगा दिला. याप्रसंगी देशाच्या संरक्षणमंत्रीपदावरुन श्री. व्ही. के कृष्णमेनन यांना काढून त्या जागेवर यशवंतरावांना बसवावे असे नेहरुंना वाटू लागले.  यावेळी यशवंतराव महाराष्ट्राचे मुख्यमंत्री होते. यशवंतराव मुंबईत सचिवालयात दैनंदिन कामकाज पहात असताना त्यांना दिल्लीवरुन पंतप्रधान पंडित नेहरुंचा फोन आला. चिटणीसांनी घाईघाईने तो निरोप यशवंतरावांना दिला. यशवतंरावांनी फोन उचलताच त्यांच्या कानावर शब्द पडले, "मी जवाहरलाल बोलते आहे. जवळपास कोणी बसलेले नाही ना ?" "कोणी नाही" असा यशवंतरावांकडून निर्वाळा मिळताच जवाहरलाल बोलले. "सरंक्षण खात्याची जबाबदारी, मी तुमच्यावर सोपवू इच्छितो. तुम्ही दिल्लीला आले पाहिजे असे मला वाटते. येणार ना तुम्ही ? आणि त्याची फारशी चर्चा न करता हो किंवा नाही एवढेच उत्तर मला हवे आहे. " थोडा वेळ विचार करुन यशवंतरव म्हणाले, "मला एका व्यक्तिला विचारावे लागेल. " काहीशा रागानेच नेहरु म्हणाले, " अशी कोणती व्यक्ती आहे, की जिला विचारल्याशिवाय काम अडणार आहे?" यावर यशवंतराव बोलले, "मुंबई सोडून दिल्लीला जाण्याची परवानगी मला किमान माझ्या पत्नीकडून अगोदर घ्यावयास हवी." यशवंतरावांच्या या उत्तरावर मनमुराद हसून नेहरु बोलले, "हो जरुर ! सौ. चव्हाणांशी तुम्ही जरुर बोला आणि दोन दिवसांत तुमचा निर्णय मला कळवा." दो दिवसाने यशवंतरावांनी आपण दिल्लीला येण्यास तयार  असल्याचे नेहरुंना कळविले. अशारितीने यशवंतरावांचा दिल्लीत सन्मानाने प्रवेश झाला. "महाराष्ट्राचा सह्याद्री देशावरील संकट दर करण्यासाठी हिमालयाच्या मदतीला धावला." अशा शब्दात यशवंतरावांच्या दिल्ली प्रवेशाचे देशभर स्वागत करण्यात आले.

२२ नोव्हेंबर १९६२ रोजी देशाचे संरक्षणमंत्री म्हणून यशवंतरावांचा शपथविधी झाला. शपथविधी नंतर अवघ्या तासाभराच्या आत यशवंतरावांनी तिन्ही सेनादलाच्या प्रमुखांची बैठक बोलावली. सहा महिन्याच्या आत संसदेचे सदस्य होणे गरजेचे होते. नाशिक लोकसभा मतदारसंघातून यशवंतराव बिनविरोध निवडून गेले. पुढील काळात त्यांचा दिल्लीच्या राजकारणातील दबदबा उत्तरोत्तर वाढतच गेला. केंद्रीय गृहमंत्री, परराष्ट्रमंत्री, अर्थमंत्री अशी महत्त्वपूर्ण खाती त्यांनी पुढील काळात सांभाळली.

केंद्रीय मंत्रिमंडळात विविध खात्यांची जबाबदारी सांभाळताना यशवंतरावांचे अनेक आंतरराष्ट्रीय नेत्यांशी संबंध आले. अमेरिकन संरक्षण खात्याचे सचिव मॅक्नोरा यांच्या निमंत्रणावरुन त्यांनी अमेरिकेस भेट दिली.  यशवंतरावांच्या जीवनातील ती पहिलीच परदेश भेट होती. यानंतर त्यांच्या जगातील विविध देशांशी संबंध आला. रशिया, इंग्लंड यादेशांचेही त्यांनी दौरे केले. त्यांचा परदेश प्रवास हा केवळ सरकारी कामासाठीच असायचा.