Starmešu gaismā Rinkēvičs nokļuva, kļūstot par ārlietu ministru Dombrovska trešajā valdībā. Šo amatu viņš saglabāja gan tad, kad pēc Dombrovska demisijas saistībā ar Zolitūdes traģēdiju par Ministru prezidenti kļuva Laimdota Straujuma, gan pēc 12. Saeimas vēlēšanām, kurās viņš pirmo reizi kandidēja, gan tad, kad pēc Straujumas otrās valdības krišanas "Vienotība" zaudēja valdības vadītāja posteni, to atdodot tobrīd Zaļo un Zemnieku savienību pārstāvošajam Mārim Kučinskim. Arī pēc 13. Saeimas vēlēšanām, kad pēc vairākus mēnešus ilgām valdības veidošanas sarunām to beidzot izdevās izveidot Eiropas Parlamenta deputātam Krišjānim Kariņam, Rinkēvičs palika savā – ārlietu ministra vietā. Līdzīgs scenārijs atkārtojās pērnā gada nogalē – pēc JV uzvaras 14. Saeimas vēlēšanās. Jāpiemin gan, ka valdības veidošanas sarunām ieilgstot, pat izskanēja versija, ka potenciālie koalīcijas partneri, neapstrīdot JV tiesības uz Ministru prezidenta amatu, labprātāk tajā redzētu nevis Kariņu, bet gan Rinkēviču.
Ietekmīgus amatus gan Rinkēvičs ieņem jau kopš 1997. gada augusta, kad četru cilvēku konkurencē tika atzīts par piemērotāko pretendentu uz Aizsardzības ministrijas valsts sekretāra amatu. "Šis paaugstinājums, no vienas puses, liekas ļoti augsts tik jaunam cilvēkam, bet, no otras puses, acīmredzot tā ir tomēr likumsakarība, kas balstās uz viņa izglītību un uz viņa apgūtajiem jautājumiem attiecībā uz drošību un aizsardzību," tā tolaik, pavēstot masu medijiem par jaunā valsts sekretāra iecelšanu, pauda tā brīža aizsardzības ministrs Tālavs Jundzis. Teju ceturtdaļgadsimtu vēlāk Rinkēvičs intervijā "Dzīvei nav melnraksta" stāstīja, ka bijis visu laiku jaunākais valsts sekretārs Latvijā.
Aizsardzības ministrijas valsts sekretāra amatā viņam bijusi gana svarīga loma sarunās par Latvijas iestāšanos NATO – tās noslēdzās 2004. gada 29. martā. Rinkēvičs turpināja būt Aizsardzības ministrijas "galvenais ierēdnis" līdz pat 2008. gada rudenim, kad kļuva par gadu un dažus mēnešus iepriekš ievēlētā Valsts prezidenta Valda Zatlera kancelejas vadītāju. Saistībā ar viņa darbu Valsts prezidenta kancelejā vēl arvien izskan dažādi minējumi par to, kurš tad īsti bijis 2011. gada vēlā pavasarī, Valsts prezidenta vēlēšanu priekšvakarā tapušā rīkojuma Nr.2 par 10. Saeimas atlaišanu patiesais iniciators. Šo lomu piedēvē gan mūžībā aizgājušajam kādreizējam Stratēģiskās analīzes komisijas priekšēdim Robertam Ķīlim, gan Zatlera padomniecei Sandrai Sondorei-Kukulei (viņa pēc tam ilgus gadus bija Rinkēviča padomniece – red.), gan Rinkēvičam.
2014. gada novembrī, kad Rinkēvičs jau trešo reizi bija apstiprināts ārlietu ministra amatā, viņš vēlā vakarā mikroblogošanas vietnē "Twitter" pavēstīja, ka ir gejs. Jau pieminētajā intervijā "Dzīvei nav melnraksta", kas notika 2021. gada nogalē, viņš stāsta, ka lēmums "iznākt" briedis jau vairākus gadus, un noliedz, ka tas būtu noticis bažās par to, ka gaismā varētu nākt kāds kompromats. Šis paziņojums nav mazinājis Rinkēviča atbalstītāju skaitu. Vismaz ne JV vēlētāju vidū. 2022. gada 1. oktobrī notikušajās 14. Saeimas vēlēšanās, startējot ar 1. numuru Rīgā, viņš saņēma 33 461 plusiņu.