בפברואר 1992 הנהיגה מפלגת העבודה לראשונה בחירות מקדימות - פריימריס. רבין גבר בהן על פרס ומונה ליו"ר המפלגה. בבחירות שנערכו באותה שנה יצרה מפלגת העבודה מהפך פוליטי וחזרה לשלטון. רבין מונה לראש הממשלה.
בכהונתו חתר רבין להשגת הסכם מדיני עם הפלסטינים ובספטמבר 1993 חתם על "הסכם אוסלו": הסכם מסגרת היסטורי לפעולה לסיום הסכסוך הישראלי-פלסטיני. החלק העיקרי בו מעניק אוטונומיה פלסטינית על חלקים מרצועת עזה ויהודה ושומרון. ההסכם פורסם ונחתם בוושינגטון בספטמבר 1993, ובמעמד זה לחץ רבין את אחד מגדול אויביו לשעבר, יו"ר אש"ף יאסר ערפאת.
באוקטובר 1995 נחתם הסכם נוסף בין ישראל לפלסטינים שקבע את נסיגת ישראל משבע ערים בגדה.
צעדיו של רבין עוררו זעם רב וביקורת בציבורים רבים שהתנגדו למשנתו המדינית.