בבחירות מאי 1977 התמודד שרון בראשות רשימה עצמאית שהקים, בשם שלומציון, וזכה בשני מושבים (חבר הכנסת השני מטעם שלומציון היה יצחק יצחקי, שהשתלב מאוחר יותר בליכוד). המפלגה התמזגה מאוחר יותר בתנועת החרות.
בממשלה שהקים מנחם בגין כיהן שרון כשר החקלאות ויו"ר ועדת השרים לענייני התיישבות. בתפקידו זה קרא להקמת יישובים רבים באיו"ש, כערובה נגד החזרת השטחים לריבונות ערבית. מדיניות זו יישם כעבור מספר שנים כשמונה לשר הבינוי והשיכון. למרות זאת, המליץ לבגין, בעת דיוני קמפ-דיוויד, לסגת מפתחת רפיח. באפריל 1982 אף פיקח על הנסיגה.
מאוחר יותר התפתחה מתיחות בין שרון לראש הממשלה מנחם בגין שסרב למנותו לשר ביטחון עם פרישתו של עזר ויצמן ב-1980.