בבחירות 1977, נבחר קצב לכנסת מטעם הליכוד. ב-1981 מונה לתפקיד סגן שר הבינוי והשיכון, דוד לוי.
ב-1984 מונה לשר העבודה והרווחה. ב-1988 מונה קצב לשר התחבורה.
ב-1996, עם בחירתו של בנימין נתניהו לראשות הממשלה, חזר קצב אל הממשלה, ומונה לסגן ראש הממשלה ושר התיירות.