פעילות בכנסת

שמחון נבחר לכנסת ב-1996 מטעם מפלגת העבודה.
בכנסת ה-14, בשנים 1996-1999, כיהן כחבר בוועדת הכספים, ועדת הכלכלה וועדה מיוחדת לנושא בעיית העובדים הזרים.
מ-1999 הוא מכהן כחבר בוועדת הכנסת, ועדת העבודה, הרווחה והבריאות וועדת הכלכלה. עם מינויו לשר נשאר שמחון כחבר בוועדה המשותפת לתקציב הביטחון.