ב-1996 נבחר שטרן לכנסת מטעם ישראל בעלייה. הוא כיהן כחבר בוועדת חוץ והביטחון וועדת העבודה והרווחה.
ב-1999 נבחר לכנסת מטעם ישראל ביתינו. הוא מכהן כיום כיו"ר הוועדה המיוחדת לנשוא בעיית העובדים הזרים, וחבר בוועדת הכנסת, ועדת הכלכלה, ועדה לעניני ביקורת המדינה, ועדה לפניות הציבור וועדת חקירה פרלמנטרית בנושא איתור והשבת נכסים של נספי השואה.
במרץ 2001 מונה לסגן שר במשרד ראש הממשלה בממשלת שרון.