כבר ב-1960 הצטרף ל-PSU זרם ממייסדי המפלגה הסוציאליסטית הצרפתית.
ב-1971 הצטרף ז'וספין למפלגה הסוציאליסטית. עם השנים הפך למקורבו של פרנסואה מיטראן, לימים נשיא צרפת. ביוני 1973 הצטרף ז'וספין לוועדה המרכזית של המפלגה. ב-1975 מונה לאחראי במפלגה על קשרים עם מדינות העולם השלישי, ועל הקשרים עם המפלגה הקומוניסטית. ב-1979 מונה לאחראי על קשרים בינלאומיים.
כשמיטראן נבחר לנשיא ב-1981, ז'וספין מונה ליו"ר המפלגה והחזיק בתפקיד עד מאי 1988, כשמונה לשר החינוך.