בשנת 1919 מונה ליושב ראש המועצה הלאומית היהודית הזמנית בפולין, ובהמשך הוא נבחר לפרלמנט הפולני - הסיים - כנציג אזור וארשה ולמעשה כנציג הבכיר של המיעוט הלאומי היהודי בפולין. בתפקיד זה אחז עד שנת 1932.
במקביל המשיך גרינבוים לשמש גם כמנהיג ציוני. הוא השתתף בקונגרסים ציוניים ועמד בראש הסיעה הרדיקלית בקונגרסים הציוניים שהתנגדה בתוקף לתוכנית וייצמן להקמת הסוכנות היהודית. התגברות האנטישמיות בפולין הביאה את גרינבוים להכרה כי הוא חייב לעלות לארץ ישראל, ואכן הוא עשה כך ב-1932.