בן 48 הגיע גורדון לארץ ישראל. הוא פנה לעבודה האדמה שבה ראה את הדרך היחידה לגאולתו הנפשית של האדם. היה פועל חקלאי בכמה מושבות ובהן פתח תקווה ובראשון לציון. בגיל זה החל לכתוב דברי הגות ופילוסופיה שהשפיעו עמוקות על חבריו ועל תנועת העבודה. הגותו הושפעה מתורתו של הסופר הרוסי הגדול לייב טולסטוי. במרכז רעיונו עומד הקשר בין האדם לקרקע ולטבע, שבלעדיו אין שלמות לאומית ואישית. קשר זה כונה "דת העבודה" ע"י בני דורו. תקומת העם היהודי יכולה להיות רק בארץ ישראל ורק על ידי כיבוש הקרקע. שימש כפעיל מרכזי בקרב חבריו בני העלייה השנייה. הצטרף למפלגת "הפועל הצעיר" וכתב מאמרים רבים בעיתונה של אותה מפלגה - הפועל הצעיר.
דוגמתו האישית של גורדון השפיעה רבות של פועלי ארץ ישראל.
נפטר בשנת 1922 בדגניה א'.