בתוקף תפקידו כרמטכ"ל צבא ארצות הברית במלחמת העולם השנייה הוא היה אחראי על כל הפעילות האמריקנית הצבאית בזירה האטלנטית והזירה הפסיפית וכל תוכניות המלחמה בשתי הזירות קבלו את אשורו. נחשב לצד הגנרלים אייזנאואר ומקארתור לאיסטרטג הצבאי שהביס את הצבא הגרמני והצבא היפני במלחמת העולם השנייה. ב-1945 נשלח על ידי הנשיא האמריקני הארי טרומן כשגריר מיוחד בסין כדי למנוע את הפולת הקומוניסטית שם ואולם הוא נכשל. ב-1947 מונה על ידי טרומן כמזכיר המדינה. במסגרת תוכניתו הוא הגה את "תוכנית מארשל" לסיוע לארצות אירופה, שיעדה היה לשקם את הכלכלה האירופית ולעצור בכך את התפשטות הקומוניזם. במקביל הוא עמד בראש המדינאים שעצבו את מסגרת הברית הצפון אטלנטית (נאט"ו), שקבעה מסגרת צבאית מאוחדת לארצות מרכז אירופה ומערבה, ואשר יעדה היה ליצור מחסום צבאי בפני הגוש הקומוניסטי, שנוצר במקביל. בשנים 1950-1951, מונה על ידי טרומן כמזכיר ההגנה האמריקני. היה אחראי בין השאר על התוכניות להגנה צבאית על קוריאה.