בעת לימודיו בקולג' הצטרף פאוול לעתודה האמריקאית.
בשנים 1962-1963 ו-1968-1969. על שירותו במלחמה זכה בעיטור "הלב הסגול".
בשנים 1973-1974 כיהן כמפקד גדוד בקוריאה.
ב-1972 מונה לראשונה לתפקיד פוליטי, כעובד בבית הלבן, ולאחר מכן כעוזרו של סמנכ"ל במשרד לתכנון ותקציב.
בשנים 1973-1976 פיקד על הבריגדה השניה ועל החטיבה האווירית ה-101.
בשנים 1977-1980 כיהן כעוזר צבאי לסגן שר ההגנה.
ב-1981 שירת כמשנה לעניני מבצעים ואימון למפקד חטיבת הרגלים הרביעית.
בשנים 1983-1986 כיהן כעוזר צבאי בכיר לשר ההגנה קספר ויינברגר.
בשנת 1986 שירת כמפקד הגיס החמישי בגרמניה.
בשנים 1987-1988 כיהן כיועץ לביטחון לאומי לנשיא רונלד רייגן. הוא היה האפרו-אמריקאי הראשון שמונה לתפקיד זה.
בינואר 1989 מונה למפקד כוחות יבשה.