בזמן שעבד במוטאון כמתופף פגש גאיי באחותו של ברי גורדי, אמה, התאהב בה, והתחתן עמה בשנת 1961. שאיפתו היתה להצליח בקריירת סולו, אך הסינגלים הראשונים שלו מאנו להצליח. בסופו של דבר, בשנת 1962, הסינגל הרביעי "Stubborn Kind of Fellow" הפך ללהיט קטן, ושני הסינגלים שבאו אחריו כבר הגיעו למצעד 30 הגדולים.
בשנת 1963 משחרר גאיי את הלהיט הראשון שלו שהגיע לעשרת הגדולים, "Pride and Joy". בתקופה זו מתחיל החיכוך בין שאיפת מוטאון ממנו שייצר להיטים, לבין שאיפתו האומנותית האישית לבצע בלאדות רומנטיות מרגשות. חיכוך זה יתקיים לכל אורך הדרך הארוכה של גאיי עם מוטאון.
בשנת 1964 הוציא גאיי יחד מארי וולס דיסק דואטים בשם "Together , שניפק כמה להיטים. גם כאמן יחיד נהנה גאיי מהצלחה ושחרר בשנת 1965 שלושה להיטים שהגיעו לעשרת הגדולים במצעד: "Ain't That Peculiar", "I'll Be Doggone, "How Sweet It Is".
גאיי ניפק 39 להיטים שהגיעו לרשימת 40 הגדולים במצעד, כשאת רובם הוא כותב ומלחין. יחד עם קים ווסטון הוא מבצע את אחד הדואטים הגדולים של אותה תקופה, "It Takes Two".