במהלך הקריירה, פיתח גאיי התמכרות קשה לקוקאין, ובכדי להיגמל ממנה, החליט לפרוש לחיים שקטים ולחיות עם הוריו. למרבה הצער מהלך זה לא שיפר את מצבו, ואף הכניסו לדיכאון עמוק. גאיי ואביו הרבו לריב זה עם זה, ומרווין הצעיר אף איים להתאבד בכמה הזדמנויות.
בסופו של דבר, באחה"צ של 1.4.84, יום אחד לפני יום הולדתו ה 45, נירצח גאיי בידי אביו לאחר מריבה.
לאחר מותו שיתפו פעולה קולומביה ומוטאון בכדי להוציא את "Dream Of A Lifetime", אסופה של שירי Fאנק אירוטיים, ואת "Romantically Yours".
לאחר מותו, וההערכה מחדש של עבודתו, ניתן לאלבומו "What's Going On" הכבוד הראוי כאבן דרך בתולדות הסטורית הפופ, ובמיוחד במוסיקה השחורה.
בשנת 1987, הוכנס גאיי לפנתיאון היכל התהילה של הרוקנ'רול.