ב-1963 מינה בן-גוריון את אשכול ליורשו, וביולי אותה שנה מונה לראש הממשלה. עם זאת בן-גוריון מתח עליו ביקורת קשה לאחר הקמת הממשלה, בטענה כי הוא כושל בניהול עניני המדינה ובחקירת פרשת לבון.
כהונתו של אשכול אופיינה במספר אירועים היסטוריים. הוא כונן יחסים דיפלומטיים מלאים עם גרמניה המערבית. הוא הקים את "המערך" איחוד מפא"י ואחדות העבודה, ופעל להקמת מפלגת העבודה.
בשנת 1964 נקט אשכול צעד פיוס היסטורי כלפי תנועת חירות, והורה על העלאת עצמותיו של זאב ז'בוטינסקי שנאסרה בתקופת בן-גוריון. כמו כן ערב מלחמת ששת הימים יזם אשכול הקמת ממשלה רחבה יחד עם גח"ל, צעד שהווה הכרה ראשונה מצד מפלגת העבודה בגח"ל ובמנחם בגין.
ערב המלחמה העביר אשכול את תיק הביטחון, בו החזיק מ-1963, למשה דיין עקב הלחץ בדעת הקהל שחשש מהסלמה ביטחונית.
אשכול כיהן כראש הממשלה בעת מלחמת ששת הימים. לאחר המלחמה החיל את החוק הישראלי על מזרח ירושלים ובכך איחד את שני חלקי העיר.
בפברואר 1969 נפטר אשכול מהתקף לב.