בחג הסוכות (אוקטובר) שנת 1906, בסיועו של יחזקאל חנקין, הבשילה יוזמתו של ד"ר ליאו כהן להקים את מועדון הספורט העברי הראשון בארץ, לימים - מכבי תל אביב. בתחילה, עסקו במועדון בעיקר באתלטיקה, הרמת משקולות וכדורגל. באותם ימים, לא התקיימה ליגה סדירה בארץ והקבוצה הרבתה במשחקי ידידות, על מנת להגשים את חזון פעילותה. בשנות העשרים, בעקבות תחילתו של המנדט הבריטי בארץ, החל להתפתח הענף. מכבי תל אביב הייתה הקבוצה העברית הראשונה להשתתף במשחקי גביע ארץ ישראל שייסדו הבריטים, וכן זכתה במגן שמשון.

בשנת 1928 נמסרו משחקי הגביע לידי ההתאחדות הארץ ישראלית למשחקי כדורגל, ומאז מרבית המשתתפות במפעל הן עבריות. שנה לאחר מכן, ב-1928/29, זכתה מכבי בגביע, שהיה לתואר הרשמי הראשון בתולדותיה, הישג אותו שחזרה גם בעונה הבאה (1929/30). בשנת 1931 החלו משחקי אליפות ארץ ישראל, וכבר בשנת 1936 זכתה הקבוצה באליפות הראשונה בתולדותיה.
החל משנת 1934 ועד לשנת 1948 החל עידן אגון פולק, שהיה למאמן הקבוצה בתקופה זו. תחת שרביטו של פולק, זכתה הקבוצה בחמש אליפויות ושלושה גביעי מדינה, בהם גם קטגוריה:דאבל אחד (תשעה תארים מתוך עשרים אפשריים). בנוסף, החל המועדון לקיים מסעות משחקים גם "מעבר לים", בין היתר באוסטרליה וארה"ב. שנים אלו היו לשנים קריטיות בעיצוב דמות הקבוצה וייסוד המיתוס. מכבי הפכה לסמל יהודי וציוני, והחל תהליך התגבשותו של המכביזם. בנוסף, נקבעו סמל המועדון והמדים הצהובים.

תארים בתקופה זו:
5 אליפויות ארץ ישראל: 1936, 1937, 1938/39, 1941/42 ו-1946/47
6 גביעי ארץ ישראל: 1928/29, 1929/30, 1932/33, 1941, 1941/42, 1945/46 ו-1946/47

עם קום המדינה פרצה מלחמת העצמאות שהובילה לביטול משחקי הכדורגל, שהתחדשו בעונת 1949/50. את הליגה המשיכה מכבי בדיוק במקום בו עצרה, וזכתה בשלושת האליפויות הראשונות של המדינה החדשה. בגביע, לעומת זאת, זכתה מכבי רק בעונה השלישית של עשור זה (1953/54) ועם זכייתו השלימה זכייה בדאבל שני בתולדות המועדון. במהלך עונות אלו הפגינה מכבי עליונות מוחלטת, שהתבטאה בין היתר בקביעת שיא הכיבושים למועדון בעונה אחת (1949/50: 103 שערים ב-24 מחזורים!).

בעונת 1955, לראשונה מאז הוקמה המדינה, הפסידה מכבי את האליפות, לקבוצת הפועל פתח תקווה, שהחלה לקרוא תיגר על ההגמוניה הצהובה בכדורגל הישראלי. מכבי אמנם השכילה לזכות בגביע הישראלי בעונה זו (שנה שניה ברציפות), וכן באליפות העונה הבאה, אך היריבות בין המועדונים החלה להרקם, והיא תגיעה לשיאה בשנים הבאות.
על רקע חגיגות היובל להיווסדות האגודה, התקיימה עונת 1955/56. חגיגות היובל התקיימו ב13 באפריל 1956, במעמדם של מכובדים ממרכז מכבי העולמי והארצי ובכירי עיריית תל אביב, כאשר שייע גלזר נבחר לשאת בתהלוכה חגיגית את דגל הקבוצה. העונה ההיסטורית נחתמה בזכייה באליפות, לאחר ניצחון 3:0 מוחץ על הפועל תל אביב, יריבתה של מכבי לתואר בעונה זו, במחזור הסיום של הליגה. הדרבי המכונן ביסס את שליטת מכבי בעיר תל אביב בפרט, ובכדורגל הישראלי בכלל, וממחיש את רוח התקופה וכינון המכביזם. עונת 1956/57 הייתה המאכזבת ביותר בעשור זה. למרות שבתום הסיבוב הראשון מכבי הובילה את טבלת הליגה, את העונה סיימה הקבוצה במקום השלישי, ובגביע הודחה בחצי הגמר, ולראשונה לאחר שבע עונות, סיימה עונה ללא תואר. ג'רי בית הלוי, מאמן מכבי, עזב את הקבוצה עם תום העונה, ובמקומו מונה יוסף טסלר, שהוביל את הקבוצה לזכייה בדאבל שלישי בתולדות המועדון. גם את העונה העוקבת (1958/59) החלה מכבי בחילופי מאמנים, כשאת התפקיד תופס יוסל'ה מרימוביץ', כוכב הקבוצה שפרש ממשחק לאחר 18 עונות במדי הקבוצה(!). את העונה סיימה הקבוצה במקום השלישי, וזכתה בגביע, לאחר ניצחון 4:3 דרמטי בגמר מול האלופה, הפועל פתח תקווה.
לאחר חמישים שנות קיום, זוכה מכבי לעשור שהוא למעלה מכל ספק "תור הזהב הראשון". עשור המתאפיין במאבק על כל התארים, ובניית ההגמוניה ארוכת טווח של המועדון בענף הכדורגל הישראלי.
לצד משחקי הליגה והגביע, קיים מרכז מכבי את משחקי גביע יד לעשרה, טורניר לא רשמי להנצחתם של עשרת כדורגלני הקבוצה שנפלו במלחמת העצמאות: שמשון רוזי, נתן פנץ, אברהם גלברד, חיים גולדשטיין, אריה שרוני, מאיר מנדלסון, יוסף ישראלי, שלמה ציטרין, ברוך פויר ואריה גיסין.

תארים בתקופה זו:
5 אליפויות: 1949/50, 1951/52, 1953/54, 1955/56 ו-1957/58
4 גביעי המדינה: 1953/54, עונת 1955, 1957/58 ו-1958/59

שנות השישים נפתחו בסימן המאבק בין מכבי להפועל פתח תקווה על ההגמוניה בכדורגל הישראלי, כאשר בפעם הראשונה נתקלו הצהובים במכשול ממשי לשליטתם. בעונה הראשונה (1959/60) זינבה מכבי אחר המקום הראשון אותו כבשה במחזור הלפני האחרון, אולם הפסד ביתי להפועל חיפה הוביל לאובדן האליפות. עם סיום הליגה, המריא כוכב הקבוצה, רפי לוי, להמשך הקריירה בדרום אפריקה.
עזיבתו של רפי לוי הייתה אחד מהגורמים שהובילו להדרדרות מקצועית משמעותית בעונות הבאות. תחילה, נקרא ישראל "חלובה" חליבנר לדגל כאשר הקבוצה נקלעה לראשונה למאבקי הירידה. חליבנר הדריך את הקבוצה בהצלחה ואף הוביל את הקבוצה לגמר הגביע, בו הובסה בידי מכבי חיפה. למרות השיפור ביכולת, נקבע שיא שלילי ומאיים בדמות מקום עשירי בליגה. גם העונה הבאה הובילה לרגעי שפל חדשים, בהם הפסד 1:0 להפועל נהריה מהליגה השלישית, הפסד שעלה למכבי בהדחה מהגביע.
התפנית המיוחלת נזרעה עוד במהלך העונה העגומה (1962/63), כאשר ג'רי בית הלוי, המכביסט הבלתי נלאה, נקרא לאימון הקבוצה. ג'רי קידם משורות קבוצת הנוער את גיורא שפיגל, מיקו בלו, צבי רוזן, אורי קדמי ודוד לוי, שזכו לכינוי המחמיא "תינוקות ג'רי", ובמהלך שנות השישים והשבעים יהפכו לבורג משמעותי בהצלחת הצהובים. כבר בעונתם הראשונה, זכו התינוקות בגביע המדינה, לאחר "סדרת גמר" (באותם ימים, לאחר משחק שנסתיים ללא הכרעה במשך 120 דקות, נקבע משחק חוזר) מול הפועל חיפה, כשאורי קדמי מכריע את המשחק השלישי בדקה ה87: הגביע חוזר הביתה, ולאחר חמש עונות ללא תואר, הבצורת נשברת.
מגמת ההשתפרות תפסה תאוצה, ואמנם לא הספיקה לאליפות, אך ג'רי שחזר את הזכייה בגביע המדינה, והצהובים שמרו על התתואר עונה שנייה ברציפות, זאת כשהם מדיחים בין היתר את הפועל פתח תקווה, מכבי נתניה, ומכבי פתח תקווה, ומנצחים בגמר את בני יהודה. הזכייה בגביע המתיקה את עזיבתו של ג'רי בית הלוי, ואלייה התווסף רפי לוי, הכובש המחונן, שחזר לקדנציה נוספת. מאמנה החדש של מכבי, אליעזר שפיגל (אביו של גיורא שפיגל), השכיל לזכות בתואר אלוף האלופים בפעם הראשונה בתולדות המועדון, אך הקבוצה התקשתה לרשום הישגים ביתר המפעלים.
העונה הבאה (1966/68) היא מהמוזרות בתולדות הכדורגל הישראלי. לצד משחקי הליגה שנפרסו על פני שנתיים (60 מחזורים), שוחקו שני טורנירי גביע. העונה נפתחה כשמרבית שחקני הקבוצה דורשים במכתב חתום את פיטוריו של המאמן, ודרישתם נענית. את מקומו של שפיגל תופס ישראל חליבנר, שחקן העבר, במטרה לזכות באליפות ושני גביעים. חליבנר עמד במרבית מטרותיו: הגביע הראשון לעונה נצבע צהוב, ומשה עסיס נקרא להניף את הגביע לאחר ניצחון בגמר בדרבי לוהט מול 22,000 צופים. את הגביע השני הפסידה הקבוצה לאחר שהודחה מול הפועל פתח תקווה. אותה פתח תקווה זכתה לחזות בצהובים זוכים באליפות לאחר עשור, כשגיורא שפיגל קובע 2:0 במשחק שחתם את גורל האליפות. אליפות זו היא מהמרשימות בתולדות המועדון, מאחר ובמשך מרבית העונה (שנמשכה שנתיים), הובילה הקבוצה את הטבלה.
העשור נסגר בעונה דרמטית במיוחד, כאשר חוב של 250,000 לירות איים על קיום המועדון והאגודה כולה. המשבר הכלכלי הוביל לאימוץ סטנדרטים ניהוליים שחלקם נהוגים עד היום. מכבי פתחה את העונה עם זכייה באלוף האלופים לאחר ניצחון על בני יהודה, ובינואר 1969 יצאה לייצג בפעם הראשונה את ישראל בגביע אסיה לאלופות. מכבי העפילה לגמר לאחר ניצחון מוחץ 6:1 על מיסורה ההודית. הגמר הפגיש את הצהובים עם יאנגצ'יי, אלופת דרום קוריאה, שזכתה לספוג מעט מהמכביזם, לאחר שדרור בר נור כבש את השער המכריע בדקה ה-112. בפעם הראשונה בתולדותיה, מכבי תל אביב אלופת אסיה! דווקא בנק' השיא החלה החלשות הקבוצה, ולאחר שהודחה מכבי מהגביע מול הזוכה, הכח רמת גן, מצאה עצמה מכבי בצניחה חופשית, שעלתה למועדון באובדן אליפות טראגי.

תארים בתקופה זו:
1 אליפויות: 1966/68
3 גביעי המדינה: 1963/64, 1964/65, 1966/67
2 אלוף האלופים: 1965/66, 1968/69
1 גביעי אסיה לאלופות: 1968/69