ההיסטוריה של קבוצת הכדורגל מכבי תל אביב מתחילה בשנת 1906 עת הוקמה ביפו אגודת מתעמלים עברית ראשונה תחת השלטון הטורקי. בשנות העשרים, תחת המנדט הבריטי, החלה קבוצת הכדורגל של האגודה להשתתף בתחרויות הכדורגל שהתארגנו בארץ ישראל. מכבי תל אביב לקחה חלק בכל עונותיה של הליגה הראשונה בארץ ישראל מאז נוסדה ב-1931. מועדון הספורט העברי הראשון בארץ ישראל[1], "אגודת המתעמלים היהודים - ראשון לציון-יפו", נוסד ביוזמתו של ד"ר ליאו כהן ובסיועו של יחזקאל חנקין בטקס בבית דיזנגוף בחג הסוכות באוקטובר 1906. כהן, שהשתתף באחדים מהקונגרסים הציוניים העולמיים[2][3], הושפע מרעיון יהדות השרירים של מכס נורדאו, והקמת האגודה בעירו הייתה חלק מתהליך עולמי של הקמת אגודות ספורט יהודיות ברחבי העולם. עם היווסדה ישבה האגודה בשכונת נווה שלום וב-1907 עברה לבית הספר לבנות בנווה צדק. מותו הפתאומי של כהן ב-1908 הוביל לדעיכה של האגודה, אך ב-1909 החלו לנהל את האגודה צבי נשרי והמעמל הראשי משה דנין. נשרי היה אז מורה להתעמלות בגימנסיה הרצליה ופעיל באגודה וכעת מונה לעמוד בראשה. תחת השניים התרחבה האגודה לתל אביב[4]. באמצעות קשר שנוצר בין האגודה העברית החדשה למכבי קונסטנטינופול, שבנוסף הקימה גם סניף בירושלים, קיבלה האגודה סיוע כלכלי וניהולי ממכבי קונסטנטינופול שהוביל להצטרפות לתנועת מכבי האירופית, וב-1912 אגודת המתעמלים הוסיפה לשמה את המילה "מכבי".
חברי האגודה היפואית עסקו באתלטיקה, בהרמת משקולות ובכדורגל. גם הכדורגלנים נקראו מתעמלים והכדורגל לא היה אלא אחת מדרכי ההתעמלות שלהם[5]. האגודה לא שילמה לספורטאים שפעלו בה, אלא להפך: כל חבר באגודה שילם 3.5 גרוש מדי חודש. בשנים 1912 ו-1913 הלכה והתארגנה מחלקת הכדורגל של האגודה, ובראשה עמדו שני האחים הכדורגלנים עמנואל וראובן גור-אריה שהגיעו לארץ ישראל ב-1913 ממולדתם אלג'יר, בה היה הכדורגל ותיק ומקצועי יותר מבישראל והונהגו אימוני כדורגל בקבוצה. על פי הוראת השלטונות הטורקיים בארץ ישראל חויבה האגודה לשלב במדיה את הצבע האדום ומדי הקבוצה כללו חולצות לבנות בעלות צווארון אדום שהגיעו ממכבי קונסטנטינופול, בהמשך הוחלפו המדים לפסים אדומים וירוקים על רקע לבן עד שאומצו חולצות הפסים הכחולים-לבנים, צבעי הדגל הציוני. מדים אלו הגיעו למכבי תל אביב ב-1913 ביוזמתו של דוד תדהר, שחקן צעיר בקבוצה, והפכו לצבעי הקבוצה בשלושים השנים הבאות. בשנת 1915 פעלה במסגרת אגודת "מכבי" קבוצת הכדורגל "איילה", אך לא ברור אם מדובר בשם שניתן למחלקת הכדורגל של האגודה או על קבוצת כדורגל נוספת.
בשנים הראשונות לא הייתה בארץ ישראל ליגת כדורגל מסודרת והיריבים למשחקי קבוצת הכדורגל של האגודה, שהתקיימו על מגרשי חול, היו בעיקר קבוצות ערביות מיפו וקבוצות מלחים אירופאיות שספינותיהם עגנו ביפו. מי שארגן את משחקה הראשון של מכבי תל אביב נגד מלחים זרים היה מוסטפא כמאל אטאטורק, שהיה גם חובב כדורגל ואוהד בשיקטאש, כשהגיע לארץ על סיפונה של אונייה צרפתית, במשחק זה ניצחו שחקני מכבי תל אביב את קבוצת המלחים הצרפתים 3-0. ב-1915 ארגן אטאטורק משחק נוסף, הפעם משחק ראווה נגד נבחרת הסולטאן. המשחק נערך ביפו והסתיים בתיקו 2:2 כשאת שער השוויון של הטורקים כבש אתאטורק עצמו. מכבי תל אביב שמרה על קשר ידידותי עם הצבא הטורקי וקיימה מספר משחקים נגד קבוצות שונות של חיילים טורקיים, רובם הסתיימו בתיקו כדי לא להרגיז את החיילים הטורקיים ולהסתכן במעצרים.
אגודות ספורט וקבוצות כדורגל עבריות החלו לקום ברחבי היישוב היהודי בארץ ישראל בתחילת העשור השני של המאה ה-20, ומכבי תל אביב פגשה אותן כיריבות במשחקי ידידות חגיגיים אשר משכו עניין רב בקרב היישוב היהודי בארץ ישראל. בשנים 1912—1916 הפעילה הגימנסיה הרצליה קבוצת כדורגל משלה בתל אביב ושחקניה היו מהטובים בארץ. ב-1913, במסגרת חגיגות העיר רחובות, פגשה קבוצת הכדורגל של הגימנסיה את מכבי תל אביב לצמד משחקים. המשחק הראשון התקיים בפסח 1913 והסתיים בתיקו 0:0 לעיני 1,500 צופים, בגומלין, שהתקיים בל"ג בעומר, הוכפל מספר הצופים והוא הסתיים בניצחון הגימנסיה 0:1 משער של יהושע גולדברג שנחשב לכדורגלן העברי הטוב ביותר באותה תקופה. מאוחר יותר הצטרף גולדברג למכבי תל אביב ומונה לקפטן הקבוצה, כשיחד איתו עברו עוד חמישה משחקני הגימנסיה[6]. במשחק אחר, בפתח תקווה, אליו הגיעו מרבית תושבי המושבה, ניצחה מכבי תל אביב את מכבי פתח תקווה 2:0.
