בחצר המשכן שנבנה במדבר סיני, עמד המזבח שנקרא "מזבח העולה" או "מזבח האדמה", וכפי שנאמר: "מזבח אדמה תעשה לי, וזבחת עליו את עולותיך ואת שלמיך, את צאנך ואת בקרך, בכל המקום אשר אזכיר את שמי אבוא אליך וברכתיך" (שמות כ', כ"א). על מזבח זה דלקה אש תמיד שירדה בזמן הקמת המשכן משמי רום ורבצה עליו בצורת אריה של אש. היא היתה על המזבח עד לחורבן בית המקדש על ידי חילות נבוכדנצאר מלך בבל.

המזבח היה חלול, ודפנותיו עשויות מעצי שיטים מצופים נחושת. את חללו יש למלא באדמה, ומכאן משמעות השם "מזבח אדמה". כמו כן יש לשים את המזבח בצמוד לאדמה, ואסור להציבו על במה או על עמודים.

בבניית המזבח חל איסור להניף ברזל על אבניו: "ואם מזבח אבנים תעשה לי, לא תבנה אתהן גזית, כי חרבך הנפת עליה ותחללה" (שם כ"ב). החרב וכל כלי המתכת מסמלים את קיצור ימיו של האדם ואת המלחמות שהוא נלחם, ואילו מטרת המזבח היא להשרות שלום, אחווה ורעות בעולם כולו.

מידות המזבח במשכן היו, כאמור, חמש אמות אורך, חמש אמות רוחב ושלוש אמות גובה. כל המספרים יחד מצטרפים למספר שלוש עשרה, כמנין "אחד", להורות שתהיה כל כוונתנו ל"ה' אחד" לבדו. מצוות יחוד ה' היא אחת ממצוות עשרת הדברות, והיא נאמרת גם בקריאת שמע, כאשר אנו מכריזים: "שמע ישראל, ה' אלוקינו ה' אחד".

לעומתו המזבח שעמד בבית המקדש שטחו היה 32 אמות על 32 אמות. עשוי כמין מדרגות. מבנה זה מביע את ההגדרה המדוייקת שלו: "מזבח העולה", בהיותו מתרומם אל על.

חלקו התחתון של המזבח נקרא "יסוד". גובהו הגיע לאמה אחת, והוא הבסיס לכל המזבח. החלק שמעליו נכנס אמה אחת פנימה, באופן שנוצרה מדרגה ברוחב אמה סביב למזבח.

החלק האמצעי של המזבח גובהו היה חמש מאות.

החלק העליון של המזבח התנשא לגובה שלוש אמות. חלק זה נכנס אמה נוספת פנימה, ובכך נוצרה מדרגה נוספת ברוחב אמה המקיפה את כל המזבח. על מדרגה זו הילכו הכוהנים, והיא נקראה בשם "סובב". גובהו של המזבח מקרקעיתו ועד פסגתו הגיע לכדי עשר אמות.

בפסגת המזבח, בארבעת צדדיו, עומדות היו ארבע קרנות מרובעות בגודל אמה על אמה. ארבע הקרנות הללו הן פסגת המזבח, הפונה כלפי מעלה.

על גג המזבח נמצאת המערכה, והאש התמידית שעליה -  יש בה דמיון להר סיני שנאמר בו: "ומראה כבוד ה' כאש אוכלת בראש ההר לעיני בני ישראל" (שמות כ"ד, י"ז).

האש מהווה שלב אחרון בזיכוך הבהמה החומרית טרם העלאתה אל על. זוהי פעולה של מידת הדין, המבקשת לזהות את התוכן הפנימי של המציאות החומרית, כשבאמצעות האש מתפרק השקר שבה, וכך מתנתקת הפנימיות מן החומר ועולה לעשות נחת רוח לקב"ה.

התורה אוסרת לטפס במדרגות אל המזבח, כפי שנאמר (כ', כ"ג): "ולא תעלה במעלות על מזבחי, אשר לא תיגלה ערוותך עליו", זאת כדי שלא יעשה האדם צעד  העלול להביא לגילוי בשר. החובה להצטנע בקירבת אבני המזבח, נובעת מדרישה כללית לנהוג כבוד בכל חפץ המשמש לקודשי שמים.

למזבח עלו באמצעות כבש משופע שהתחיל בקרקע והעפיל עד לרום המזבח. עליו צעדו הכהנים בעליה ובירידה. התורה רואה בהליכה זו על שיפוע מתון כבוד גדול יותר לעבודת המזבח מאשר עליה במדרגות, שבהן יש צורך להרחיב את הצעדים בהתאם למידת המדרגות ולגובהן.

יחד עם האש שירדה מן השמים, היתה מצווה להביא אש שהודלקה ע"י אדם ולהזינה בעצים. ללמדנו שאמנם בכל יהודי טמונה נקודה זכה, נשמה טהורה ועליונה היוקדת באש קודש, והיא אינה דועכת לעולם, אך יחד עם זאת עליו להתאמץ ללבות אש זו בעצמו ולהופכה לשלהבת.

תפקיד המזבח היה לכפר על היחיד ועל הציבור. החטא, כשמו כן הוא, החטאת מטרת החיים כולה. החטא מקפח ומחסר את דמותו של האדם. תפקיד המזבח הוא להשלים חסר זה. מטרת הקורבנות, להוסיף שלמות לאדם ולקדמו בסולם הרוחני.

הניסים שנעשו בבית המקדש היו סמליים ובעלי משמעות:

מעולם לא פיזרה הרוח את עשן המזבח, הוא היה מיתמר ועולה כעמוד זקוף ונראה למרחוק. בנוסף לכך, מעולם לא כיבו הגשמים את האש שבערה על גבי המזבח על אף היותה גלויה תחת כיפת השמים. אף כאשר תנשוב הרוח במלוא עוזה, יתעלם ממנה עמוד העשן המיתמר מהמזבח , יגבר עליה וימשיך בקו ישר, בכך תהיה הוכחה לחוסנו ולגבורתו של עם ישראל, מקריב הקרבנות.

בגשמים שלא כיבו את אש המזבח, טמונים הוראה ומסר נוספים: על כל יהודי באשר לדאוג שאש האמונה היוקדת בלבו לא תכבה, אלא תהפוך לאש תמיד.

בכל יום היה עולה כהן למזבח ומסיר את הדשן, הוא האפר שהצטבר מאש הקרבנות. להורות שהיצר הרע פועל באדם ומעלה בו הרהורים רעים, ועל האדם ללחום נגדם ולהסירם מלבו מדי יום ביומו בעקביות ובמסירות.

תפקידנו לבנות מזבח בנפשנו פנימה, לזבוח על מזבח זה את היצרים ואת התאוות. אש מזבח זה היא אש של יראת ה'. עשיית צדקה ומשפט אהובה על ה' יותר מעולות וזבחים, ומכאן יוצא הרמז הגדול לאדם שתהיינה אורחות חייו מתוקנות, ןיהיו מעשיו תמימים וישרים, באופן זה יחשב שבנינו מזבח לה' בליבנו פנימה.