הפסוק "שופטים ושוטרים תתן לך בכל שעריך" (דברים ט"ז, י"ח) מלמדנו שחייבים אנו למנות שופטים, שידאגו לכך שהעם ישמור את מצוות התורה, "ויצוו לעשות טוב ויחזרו מהרע ויעמידו הגדרים על העובר, עד שלא יהיו מצוות התורה ואזהרותיה נדונות לפי אמונת כל איש" (ספר המצוות לרמב"ם מצוה קע"ו). קיום המצוה הוא על ידי מינוי בתי דין בכל עיר ובכל שבט.

כשישבו ישראל על אדמתם, היו בתי דין של שלושה דיינים שסמכותם היתה לפסוק בדיני ממונות וקנסות, ובתי דין של עשרים ושלושה דיינים שדנו גם דיני נפשות.

נוסף לכל בתי הדין הללו, היה קיים בבית המקדש בית הדין הגדול שמנה שבעים ואחד איש, והיווה את הסמכות השיפוטית העליונה בעם ישראל. נוסף לכוחו השיפוטי היווה בית דין עליון זה מעין "מועצת הזקנים" העליונה של העם, ולכן בתוקף תפקידו וסמכויותיו הוא מינה את הדיינים בכל רחבי ארץ ישראל, ודן בדינים מיוחדים כגון: שפיטת נביא שקר, שפיטת זקן ממרא, החלטה על יציאה למלחמת הרשות ועוד, גם כל דבר קשה שבתי הדין המקומיים לא יכלו להכריע בו, הובא להחלטת בית דין הגדול, והחלטתו היוותה פסק סופי בעניין.

לבית הדין יכול להצטרף רק דיין שנתמנה לכך ע''י בית הדין הגדול. מינוי זה נקרא "סמיכה". משה רבינו סמך את יהושע ואת הזקנים, והם המשיכו והסמיכו את הדור הבא וכן הלאה עד תקופתו של רבי הלל בשנת ד' אלפים קי"ח (4118), אז נפסקה הסמיכה.

בית דין הגדול היה שולח שליחים לקצווי ארץ ישראל ובורר את האנשים המתאימים לדיינות. מתכונותיו של הדיין: "שימצאוהו חכם וירא חטא ועניו ופרקו נאה ורוח הבריות נוחה הימנו" (רמב"ם סנהדרין פ"ב ה"ח). כשהיו מוצאים את האדם המתאים, היו סומכים אותו על ידי שצרפו לשמו את התואר "רבי", ואמרו לו "הרי אתה סמוך, ויש לך רשות לדון".

בשנת ה' אלפים רח"ץ (5298) אסף אחד מגדולי הדור, רבי יהודה בירב בצפת, את כל חכמי עירו, והם הסמיכו אותו לדיין, ולאחר מכן הוא סמך אחרים. בכך נתכוון לחדש את הסמיכה שהיתה בטלה כ-1180 שנה. הוא הסתמך על דברי הרמב"ם, שמתוכם אפשר ללמוד שיש מקום לחדש את ה"סמיכה" בהסכמת חכמי הדור.

גדול אחר, רבי לוי בן חביב מירושלים, החליף אתו מספר מכתבים בנידון, והשיג על מעשיו. בין נימוקיו טען שהרמב"ם בעצמו נשאר מסופק בדין זה וכתב "והדבר צריך הכרע" והרי ראינו שבמשך 1180 שנה שבהן חיו תלמידי חכמים גדולים וצדיקים מאתנו, לא חידשו את הסמיכה על אף הצורך בסמכות עליונה. ואף על פי שגם בדורנו יש גדולי תורה, אולם כדי להיות "סמוך" חייבים להיות בדרגה גבוהה הרבה יותר. הם דנו בדבר בכמה מכתבים, ובסופו של דבר לא נתקבל עניין חידוש הסמיכה על דעת חכמי הדור. נושא הסמיכה נותר אפוא לסמכותו של מלך המשיח שיבוא וימנה סנהדרין סומכת.