הסנהדרין היתה הסמכות העליונה בעם. היא היתה שותפה להנהגה, והמלכים שמלכו בימי בית המקדש הראשון היו זקוקים להסכמתה. הסנהדרין הגדולה היא זו שהיתה דנה את מנהיגי העם – מלכים, נשיאי שבט וכהנים גדולים – ולהבדיל, היא זו שדנה את נביאי השקר. הסנהדרין היתה זו שהחליטה על תוספת שטח לירושלים או לעזרות של הר הבית. בסמכות הסנהדרין הגדולה היה גם למנות סנהדריות קטנות לשבטים ועוד.
הסנהדרין הגדולה מנתה שבעים ואחד חכמים, והמקור לקיומה מופיע בתורה (במדבר י"א, ט"ז-י"ז): "אספה לי שבעים איש מזקני ישראל, אשר ידעת כי הם זקני העם ושוטריו... ואצלתי מן הרוח אשר עליך ושמתי עליהם". כך קמה במדבר ההנהגה הרוחנית של העם, משה ושבעים הזקנים. התורה מספרת בפרשת יתרו שההצעה הראשונה למינוי שופטים, היתה של יתרו, חותן משה.
הסנהדרין הגדולה ישבה בלשכת הגזית בהר הבית. כתוב בתורה (דברים י"ז): "כי יפלא ממך דבר למשפט, בין דם לדם, בין דין לדין, ובין נגע לנגע, דברי ריבות בשעריך – וקמת ועלית אל המקום אשר יבחר ה' אלקיך בו, ובאת אל הכהנים הלויים ואל השופט אשר יהיה בימים ההם, ודרשת והגידו לך את דבר המשפט. ועשית על פי הדבר אשר יגידו לך מן המקום ההוא אשר יבחר ה', ושמרת לעשות ככל אשר יורוך. על פי התורה אשר יורוך ועל המשפט אשר יאמרו לך – תעשה, לא תסור מן הדבר אשר יגידו לך ימין ושמאל". "המקום אשר יבחר ה'" הוא בית המקדש שבירושלים, הסנהדרין שישבה בלשכת הגזית שבבית המקדש, שאבה את סמכותה ממקום זה.
אם נמצא חלל בשדה, היו חלק מחברי הסנהדרין יוצאים מלשכת הגזית אל אותו מקום, כדי להביע את מחאתם על שפיכת דם נקי וכדי להדגיש את הערך העליון של קדושת החיים.
סנהדרין קטנה מנתה עשרים ושלושה דיינים, והיתה מוסמכת לדון דיני ממונות ואף דיני נפשות. הקמת סנהדרין קטנה בכל עיר מהווה קיום של הפסוק: "שופטים ושוטרים תתן לך בכל שעריך, אשר ה' אלקיך נותן לך לשבטיך, ושפטו את העם משפט צדק" (דברים ט"ז, י"ח).
הרמב"ם בהלכות סנהדרין מפרט ומסביר את אופן בחירת הדיינים ואופן ישיבתם בבית הדין:
"קובעים בתחילה בית דין גדול במקדש, והוא הנקרא: סנהדרי גדולה, ומניינם שבעים ואחד. שנאמר: 'אספה לי שבעים איש מזקני ישראל', ומשה על גביהן שנאמר: 'והתיצבו שם עמך', הרי שבעים ואחד. הגדול בחכמה שבכולם מושיבים אותו ראש עליהם, והוא ראש הישיבה, והוא שקורים אותו החכמים נשיא בכל מקום, והוא העומד תחת משה רבינו. ומושיבים הגדול שבשבעים משנה לראש, ויושב מימינו, והוא הנקרא אב בית דין ושאר הדיינים יושבין לפניו כפי שניהם וכפי מעלתם. כל הגדול מחבירו בחכמה יהיה קרוב לנשיא משמאלו יותר מחבירו. והם יושבים כמו חצי גורן בעיגול, כדי שיהיה הנשיא עם אב בית דין רואים את כולם". "מעמידים שני בתי דינים של עשרים ושלושה, עשרים ושלושה אחד על פתח העזרה ואחד על פתח הר הבית. ומעמידים בכל עיר ועיר מישראל סנהדרי קטנה ויושבת בשער העיר, שנאמר: 'והציגו בשער משפט'. והגדול בחכמה שבכולם ראש עליהם והשאר יושבים בעיגול כמו חצי גורן כדי שיהא הראש רואה את כולם".
"אין מעמידים בסנהדרין, בין בגדולה בין בקטנה, אלא אנשים חכמים ונבונים. מופלגים בחכמת התורה, בעלי דיעה מרובה. יודעים קצת משאר חכמות כגון, רפואות וחשבון ותקופות ומזלות ואיצטגנינות ודרכי המעוננים והקוסמים והמכשפים והבלי עבודה זרה וכיוצא באלו, כדי שיהיו יודעים לדון אותם".
באופן זה התקיימו כל דיני התורה לפרטיהם ונידונו כל הדיונים שהיו בין אדם לחברו. הסנהדרין היתה גולת הכותרת של קיום דיני ה' בקרב העם.