ב-1971 יוצא אלבומה השלישי של הלהקה "Master of Reality" ונמכר ביותר ממיליון עותקים בעקבות הצלחתו בספטמבר 1972 הלהקה מוציאה אלבום נוסף "Black Sabbath, Vol 4".
נובמבר 1973 יוצא אלבום נוסף "Sabbath Bloody Sabbath" באלבום זה מתחיל להסתמן איזשהו שינוי בסגנון המוסיקלי של הלהקה.
עקב מחלוקת עם הנהלת הלהקה, הלהקה כמעט ולא מתפקדת לאורך 1974.
ביולי 1975 הם חוזרים עם אלבומם השישי "Sabotage".
ב-1976 הלהקה עובדת על אלבום שביעי, הרצון לשנות את הסגנון המוסיקלי גורם למחלוקת בלהקה בין יומי אשר רוצה להכניס מוטיבים מוסיקלים נוספים, כולל חצוצרות ואוסבורן אשר לא רוצה לשנות דבר. האלבום "Technical Ecstasy" יוצא באוקטובר של אותה שנה, הלהקה משלבת בו חלק מהצעותיו של יומי. האלבום מקבל ביקורות טובות אך לא נפלאות כבעבר.
תסכולו של אוסבורן מוביל לעזיבתו את הלהקה בנובמבר 1977.
דייב וולקר מחליף אותו במספר הופעות חיות ובינואר 1978 אוסבורן חוזר ללהקה.
ספטמבר 1978 הלהקה מקליטה את אלבומה השמיני "Never Say Die" האלבום זוכה להצלחה אדירה ואוסבורן פורש מן הלהקה כדי לפתוח בקריירת סולו.