ב-1981 הלהקה מוציאה אלבום נוסף "Diary of a Madman" אלבום זה הכולל את השיר "Flying High Again" המדבר על שימוש בסמים, הופך גם הוא להצלחה אדירה והלהקה יוצאת לסיבוב הופעות.
רוהדס נהרג בתאונת מטוס מיסתורית, ואוסבורן אשר איבד את חברו הטוב ביותר נכנס לדיכאון עמוק.התוכניות להוציא אלבום בהופעה חיה בוטלו.
ב-1983 מוציא אוסבורן את "Speak of the Devil" המכיל הקלטות חיות של שירים ישנים של בלאק סאבאת.
ב-1984 עם ג'יק אי. ליי כגיטריסט מוציא אוסבורן את "Bark at the Moon". האלבום זוכה לביקורות נלהבות והלהקה יוצאת לסיבוב הופעות.
ב-1986 הלהקה מוציאה אלבום נוסף "the Ultimate Sin". האלבום זוכה לביקורת קשה על ידי המבקרים אשר טוענים כי הוא שטחי ומשעמם אך למרות זאת הוא הופך להצלחה אדירה.
ב-1987 יוצא "Tribute" אלבום אשר הוקלט בהופעה חיה ב-1981 ומוקדש לזכרו של רוהדס.
לי עוזב את הלהקה ומחליף אותו זאק ווילד.