במהלך סיבוב ההופעות של "Rid Of Me הרווי מחליטה לפרק את השלישה כדי להתפתח ולעבוד עם מוסיקאים נוספים.
אם סיום סיבוב ההופעות היא מתחילה לעבוד על אלבומה השלישי, אלבום סולו. אליה מצטרפים הבסיסט מיק הרויי והגיטריסט ג'ו גור.ב-1995 יוצא "To Bring You My Love" אלבום אלקטרוני ומקורי שבו בנוסף לשירה הרווי מנגנת גם על גיטרה פרקשן וקלידים.
בעקבות הצלחת האלבום היא יוצאת לסיבוב הופעות רחב בו הופעתה התיאטרלית מתפתחת. באותה שנה היא גם זוכה בשני פרסי גראמי ותואר אומן השנה של מגזין המוסיקה הרולינג סטון.
ב-1996 הרווי מקליטה דואט עם ניק קייב "Henrey Lee" אשר מופיע באלבומו של קייב "Murder Ballads".
בנוסף היא גם משתתפת באלבומו של ג'ון פריש "Dance Hall at Louse Point", היא כותבת את המילים והוא את המוסיקה.
בספטמבר 1998 יוצא האלבום החמישי של הרווי "Is This Desire" הכולל 12 קטעים מקוריים אשר את כולם כתבה הרווי.