לאחר פרישתו מצה"ל הצטרף וילנאי למפלגת העבודה, וזכה במקום השלישי בבחירות הפנימיות של ישראל אחת לפני בחירות 1999. עם כינון ממשלת ברק ביוני 1999 מונה לשר המדע, התרבות והספורט. הוא נבחר לכנסת אולם התפטר ממנה בנובמבר אותה שנה, כדי לאפשר לבא אחריו ברשימת ישראל אחת לכנסת להיכנס אליה.
באותה הכנסת כיהן וילנאי כחבר הקבינט המדיני-בטחוני, כיו"ר וועדת השרים לענייני ערבים, יו"ר וועדת השרים לענייני טקסים ויו"ר וועדת השרים לענייני מדע.
וילנאי נשאר בתפקידו כשר המדע, התרבות והספורט גם עם כינון ממשלת שרון במארס 2001 במשך שנה, והתפטר ממנה בעקבות מניעים אידיאולגים יחד אם שאר שרי העבודה.