נולד בשנת 1939 בגרמניה ( האמבורג ) , בהיותו בן 14 עברה משפחתו לפאריס .
אימו הייתה דמות חזקה ואקסצנטרית , כשנמאס לה מנסיונות בנה על הפסנתר היא הציעה שיצייר , ציור אינו מוציא צליל , כך על-פי האגדה החל לגרפלד לעצב. אימו לא הופיעה אף לא לאחת מתצוגות האופנה הרבות של בנה , היא מעדיפה לדבריה את סוניה רייקל .
בגיל 16 השתתף קרל לגרפלד בתחרות woolmark לעיצוב אופנה וזכה במקום הראשון בסיווג המעילים , זו הייתה התחרות הראשונה גם עבור איב-סאן-לורן שניצח בסיווג השמלות.