Jay Z:s unga dagar var allt annat än fridfulla. Projekten i New Yorks största förort Brooklyn har sedan länge haft en mycket hög kriminell aktivitet. Trots att Jay Z visade stor potential som elev under sina gymnasieår, så valde den då unga artisten att hoppa av skolan för att tjäna pengar genom att langa droger.
I sina tonår så höll han alltid musik nära till hjärtat. Musiken var det som fick honom att vakna upp varje morgon och tro på en bättre framtid, en framtid utan pistolskott, misshandel, och överdoser. Vart han än gick så tog Jay Z med sig papper och penna och en ordbok, ifall han skulle ha tid över för att jobba på sina låtar. Efter att ha blivit skjuten och under samma attack sett en vän nästan mista livet så bestämde sig Shawn Carter för att det fick vara nog. Tillsammans med en annan ung artist så producerade de deras första singel ”The Originators”. Låten gjorde väldigt bra ifrån sig sett ur Jay Z:s perspektiv och nådde till och med MTV. Trots denna framgång så var det inte mycket som förändrades i den mörka vardagen. Det fanns inget skivbolag som var tillräckligt intresserade för att skriva kontrakt med honom. Det såg ut som att Shawn Carter skulle få vänja sig med livet i Brooklyn.
Jay Z själv hade dock andra planer. Istället för att ta skivbolagens nej som en anledning att avsluta sin karriär så bestämde han sig för att producera själv, och grundade därmed sitt eget skivbolag Roc-A-Fella. Roc-A-Fella är idag det absolut största skivbolaget i musikens historia och har tjänat mer pengar än något annat skivbolag och mer än någon artist världen över. Vägen dit var dock inte rak. Efter att Jay Z och hans nära vän öppnat upp skivbolaget så dröjde det inte länge förrän de artister som de skrivit kontrakt med, alla lämnade skivbolaget. 1997, två år efter dess start, så hade skivbolaget endast producerat och släppt en låt.
1998 kom framgången. Jay Z släppte själv albumet Vol. 2 och låten ”Hard Knock Life” vilket blev en enorm succé. Både Jay Z och Roc-A-Fella blev en världsnyhet. Roc-A-Fella blev senare sålt för flera miljoner amerikanska dollar. Idag är Jay Z både ordförande och vd för skivbolaget och anses ha ett nettovärde på över en miljard amerikanska dollar.