John Vernou Bouvier III nacque a East Hampton, New York, nel 1891. Il suo soprannome, “Black Jack”, si riferiva alla sua pelle perennemente abbronzata e al suo stile di vita sgargiante.
Il bisnonno di Bouvier, Michel Bouvier, era un ebanista francese di Pont-Saint-Esprit, nella regione meridionale della Provenza. Michel emigrò a Filadelfia nel 1815 dopo aver combattuto nelle guerre napoleoniche, lavorò per Joseph Bonaparte, sposò, rimase vedova e poi sposò Louise Clifford Vernou.
Oltre a creare mobili di pregio, Michel Bouvier aveva un’attività di distribuzione di legna da ardere. Per sostenere tale attività, ha acquisito grandi appezzamenti di terreno boschivo, alcuni dei quali contenevano una grande riserva di carbone. Michel crebbe ulteriormente la sua fortuna nella speculazione immobiliare. I suoi figli, Eustes, Michel Charles (M. C.) e John V. Bouvier Sr., si sono distinti nel mondo della finanza a Wall Street. Lasciarono le loro fortune al loro unico erede maschio Bouvier rimasto, il maggiore John Vernou Bouvier Jr., che usò parte del denaro per acquistare una tenuta nota come Lasata a East Hampton, Long Island.
Il maggiore John Vernou Bouvier Jr. (nato nel 1866), un avvocato di successo, e Maude Frances Sergeant (nata nel 1869) ebbero cinque figli, di cui John Vernou Bouvier III era il maggiore. Gli altri figli erano William Sergente “Bud” Bouvier, che era nato nel 1893 e morto per alcolismo nel 1929; Edith Ewing Bouvier Beale, che era nato nel 1895 divenne la moglie di Phelan Beale, Sr. e la madre di Edith Bouvier Beale, Phelan Beale, Jr, e Bouvier Beale, e i gemelli Maude Reppelin Bouvier Davis e Michelle Caroline Bouvier Scott Putnam (nato 1905).
John Vernou Bouvier III ha frequentato la Philips Exeter Academy e la Columbia Grammar & Preparatory School. Ha poi studiato al Columbia College, alma mater di suo padre, dove ha giocato a tennis per due anni prima di trasferirsi alla scuola scientifica di Sheffield alla Yale University. Mentre frequentava Yale, era un membro della società segreta del Libro e del Serpente e del Club del Chiostro. Si è laureato nel 1914.