John Vernou Bouvier III est né à East Hampton, New York, en 1891. Son surnom, « Black Jack », faisait référence à sa peau perpétuellement bronzée et à son style de vie flamboyant.
L’arrière-grand-père de Bouvier, Michel Bouvier, était un ébéniste français originaire de Pont-Saint-Esprit, dans le sud de la Provence. Michel a immigré à Philadelphie en 1815 après avoir combattu dans les guerres napoléoniennes, a travaillé pour Joseph Bonaparte, s’est marié, est devenu veuf, puis a épousé Louise Clifford Vernou.
En plus de fabriquer des meubles de qualité, Michel Bouvier avait une entreprise de distribution de bois de chauffage. Pour soutenir cette entreprise, il acquit de vastes étendues de terres boisées, dont certaines contenaient une importante réserve de charbon. Michel a encore accru sa fortune dans la spéculation immobilière. Ses fils, Eustes, Michel Charles (M.C.), et John V. Bouvier Sr., se sont distingués dans le monde de la finance à Wall Street. Ils ont laissé leur fortune à leur seul héritier mâle restant, le major John Vernou Bouvier Jr., qui a utilisé une partie de l’argent pour acheter un domaine connu sous le nom de Lasata à East Hampton, Long Island.
Le major John Vernou Bouvier, Jr. (né en 1866), avocat à succès, et Maude Frances Sergeant (née en 1869) ont eu cinq enfants, dont John Vernou Bouvier III est l’aîné. Leurs autres enfants étaient William Sergeant « Bud » Bouvier, né en 1893 et décédé de l’alcoolisme en 1929; Edith Ewing Bouvier Beale, née en 1895 et devenue l’épouse de Phelan Beale, Sr. et la mère d’Edith Bouvier Beale, Phelan Beale, Jr., et Bouvier Beale; et les jumelles Maude Reppelin Bouvier Davis et Michelle Caroline Bouvier Scott Putnam (nées en 1905).
John Vernou Bouvier III a fréquenté la Philips Exeter Academy et la Columbia Grammar&École préparatoire. Il a ensuite étudié au Columbia College, l’alma mater de son père, où il a joué au tennis pendant deux ans avant d’être transféré à la Sheffield Scientific School de l’Université de Yale. Pendant ses études à Yale, il était membre de la société secrète du Livre et du Serpent et du Club du Cloître. Il est diplômé en 1914.