John Vernou Bouvier III nació en East Hampton, Nueva York, en 1891. Su apodo, «Black Jack», se refería a su piel de bronceado perpetuo y su estilo de vida extravagante.
El bisabuelo de Bouvier, Michel Bouvier, era un ebanista francés de Pont-Saint-Esprit, en la región del sur de Provenza. Michel emigró a Filadelfia en 1815 después de luchar en las Guerras Napoleónicas, trabajó para Joseph Bonaparte, se casó, enviudó, y luego se casó con Louise Clifford Vernou.
Además de fabricar muebles finos, Michel Bouvier tenía un negocio de distribución de leña. Para apoyar ese negocio, adquirió grandes extensiones de tierra boscosa, algunas de las cuales contenían una gran reserva de carbón. Michel creció aún más su fortuna en la especulación inmobiliaria. Sus hijos, Eustes, Michel Charles (M. C.) y John V. Bouvier Sr., se distinguieron en el mundo de las finanzas en Wall Street. Dejaron sus fortunas a su único heredero masculino Bouvier, el mayor John Vernou Bouvier Jr., que usó parte del dinero para comprar una finca conocida como Lasata en East Hampton, Long Island.El mayor John Vernou Bouvier, Jr. (nacido en 1866), abogado de éxito, y la sargento Maude Frances (nacida en 1869) tuvieron cinco hijos, de los cuales John Vernou Bouvier III era el mayor. Sus otros hijos fueron William Sargento» Bud » Bouvier, que nació en 1893 y murió de alcoholismo en 1929; Edith Ewing Bouvier Beale, que nació en 1895 y se convirtió en la esposa de Phelan Beale, Sr. y la madre de Edith Bouvier Beale, Phelan Beale, Jr.y Bouvier Beale; y los gemelos Maude Reppelin Bouvier Davis y Michelle Caroline Bouvier Scott Putnam (nacidos en 1905).
John Vernou Bouvier III asistió a Philips Exeter Academy y Columbia Grammar & Escuela Preparatoria. Luego estudió en el Columbia College, el alma mater de su padre, donde jugó al tenis durante dos años antes de transferirse a la Escuela Científica de Sheffield en la Universidad de Yale. Mientras asistía a Yale, fue miembro de la sociedad secreta de Serpientes y Libros y del Club de Clausura. Se graduó en 1914.