Heinz föddes som ett av åtta barn till tyska invandrare. Hans far Johann Heinrich Heinz (*5 augusti 1811 i Kallstadt, 23 december 1891 i Pittsburgh) kom från Pfalz, hans mor Anna Margaretha Schmidt från Kruspis i Hesse. Entreprenören Friedrich Trump, som också immigrerade till Amerika från Kallstadt, farfar till den 45: e amerikanska presidenten Donald Trump, var en kusin till 2: a graden av Henry John Heinz.
år 1869 grundade Heinz tillsammans med sin vän L. Clarence Noble i Sharpsburg (Pennsylvania) Heinz Noble & – företaget, vars huvudprodukt var pepparrot i transparenta burkar för att bevisa produktens renhet. År 1875 måste detta företag ansöka om konkurs. Ett år senare grundade han tillsammans med sin bror och en kusin företaget F. & J. Heinz, i sortimentet som tomatketchup dök upp några år senare. År 1888 tog Heinz över aktierna i sina affärspartners, omstrukturerade företaget och döpte om det till H. J. Heinz Company. Höga kvalitetsstandarder och reklam var bland Heinzs recept för framgång.
Heinz var i Kallstadt flera gånger i sin ålderdom och tillbringade spa-vistelser i Bad Kissingen, senast vid 69 års ålder 1914, då han blev förvånad över Första Världskriget och inte fick lämna hotellet. Ändå lyckades han fly och återvända till USA via Holland. Detta var hans sista besök i Tyskland.
Heinz dog av lunginflammation den 14 maj 1919. Därefter drev hans son Howard Heinz företaget fram till 1941 och senare hans sonson Henry John Heinz II fram till 1987 och utvidgade det. Hans barnbarnsbarn, politiker Henry John Heinz III, var gift med filantropen Teresa Heinz och dog i kraschen av sitt privata plan 1991.