Heinz nació como uno de los ocho hijos de inmigrantes alemanes. Su padre Johann Heinrich Heinz (*5 de agosto de 1811 en Kallstadt; † 23 de diciembre de 1891 en Pittsburgh) provenía del Palatinado, su madre Anna Margaretha Schmidt de Kruspis en Hesse. El empresario Friedrich Trump, que también emigró a Estados Unidos desde Kallstadt, abuelo del 45º presidente de Estados Unidos, Donald Trump, era primo del 2º grado de Henry John Heinz.
En 1869 Heinz fundó, junto con su amigo L. Clarence Noble en Sharpsburg (Pensilvania) la empresa Heinz Noble &, cuyo producto principal era el rábano picante en frascos transparentes para demostrar la pureza del producto. En 1875, esta empresa tuvo que declararse en quiebra. Un año más tarde, junto con su hermano y un primo, fundó la empresa F. & J. Heinz, en cuya gama de productos apareció la salsa de tomate unos años más tarde. En 1888, Heinz se hizo cargo de las acciones de sus socios comerciales, reestructuró la compañía y la renombró como H. J. Heinz Company. Los altos estándares de calidad y la publicidad fueron algunas de las recetas de éxito de Heinz.
Heinz estuvo en Kallstadt varias veces en su vejez y pasó estancias de spa en Bad Kissingen, la más reciente a la edad de 69 años en 1914, cuando fue sorprendido por la Primera Guerra Mundial y no se le permitió salir del hotel. Sin embargo, logró escapar y regresar a los Estados Unidos a través de Holanda. Esta fue su última visita a Alemania.Heinz murió de neumonía el 14 de mayo de 1919. Después de eso, su hijo Howard Heinz dirigió la compañía hasta 1941 y más tarde su nieto Henry John Heinz II hasta 1987 y la expandió. Su bisnieto, el político Henry John Heinz III, estaba casado con la filántropa Teresa Heinz y murió en el accidente de su avión privado en 1991.