Heinz német bevándorlók nyolc gyermekének egyikeként született. Apja Johann Heinrich Heinz (*augusztus 5, 1811 a Kallstadt; 63 december 1891 Pittsburgh) jött a Pfalz, anyja Anna Margaretha Schmidt a Kruspis a Hesse. Friedrich Trump vállalkozó, aki szintén kallstadtból emigrált Amerikába, Donald Trump 45.amerikai elnök nagyapja, Henry John Heinz 2. fokozatának unokatestvére volt.
1869-ben Heinz alapította barátjával, L. Clarence Noble Sharpsburgban (Pennsylvania) A Heinz Noble & cég, amelynek fő terméke Torma volt átlátszó üvegekben, hogy bizonyítsa a termék tisztaságát. 1875-ben ennek a társaságnak csődöt kellett benyújtania. Egy évvel később testvérével és unokatestvérével együtt megalapította az F. & J. Heinz céget, amelynek termékválasztékában néhány évvel később megjelent a paradicsom ketchup. 1888-ban Heinz átvette üzleti partnerei részvényeit, átszervezte a vállalatot és átnevezte H. J. Heinz Company-ra. A magas minőségi színvonal és a reklám A Heinz sikerének egyik receptje volt.
Heinz idős korában többször is Kallstadtban tartózkodott, és gyógyfürdőket töltött Bad Kissingenben, Legutóbb 69 éves korában, 1914-ben, amikor meglepte az első világháború, és nem hagyhatta el a szállodát. Ennek ellenére sikerült elmenekülnie és Hollandián keresztül visszatérnie az USA-ba. Ez volt az utolsó látogatása Németországban.
Heinz tüdőgyulladásban halt meg május 14, 1919. Ezt követően fia, Howard Heinz vezette a céget 1941-ig, majd unokája, Henry John Heinz II 1987-ig, majd kibővítette. Dédunokája, III. Henry John Heinz politikus, Teresa Heinz filantróp felesége volt, aki 1991-ben magánrepülőgépének lezuhanásában halt meg.