El techo abuhardillado, una característica definitoria del diseño del Segundo Imperio, había evolucionado desde el siglo XVI en Francia y Alemania y a menudo se empleaba en la arquitectura europea de los siglos XVIII y XIX. Su aparición en los Estados Unidos fue comparativamente poco común en el siglo XVIII y principios del XIX (Mount Pleasant en Filadelfia tiene un ejemplo de techos abuhardillados tempranos en sus pabellones laterales). En Canadá, debido a la influencia francesa en Quebec y Montreal, el techo abuhardillado se vio más comúnmente en el siglo XVIII y se usó como característica de diseño y nunca cayó en desgracia por completo. La primera residencia privada de estilo del Segundo Imperio en el Canadá inglés que se construyó con un techo abuhardillado fue para el farmacéutico comercial y especulador de tierras Tristram Bickle entre 1850-55.
No fue hasta mediados del siglo XIX que se puede encontrar el origen de la arquitectura del Segundo Imperio en los Estados Unidos y Canadá. Una serie de grandes proyectos y eventos en el diseño y la planificación urbana francesa proporcionaron la inspiración para la arquitectura del Segundo Imperio. La renovación de Haussmann de París bajo Napoleón III en la década de 1850 y la creación de conjuntos arquitectónicos barrocos que empleaban techos abuhardillados y adornos elaborados proporcionaron el impulso para el desarrollo y la emulación del estilo en los Estados Unidos. El trabajo de Haussmann estaba dirigido a renovar los decadentes barrios medievales de París mediante la demolición al por mayor y la nueva construcción de paisajes urbanos con líneas de cornisa uniformes y consistencia estilística, un conjunto urbano que impresionó a los arquitectos y diseñadores del siglo XIX. Además, la reconstrucción del Palacio del Louvre entre 1852 y 1857 por los arquitectos Louis Visconti y Héctor Lefuel fue ampliamente publicitada y sirvió para proporcionar un vocabulario de ornamentos arquitectónicos barrocos elaborados para el nuevo estilo. Finalmente, la Exposición Universal de 1855 atrajo a turistas y visitantes a París y mostró la nueva arquitectura y el urbanismo de la ciudad, un evento que atrajo la atención internacional del estilo. Estos desarrollos trabajaron juntos para despertar el interés en el diseño bajo el Segundo Imperio en los Estados Unidos, particularmente entre los francófilos y los interesados en la moda francesa, entonces bajo el dominio de la emperatriz Eugenia, cuyos gustos influyeron en la ropa, los muebles y la decoración de interiores. A pesar del historicismo de la ornamentación, la arquitectura del Segundo Imperio era generalmente vista como «moderna» e higiénica en oposición a los estilos de renacimiento del Renacimiento Italiano y Gótico que escuchaban el Renacimiento y la Edad Media.
El arquitecto europeo Detlef Lienau, que estudió arquitectura en París y emigró a los Estados Unidos en 1848, se le atribuye el diseño de la primera casa del Segundo Imperio en los Estados Unidos, la casa Hart M. Schiff en la ciudad de Nueva York, construida en 1850. Lienau siguió siendo un diseñador principal de casas del Segundo Imperio, diseñando la Mansión Lockwood-Matthews en Norwalk, Connecticut (diseñada en 1860). A pesar del trabajo de Lienau, el Segundo Imperio no desplazó los estilos dominantes de la década de 1850, el renacimiento italiano y el Gótico, y permaneció asociado solo con clientes particularmente ricos. La primera gran estructura del Segundo Imperio diseñada por un arquitecto estadounidense fue la galería de James Renwick, ahora la Galería Renwick diseñada para William Wilson Corcoran (1859-1860). La galería de Renwick fue uno de los primeros edificios públicos importantes en el estilo, y su recepción favorable fomentó el interés en el diseño del Segundo Imperio. Estos primeros edificios muestran una estrecha afinidad con los diseños de alto estilo que se encuentran en la nueva construcción del Louvre, con quoins, detalles de piedra, elementos tallados y esculturas, una fuerte división entre la base y el piano nobile, techos pavimentados y pilastras.
El estallido de la Guerra Civil limitó las nuevas construcciones en los Estados Unidos, y fue después del final de la guerra que el Segundo Imperio finalmente cobró prominencia en el diseño estadounidense. Los arquitectos Alfred B. Mullett, que supervisaba el departamento del Tesoro, y John McArthur, Jr., un importante diseñador de edificios públicos en el Atlántico Medio, ayudaron a popularizar el estilo de los edificios públicos e institucionales. Mullet, en particular, que favoreció el estilo, fue responsable de 1866 a 1874 del diseño de edificios públicos federales en los Estados Unidos, extendiendo el Segundo Imperio como un lenguaje estilístico en todo el país. Sus enormes y costosos edificios públicos en San Luis, Boston, Filadelfia, Cincinnati, Nueva York, y Washington DC., que siguió de cerca los precedentes establecidos por la construcción del Louvre con grandes techos abuhardillados y niveles de columnas superpuestas, causó una fuerte impresión en los arquitectos de las ciudades con nuevos diseños de Mullett. Debido a su primera aparición importante en edificios públicos, el Segundo Imperio se convirtió rápidamente en el estilo dominante para la construcción de grandes proyectos públicos y edificios comerciales. Irónicamente, los edificios del estilo construido en los Estados Unidos a menudo estaban más cerca de sus raíces del siglo XVII que los ejemplos del estilo que se encuentran en Europa.
Debido al gasto de diseñar edificios con el nivel de detalles elaborados que se encuentran en ejemplos europeos y públicos, la arquitectura residencial del Segundo Imperio fue adoptada por primera vez por hombres de negocios adinerados. Dado que la Guerra Civil había causado un auge en la fortuna de los empresarios en el norte, el Segundo Imperio fue considerado el estilo perfecto para demostrar su riqueza y expresar su nuevo poder en sus respectivas comunidades. El estilo se difundió por las publicaciones de diseños en libros de patrones y adoptó la adaptabilidad y el eclecticismo que la arquitectura italiana tenía cuando era interpretada por clientes de clase media. Esto hizo que las casas más modestas se apartaran de la ornamentación que se encuentra en los ejemplos franceses en favor de la ornamentación estadounidense más simple y ecléctica que se había establecido en la década de 1850. En la práctica, la mayoría de las casas del Segundo Imperio simplemente seguían los mismos patrones desarrollados por Alexander Jackson Davis y Samuel Sloan, el plan simétrico, el plan en L, para el estilo italiano, agregando un techo abuhardillado a la composición. Por lo tanto, la mayoría de las casas del Segundo Imperio exhibían las mismas características ornamentales y estilísticas que las formas italianas contemporáneas, diferenciándose solo en la presencia o ausencia de un techo abuhardillado. El Segundo Imperio también fue una elección frecuente de estilo para remodelar casas antiguas. Con frecuencia, los propietarios de casas italianas, coloniales o federales optaron por agregar un techo abuhardillado y elementos ornamentales franceses para actualizar sus hogares a la última moda.
A medida que los arquitectos estadounidenses y canadienses iban a estudiar a París en la École des Beaux-Arts en número creciente, el Segundo Imperio se hizo más significativo como una elección estilística. Los arquitectos canadienses se beneficiaron de tener una gran población francófona en la provincia de Québec que durante siglos había sido educada en estilos franceses, como lo ejemplifica el Grand Séminare (1668-1932) con su diseño colonial francés del Renacimiento tardío (Ciudad de Québec). Entre los edificios de los arquitectos estadounidenses que viajaron a París, el arquitecto H. H. Richardson diseñó varias de sus primeras residencias en el estilo, «evidencia de su educación francesa». Estos proyectos incluyen la Casa Crowninshield (1868) en Boston, Massachusetts, el S. S. Richardson House (1868) en Staten Island, Nueva York, y William Dorsheimer House (1868) en Buffalo, Nueva York. Chateau-sur-Mer, en la avenida Bellevue, en Newport, Rhode Island, fue remodelado y redecorado durante la edad dorada de la década de 1870 por Richard Morris Hunt en este estilo. Este estudio, sin embargo, junto con los acontecimientos históricos, demostró ser la ruina del estilo, aunque los edificios del Segundo Imperio continuaron construyéndose hasta finales del siglo XIX. La caída de Napoleón III y el Segundo Imperio en 1870 y la derrota francesa en la Guerra Franco-prusiana agriaron el interés por los estilos y gustos franceses. Además, en los Estados Unidos, la extravagancia de Alfred Mullett en sus diseños, el desperdicio de dinero y el escándalo de su asociación con empresarios corruptos, llevaron a su renuncia en 1874 de su puesto como arquitecto supervisor, un desarrollo que dañó la reputación del estilo. Finalmente, a medida que más arquitectos pasaban tiempo en París entre los principales ejemplos de la arquitectura francesa, su estilo cambió a favor de una fidelidad más cercana a los diseños franceses contemporáneos, lo que llevó al desarrollo del clasicismo de Beaux Arts en los Estados Unidos.
El Segundo Imperio fue sucedido por el renacimiento del Estilo Queen Anne y sus subestilos, que gozaron de gran popularidad hasta el comienzo de la «Era del Renacimiento» en la arquitectura estadounidense justo antes de finales del siglo XIX, popularizado por la arquitectura en la Exposición Universal de Chicago en 1893.