Okładka Houses of the Holy została zainspirowana powieścią Arthura C. Clarke'a pt. Koniec dzieciństwa. Okładka jest kolażem kilku fotografii wykonanych na Grobli Olbrzyma w Irlandii Północnej przez Aubreya Powella z Hipgnosis. W roli modeli wystąpiła dwójka dzieci - rodzeństwo Stefan i Samantha Gates, a cały proces fotografowania trwał aż dziesięć dni. 

W trakcie sesji nagraniowych powstał także utwór tytułowy, zespół nie zdecydował się go jednak umieścić na płycie. Dlaczego? Grupa uznała, że za bardzo przypomina on pod względem tempa Dancing Days. Kompozycja Houses of the Holy trafiła na wydany w 1975 roku album Physical Graffiti. 

Promocji albumu towarzyszyła monumentalna trasa koncertowa. By zapewnić sobie jak największy komfort, a do tego sprawne przemieszczanie się między państwami, zespół postanowił wynająć komfortowy i bezpieczny samolot, który zastąpiłby odrzutowiec Falcon 20, z którego korzystali do tej pory. Kierownik trasy, Richard Cole znalazł prawdziwy latający pałac, nazywany The Starship. Został on zakupiony przez Bobby'ego Shermana i jego menadżera, Warda Sylvestera i przekształcony z samolotu pasażerskiego na naprawdę luksusowy środek transportu powietrznego.

Choć muzyk był wielkim fanem zespołu, pewnego razu zarzucił mu, że nie potrafi tworzyć ballad. Jimmy Page postanowił więc udowodnić koledze, że jest zupełnie inaczej i w związku z tym napisał utwór, zatytułowany The Rain Song, który trafił na Houses of the Holy. Co ciekawe, początkowe akordy są takie same jak w utworze Something z albumu The Beatles Abbey Road, którą napisał... Harrison!

Było to ostatnie wydawnictwo studyjne Led Zeppelin, nagrane dla Atlantic Records przed założeniem własnej wytwórni - Swan Song Records w 1974 roku, która miała być dystrybuowana przez Atlantic. Był to również jedyny album Led Zeppelin, który zawierał pełne drukowane teksty każdej piosenki w dołączonej książeczce.