La historia tiene lugar en 1888, con un flashback basado en el libro de Allan Pinkerton sobre los Molly Maguires en las minas de carbón de Pennsylvania, en 1875. La novela está dividida en dos partes bien diferenciadas. En la primera parte, Sherlock Holmes, utilizando sus técnicas habituales, descubre la identidad de un homicida. Una vez detenido el asesino, la historia vuelve hacia atrás en el tiempo, y narra en tercera persona los antecedentes del asesino y la víctima. Esta narración está basada en los Molly Maguires, una organización que existió realmente en Estados Unidos. Al final se cuenta brevemente como se llegó a la situación inicial y los motivos del asesinato, enlazando ambas historias. En este sentido, El valle del terror, la última novela de Sherlock Holmes, imita la estructura entonces Conan Doyle sea el primero de varios escritores que ignora el hecho, narrado en El problema final, de que el doctor Watson oyó hablar de Moriarty poco antes de su muerte, sin existir ninguna aventura en común. El nombre de El valle del terror es una traducción del nombre de un valle en el sur de Francia. Durante la época de las cruzadas este valle fue popularizado por los cátaros, y algunos creen que el Santo Grial llegó hasta allí desde Tierra Santa. Es clara la influencia de esta obra en una posterior del escrito norteamericano Dashiell Hammet, titulada "Cosecha roja." Muchos consideran que "El valle del terror" anticipa a la novela negra como género.