Originalmente conocida como la Iglesia Unión, la antigua estructura de piedra es la tercera iglesia construida por los primeros colonos europeos en Long Valley. Estos colonos provenían de lo que hoy llamamos Alemania, en la región del Palatinado Renano. Tanto los reformados holandeses como los luteranos alemanes se encontraban entre los primeros pobladores. Dos denominaciones utilizaban las Iglesias Unión. Entre 1743 y 1745, los nuevos colonos construyeron una capilla sencilla de troncos al sur de lo que hoy es Long Valley, al pie de Fox Hill. Henry Melchior Muhlenberg, considerado el padre del luteranismo en América, predicó en la capilla de troncos en agosto de 1745.

Con el tiempo hubo una división entre los colonos de la Reforma Holandesa. Algunos permanecieron al sur del pueblo (donde ahora se encuentra la Iglesia Fairmount). La otra rama de la Reforma Holandesa y los luteranos alemanes construyeron una nueva capilla de troncos en 1747 en Long Valley (entonces llamada German Valley). En 1774, se construyó esta iglesia de piedra, probablemente en un terreno al lado de la antigua iglesia de troncos. Durante la época colonial, la Iglesia Unión fue atendida por predicadores de New Germantown (ahora llamada Oldwick) o por predicadores laicos. Henry Melchior Muhlenberg predicó en la iglesia de troncos aquí en Long Valley, al igual que sus hijos, John Peter Muhlenberg y Gotthilf Heinrich Ernst Muhlenberg. En 1771, John Peter dejó el pastorado de Zion (Oldwick y Long Valley) para servir a una congregación en Virginia. Fue desde su púlpito en Virginia, en 1776, que John Peter predicó un sermón basado en el texto de Eclesiastés: «Hay tiempo para todo propósito bajo el cielo». Declaró que había un tiempo para predicar y un tiempo para luchar. Al día siguiente se alistó en las fuerzas revolucionarias.