En un principio Delerium sería un proyecto de dos miembros, pero con el tiempo se fueron agregando más integrantes. El único que ha permanecido fijo ha sido Bill Leeb. Antes de 1986, Leeb había colaborado con otro grupo llamado Skinny Puppy y había creado su propio proyecto llamado Front Line Assembly, que tenia como colaborador a Michael Balch. En 1987 lanzaron su primer disco, Faces, Forms, & Illusions. Al principio Delerium era una idea de la música sobrante de Front Line Assembly, pero poco a poco fue tomando importancia alcanzando el grado de ser el más importante junto Front Line Assembly.