Voeller je po završetku igračke karijere u Bayeru 1996. godine postao manager u klubu iz Leverkusena a bi 2000. godine na nagovor preuzeo mjesto njemačkog izbornika. Na SP 2002. osvojio je drugo mjesto, ali je nakon ispadanja s prošlogodišnjeg EURA u prvom krugu podnio ostavku.
Početkom ove godine preuzeo je mjesto trenera Rome, ali je vrlo brzo i tamo podnio ostavku.