Neumann urodził się w Forst (Łużyce Dolne) w rodzinie ewangelickiej jako syn właściciela fabryki. Po maturze Neumann studiował prawo i makroekonomię na uniwersytetach we Freiburgu, Lipsku i Halle. Od 1914 do 1917 walczył na wojnie, zakończył w randze porucznika.

W 1920 został asesorem w pruskim Ministerstwie Spraw Wewnętrznych, potem w urzędzie landrata w Essen. W 1923 awansował do doradcy rządowego [Regierungsrat]. 1924 pracował w pruskim Ministerstwie Handlu i Rzemiosła. Od 1926 do 1928 był landratem w okręgu Freystadt na Dolnym Śląsku. Od 1928 ponownie w Ministerstwie Handlu i Rzemiosła. Jako specjalista ds. gospodarki Neumann miał za zadanie reprezentować Niemcy na międzynarodowych konferecjach. Od 1932 był ministrem w pruskim Ministerstwie Państwowym [Staatsministerium] odpowiedzialnym za reformy administracji. W 1933 przejął także zadanie w pruskiej Radzie Państwa [Preußischer Staatsrat].

W 1933 przystąpil Neumann do NSDAP (był wtedy członkiem DNVP) a w 1934 do SS.

W związku z przygotowaniami do wojny przeciwko Rosji Sowieckiej Neumann zajmował się kwestią produkcji rolnej krajów, które miały być zdobyte. Podczas jednego wykładu w dn. 19 kwietnia 1941 na akademi administracyjnej Berlin twierdził, że z powodu braku importu pasz te tereny nie są już zdolne do wielkich produkcji i staną się nierentowne dla Rzeszy. Od 1941 był on też zastępcą przewodniczącego zarządu Kontynentalnego Przedsiębiorstwa Ropy Naftowej, mającej na celu wykorzystanie pokładów ropy na zdobytych terenach.

1942 został on dyrektorem Syndykatu Soli Potasowych. Zajmowane przez niego dotychczas stanowisko ministerialne jako przewodniczący grupy dewizowej przejął Friedrich Gramsch. 1945 został uwięziony, ale 1948 z powodu choroby zwolniony. wegen Krankheit entlassen wurde.