Przez 37 lat był proboszczem ewangelickiej parafii w Jeleniej Górze-Cieplicach. Łączył pracę duszpasterską z pasją astronoma. Ks. Neumann po maturze zdanej w rodzinnym Kaliszu w 1954 r. zaczął studia teologiczne w Chrześcijańskiej Akademii Teologicznej w Warszawie. W 1958 r. został wikariuszem parafii w Poznaniu, gdzie pracował do 1961 r., gdy Konsystorz mianował go administratorem parafii Jelenia Góra-Cieplice, gdzie był proboszczem aż do przejścia w stan spoczynku w 1998 r. W okresie pracy duszpasterskiej ks. Alfred Neumann, długoletni członek Polskiego Towarzystwa Miłośników Astronomii, uczył w liceum astronomii, działał też we władzach polskich i międzynarodowych instytucji astronomicznych: był członkiem Międzynarodowej Unii Miłośników Astronomii w Bolonii, reprezentował PTMA na Zjeździe Unii w Kanadzie. Za osiągnięcia w dziedzinie astronomii został odznaczony Srebrnym Krzyżem Zasługi. Po przejściu na emeryturę przeniósł się wraz z żoną Anną (przeżyli razem 40 lat, zmarła w 2010 r.) w Zamarskach koło Cieszyna. W ostatnich latach mieszkał w Domu Opieki „Emaus” w Dzięgielowie.