Gerber służył w CIA przez 39 lat, m.in. w Berlinie i Jugosławii. W latach 70. służył w stacji CIA w Moskwie, gdzie był jednym z oficerów współpracujących z bardzo ważnym szpiegiem CIA w radzieckim przemyśle zbrojeniowym Adolfem Tołkaczowem.
W latach 80. Gerber był rezydentem CIA w Moskwie, co oznacza, iż dowodził wszystkimi amerykańskimi operacjami szpiegowskimi na terytorium ZSRR. W 1984 r. został szefem wydziału radzieckiego — wówczas najważniejszego w Centralnej Agencji Wywiadowczej — w centrali CIA pod Waszyngtonem.
Większość odznaczeń, jakie otrzymał Gerber podczas swej służby, jest tajna. Historycy amerykańskiego wywiadu uważają jednak, iż był on jednym z najczęściej odznaczanych oficerów CIA czasów zimnej wojny.
