Tidligere CIA-sjef Robert Gates blir ny forsvarsminister.
Kunngjøringen kom etter at republikanerne mistet flertallet i Representantenes hus.
President George W. Bush holdt i kveld pressekonferanse i Det hvite hus. Han bekreftet både at Donald Rumsfeld går av, og at Robert Gates overtar.
Rumsfeld har fått mye kritikk for sin håndtering av krigen i Irak, og krigen blir ansett som den viktigste grunnen til at mange velgere vendte republikanerne ryggen.
Presidenten har tatt på seg en stor del av ansvaret for republikanernes valgnederlag. Han tror at dette særlig skyldes at de amerikanske velgerne er frustrete over manglende framgang i Irak-krigen.
Den tredje mektigste politikeren i USA etter valget,demokraten Nancy Pelosi, som blir "speaker" i Representantenes hus, krevde også Rumfelds avgang på en pressekonferanse i kveld.
Skuffet Bush tar ansvar
Bush sa at han er skuffet over utfallet av valget.
- Som lederen av det republikanske partiet har jeg en stor del av ansvaret. Jeg har fortalt partilederne at det nå er vår plikt å legge valget bak oss og samarbeide med demokratene og uavhengige representanter om de store spørsmålene vårt land står overfor, sa Bush.
Han understreket at han fortsatt har full tillit til visepresident Dick Cheney, og bekreftet at Cheney vil bli værende ut perioden, som varer fram til januar 2009.
