Ifølge Japans regjering oppga Tanaka helseproblemer som årsaken til at han nå trekker seg fra sin post, skriver AFP.
Men landets medier er skeptiske til Tanaka og regjeringens forklaring, og mange rapporterer at 74-åringen ga etter for presset etter at det for drøye to uker sider ble avslørt at han hadde hatt forbindelser til yakuzaen - betegnelsen på Japans organiserte kriminelle.
Bryllupsgjest hos mafiaen
Tanaka hadde nemlig vært til stede i et bryllup og blitt omtalt som en viktig gjest da et yakuza-medlem giftet seg for 30 år siden.
Like etter avsløringen beklaget den daværende justisministeren hendelsen og bedyret at han ikke har hatt noen forbindelser til yakuzamedlemmer siden den gang. Tanaka uttalte også at han planla å fortsette i regjeringen.
Lagt inn på sykehus
– Vi kan ikke gjøre noe med at han (Tanaka) går av på grunn av helseproblemer, sa Osamu Fujimura, talsmann for regjeringen, på en pressekonferanse i går.
Eksjustisministeren ble lagt inn på sykehus sist fredag og dukket opp igjen mandag kveld.
Hardt presset regjering
Han fikk jobben tidligere denne måneden som et ledd i statsminister Yoshihiko Nodas forsøk på å omorganisere en allerede hardt presset regjering.
Mafiaavsløringene lettet ikke på dette presset, og opposisjonen grep anledningen til å kritisere Nodas nye regjering, og flere krevde Tanakas avgang.
Ifølge Wikipedia regnet man i 2009 med at Yakuzaen bestod av 80.900 medlemmer spredt verden over. Selv om Yakuzaen består av mange ulike grupperinger, regnes de som en av de største organiserte kriminelle gruppene i verden.