Departementet ble angrepet med en bilbombe og påfølgende skuddveksling torsdag morgen.
Torsdag formiddag sier medisinsk personell at over 40 personer omkom i angrepet.
Ifølge kilder i forsvarsdepartementet var det en bilbombe som forårsaket den kraftige eksplosjonen ved departementet torsdag morgen.
Bomben skal ha vært rettet mot sykehuset på departementets område.
Kjørte inn med eksplosiver
– En selvmordsbomber kjørte en bil fullastet med eksplosiver inn i porten til Jemens forsvarsdepartement, sier en kilde til nyhetsbyrået Reuters.
Flere personer tok seg inn i bygningen etter eksplosjonen og løsnet skudd. Militæret skal ha skutt tilbake.
Mange angrep i Jemen
Vitner sier de har hørt skudd bli avfyrt og at det har brutt ut slåsskamper etter eksplosjonen. Åstedet er dekket av røyk.
Forsvarsdepartementet ligger i bydelen Baba al-Yaman midt i Sana. Den siste tiden har det vært mange voldsepisoder og angrep i Jemen.
Landet er inne i en politisk overgangsfase etter at tidligere president Ali Abdullah Saleh gikk av i 2012 etter 33 år som president.
- LES OGSÅ: