En lokal væpnet sunnimuslimsk gruppe som hevder den tilhører IS, sier de står bak bombeangrepene som tok livet av over 140 mennesker og skadet minst 350.
Tre selvmordsbombere sprengte seg selv i lufta i og utenfor de to sjiamuslimske moskeene i hovedstaden Sanaa.
I en uttalelse på internett, truer IS med nye angrep, og sier fredagsens angrep «kun var toppen av isfjellet».
Ekspertene frykter borgerkrig
Selv Al-Qaida har valgt å ta offentlig avstand fra angrepene mot moskeene i Sanaa.
Al-Zawahri, Al-Qaidas øverste leder, kuttet båndene til IS i fjor. En av begrunnelsene var at den irakisk-syriske ekstremistgruppen var for brutal.
Eksperter frykter imidlertid terrorangrepene i Jemen kan være et nytt skritt i retning av full borgerkrig fordi den har fått et mer religiøst preg.
– Jemenittene er vant med vold, men ikke så brutalt som dette, sier analytikeren Farea al-Muslimi til avisa New York Times.
Han mener landet står overfor en svært skremmende situasjon hvor normene som regulerer samfunnet, er i ferd med å forsvinne.
Presset fra makten
Terrorangrepene i Sanaa er de siste i en lang rekke alvorlige voldshendelser og krigshandlinger i Jemen de siste årene.
Den pågående konflikten begynte da president Ali Abdullah Saleh ble presset til å gi fra seg makten i 2012, i kjølvannet av den arabiske våren.
Visepresident Abd-Rabbu Mansour Hadi overtok styringen av landet, men havnet i konflikt både med den sjiamuslimske Houthi-militsen og Al-Qaida. Den jemenittiske grenen av Al-Qaida, AQAP, har utviklet seg til å bli en av verdens mest aktive og farligste.
I vinter tok Houthi-militsen kontroll over hovedstaden, og Hadi måtte flykte til byen Aden ved kysten. Herfra har han forsøkt å vinne tilbake makten, og det har vært harde kamper ved Aden den siste tiden.
– Stadig verre
Analytikeren Sama'a al-Hamdani, som er bosatt i USA, mener selvmordangrepene mot moskeene passer inn i et mønster av stadig verre voldshandlinger i Jemen.
Hun tror ikke konflikten plutselig vil eksplodere, men sammenligner den med en snøball som vokser mens den ruller nedoverbakke.
– Det går langsomt, men hele tiden i samme retning, sier hun til den canadiske avisa Toronto Star.
De regionale stormaktene Saudi-Arabia og Iran støtter angivelig hver sin side i konflikten. FN har forsøkt å hjelpe Jemen med å innføre demokrati, men Farea al-Muslimi tror innsatsen bare har utsatt en utvikling i retning borgerkrig.