Onsdag ble 59 år gamle Kazuo Shinozawa og 33 år gamle Hidenori Ogata hengt i et fengsel i Tokyo.
Landets justisminister Keiko Chiba overvar henrettelsene.
– Det fikk meg til å tenke grundig på dødsstraff, og igjen føler jeg sterkt at det er behov for en grunnleggende diskusjon om dødsstraff, sa hun etter å ha sett de to fangene bli hengt.
Chiba har varslet at hun vil slippe inn pressen til rommene der henrettelsene skjer, slik at offentligheten skal få et innblikk.
Ved siden av USA er Japan det eneste industrialiserte demokratiet i verden som benytter dødsstraff som straffemetode.