Ifølge den japanske kystvakten er det første gang et kinesisk skip utstyrt med våpen tar seg inn i området.
Fartøyet var ett av tre som seilte igjennom farvannet rundt øygruppen som Japan kaller Senkaku, og som Kina hevder rett på og omtaler som Diaoyus.
– Skipet skal ha vært i farvannet i 70 minutter, sier en talskvinne for den japanske kystvakten.
De oppdaget skipet først torsdag da det befant seg i 29 kilometer fra en av øyene. Da hevdet kineserne at skipet fraktet utstyr, og at det ikke gjorde noe galt i kinesisk farvann, skriver nyhetsbyrået Reuters.
Det er ikke uvanlig at kinesiske skip seiler i området, men aldri tidligere skal japanske myndigheter ha sett et bevæpnet skip.
Øygruppen kontrolleres i dag av Japan, men Kina hevder det er kinesisk territorium.