Haider al-Abadi var på forhånd favoritt til på bli gjenvalgt for fire nye år, men ser i stedet ut til å gå på et sviende nederlag.
Partiet hans ser bare ut til å få flertall i en av landets til sammen 18 provinser.
I stedet er ser den radikale sjialederen Muqtada al-Sadr ut til å bli valgets vinner.
Ifølge AFP har alliansen til al-Sadr vunnet i seks av provinsene og ligger som nummer to i fire andre provinser.
Sjiapredikanten al-Sadr har vært en populær figur i Irak siden USA invaderte landet og Saddam Hussein ble styrtet i 2003.
Seier for Iran-vennlige
Nummer to ved valget ser ut til å bli allianse av tidligere krigere i den sjiamuslimske militsen til Hashed al-Shaabi.
Alliansen, som spilte en viktig rolle i kampen mot IS, har vunnet i fire provinser.
Både al-Sadr og alliansen av krigere er regnet for å være mer Iran-vennlige enn den sittende regjeringen.
Rekordlav valgoppslutning
Deltagelsen ved valget var rekordlav, til tross for at landet er roligere enn på lenge etter at IS ble kastet ut av Mosul.
Bare 44,5 prosent av de stemmeberettigede har avlagt stemme.
Det er det laveste siden den amerikanske invasjonen i 2003 som førte til at regimet til Saddam Hussein ble styrtet.
Venter lange forhandlinger
Det kompliserte systemet for fordeling av mandater gjør at det første er ventet at valgkommisjonen senere i dag vil kunngjøre fordelingen av de 329 medlemmene i parlamentet.
Deretter er det ventet at partiene vil forhandle i flere uker før de kommer frem til en ny regjeringen.
Ifølge loven må en regjering være på plass i løpet av 90 dager.
- Les også: