Prigozjin bryter dermed tausheten etter de dramatiske timene lørdag.
Wagner-lederen sier i et lydklipp på Telegram at de «ville holde de som gjorde feil under spesialoperasjonen til ansvar».
Han hevder opprøret ikke var et kuppforsøk.
– Vi hadde ikke som mål å styrte det eksisterende regimet og den lovlig valgte regjeringen, slik det ble påstått mange ganger, sier Prigozjin i klippet.
Wagner-styrkene tilbakela 780 kilometer i løpet av ett døgn under sin fremrykning mot Moskva, ifølge Wagner-sjefen.
Så snudde leiesoldathæren.
– To svært viktige faktorer påvirket vår beslutning om å snu. Det første var at vi ikke ønsket å spille russisk blod. Det andre var at vi marsjerte for å protestere mot den militære ledelsen, og ikke for å styrte myndighetene i landet, sier Prigozjin.
Han sier ingenting i lydklippet om hvor han nå befinner seg.
Wagner-sjefen mener marsjen avslørte «svært alvorlige sikkerhetsproblemer i Russland». Han hevder 30 Wagner-soldater ble drept under opprøret.
Prigozjin sier leiesoldathæren var «kategorisk imot avgjørelsen om å stenge Wagner-gruppen 1. juli og innlemme den i den russiske forsvarsledelsen», skriver BBC.
– Ingen ble enige om å underskrive en avtale med det russiske forsvarsdepartementet, sa Prigozjin, melder Reuters.
Russisk avis: – Putin var forsvunnet
Den uavhengige russiske avisen Meduza melder at «Putin var forsvunnet» da Wagner-soldater vendte seg mot Russlands militærledelse lørdag.
Den private hæren var ikke langt unna Moskva da Wagner-sjef Jevgenij Prigozjin i siste liten gikk med på en avtale.
Det var Belarus' president Aleksandr Lukasjenko som landet avtalen. Den innebærer at Prigozjin må dra til Belarus og at ingen soldater fra Wagner-gruppen skal bli straffeforfulgt.
Prigozjin selv skal heller ikke bli rettslig straffet.
Det til tross for at Putin neppe vil tilgi ham for dette, ifølge avisen Meduza, som er blitt utpekt som en «uønsket organisasjon» i hjemlandet.
– Dolket i ryggen
I tiden før avtalen ble inngått, kalte president Putin selv sin tidligere venn Prigozjin en «forræder» i en TV-sendt tale.
– Vi blir dolket i ryggen, sa den russiske presidenten.
Ifølge Meduza skal Prigozjin ha prøvd å ringe Putin direkte, men presidenten skal ikke ha ønsket å snakke med ham.
På dette tidspunktet nærmet Wagner-soldatene seg elven Oka, hvor den russiske hæren hadde satt opp sin første forsvarslinje for å forsvare Moskva.
I tillegg til Belarus' president skal tre andre russere ha deltatt på forhandlingene med Wagner-sjefen.
Det skal ha vært stabssjef i Kreml, Anton Vaino, tidligere FSB-sjef, nå leder av Russlands sikkerhetsråd, Nikolaj Patrusjev, og Russlands ambassadør til Belarus, Boris Gryzlov.
Uavklart situasjon
Situasjonen er helt uavklart, mener utenriksminister Anniken Huitfeldt (Ap).
– Ingen har sett Prigozjin. Ingen vet hva denne avtalen, som Belarus har forhandlet fram, egentlig innebærer. Vi vet ikke hvordan Wagner-gruppen kommer til å forholde seg til russiske myndigheter i framtida. Både i Ukraina, men også i andre deler av verden hvor de er til stede, sier Huitfeldt og fortsetter:
– Deres legitimitet har vært basert på at de har et godt forhold til Putin, og nå er deres leder erklært som forræder, sier hun.
Fordi krigen går dårlig for Russland, oppstår det interne spenninger, forteller utenriksministeren.
– Det har vi advart mot i lengre tid. Tidligere har det vært synlig i eliten, men nå er dette synlig for hele det russiske folk. Og det vil selvfølgelig få konsekvenser, sier hun.
– Det er nærmest en intern konkurranse om å være mest mulig aggressiv i Ukraina.
Ville ta forsvarsministeren
Før det dramatiske opprøret lørdag langet Wagner-sjefen Prigozjin spesielt ut mot den russiske forsvarsministeren Sergej Sjojgu.
Sjojgu ble kalt «feiging» og en «skapning» som måtte «bli stoppet», melder Meduza.
Prigozjins mål var blant annet å få forsvarsministeren avsatt.
Video fra Ukraina-besøk
Den russiske forsvarsministeren Sergej Sjojgu har ikke selv kommentert opprøret. Men i går skal han ha besøkt russiske soldater i Ukraina, ifølge det statlige russiske nyhetsbyrået RIA.
Ingen uavhengige kilder har bekreftet om videoen faktisk var filmet i går.
I videoen er Sjojgu på et fly og siden på et møterom i et militært anlegg i Ukraina.
Det vil i så fall være hans første offentlige opptreden siden Wagner-leder Prigozjin kunngjorde krig mot militærledelsen.
Det er heller ingen som har sett Wagner-sjefen siden lørdag kveld. Da forlot han den russiske byen Rostov til applaus.
– Vi returnerer til basene for å unngå blodbad, sa han i en lydmelding på appen Telegram.
Ingen har så langt bekreftet at han har ankommet Belarus, slik planen tilsynelatende var, ifølge CNN.