Generalsekretæren talte ved åpningen av den internasjonale konferansen i Kabul tirsdag.
Afghanistans president Hamid Karzai sier regjeringen hans jobber med å ta det fulle og hele ansvaret for sikkerheten i det krigsherjede landet innen utgangen av 2014.
LES OGSÅ: – Afghansk overtakelse innen 2014
Et mål med tirsdagens konferanse er å stake ut kursen for afghansk overtakelse.
Rasmussen sier overgangen vil bli basert på betingelser, ikke kalendre, ifølge nyhetsbyrået AFP. NATO-styrker skal lære opp afghansk politi og militære styrker, slik at de kan ta ledelsen med å beskytte landets innbyggere.
– Gradvis overgang
– Overgangen vil skje gradvis, på grunnlag av en edruelig vurdering av den politiske og sikkerhetsmessige situasjonen, slik at den blir irreversibel, sier NATOs generalsekretær.
– Når det skjer, vil ikke de internasjonale styrkene dra. De vil bare flyttes over til en mer støttende rolle, legger han til.
– Vi har ikke kommet så langt, og med denne kostnaden, bare for å feile. Nå ser vi vårt felles mål ta form, fastslo Fogh Rasmussen.