Soldatene skal ifølge vitner som nyhetsbyrået AFP har snakket med ha kommet i fire kamphelikoptre til byen Bulo Marer litt sør for hovedstaden Mogadishu.
Forsøket på å redde gisler i byen gikk derimot ikke etter planen.
Det franske forsvarsdepartementet bekrefter lørdag morgen at én fransk soldat og ett gissel mistet livet i aksjonen. En annen soldat skal ha blitt tatt til fange.
17 militante fra gruppen som holdt gisselet skal også ha mistet livet, ifølge franske myndigheter.
Det skal være en gruppering tilknyttet Al Shabaab-militsen som holdt en franskmann til fange. Det var denne franskmannen som Frankrike sendte spesialsoldater for å redde.
Aksjonen skjer like etter at franske militære også har involvert seg i konflikten i Mali. Fredag valgte Frankrike å hjelpe regjeringsstyrkene i Mali med luftangrep mot opprørere og islamister der.
Skulle redde hemmelig agent
I august 2009 ble en hemmelig fransk agent, kalt Denis Allex, tatt til fange i Mogadishu.
Allex ble tatt til fange ved hotellet han bodde på i hovedstaden Mogadishu sammen med en kollega. Kollegaen klarte senere rømme fra gisseltakerne, men Allex har sittet i fangenskap helt siden 2009.
De to skal ha vært sendt av franske myndigheter for å trene opp regjeringsstyrker i kampen mot den Al Shabaab-militsen.
Forsvarsdepartementet bekrefter lørdag at det var agenten Denis Allex de forsøkte å frigi.
Agenten som ble holdt som gissel ble derimot drept.
– Vi var stilt opp mot terroristenes uforsonelighet, der de nektet å forhandlet i 3,5 år og der de samtidig holdt Denis Allex i forferdelige inhumane forhold. Da valgte vi å planlegge og gjennomføre en aksjon, sier departementet i en uttalelse.
De bekreftet at også to soldater fra gruppen som skulle redde agenten døde eller ble tatt til fange.
– Under aksjonen kom det til kraftige voldelige sammenstøt med gisseltakerne. Denis Allex ble drept av sine gisseltakere, heter det i uttalelsen.
Forsvarsdepartementet hadde en en pressekonferanse lørdag klokka 11.
Der uttalte forsvarsminister Jean-Yves Le Drian seg om aksjonen og om at de «anser det som ganske sikkert» at agenten Denis Allex er blitt drept.
– Spesialsoldater tok seg inn der Allex ble holdt fanget og møtte med én gang sterk motstand. Alt vi vet tyder på at Denis Allex dessverre ble drept av gisseltakerne, sier forsvarsminister Le Drian på pressekonferansen.
Forsvarsministeren sa også at én spesialsoldat ble drept, og at en annen ble tatt til fange. Tidligere har departementet hans uttalt at begge ble drept.
Somaliske militante: – De fikk ikke det de var ute etter
Talsmenn for de militante islamistene i Somalia har også uttalt seg om nattens hendelser.
Ifølge en talsmann skal gisselet ikke ha blitt drept, og han sier at de fortsatt har gisselet.
– Franskmennene fikk ikke tak i det de var ute etter, sier Abdulaziz Abu Musab på vegne av Al Shabaab-militsen til nyhetsbyrået AFP.
Talsmannen for organisasjonen som har kontroll over deler av Somalia understreket at de franske spesialsoldatene forlot en av sine egne død på bakken.
Al Shabaab sier at agenten Denis Allex aldri var på det stedet der de franske styrkene aksjonerte.
– Allex er trygg og langt fra der kampene fant sted, sier de.
Samtidig lover de en avggjørelse for mannens skjebne innen to dager.
– Som et svar på dette mislykkede forsøket fra franske soldater vil vi forsikre det franske folk om at vi vil gi vår endelige dom for Denis Allex' skjebne innen to dager, heter det i en uttalelse.