Det så ut til å gå mot poengdeling etter en sjansefattig kamp, men to minutter på overtid fikk innbytter Ramsey både tid og plass på venstrekanten, og sendte laget sitt til topps i gruppe F med skuddet som gikk i mål.
– Det var deilig å komme inn og avgjøre kampen, sa Aron Ramsey til TV-selskapet ITV etter kampen.
Marseille hadde ikke sluppet inn mål i mesterligaen før onsdagens kamp, men må må finne seg i at de er poenget bak London-laget i gruppen.
Verken hjemmelaget eller Arsene Wengers utvalgte spilte med særlig høy risiko i en kamp der begge lag tidlig så ut til å være godt tilfreds med null mål og ett poeng.
Mange kort
Det var en grå fotballkamp, selv om Marseille stilte i oransje drakter (klubbens tredjedrakt) og Arsenal i blått, mens dommeren grep ofte til lomma og dro opp det gule kortet.
Andre Ayew fikk gult for protester da Damir Skomina nektet Marseille straffespark for hands på Carl Jenkinson i første omgang, og TV-bildene viste at det var en tvilsom avgjørelse.
Arsenal var nær scoring da Souleymane Diawara reddet Robin van Persies heading på streken., Ellers hadde Marseille de største sjansene inntil Ramsey
avgjorde.
Med seieren føk Arsenal til topps på tabellen, ett poeng foran Marseille halvveis i gruppespillet. Olympiakos vant 3-1 over Borussia Dortmund med scoringer av Jose Holebas, Rafik Djebbour og Francois Modesto, og laget er fire poeng bak Arsenal.