Mannen ble funnet ivannet 200 meter utenfor turistbyen Puerto de Mogan på ferieøya lørdag formiddag, melder Canariajournalen.
Ifølge politiet bar mannen preg av å ha ligget i vannet i flere dager. Han skal ha vært på ferie på øya sammen med ektefellen.
Liket ble hentet opp av sjøredningstjenesten ved 10-tiden, lokal tid.
Utenriksdepartementet sier de er orientert om dødsfallet gjennom konsulen på Gran Canaria.
– Vi yter nå konsulær bistand til de pårørende, sier pressevakt i UD Svein Mikkelsen til NRK.no.
Ifølge Canariajournalen har mannen en datter i Norge.