Det siste leddet, "-re", kommer fra germansk "reihe", som betyr rekke, rad, linje, og det har trolig bakgrunn i landskapet.
Første del av ordet, "her-" er komparativ av det norrøne adjektivet "hárr" = høy.
"Herre" skulle da bety "den høyere rekken (av en eller annen landskapsformasjon)".