A região onde foi construído o Canal era conhecida como Mangal de São Diogo, uma extensa baixada arenosa, de mangues, formada por diversos rios e um braço de mar que se estendia da atual ponte dos Marinheiros até a Praça Onze. Ficava no caminho para o Engenho Velho, e dificultava a passagem direta para a zona norte da cidade. Em 1835 foi projetado um canal que coletasse a água dos rios que ali desaguavam e para receber a entrada do mar. As obras ficaram prontas em 1860, depois que o Barão de Mauá ganhou uma concessão do Governo Imperial para explorá-las. Estava pronto, assim, o Canal do Mangue. Em 1876 foram feitas limpeza e restauração dos muros e pontes e plantadas palmeiras. Foi também aterrada uma área sobre o mangue, que ficou conhecida como Aterrado.