O largo inicialmente abrigou uma capela dedicada a Nossa Senhora do Ó, no século XVI. Mais tarde, os frades Carmelitas instalaram no local o seu convento. Ali se instalaram, desde o século XVII, a Câmara e a Cadeia Pública e a Fazenda Real, além dos Armazéns Reais e a Casa da Moeda. No século XVIII, o logradouro ganhou importância sobretudo administrativa, até porque o Rio de Janeiro havia se tornado capital da Colônia. Na segunda metade do século XVIII foram realizadas obras importantes, como a transformação dos Armazéns Reais em sede do governo do Vice-Reinado, a construção da Igreja da Ordem Terceira do Carmo e a instalação do monumental chafariz de Mestre Valentim no largo. No Império, o largo foi chamado de D. Pedro II, e na passagem da República, o nome foi modificado para praça XV de Novembro, data da proclamação republicana. Em 1902, foi construído o Cais Pharoux que substituiu o antigo, colonial, do século XVIII.

Antiga Escola de São José, depois Conselho Municipal, localizado no largo da Mãe do Bispo, atual Praça Marechal Floriano. Em 1918 o prédio do Conselho Municipal do Rio de Janeiro é demolido e no mesmo local, em 1920, começam as obras do Palácio Pedro Ernesto, inaugurado em 1923.

À esquerda, o Morro de Santo Antônio