Fundado em 2 de dezembro de 1837, em homenagem ao Imperador-Menino, foi o primeiro colégio de instrução secundária oficial do Brasil. O prédio localizado na Avenida Marechal Floriano, que abriga o campus Centro, representa grande riqueza arquitetônica e histórica. Em 1983, o prédio foi tombado pelo Patrimônio Histórico e Cultural.
Na época da fundação, o local foi reformado pelo arquiteto francês Grandjean de Montigny. Em 1874, o edifício foi ampliado por Francisco Joaquim Bethencourt da Silva, discípulo de Montigny, dando à escola sua atual fachada em Estilo Neoclássico.
A transformação mais significativa realizada no prédio foi a construção do Salão Nobre, inaugurado em fevereiro de 1875. Naquela época, o espaço tonou-se o lugar onde os alunos do Pedro II recebiam o grau de Bacharel em Letras e onde ocorriam os concursos para a cátedra do Colégio, eventos que costumavam contar com a presença do Imperador Pedro II. Até hoje, é no Salão Nobre que ocorrem os eventos mais significativos, como a entrega dos títulos de Aluno Eminente, aos ex-alunos que se destacaram na vida pública e profissional; de Professor Emérito; de Pena de Ouro, ao aluno que mais se destacou ao longo do curso em cada campus; além das comemorações pelo aniversário da instituição no dia 2 de dezembro.
Ex-alunos famosos
O colégio também formou personalidades que brilham na história das ciências, das letras, das artes, da educação e da política no Brasil. Saíram de seus bancos escolares, por exemplo, três Presidentes da República: Rodrigues Alves (1902-1906), Hermes da Fonseca (1910-1914) e Washington Luis (1926-1930). Outros ex-alunos famosos, entre vários outros, foram o escritor Álvares de Azevedo, o ator Mário Lago e o dramaturgo Dias Gomes.