Por volta de 1700 os primeiros jesuítas espanhóis chegaram à região, onde encontraram indígenas conhecidos pelos nomes genéricos de caingangues ou coroados. As primeiras tentativas de adentramento do território tinham como objetivo a caça ao gado e a dilatação de fronteiras. O povoamento aconteceu no ano de 1840, com a chegada do primeiro proprietário da fazenda do Prata, Bernardo Fialho de Vargas, natural de Taquari. A fazenda do Prata limitava-se com a fazenda São João, de João Mariano Pimentel, poderoso tropeiro paulista.

Bernardo de Vargas vendeu a fazenda do Prata ao lagunense Manoel Pereira Vieira, que foi o primeiro a se estabelecer no local, onde faleceu em 20 maio de 1902, com 85 anos de idade. Nesse período a fazenda passou a denominar-se fazenda dos Vieiras. Outros pioneiros foram Joaquim Antonio Fernandes e João de Souza Dias, que foi o primeiro proprietário da fazenda São Crispim, localizada no Chimarrão.

Quando foi criado, em 1904, o distrito de André da Rocha contava com oito habitações e uma capela. Os primeiros sintomas de progresso da vila surgiram com a fundação de uma fábrica de laticínios, o que fez com que a vila fosse conhecida por muito tempo como Fábrica. Em 1905, foi instalado o cartório de registro civil, cujo primeiro titular foi Renato DAvila.

Em 1918, surgiu o primeiro estabelecimento comercial, de propriedade de João Crispim Dias em sociedade com Amantino Vieira Hoffmann. Mais tarde, esse estabelecimento foi adquirido por Tarquínio Calliari. O primeiro médico também estabeleceu-se na comunidade nessa época, Miguel Ângelo de Pata.

O distrito ganhou o nome do seu criador, Manoel André da Rocha, primeiro juiz da comarca de Lagoa Vermelha. Mais tarde, ele seria nomeado desembargador do Tribunal de Justiça do Estado do Rio Grande do Sul, chegando à presidência do órgão, e seria ainda um dos fundadores da Faculdade de Direito da Universidade Federal do Rio Grande do Sul e o primeiro reitor da instituição.

Tornado município em 1988, André da Rocha tem como peculiaridades o menor colégio eleitoral do estado e uma vasta área territorial, com a maior parte da sua população situada na zona rural daí o slogan pequeno, grande pago.

Formação Administrativa

Distrito criado com a denominação de André da Rocha (ex-povoado) pelo Ato Municipal nº 16, de 08/11/1904, subordinado ao município de Lagoa Vermelha.

Desmembrado de Lagoa Vermelha, André da Rocha é elevado à categoria de município pela Lei Estadual nº 8.629, de 12/05/1988, alterada no que concerne aos limites pela Lei Estadual nº 8.998, de 11/01/1990. O município é instalado em 1º/01/1989, constituído de dois distritos: André da Rocha e Chimarrão, ambos desmembrados de Lagoa Vermelha.

Em divisão territorial datada de 2001, o município é constituído do distrito-sede.

Assim permanece em divisão territorial datada de 2017.