A iniciativa surgiu da preocupação do delegado Ennio Landulpho com a educação dos jovens. Ele reuniu representantes e líderes de diferentes segmentos locais e fundou a Guarda Mirim de Votorantim, em 30 de setembro de 1971.
A primeira diretoria foi formada por Alfredo Metidieri como presidente, Mario Rosário Botessi como vice-presidente, Aquiles Saracura como 1º secretário, Laelso Rodrigues como 2º secretário, Ayr Pereira como 1º tesoureiro, Luiz Júlio Primo como 2º tesoureiro, Roque Dias Prestes como diretor de relações-públicas e um conselho consultivo presidido por Hélio Pataccine. O prefeito Luiz do Patrocino Fernandes foi escolhido como presidente de honra.
Após o comendador Metidieri, assumiram a presidência Francisco Munhoz, Roque Dias Prestes, Edson Rodrigues, Lázaro de Góes Vieira e, por fim, Gentil Pereira Garcia, o sexto presidente.
No início, alguns dos jovens guardas usavam apitos, que serviam para alertar e orientar no trânsito. A instituição também desempenhou um papel importante na agência dos correios, que tinha apenas um funcionário encarregado da entrega de correspondências em domicílio e enfrentava dificuldades para fazê-lo. A disposição dos jovens guardas em sair diariamente pelos bairros ajudou a resolver temporariamente o problema.
Todos os sábados pela manhã, eles se reuniam na sede para assistir a palestras e orientações sobre a sua formação. Além disso, a Guarda Mirim ligava para os locais de trabalho para saber se eles estavam sendo diligentes e obedientes.
No começo, a instituição não tinha sede própria e funcionava provisoriamente no parque infantil Helena Pereira de Moraes. Depois, ocupou uma sala do serviço de alto-falante na rua Sorocaba, depois no prédio que era usado pela Câmara na época e também em uma sala na rua Albertina Nascimento. Atualmente, funciona na rua Alfredo Maia, na sede inaugurada em 1 de agosto de 1987.