A banda composta por Marcelo Camelo (vocal/guitarra), Rodrigo Amarante(vocal/guitarra), Rodrigo Barba (bateria) e Bruno Medina (teclado) se formou em 1997. Os músicos eram alunos da Pontifícia Universidade Católica do Rio de Janeiro (RJ).
Marcelo Camelo nasceu no dia 4 de fevereiro de 1978, na cidade do Rio de Janeiro. Rodrigo Amarante nasceu em 6 de setembro de 1976. O tecladista Bruno Medina também nasceu em 1978, no dia 10 de agosto. Rodrigo Barba, em 23 de janeiro de 1979.
Em 1998, gravaram uma fita demo com as músicas "Amor e Folia e Chora". Mas a banda ganhou visibilidade mesmo com a música "Anna Júlia".
Marcelo Camelo escreveu "Anna Júlia" com base na história do produtor da banda, Alex Werner. Quando fazia faculdade, ele paquerava uma colega chamada Anna Júlia Werneck, mas não se aproximava dela porque era muito tímido.
Só em janeiro de 2004, a música foi executada 4.074 vezes.
O roqueiro inglês Jim Capaldi fez uma versão em inglês da canção. O ex-Beatle George Harrison toca a guitarra na gravação. Foi a última música gravada por Harrison.
Em julho de 2004, Chorão agrediu Marcelo Camelo no aeroporto de Fortaleza (RE). Ele foi tirar satisfações com Camelo sobre declarações que ele fez sobre sua banda, o Charlie Brown Jr, em uma entrevista à imprensa. O líder dos Los Hermanos rebateu as acusações e levou uma cabeçada no nariz e um soco. Em 24 de fevereiro de 2005, Camelo entrou com um processo de indenização por danos morais e materiais contra o rival.
Contrariando as expectativas, o Los Hermanos lançou em 2001 o álbum "Bloco do Eu Sozinho", que fugia da fórmula consagrada de "Anna Júlia". Elogiado pela crítica, grande parte do melancólico disco foi composto em um sítio em Piraí, interior do Rio de Janeiro.
"Ventura" (2003) foi o sucessor do "Bloco do Eu Sozinho". O álbum, cujo nome inicial era "Bonança", vazou na Internet antes do lançamento. É considerado o disco que consolidou a banda.
Nas palavras do tecladista Bruno Medina, o nome "4"(2005) "denomina um disco em que a intenção é ser simples" e no qual "as músicas e os arranjos são uma só coisa, não há distinção".
Em abril de 2007 a banda anunciou que "daria um tempo". Em nota oficial, os Los Hermanos disseram que a banda não acabou, e que não existem problemas de relacionamento dentro do grupo. Apesar disso, o "tempo" não tem prazo para acabar.
Rodrigo Amarante também é integrante da banda de gafieira "Orquestra Imperial" e do trio "Little Joy", que conta com a participação do baterista do Strokes, Frabrizio Moretti.
Rodrigo Amarante é casado com a atriz e cantora Karine Carvalho.
Uma onda de especulação envolvendo Marcelo Camelo e a cantora adolescente Mallu Magalhães tomou conta do mundo da música em 2008. Os dois gravaram o dueto "Janta" - do álbum solo "Sou/Nós" de Camelo - e foram vistos juntos diversas vezes. Em novembro de 2008, Mallu declarou que estava "loucamente apaixonada" por um homem mais velho. Em março de 2009, durante uma participação no programa do Faustão, a cantora desconversou "Prefiro falar de outras coisas".
Em março de 2009, a banda voltou a se reunir para o festival "Just a Fest", que tem como carro-chefe a banda inglesa Radiohead e participações da banda alemã Kraftwerk e de Vanguart.