Nasce em Caeté, MG, no dia 4 de janeiro de 1896, filho de João Pinheiro da Silva e Helena de Barros Pinheiro. Forma-se em 1919, em Engenharia Civil, de Minas e Metalurgia, e viaja à Europa, onde realiza estudos de aperfeiçoamento no setor siderúrgico. De volta ao Brasil dedica-se às atividades políticas e empresariais, ligando-se ao Partido Republicano Mineiro (PRM).

Em 1933, assume a Secretaria dos Negócios da Agricultura, Indústria, Viação e Obras Públicas do Estado. Empossado em dezembro, permanece no cargo até 1935. Em julho de 1942, é designado para a presidência da Companhia Vale do Rio Doce, permanecendo no cargo até 12 de fevereiro de 1945.

Em 1945, o Partido Social Democrático (PSD) venceu por larga margem em Minas Gerais, elegendo 20 deputados à Assembléia Constituinte, entre eles Israel Pinheiro.
Em 1950, é reeleito deputado federal por Minas Gerais. Renova seu mandato nas eleições de outubro de 1954, e, na legislatura iniciada no ano seguinte, vive uma das fases mais tumultuadas de sua vida política. Eleições presidenciais estavam previstas para esse ano. Porém, os riscos de rompimento da ordem constitucional eram visíveis, principalmente devido à resistência à candidatura do governador mineiro Juscelino Kubitschek por parte das forças políticas e militares que haviam, virtualmente, derrubado Vargas. Israel Pinheiro desempenha importante papel no apoio a Juscelino assumindo, de fato, a liderança do PSD em Minas e conseguindo restabelecer sua influência nas decisões políticas nacionais.

Em 21 de abril de 1960, Juscelino Kubitschek inaugura, solenemente, a nova capital. Em 7 de maio, Israel Pinheiro toma posse no cargo de prefeito de Brasília, onde permanece até 31 de janeiro de 1961.

Retorna à atividade privada, ocupando a presidência da Cerâmica João Pinheiro. Apesar de ocupar a vice-presidência do diretório estadual do PSD em Minas, continua afastado de qualquer atividade política significativa até 1965, quando surge como candidato à sucessão do governo de MG e vence, surpreendentemente, as eleições realizadas em outubro desse ano.

Durante seu governo cria o Plano Estadual de Telecomunicações, moderniza as instalações do Terminal Rodoviário de Belo Horizonte, concorre para a instalação de observatórios astronômicos na Universidade Federal de Minas Gerais (UFMG), institui a Fundação Pandiá Calógeras para o desenvolvimento de programas educativos pelo rádio e televisão, cria o Polonoroeste para a exploração de recursos agroindustriais do estado e promove o aproveitamento econômico das chamadas zonas de cerrado.

Entre os anos de 1968 e 1969, antevendo os problemas financeiros que o Estado de Minas Gerais enfrentaria para manter em funcionamento a Universidade Rural do Estado de Minas Gerais – UREMG –, em entendimentos com o Reitor Edson Potsch Magalhães, promove ações para o inicio da federalização da Universidade. Esta iniciativa foi prontamente acolhida e compreendida pelo Ministério da Educação que, pelo Decreto-Lei no 570, de 8 de maio de 1969, sancionado pelo presidente Arthur da Costa e Silva, autorizava o Poder Executivo a instituir, sob a forma de Fundação, a Universidade Federal de Viçosa - UFV.  O ato foi consolidado pelo Decreto no 64.825, de 15 de julho daquele ano, que determinava que a UFV passasse a existir, como pessoa jurídica, a partir de 1o de agosto de 1969. Desde então, a UFV vem contando com o trabalho dedicado de todos os segmentos acadêmicos e de seus dirigentes, que construíram a sua história. O primeiro reitor da Instituição foi o professor Edson Potsch Magalhães, cujo mandato abrangeu o período de 15 de julho de 1969 a 15 de julho de 1971.

Israel Pinheiro da Silva casa-se com Coracy Uchôa em 2 de fevereiro de 1924, com quem tem nove filhos: Israel Pinheiro Filho, Helena Uchôa Pinheiro, Maria Amélia Pinheiro, João Virgílio Pinheiro, Maria Eliza Pinheiro, Maria Inês Uchôa, Maria Regina Uchôa e Otávio Uchôa Pinheiro.

Falece em Belo Horizonte, no dia 6 de julho de 1973.