O CARF, nos moldes como funciona hoje, foi instalado em 14 de setembro de 1925. O primeiro Conselho de Contribuintes, de composição paritária, surgiu com a criação do Imposto de Renda no Brasil, no final de 1922, para julgar os litígios instaurados sobre este novo tributo. Posteriormente, acompanhando a evolução da estrutura tributária do País, Conselhos idênticos foram criados ao longo dos anos. Em 2009, buscando a racionalização administrativa e ganhos de eficiência, os então Conselhos de Contribuintes foram unificados, passando a denominar-se Conselho Administrativo de Recursos Fiscais (CARF).

Assim, em 2015 o CARF completa 90 anos de existência e de profícua atividade em prol do Estado e da sociedade brasileira.