Este artigo aborda a importância crescente da alfabetização em Inteligência Artificial (IA) para estudantes jovens, com foco no Ensino Fundamental. Com base em teorias críticas de alfabetização, examinamos a necessidade de transcender a compreensão superficial das tecnologias de IA incentivando os alunos a analisar criticamente suas implicações sociais, políticas, culturais e éticas. Propomos uma investigação em escolas públicas municipais de São Paulo (Ensino Fundamental 2) para avaliar o nível de compreensão dos estudantes sobre IA e suas perspectivas críticas, identificando desafios e necessidades para a implementação de currículos de alfabetização crítica em IA nesse contexto. O objetivo é contribuir para o desenvolvimento de pedagogias que capacitem os jovens a se tornarem cidadãos digitais conscientes e críticos em um mundo cada vez mais influenciado pela IA.