‘IA é continuidade dos vieses que já existiam na internet’

Usando como exemplo a Base Nacional Comum Curricular (BNCC) – documento que norteia ações na educação básica em todos os campos do conhecimento – Cintra pontua que 60% do texto traz conteúdos gerais e os outros 40% são reservados para adaptações que levam as culturas e a regionalidade em consideração, justamente para evitar um “achatamento cultural”. Essa seria uma forma de combater os possíveis vieses contidos nessas ferramentas.

Se você tem muito menos representatividade de determinados elementos culturais e sociais nas bases que treinam a inteligência artificial e alguém usa isso em regiões que não tem representativos para contextualizar sobre aquele local, você pode ter vieses embutidos e estereótipos reforçados dentro do próprio elemento cultural
Guilherme Cintra

IA na Educação

Quando usada na educação, o especialista argumenta que a IA é tida como um elemento de alto risco, que demanda a adoção de medidas complexas. Ele vê principalmente as avaliações como uma área de maior potencial, necessidade e também de grande risco.

Onde eu vejo um risco grande são as avaliações seletivas. Quando você tem inteligência artificial com potenciais vieses, que vem os dados históricos e que vão definir se um aluno entra ou não na universidade, existe um risco muito grande de você incutir um viés em uma coisa que muda completamente a vida do aluno. É um risco alto que a gente tem que considerar
Guilherme Cintra

O especialista conta que na Fundação onde atua, costumam usar IA para verificar a fluência leitora dos estudantes. Contudo, ressalta que essa verificação não deve ser feita para fins de reprovação, por exemplo.