Enquanto a Austrália celebra 50 anos da NAIDOC Week, que homenageia a cultura indígena mais antiga do mundo, a inteligência artificial (IA) enfrenta um importante dilema: "nada sobre nós, sem nós". A preocupação é que a IA, assim como outras tecnologias, se torne uma força extrativista que utiliza os conhecimentos indígenas sem consentimento, reconhecimento ou retorno.

Essa questão ganhou destaque globalmente, especialmente após o Papa Leão XIV, em sua primeira encíclica, Magnifica Humanitas, considerar a IA como um dos testes morais mais significativos de nossa era. Ele alertou sobre os perigos da IA se transformar em uma ferramenta de opressão, destacando seu potencial discriminatório contra grupos minoritários, populações marginalizadas e povos indígenas. O Papa enfatizou a necessidade de confrontar questões fundamentais sobre a propriedade, governança, responsabilidade e distribuição dos benefícios advindos da IA.

Impactos da IA sobre os Conhecimentos Indígenas

Uma pesquisa realizada por uma parceria de pesquisa liderada por Primeiras Nações buscou explorar a interseção entre os Sistemas de Conhecimento Indígena e a IA. A análise de 53 estudos acadêmicos publicados entre 2012 e 2023 revelou quatro maneiras pelas quais a IA pode impactar os detentores do conhecimento indígena e suas comunidades. A pesquisa indicou que a IA pode reforçar preconceitos existentes, causando mais danos do que benefícios.

Portanto, a proteção das comunidades requer uma nova abordagem engajada e consensual para o treinamento de Modelos de Linguagem de Grande Escala (LLMs). É essencial que os conhecimentos indígenas sejam incorporados de maneira ética, devidamente reconhecidos e valorizados nesse processo. No entanto, a IA também apresenta oportunidades. Pode servir como uma ferramenta para preservar conhecimento em benefício das comunidades e desenvolver soluções para desafios identificados por povos indígenas.

Exemplos de uso positivo da IA

Em diversas partes do mundo, pesquisadores já utilizam a IA para revitalizar línguas ameaçadas, mapear terras culturalmente significativas e documentar tradições orais. Na Austrália Ocidental, a Curtin University desenvolveu um aplicativo que identifica flores silvestres da região e reproduz áudios com seus nomes na língua Noongar, auxiliando na pronúncia. Na Califórnia, em parceria com a Amah Mutsun Tribal Band, estão utilizando aprendizado de máquina para mapear distribuições de plantas essenciais para a revitalização cultural da tribo.

Além disso, clínicas médicas aborígenes na Austrália Ocidental estão testando triagens assistidas por IA para combater a retinopatia diabética, um dos principais causadores de cegueira evitável. Em Taiwan, programas de saúde utilizam modelagem preditiva para avaliar riscos de quedas em anciãos indígenas, superando lacunas críticas causadas pela distância e falta de recursos.

Desafios e considerações éticas

No entanto, os sistemas que oferecem suporte também podem desrespeitar e prejudicar os povos indígenas. Um sistema de IA para proteção infantil na Nova Zelândia, por exemplo, direcionou desproporcionalmente famílias indígenas para serviços de proteção. Na Austrália, uma ferramenta de triagem ocular errou diagnósticos em pacientes aborígines devido ao treinamento em conjuntos de dados que não consideravam suas características específicas.

Esses exemplos evidenciam a necessidade de uma abordagem que respeite os princípios de Consentimento Livre, Prévio e Informado, conforme expressam os frameworks CARE e OCAP, que defendem a soberania dos dados indígenas. Para que a IA seja benéfica, é fundamental envolver as comunidades indígenas no processo de desenvolvimento e garantir que seus conhecimentos sejam valorizados e respeitados.