Estudos étnicos e inteligência artificial
Carlos Cartaxo
Dentre o que foi importante no ano de 2024 para mim, um dos registros é a publicação do artigo "Estudos étnicos e inteligência artificial" na revista Conceitos da ADUFPB - Seção Sindical do ANDES-SN. O artigo está disponível no endereço https://www.adufpb.org.br/site/wp-content/uploads/2024/10/CONCEITOS_29_OUTUBRO_2024_v3.pdf, página 52.
Esse artigo é fruto da disciplina Seminários Étnico-raciais do Departamento de Comunicação da Universidade Federal da Paraíba; e aborda sobre a interseção entre inteligência artificial (IA) e questões étnico-raciais, com destaque à expansão da IA para diversas áreas da sociedade. A preocupação central é se a IA será usada de maneira inclusiva ou excludente em relação ao racismo e outras formas de discriminação.
Uso das informações na contemporaneidade é uma questão preocupante, portanto séria, no universo da comunicação. Essa é uma questão de poder, "estudos sobre a histórica mistura étnica entre pretos e brancos, em regiões como o norte da África e a Península Ibérica, demonstram que a concepção de raça foi usada para fins de dominação e escravidão; portanto, a questão levantada é se os algoritmos de IA, controlados por programadores, serão desenvolvidos de maneira a combater o racismo ou perpetuá-lo" (Cartaxo, Feitosa, Silva, 2024, p.52).
A série documental "Coded Bias", que discute o viés racial em algoritmos de IA tem uma importância ímpar nesse debate; inclusive fundamenta nosso artigo porque destaca o fato de que algoritmos que deveriam ser neutros, como se existisse neutralidade, podem fortalecer preconceitos e ratificar a ideia de que o ativismo digital pode e deve desempenhar um papel na conscientização e na busca por soluções anti racistas. Essa abordagem vale também para "a violência contra indígenas, especialmente no Brasil, destacando a discriminação, o deslocamento forçado, a violência física e cultural que essas comunidades enfrentam, bem como a negligência no que concerne a saúde e a educação desses povos, além da impunidade dos perpetradores que é um problema persistente e dramático" (Cartaxo, Feitosa, Silva, 2024, p.52).
A base teórica do trabalho tem como fonte os conceitos teóricos da norte-americana Toni Morrison, e do brasileiro Gersem dos Santos Luciano – Baniwa; além de vários autores e autoras de artigos científicos sobre o tema e páginas de internet. Abaixo cito fragmentos do artigo.
"A IA vai intervir como e até quando?
A Inteligência Artificial é uma área do conhecimento que tem uma raio de ação multidisciplinar. Os cientistas J. McCarthy do Dartmouth College, M. L. Minsky da Harvard University, N. Rochester da I.B.M. Corporation e C. E, Shannon da Bell Telephone Laboratories organizaram uma conferência no Dartmouth College em Hanover, EUA, em 1956, que determinou os primeiros debates e registros científicos do que se denominou IA - Inteligência artificial. O evento foi tão impactante, para as gerações futuras, que cinquenta anos depois, John McCarthy organizou a AI@50 com o fim de homenagear e, evidentemente, reconhecer a importância da primeira conferência; mas, sobretudo, fortalecer a pesquisa nesse campo científico que já estava consolidada e caminhava a passos largos. A ideia de McCarthy era “proceder com base na conjectura de que cada aspecto da aprendizagem ou qualquer outra característica da inteligência pode, em princípio, ser descrito com tanta precisão que uma máquina pode ser feita para simulá-lo” (DARTMOUTH, 2023). O AI@50 foi dirigido pelo professor de filosofia James Moor. Este afirmou “que os investigadores que vieram para Hanôver há 50 anos pensaram em formas de tornar as máquinas mais conscientes e queriam estabelecer uma estrutura para compreender melhor a inteligência humana” (DARTMOUTH, 2023)".
"A miscigenação de negros e brancos vem de tempos remotos. O norte da África e o sul da Europa e, mais especificamente, a Península Ibérica, há séculos, passam por esse processo. A designação de raça tem sido fruto de interesses que, em muitos casos, se denominam científicas, com o fim de dominar e escravizar certas etnias. Muito antes das experiências médicas dos nazistas com base em diferentes etnias, a “ciência” já era usada como forma de controle e dominação. O New Orleans Medical and Surgical Journal (Cadernos de Medicina e Cirurgia de New Orleans), citado por Morrison, publicou que "negros são utéis, não tanto quanto gado, mas tampouco reconhecidamente humanos (MORRISON, 209, p. 14). Os algoritmos são determinantes à condição criativa da Inteligência Artificial; se comporta de acordo com os comandos do programador; então, eis a questão: esses comandos serão inclusivos ou exclusivos contra o racismo? As equipes que trabalham com a IA, trabalham conteúdos multiculturais e anti-racistas? Se a ciência, em vários momentos da história da humanidade, afirmou e defendeu que certas etnias eram inferiores, como esse comportamento controlador e opressor agirá diante do racismo e de outros fatores excludentes?
Inteligência Artificial e etnia: uma ligação com o racismo estrutural
A Inteligência Artificial (IA) tem se tornado cada vez mais presente em nossas vidas, desempenhando papeis significativos em diversas áreas, desde assistentes virtuais até sistemas de reconhecimento facial. No entanto, à medida que a tecnologia avança, também enfrentamos desafios importantes relacionados à ética e à inclusão.
A questão da inteligência artificial e sua interseção com a etnia é um tema fascinante e complexo, pois tem sido abordado em diversas obras de arte e literatura, desde a década de 90 do século XX. O filme "O Grande Desafio", estrelado por Denzel Washington, e o livro "A Origem dos Outros", são obras que não abordam diretamente a tecnologia, mas nos oferecem perspectivas reflexivas sobre como a inteligência artificial pode impactar nas questões étnicas e raciais da sociedade contemporânea.
O filme "O Grande Desafio" conta a história real de um professor que lidera uma equipe de estudantes negros, no sul dos Estados Unidos, para participar de competições de debates. Ele retrata principalmente a superação das dificuldades educacionais dos estudantes, e também levanta questões sobre o acesso igualitário à educação e as oportunidades para jovens de comunidades sub representadas. Isso ressoa com questões de diversidade étnica, já que muitas vezes grupos minoritários enfrentam barreiras socioeconômicas que limitam seu acesso à educação e, por extensão, às oportunidades de carreira em tecnologia, incluindo a inteligência artificial.
Esse cenário se agrava quando fazemos recortes de gênero. Um estudo realizado pela (Pretalab 2017), em parceria com a ThoughtWorks, mostrou que a área de tecnologia é majoritariamente composta por homens brancos de condição socioeconômica média e alta.
A pesquisa, intitulada #Quemcodabr, analisou dados de mais de 10 mil profissionais de tecnologia no Brasil. Os resultados revelaram que, em 32,7% dos casos, não há nenhuma pessoa negra nas equipes de trabalho. Em 68,5% das análises, as pessoas negras representam um máximo de 10% das equipes. Além disso, 21% dos entrevistados responderam que em suas equipes não há nenhuma mulher"
"A inteligência artificial sendo desenvolvida por seres humanos, também pode refletir os preconceitos e as crenças culturais de seus criadores, perpetuando a intolerância e os estereótipos, caso não seja devidamente treinada e supervisionada pelas autoridades competentes. É importante considerar a diversidade em todas as fases do desenvolvimento da tecnologia, como os dados usados nos algoritmos, e quem está desenvolvendo, pois podem refletir as rejeições existentes nos desenvolvedores destes códigos; e isto poderia levar a discriminação automática.
Diante disso, é necessário que a sociedade esteja ciente dessas questões e participe ativamente do debate sobre como a IA pode ser usada de maneira justa e inclusiva. A inteligência artificial tem o potencial de amplificar os valores morais, éticos e culturais, e se for desenvolvida e utilizada de maneira correta pelas equipes de desenvolvimento, associada a implementação de regulamentações, podem garantir que a IA não perpetue desigualdades existentes na nossa contemporaneidade.
Por fim, o filme "O Grande Desafio" e o livro "A Origem dos Outros" oferecem perspectivas importantes sobre a relação entre inteligência artificial e etnia. Elas nos lembram que a tecnologia deve ser usada para promover a igualdade e a justiça, em vez de aprofundar divisões e preconceitos. Ela também é uma ferramenta poderosa na promoção de um mundo mais inclusivo e equitativo, desde que seja desenvolvida e utilizada com responsabilidade e sensibilidade às questões étnicas, raciais e culturais.
Referências
CARTAXO, Carlos; FEITOSA, Kaira L. T.; SILVA, Walber B. da. Estudos étnicos e inteligência artificial. João Pessoa, Revista Conceitos, n 29, outubro de 2024.