Ilustração por Técnica Táctica, com elementos visuais de Yirorgos Bagakis e Alessandro Cripsta. Usado com permissão. Este artigo foi escrito pela Safa Ghnaim em colaboração com o Goethe-Institut Brasil e originalmente publicado no DataDetoxKit.org. Uma versão editada é republicada pela Global Voices sob um acordo de parceria. Embora pareça uma tecnologia neutra, a inteligência artificial (AI) também tem vieses — não é a ferramenta objetiva que as pessoas pensam que é. A AI é projetada por pessoas e treinada em conjuntos de dados. Assim como você, as pessoas que a constroem têm certas crenças, opiniões e experiências que informam suas escolhas, sejam elas perceberem ou não. Os engenheiros e empresas que criam e treinam IA podem pensar que certas informações ou objetivos são mais importantes do que outras. Dependendo dos conjuntos de dados que eles.feed. para as ferramentas de IA que eles criam — como algoritmos ou chatbots — essas máquinas podem servir para obter resultados viés. É por isso que a IA pode produzir dados inexactos, gerar suposições falsas ou tomar as mesmas decisões erradas que uma pessoa.
A IA não é mágica: máquinas programadas pelas pessoas carregam seus defeitos. Algumas pessoas falam sobre IA como se fosse mágica, mas a inteligência artificial é apenas uma máquina. Simplesmente, as ferramentas de IA são programas de computador que foram alimentados com muitos dados para ajudá-los a fazer previsões. O ÌAIÌ refere- se a uma variedade de ferramentas projetadas para reconhecer padrões, resolver problemas e tomar decisões a uma velocidade e escala muito maiores do que os humanos podem. Mas como qualquer ferramenta, a IA é projetada e programada pelos humanos. As pessoas que criam estas máquinas dão- lhes regras a seguir:. Faça isso; mas não faça isso.. Saber que as ferramentas de IA são sistemas automatizados com suas próprias limitações influenciadas por humanos pode dar- lhe mais confiança para falar sobre as capacidades e desvantagens da IA. Quando as pessoas falam sobre IA, elas podem estar falando sobre tantas coisas. Confira alguns exemplos de ferramentas de IA que são especialmente populares e seus defeitos:.
As ferramentas de geração de texto criam conteúdo com base em determinadas palavras-chave (ou. prompts) que você define. Eles são treinados em grandes quantidades de texto da internet, de vários graus de qualidade. Você pode ouvir estes referidos como modelos de línguas grandes (LLMs) ou por nomes específicos de produtos como ChatGPT, ou ainda termos mais casuales como.chatbots ou assistentes de AI. Embora estas ferramentas tenham sido conhecidas para alcançar feitos de inteligência como humana, como exames de aceing, eles também são conhecidos por alucinar.. significando que também geram texto que é inexacto. As ferramentas de geração de imagens criam imagens ou vídeos com base em determinadas palavras-chave que você define. Você poderá ouvir sobre estes referidos como modelos de texto para imagem, ou mesmo por nomes específicos de produtos como DALL-E ou Difusão Estável. Estas ferramentas podem produzir imagens e vídeos incrivelmente credíveis, mas também são conhecidas por reduzir o mundo a estereótipos e podem ser usadas para a sextorção e assédio.
Os sistemas de recomendação mostram- lhe conteúdo que eles. previem que você é mais provável que clique em ou se envolva. Estes sistemas estão trabalhando no fundo dos motores de busca, feeds de mídia social e reprodução automática no YouTube. Você também pode ouvir estes referidos como algoritmos. Estas ferramentas podem dar- lhe mais do que você já está interessado, e também podem endireitar- lhe alguns buracos perigosos de coelho. Os sistemas de recomendação são usados em decisões importantes como contratação de emprego, admissões universitárias, empréstimos domiciliares, e outras áreas da vida diária. Enquanto alguns especialistas acreditam que as ferramentas de IA, como os chatbots, estão ficando.Smarter. por si sós, outros dizem que estão cheios de erros. Aqui estão algumas razões por que você pode querer pensar sobre os vieses por trás da IA:.
Alguns dos dados que eles treinaram podem ser pessoais, direitos autorais ou usados sem permissão. Dependendo dos conjuntos de dados, eles podem estar cheios de discursos de ódio, teorias de conspiração, ou informações que simplesmente estão erradas.
Os dados podem ser viés contra certas pessoas, gêneros, culturas, religiões, empregos ou circunstâncias. As ferramentas de IA também são treinadas em dados que deixam as coisas para fora. Se houver pouca ou nenhuma informação sobre um grupo de pessoas, língua ou cultura nos dados de treinamento, não será possível gerar quaisquer respostas sobre eles. Uma chave 2018 estudo por Joy Buolamwini chamado ї Sombras de Género ї identificou como sistemas de reconhecimento facial difundidos tiveram dificuldades para identificar os rostos das pessoas de cor, especialmente das mulheres negras. No momento do estudo, estas ferramentas falhadas já tinham sido usadas rotineiramente pela polícia nos Estados Unidos.
Brilhe um foco sobre viés para evitar reproduzi-lo. Agora que você sabe sobre algumas das fraquezas que podem existir nos conjuntos de dados de IA, que são construídos por pessoas como nós, deixe- os dar uma olhada em nós mesmos. Como o modo como nossos cérebros humanos trabalham pode iluminar os vieses da IA? Existem tipos de vieses que estão profundamente enraizados em indivíduos, organizações, culturas e sociedades. Brilhe uma luz sobre eles refletindo sobre estas perguntas:.
Como espera que outros se apresentem, incluindo como se comportam, se vestem e falam? Existe algum grupo que enfrenta mais risco, punição ou estigmatização por causa do seu aspecto ou como se comportam, se vestem ou falam?
Os vieses que você acaba de refletir dependem muitas vezes de pressupostos, atitudes e estereótipos que fazem parte das culturas há muito tempo e podem influenciar sua tomada de decisão de formas inconscientes. É por isso que eles são chamados de viés implícitos — eles frequentemente são conectados em sua mentalidade, difíceis de detectar e desconfortáveis de confrontar. Viés implícitos comuns incluem. Viés de gênero: a tendência a saltar para conclusões sobre pessoas de diferentes gêneros com base em preconceitos ou estereótipos.
Viés racial e/ ou étnico: a tendência para saltar para conclusões sobre as pessoas com base na cor da pele, fundo cultural e/ ou etnia. Harvard tem uma grande biblioteca de testes de viés implícitos que você pode tentar online gratuitamente para ver como você faz e quais áreas você pode trabalhar. Com muitos vieses implícitos, ele pode sentir como uma viagem até mesmo para o iden.