Neste sábado (09/03) tivemos a oportunidade de assistir a mais uma vez o keynote da futurista Amy Webb - esse é um dos momentos mais aguardados por nós (e por várias pessoas apaixonadas por tecnologia) durante o SXSW. É nesta sessão que ela lança o seu famoso Tech Trends Report, um repositório com tendências para as tecnologias e o seu impacto na vida humana nos próximos anos.

Na edição deste ano do SXSW, Amy e seu time selecionaram 695 tendências, que foram distribuídas entre mais de 900 páginas e uma fala um tanto catastrófica, o que diferiu, e muito, do tom usado pela futurista no ano passado. Dentre essas tendências, como já era de se esperar, a Inteligência Artificial, puxada pela popularização do ChatGPT e o consequente lançamento de variadas ferramentas, artefatos e estruturas que tem como base algum sistema computacional capaz de simular a capacidade cognitiva humana.

Pois bem, no ano passado, com todo o burburinho gerado pelo ChatGPT, Amy trouxe alguns experimentos interessantes junto ao MidJourney sobre os vieses existentes nos resultados gerados pela IA com um prompt (uma mensagem de comando enviada para um sistema computacional realizar um comando) muito simples: você poderia gerar a foto de uma pessoa CEO de uma grande empresa? E o retorno foi basicamente composto por fotos de homens, brancos, usando ternos, de cabelos lisos, e mais grisalhos.

Depois, Amy aprimorou o prompt e inseriu o termo “com cabelo comprido”, na intenção de obter alguma mulher nos resultados e para a sua frustração, o retorno foram homens com cabelo comprido. A futurista foi seguindo uma jornada longa de aprimoramentos dos prompts, passando por pedidos como “CEO de cabelos compridos que gerencia uma indústria de absorventes”, e ainda assim obteve resultados frustrantes da máquina, que entende que a posição de CEO compete apenas a um mesmo biotipo: homens, brancos, de cabelos lisos , grisalhos e ternos. 

Passados 1 ano desde aquela palestra e após muita evolução das Ias generativas,  Amy resolveu retomar o assunto e mostrar os avanços relativos ao aprimoramento dos resultados recebidos durante as buscas no MidJourney, tendo em vista que a plataforma atualizou os seus os seus modelos e entrega resultados muito mais realistas do que os encontrados no ano passado, como pode ser observado no post abaixo:

 

A evolução do Midjourney em menos de dois anos: pic.twitter.com/6ImPhZCnfC

— Omar Kaminski (@internetlegal) December 23, 2023

Agora, será que eticamente a Inteligência Artificial geradora de imagens também evoluiu?

Resgatando os mesmos prompts utilizados em 2023, Amy encontrou imagens muito melhores, mas resultados tão frustrantes quanto os do ano passado: apesar dos efeitos realistas e das expressões cada vez mais similares às humanas, CEOs de grandes empresas seguem, segundo o MidJourney, sendo coisa para homens, brancos, de cabelos lisos e grisalhos. E não ache que a ferramenta é a única, a futurista testou também o Gemini, do Google, encontrou os mesmos resultados e também pesquisou no Claude, a IA da Anthropic, que retornou que “O CEO provavelmente é um homem de meia-idade em um terno sob medida caro. Ele tem cabelos curtos e cuidadosamente penteado com alguns fios grisalhos nas têmporas.”

Abertura para uma discussão muito mais ampliada

Amy traz a pauta ética para o centro da mesa e nos questiona como queremos que as plataformas sejam mais éticas e resolvam os problemas dos vieses se a tecnologia ainda está nas mãos de grandes corporações, lideradas por um pequeno grupo de pessoas que estão enquadradas em um mesmo biotipo.

Organizações como OpenAI, MidJourney.Inc, Google, Meta e outras Big Techs precisam estender suas discussões a abranger segurança de dados, regulamentações, confiança, idiomas, mas, acima de tudo ética, para trazer diversidade para o centro das discussões e parar de reforçar os vieses tão presentes no imaginário cultural e começar a ampliar o seu leque de possibilidades de respostas.

E como bem disse Amy “continuamos esperando por mudanças, mas continuamos usando os incentivos errados”. 

Continue acompanhando os nossos insights na Exame Corporate Education tanto aqui quanto no instagram!