Dezenas de milhões de pessoas usam alto-falantes inteligentes e seu software de voz para jogos, pesquisa de músicas ou curiosidades. Outros milhões relutam em convidar esses dispositivos e seus poderosos microfones para entrar em seus lares, preocupados com a possibilidade de alguém estar ouvindo. Às vezes, alguém está.

A Amazon.com emprega milhares de pessoas em todo o mundo para ajudar a melhorar a assistente virtual Alexa usada em sua linha de alto-falantes Echo. A equipe ouve as gravações de voz capturadas em residências e escritórios de usuários do Echo. As gravações são transcritas, anotadas e depois inseridas no software como parte de um esforço para eliminar problemas de compreensão da fala humana pela Alexa e ajudá-la a responder melhor aos comandos.

O processo de análise de voz da Alexa, descrito por sete pessoas que trabalharam no programa, destaca o papel humano frequentemente negligenciado no treinamento de algoritmos de software. Em materiais de marketing, a Amazon diz que a Alexa “vive na nuvem e está ficando cada vez mais inteligente”. Mas, como muitas ferramentas de software criadas para aprender com a experiência, os humanos estão assumindo parte da tarefa de ensinar.

A equipe é composta por uma combinação de terceirizados e funcionários da Amazon que trabalham em escritórios em vários países do mundo, como Estados Unidos, Costa Rica, Índia e Romênia, segundo essas pessoas, que assinaram acordos de confidencialidade que as impedem de falar publicamente sobre o programa. Trabalham nove horas por dia, com cada revisor analisando até 1.000 clipes de áudio por turno, de acordo com dois funcionários que trabalham no escritório da Amazon em Bucareste, capital da Romênia, que ocupa os três últimos andares do edifício Globalworth, no promissor distrito de Pipera. As modernas instalações se destacam em meio à infraestrutura decadente e não exibem nenhum sinal exterior que indique a presença da Amazon.

Às vezes, ouvem gravações consideradas perturbadoras ou possivelmente criminosas. Dois funcionários disseram que ouviram o que acreditam ser uma agressão sexual. Quando algo assim acontece, podem compartilhar a experiência na sala de bate-papo interna como forma de aliviar o estresse. A Amazon diz que tem procedimentos a serem seguidos pelos funcionários quando ouvem algo angustiante, mas dois empregados na Romênia disseram que, depois de solicitar orientação para esses casos, ouviram que não cabia à Amazon interferir.

"Levamos a segurança e a privacidade das informações pessoais de nossos clientes a sério", disse um porta-voz da Amazon em comunicado enviado por e-mail. “Anotamos apenas uma amostra extremamente pequena de gravações de voz da Alexa para melhorar a experiência do cliente. Por exemplo, essas informações nos ajudam a treinar nossos sistemas de reconhecimento de fala e compreensão da linguagem natural, para que a Alexa possa entender melhor suas solicitações e garantir que o serviço funcione bem para todos. ”

Nas configurações de privacidade da Alexa, a empresa oferece aos usuários a opção de desativar o uso de suas gravações de voz para o desenvolvimento de novos recursos. Uma captura de tela analisada pela Bloomberg mostra que as gravações enviadas aos auditores da Alexa não fornecem o nome completo e o endereço do usuário, mas estão associados a um número de conta, bem como ao primeiro nome do usuário e ao número de série do dispositivo.