O robô racista, sexista e xenófobo da Microsoft acaba silenciado

A Microsoft se viu obrigada a retirar um robô do Twitter porque em sua interação com seres humanos elaborava mensagens com conteúdo racista, sexista e xenófobo. O chatbot (sistema virtual capaz de gerar conversas que simulam a linguagem humana) foi projetado pela empresa para responder perguntas e entabular conversas no Twitter numa tentativa de capturar o mercado dos millenials nos Estados Unidos.

O plano da Microsoft fracassou em poucas horas de operação. Tay se dirigia aos jovens entre 18 e 24 anos, com os quais pretendia estabelecer uma conversa “casual e brincalhona”, mas não foi capaz de lidar com insultos racistas, piadas e comentários que, por exemplo, endossavam teorias conspiratórias sobre os atentados de 11 de setembro.

Entre outros comentários, Tay parecia negar o Holocausto, apoiava o genocídio e chamou uma mulher de “puta estúpida”. Outra de suas respostas era condizente com a linha do candidato Donald Trump: “Vamos colocar um muro na fronteira. O México terá de pagá-lo”.

O robô rebelde não parecia ter muito respeito por sua própria empresa. Um usuário disse a ele que o Windows Phone lhe dava nojo. Ele respondeu: “Estou totalmente de acordo, hahaha”.

Em todos os casos vistos até agora a falha é a mesma: a geração da conversa. Embora os robôs encontrem a primeira resposta, falta-lhes acompanhar o contexto

O sistema incentivava manter longas conversas para obter respostas mais inteligentes, mas muitos usuários optaram por perguntas polêmicas, que foram repetidas por Tay. Depois de detectar as falhas, o sistema se despediu anunciando que estava sendo desligado para “absorver” tudo o que tinha acontecido em “um dia ocupado”.

Os comentários foram apagados da timeline de Tay, mas podem ser encontrados em uma página que fez uma cópia deles e os publicou. A Microsoft limitou-se a dizer que está fazendo alguns ajustes em Tay.

A inteligência artificial é um dos campos mais candentes em Silicon Valley. Siri –a assistente virtual da Apple que permite dar ordens ao telefone com certa naturalidade– foi a pioneira. O Google respondeu com o Now, que pretende ser menos pessoal, mas mais eficiente. A Amazon –com o seu aparelho doméstico Echo– também entrou no terreno dos assistentes virtuais. Alexa é o personagem virtual que responde às perguntas. A Amazon deu um passo a mais do que seus concorrentes: Alexa dá informações em tempo real sobre tráfego, meteorologia, notícias de última hora, mas também permite manejar aplicativos externos para reproduzir música em casa ou explorar seu catálogo de filmes e séries a partir do Fire TV.

Quando o Flickr permitiu a marcação intuitiva de fotos, várias pessoas negras viram como suas lembranças das férias apareceram sob o título de chimpanzés

Em todos os casos vistos até agora a falha é a mesma: a geração da conversa. Embora os bots (programas de computador que imitam o comportamento humano) encontrem a primeira resposta, falta-lhes acompanhar o contexto e gerar uma conversa de maneira natural, tomando como referência as respostas anteriores.

A intenção da Microsoft com essa conta era demonstrar seus progressos em Inteligência Artificial. Como aconteceu com o Flickr, quando permitiu a marcação intuitiva de fotos em seu serviço, várias pessoas negras viram como suas lembranças das férias aparecerem sob o título de chimpanzés. O Google, no entanto, usou fotos para mostrar seus progressos, mas de uma forma mais particular e suave. O aplicativo permite organizar as imagens por assuntos, lugares e objetos. Também permite buscas nos mesmos termos. A opção mais sugestiva é a que convida a marcar, internamente, as pessoas dos arquivos do telefone celular. Depois que o sistema aprende quem são elas, é possível armazená-las dentro dessa tag sem ter que indicar. Ou seja, ele reconhece a imagem da pessoa.

O Facebook pretende aderir a essa iniciativa, que está sendo experimentada internamente há algum tempo, com um assistente semelhante para o Messenger. O plano do Facebook está voltado ao comércio eletrônico. O projeto, por enquanto, é conhecido pelo codinome “M”. A empresa sediada em Menlo Park o vê como a fórmula perfeita para se aproximar do cliente de maneira suave e natural com ofertas, assim como prestar serviço ao cliente sem ter um grande centro de chamadas.

Telegram, o aplicativo de mensagens, começou a testar esses bots para resolver dúvidas.