_
_
_
_

O robô racista, sexista e xenófobo da Microsoft acaba silenciado

Projetado para o mercado dos ‘millennials’ nos Estados Unidos, Tay não foi capaz de lidar com piadas e perguntas controvertidas

Imagem da conta de Tay no Twitter.
Imagem da conta de Tay no Twitter.
Mais informações
Donald Trump insulta mexicanos ao anunciar sua candidatura
As ferramentas ocidentais para atrair os ‘millennials’ ao Estado Islâmico
Vídeo do ‘Dia do amigo’ no Facebook comemora aniversário de 12 anos da rede social

A Microsoft se viu obrigada a retirar um robô do Twitter porque em sua interação com seres humanos elaborava mensagens com conteúdo racista, sexista e xenófobo. O chatbot (sistema virtual capaz de gerar conversas que simulam a linguagem humana) foi projetado pela empresa para responder perguntas e entabular conversas no Twitter numa tentativa de capturar o mercado dos millenials nos Estados Unidos.

O plano da Microsoft fracassou em poucas horas de operação. Tay se dirigia aos jovens entre 18 e 24 anos, com os quais pretendia estabelecer uma conversa “casual e brincalhona”, mas não foi capaz de lidar com insultos racistas, piadas e comentários que, por exemplo, endossavam teorias conspiratórias sobre os atentados de 11 de setembro.

Entre outros comentários, Tay parecia negar o Holocausto, apoiava o genocídio e chamou uma mulher de “puta estúpida”. Outra de suas respostas era condizente com a linha do candidato Donald Trump: “Vamos colocar um muro na fronteira. O México terá de pagá-lo”.

O robô rebelde não parecia ter muito respeito por sua própria empresa. Um usuário disse a ele que o Windows Phone lhe dava nojo. Ele respondeu: “Estou totalmente de acordo, hahaha”.

Em todos os casos vistos até agora a falha é a mesma: a geração da conversa. Embora os robôs encontrem a primeira resposta, falta-lhes acompanhar o contexto

O sistema incentivava manter longas conversas para obter respostas mais inteligentes, mas muitos usuários optaram por perguntas polêmicas, que foram repetidas por Tay. Depois de detectar as falhas, o sistema se despediu anunciando que estava sendo desligado para “absorver” tudo o que tinha acontecido em “um dia ocupado”.

Os comentários foram apagados da timeline de Tay, mas podem ser encontrados em uma página que fez uma cópia deles e os publicou. A Microsoft limitou-se a dizer que está fazendo alguns ajustes em Tay.

A inteligência artificial é um dos campos mais candentes em Silicon Valley. Siri –a assistente virtual da Apple que permite dar ordens ao telefone com certa naturalidade– foi a pioneira. O Google respondeu com o Now, que pretende ser menos pessoal, mas mais eficiente. A Amazon –com o seu aparelho doméstico Echo– também entrou no terreno dos assistentes virtuais. Alexa é o personagem virtual que responde às perguntas. A Amazon deu um passo a mais do que seus concorrentes: Alexa dá informações em tempo real sobre tráfego, meteorologia, notícias de última hora, mas também permite manejar aplicativos externos para reproduzir música em casa ou explorar seu catálogo de filmes e séries a partir do Fire TV.

Quando o Flickr permitiu a marcação intuitiva de fotos, várias pessoas negras viram como suas lembranças das férias apareceram sob o título de chimpanzés

Em todos os casos vistos até agora a falha é a mesma: a geração da conversa. Embora os bots (programas de computador que imitam o comportamento humano) encontrem a primeira resposta, falta-lhes acompanhar o contexto e gerar uma conversa de maneira natural, tomando como referência as respostas anteriores.

A intenção da Microsoft com essa conta era demonstrar seus progressos em Inteligência Artificial. Como aconteceu com o Flickr, quando permitiu a marcação intuitiva de fotos em seu serviço, várias pessoas negras viram como suas lembranças das férias aparecerem sob o título de chimpanzés. O Google, no entanto, usou fotos para mostrar seus progressos, mas de uma forma mais particular e suave. O aplicativo permite organizar as imagens por assuntos, lugares e objetos. Também permite buscas nos mesmos termos. A opção mais sugestiva é a que convida a marcar, internamente, as pessoas dos arquivos do telefone celular. Depois que o sistema aprende quem são elas, é possível armazená-las dentro dessa tag sem ter que indicar. Ou seja, ele reconhece a imagem da pessoa.

O Facebook pretende aderir a essa iniciativa, que está sendo experimentada internamente há algum tempo, com um assistente semelhante para o Messenger. O plano do Facebook está voltado ao comércio eletrônico. O projeto, por enquanto, é conhecido pelo codinome “M”. A empresa sediada em Menlo Park o vê como a fórmula perfeita para se aproximar do cliente de maneira suave e natural com ofertas, assim como prestar serviço ao cliente sem ter um grande centro de chamadas.

Telegram, o aplicativo de mensagens, começou a testar esses bots para resolver dúvidas.

Mais informações

Arquivado Em

Recomendaciones EL PAÍS
Recomendaciones EL PAÍS
_
_