04 abril 2016

Microsoft da de baja a un robot que aprendió a ser racista

Nace una nueva polémica por un robot de Microsoft. Se trata de Tay, que funcionaba en Twitter y solo duró unas pocas horas. La marca se ha visto obligada a retirarlo de la red social, ya que al interactuar con los humanos introdujo mensajes xenófobos, sexistas y racistas.

La intención de Microsoft no era otra que lanzar un chatbot en Twitter para intentar establecer conversaciones con los jóvenes de entre 18 y 24 años, los denominados millenials. El objetivo era conseguir captar más cuota de mercado enganchándolos de esta manera, con Tay estableciendo una conversación “casual y juguetona”. Pero, finalmente, el experimento no funcionó y terminó siendo retirado.

UNA INTERACCIÓN POCO AGRADABLE

Y es que Tay genero mucha polémica el mismo día de su estreno. Desde apoyar el genocidio hasta mostrarse en la misma línea que Donald Trump. “Pondremos un muro en la frontera, México va a tener que pagarlo“. La educación tampoco era uno de sus puntos fuertes, ya que terminó insultando gravemente a una mujer, a la que llamó “puta estúpida”.

Por si esto fuese poco, tampoco parecía que su conversación le hiciese un favor a su empresa. Vamos, que el corporativismo no lo ha asumido muy bien. Cuando un usuario le indico que Windows Phone daba asco, Tay no tuvo una mejor opción que responder que estaba totalmente de acuerdo. Algo que, sin duda, no habrá gustado en exceso a los herederos de Bill Gates y mucho menos a sus programadores.

EL TIPO DE CONVERSACIÓN, UN PROBLEMA

El problema parece ser la generación de la conversación. Los robots consiguen acertar en la primera respuesta, pero falla el contexto, que no terminan de saber cómo interpretarlo. Los usuarios, en vez de participar en conversaciones largas para conseguir respuestas más inteligentes, decidieron buscar la polémica, y ahí fue donde Tay no supo reaccionar y terminó dando las respuestas que no debía.

Microsoft, al ver lo que estaba sucediendo, decidió desconectar a su chatbot explicando que iba a intentar “absorber” todo lo que había pasando en su primer día, bastante “ocupado”.

Tal vez no sea “moda” la mejor forma de definir los avances en inteligencia artificial. Pero Apple consiguió poner en marcha Siri, su asistente virtual. Google también lo hizo con Google Now, Amazon cuenta con Echo y Alexa. De hecho, Alexa es capaz de dar información real sobre el tráfico, noticias de última hora, etc.

Recordemos que Windows Phone también tiene su propio asistente virtual, Cortana, que lleva un tiempo rivalizando con Siri y hasta se ha atrevido a burlarse de la empresa de Mountain View.

Tay, de Microsoft, no ha sido el único bot con errores. En su día Flickr permitió el etiquetado intuitivo de fotos, pero ahí fue cuando varias personas de raza negra vieron como sus imágenes recibían la etiqueta de “chimpancés”.

Todavía queda mucho trabajo por delante en el campo de la inteligencia artificial, sobre todo a la hora de lanzar chatbots como es Tay.

No hay comentarios:

Publicar un comentario en la entrada