La inteligencia artificial está lista ¿y nosotros para ella?

La inteligencia artificial está lista ¿y nosotros para ella?

La inteligencia artificial está lista ¿y nosotros para ella?

El dilema de un mismo experimento en redes sociales y dos culturas frente a la inteligencia artificial.

En las últimas semanas sonó el denominado 'fracaso' de Microsoft por su chatbot Tay, sistema de inteligencia artificial que a través de una cuenta de Twitter abierta al público no solo conversaba con los usuarios sino que aprendía de sus respuestas y así construía su 'personalidad', el cual estuvo al aire solo un día debido a los comentarios abiertamente xenófobos y pro-nazis que publicó.

En paralelo, desde agosto de 2015 el mismo sistema está disponible para el público asiático, debutando a través de la aplicación de mensajería Line (+2.2 millones de seguidores) y luego migrando hacia Twitter, donde bajo el nombre de Rinna no solo sigue activa (+58K seguidores) sino que ha desarrollado una personalidad otaku/geek - fanática de las series de ánime y manga japonés -.

¿Cuál fue la diferencia? Simple, de quien aprendió cada sistema.

Microsoft ha mostrado grandes avances en sistemas de comunicación recientemente y su plataforma de chatbot está en periodo de prueba con usuarios reales para ser ajustada y luego comercializada como solución para chat centers y otros sitios basados en la interacción a través de preguntas – respuestas (desde bancarios hasta de contenido para adultos).

Pero volviendo al experimento social, no se puede tachar de 'fracaso' lo sucedido con la versión occidental del sistema y, si es necesario señalarlo así, entonces no sería un fracaso de Microsoft sino de quienes interactuaron con el avatar convirtiéndolo en un ser de moral reprochable en el marco de valores de nuestra sociedad.

El 'Pequeño Bing' – al igual que el buscador – o Xiaoice, nombre asiático de la plataforma que generó a Tay y Rinna, como sistema de inteligencia artificial pasó la prueba, demostrando su capacidad de aprender y seguir conversaciones de manera coherente a partir de lo aprendido, incluso de enlazar ideas y convertirlas en respuestas complejas a las preguntas formuladas. Hasta ahí va la cuestión técnica del asunto, pero la consideración que debemos hacer es si realmente como sociedad estamos preparados para interactuar y coexistir con sistemas basados en inteligencia artificial.

Partiremos de la hipótesis de que en ambas latitudes del experimento las conversaciones con los sistemas de IA empezaron como una broma para desafiar los límites de 'pensamiento' de la plataforma. Pero mientras la decisión de los usuarios en Japón fue enseñarle sobre historietas animadas, en occidente resultó ser convertirla en una fascista.

Entonces la palabra clave aquí es usuarios, porque son ellos el centro de toda cuestión tecnológica. Dispositivos, plataformas e incluso sistemas de inteligencia artificial son creados pensando en los usuarios y son éstos quienes tienen la capacidad y el derecho de apropiarlos para mejorar sus condiciones.

Es de celebrar el avance técnico de Microsoft y su valentía al correr el riesgo de liberar los sistemas de forma abierta para pruebas con público real, es decir, sin censura alguna para evaluar el potencial verdadero de la inteligencia artificial; tristemente, luego de ver los resultados, es difícil dejar de considerar que el ideal social está muy por fuera de lo esperado en las constituciones de los países democráticos y que, tal como en las películas de ciencia ficción, el problema con la inteligencia artificial no tiene nada que ver con la tecnología sino con quién la usa.

Visto 2831 veces
Adriana Molano

@amolanor

Directora de contenidos
Corporación Colombia Digital

Especialista en Comunicación y Cultura de FLACSO; estratega de comunicación para proyectos de apropiación tecnológica en áreas empresariales, sociales y culturales. Es Asesora de Comunicaciones y Contenidos para distintos proyectos de la Corporación Colombia Digital.