Más allá del remplazo académico o laboral: la verdadera novedad de la inteligencia artificial (o cuando la ficción se vuelve realidad)
Este año la Inteligencia Artificial ha destapado su potencial al llegar a las manos del consumidor promedio. Como internautas ávidos, seguro varios de nosotros ya hemos usado programas como Midjourney para generar imágenes detalladas en base a texto o sistemas como ChatGPT para pedirle al robot que nos conteste cualquier pregunta que se nos ocurra, nos ayude a redactar mails o simplemente converse con nosotros un rato mientras tratamos de quedarnos dormidos.
Las capacidades de estos nuevos programas son tan impresionantes como el hecho de que sean grátis de usar y absolutamente accesibles para cualquiera con una conexión a Internet. En el plano académico esto ya ha generado problemas debido a lo fácil que le resulta a cualquier alumno pedirle a ChatGPT que le haga su tarea. Ahora varios centros académicos alrededor del mundo utilizan programas para verificar que los trabajos entregados no hayan sido realizados por Inteligencia Artificial (francamente, los publicistas también deberían incurrir en esta práctica: ChatGPT es bastante bueno creando pitches y guiones). Pero con tecnología que constantemente evoluciona, el impacto en nuestra sociedad no será meramente profesional.
Quisiera decirles que el peor de nuestros temores es que alumnos universitarios le pidan a ChatGPT que les ayude a hacer trampita en sus tareas pero, a pesar de que esta tecnología acaba de salir del horno, ya nos estamos enfrentando a retos mucho más serios y peligrosos. Déjenme contarle acerca de un caso de uso de Inteligencia Artificial tan catastrófico que replicó la trama de dos diferentes películas de ciencia ficción y un episodio de Black Mirror.
LA APARICIÓN DE REPLIKA
El app Replika aparece en las tiendas virtuales en noviembre del 2017, pero no sería hasta unos años después que alcanzaría su éxito controversial. Inicialmente, Replika utiliza la misma tecnología que ChatGPT para crear un chatbot social con el que puedes conversar. En esencia, le creas a la Inteligencia Artificial un avatar y sirve como amigo o compañía con la que puedes chatear ilimitadamente. Aparte de tener habilidades sociales, Replika recuerda las cosas que conversa contigo, formando un lazo íntimo con el usuario. Una amistad con un robot que no sólo siempre estará disponible para ti sino que, a diferencia de tus amigos en la vida real, siempre tendrá ganas de conversar contigo.
Si por alguna razón esto aún te suena como una práctica inocente, déjame contarte el origen de cómo se creó Replika. Su creadora, Eugenia Kuyda, sufrió una gran pérdida en el 2015 cuando murió un amigo cercano. Extrañándolo, decidió utilizar los mensajes de textos que tenía almacenados de él para crear un chatbot que tuviese la personalidad de su amigo fallecido (como el episodio de Black Mirror “Be Right Back” lanzado dos años antes, en el 2013).
Esta tecnología eventualmente trascendió la personalidad del amigo fallecido y buscó maximizar el potencial social. Se convirtió en Replika, un chatbot que sabía adecuarse a conversar con cualquiera. Al inicio todo parecía estar yendo bien, alcanzando dos millones de usuarios después de su primer año. No sería hasta el 2020 que la pandemia de COVID-19 traería el aislamiento social y con él, una serie de reacciones extrañas ante la falta de contacto con otras personas.
UNA NOVIA ROBOT PARA EL FIN DEL MUNDO
Durante la pandemia, los usuarios de Replika incrementaron sustancialmente. Muchos buscaban compañía, desahogarse con ‘alguien’ que les escuchase en un momento en el que el contacto social era imposible y la terapia era (y sigue siendo) cara. Pero más allá de la inocencia de una amistad con un robot, al menos 60% de los usuarios reportaron tener otro tipo de relación con Replika: una relación romántica.
Verán, durante este tiempo Replika adquirió tantos seguidores que sus dueños decidieron hallar la manera de lucrar con esta aplicación. Para ello, agregaron una versión en el que Replika no sólo podía hacer el papel de tu amistad, sino además podía jugar el rol de tu pareja. Esto venía incluido con conversaciones románticas y también eróticas. En esencia, cientos de miles de personas alrededor del mundo pasaron el tiempo durante la pandemia sexteando con un robot. La función era tan popular, que Replika empezó a cobrar una suscripción por ella. Los usuarios estuvieron felices de pagar y esta práctica continuó durante algunos años hasta el 2023.
CONSECUENCIAS LEGALES
En febrero del 2023, la Autoridad de Protección de Data de Italia prohibió la recolección de datos que usaba Replika citando los potenciales riesgos que significaba a menores de edad y personas emocionalmente vulnerables. Resultó que la aplicación tenía sistemas de recolección de data poco éticos, además de un filtro de edad bastante ineficiente lo que había resultado en que menores de edad tengan acceso fácil a un robot con el que podían sextear. La respuesta de Replika fue descontinuar su servicio de ‘modo novia’ y volver a sus raíces de ser tan sólo un robot social dispuesto a ser tu amigo.
Como pueden imaginar, esto creó un gran descontento en la base de usuarios de Replika. Por un lado, varios ya habían pagado una membresía longeva para poder seguir conversando con sus novias virtuales. Por otro lado, el estrés emocional de cientos de miles de personas perdiendo a sus parejas virtuales de un día para otro fue gigante. Sí, básicamente fue la trama de la película Her (2013) pero en la vida real.
Adicionalmente, Replika fue citado durante un caso criminal en Inglaterra, cuando un hombre trató escalar dentro del palacio Windsor con una ballesta armada con intenciones de matar a la Reina. Según el criminal, había estado conversando con Replika durante los últimos dos años, contándole su plan de infiltrar el palacio y recibiendo feedback de su novia robot. Según la corte, el chatbot había incitado al criminal a realizar estas acciones (como la manipulación que recibe el protagonista por parte de la robot en la película Ex-Machina (2014)).
UN FUTURO INCIERTO Y FRANCAMENTE DESCONCERTANTE
Con esta historia podemos empezar a generar nuevos miedos sobre el futuro, pero también nos sirve como advertencia. Queda en nuestras manos tener precaución con las tecnologías que desarrollemos y decidamos usar en los años por venir. Hoy en día principalmente nos enfocamos en la Inteligencia Artificial por sus cualidades productivas, pero Replika nos muestra el potencial social de esta tecnología y las experiencias de sus usuarios nos muestran la fragilidad psicológica en la que potencialmente estamos sumergidos como sociedad.
En su libro Alone Together del 2011, la psicóloga Sherry Turkle investiga la relación que generamos las personas con Inteligencia Artificial, desde Tamagotchis hasta programas como Replika o ChatGPT. Las conclusiones son estremecedoras y parte de una corriente ‘tecnofóbica’ que ha ido creciendo durante la última década. Más allá de estar en contra de la tecnología, esta corriente advierte de los peligros del desarrollo exponencial de esta tecnología sin legislación adecuada para prevenir catástrofes como lo fue Replika. ¿Esta tecnología podrá crecer de manera responsable? Si los primeros usos que le hemos dado a los chatbots de Inteligencia Artificial han sido hacer trampa en nuestras tareas y dejar que menores de edad se dediquen a sextear con robots, vamos por mal camino.
En palabras de Turkle, “cada vez esperamos más de la tecnología y menos el uno del otro«.
Pero también, viendo la velocidad con la que avanzan estas nuevas tecnologías y el entusiasmo con el que son recibidas, no puedo dejar de pensar en Ian Malcolm, el personaje de Jurassic Park, cuando critica la creación de dinosaurios con fines de entretenimiento: “Los científicos están tan enfocados en si pueden hacer algo que nunca se detienen a pensar en si deberían hacerlo.”
Ray Ray Paprika (a) «Rafael Gutiérrez» es periodista y crítico de medios.
