Las peores pesadillas imaginadas en los filmes distópicos menos verosímiles de ciencia ficción parecieron materializarse hace un par de días, cuando trascendieron advertencias de prestigiosos desarrolladores de Inteligencia Artificial sobre el riesgo de que esta nueva herramienta tecnológica termine acabando con la especie humana en menos de una década.
Jakob Coxon, un investigador de IA se mostró “aterrado” y sostuvo que “si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato”.
“Las personas que trabajan en estas empresas hablan muy en serio cuando piden regulación, ya que se sienten atrapadas en una carrera. Y temen las consecuencias de esa misma carrera” aseveró una colega suya, Laura Kuenssberg, en un programa de la TV inglesa.
También Stuart Russell, profesor de informática en la Universidad de Berkeley, denunció que si las IA se escapan de control podrían acabar con los seres humanos en poco tiempo.
También Stuart Russell, profesor de informática en la Universidad de Berkeley, denunció que si la IA se escapa de control podría acabar con los seres humanos en poco tiempo.
¿Es para temer que a la especie humana le queden los días contados en este planeta por culpa de su propia creación?
Alejandro Zunino es docente en la carrera de Ciencias Exactas de la Unicen e investigador superior del Conicet, con especialización en Computación Distribuida, Grid, Servicios Web, P2P, Agentes Móviles y destinatario de esta pregunta.
“Es un poco exagerado” fue su primera reflexión. “Las inteligencias artificiales están adquiriendo cada vez más capacidades. Esto no es tan así; lo que puede pasar, lo que creo que es más riesgoso, es que personas que usen mal las inteligencias artificiales hagan macanas y nos causen dificultades serias” añadió.
Citó un ejemplo: “La gente que hace programas de computadora usa mucho las IA y muchas veces no lo verifican como debieran. Entonces, cuando se trata de softwares importantes, como un banco, un control automático de un auto, un avión Bueno, ahí sí pueden terminar con nuestras vidas, pero va a ser siempre la combinación de varias cosas”.
“Yo creo que lo clave de esto es que cada vez más se pone de manifiesto que es importante mirar lo que hacen estas IA y controlarlas. Este fin de semana hubo también bastantes debates de los líderes de estas compañías que están diciendo de frenar un poco para vigilar lo que hacen las IA y que no sean tan autónomas” expresó.
Zunino mencionó también que en toda esta dialéctica se mezcla cuestión comercial, ya que tanto OpenAI -la creadora de ChatGPT-, como Antropic -la creadora de Claude-, están por salir a cotizar en la bolsa. “Entonces se genera un exceso de locura para que todos estemos entusiasmados con esto” especuló.
En la paranoia frente a estos anuncios se llegó a hablar del peligro de que las IA liberen agentes patógenos o lancen proyectiles nucleares sin control.
“La IA hoy no tienen un control sobre el mundo físico real. Viven en las computadoras y no pueden lanzar una bomba o generar un virus. Lo que sí es cada vez más viable -no digo fácil, pero sí posible- que una persona mala utilice estas herramientas de IA para crear algo muy peligroso, pero siempre somos las personas las que vamos a usar mal el martillo. Nunca es culpa del martillo” emparentó.
“No se trata de que la IA va a adquirir una autonomía y nos va a matar, porque no tienen acceso al mundo real -reiteró-. Otra cosa es un auto autónomo que se maneja solo, maneja mal y decide matar. Tampoco es que deciden estas cosas porque sí, siempre hay algo mal hecho por los humanos para que ello suceda”.
Frente a los temores y a lo desconocido se alzan voces que piden un marco normativo y restrictivo para estas inteligencias artificiales. Zunino no lo ve tan sencillo: “Es complicado. En Europa se hizo una cosa interesante, que es cómo se usa la IA. Por ejemplo, es distinto si uno la usa para redactar un documento, se redacta y listo, que si se usa para manejar un auto. Son distintos los controles que debe tener la IA, debe estar supervisada por un humano y pasar por exigentes controles”.
“Lo que empieza a ser medio difícil de controlar es que muchas de estas empresas lo que hacen es liberar las IA, que cualquiera las pueda descargar, enseñarles cosas nuevas, mejorarlas o empeorarlas. ¿Cómo se regula entonces algo que ya está totalmente liberado?” se preguntó.
Otra sugerencia de estos días ha sido nacionalizar las IA. “Hace poco cuando OpenAI y Antropic, dos de las empresas más grandes de esto, anunciaron un nuevo lanzamiento el gobierno de los Estados Unidos a través del Pentágono intervino y lo detuvo porque en malas manos podría ser un riesgo para la seguridad nacional. Lo retrasó, pero finalmente estuvo disponible algunos días más tarde” reveló el doctor.
Zunino reveló que los desarrolladores de estas inteligencias son Estados Unidos y China. El gigante asiático lleva adelante una enorme inversión en la formación de ingenieros, aparece también en estas cuestiones como el principal competidor de la primera potencia militar del planeta y ha lanzado modelos muy competitivos, que se pueden descargar gratis y con absoluta libertad.
“Es como regular el aire” comparó el investigador de la Unicen.
La génesis de este fenómeno que hoy está hasta en la cocina de los hogares fue en plena Segunda Guerra Mundial, cuando Alan Turing creó una precaria (para los tiempos que corren) máquina electromecánica llamada “Bombe” cuyo rol era acelerar el proceso de desencriptación de mensajes del ejército alemán.
Las ideas formales sobre inteligencia artificial llegaron después de la gran conflagración, a finales de los años 40 y en 1950, con la publicación del concepto del juego de imitación (hoy conocido como la “Prueba de Turing”) en 1950.
Esto a lo que se ha llegado con el desarrollo científico y tecnológico, en aquellos años no entraba ni en la imaginación de los más afiebrados guionistas hollywoodenses del cine de ciencia ficción.
