INTELIGENCIA ARTIFICIAL: La IA podría matar a todos los humanos en la próxima década, advierten los expertos: pero, ¿qué tan en serio deberíamos tomarlas? por Robert Booth
¿La superinteligencia artificial del OEA realmente supone un riesgo mayor que las armas nucleares? ¿Existe una posibilidad significativa de "una catástrofe del tamaño de Chornóbil"? ¿Podría haber incluso más del 10% de posibilidades de que la IA pueda "matar a todos los humanos" en la próxima década?
Estas advertencias se emitieron en las últimas 48 horas a ambos lados del Atlántico sobre el posible impacto de una tecnología que la mayoría de la gente aún considera un motor de búsqueda más hablador.
Algunas de las amenazas surgieron en el Reino Unido cuando diputados y pares comenzaron a lidiar con el peligro de que la IA superara las capacidades humanas. Las advertencias nucleares provinieron de Des Browne, exsecretario de Defensa, y del profesor Stuart Russell, un eminente informático de Berkeley.
Beatrice Fihn, ganadora del Premio Nobel de la Paz en 2017 por liderar la Campaña Internacional para la Abolición de las Armas Nucleares, dijo a los parlamentarios: "No es la primera vez que nos enfrentamos a habilidades que podrían acabar matándonos a todos."
La sesión del lunes fue convocada por Control AI, un grupo de presión que impulsa la regulación internacional de la tecnología. Apoya un proyecto de ley presentado esta semana en el parlamento por el diputado laborista Alex Sobel y que pretende prohibir la creación de superinteligencia artificial (ASI).
El martes por la noche, un alto empleado de Anthropic admitió que creía que había más del 10% de probabilidades de que la tecnología pudiera "matar a todos los humanos" en la próxima década y advirtió que su empresa de IA no tenía un plan para asegurar que ASI estuviera alineada, lo que significa que no causaba ningún daño. Las predicciones sobre cuándo podría alcanzarse el ASI varían desde varios años hasta más de una década.
Evan Hubinger, responsable de ciencia de alineación en Anthropic, publicó el comentario después de que Jacob Coxon, investigador de 28 años de la empresa de San Francisco y anteriormente en OpenAI, dimitiera alegando que "ninguna de las dos empresas actuaba con responsabilidad". Dijo que estaban "jugando con nuestras vidas".
Coxon dijo que los riesgos en Anthropic se entendían bien, pero que estaban "atrapados en una carrera para llegar primero". En un atisbo de esperanza, añadió que era optimista respecto al potencial de coordinación entre laboratorios estadounidenses para marcar el ritmo de su progreso en la carrera.
Se ha contactado con Anthropic para que haga comentarios sobre el asunto. OpenAI señaló una declaración de su científico jefe, Jakub Pachocki, que dijo la semana pasada: "La coordinación internacional sobre el desarrollo futuro de la IA debe convertirse en una prioridad máxima para los gobiernos de todo el mundo."
El impulso por una mayor coordinación para controlar la ASI estuvo en el centro de los acontecimientos en Westminster esta semana. Según el Financial Times, funcionarios gubernamentales expresaron su preocupación porque Anthropic se había negado a enviar su último modelo – Mythos 5.1 – al Instituto de Seguridad de IA del Reino Unido para pruebas previas.
Solo unas pocas organizaciones estadounidenses han tenido acceso al Mito 5.1, confirmó la Oficina del Gabinete. Un portavoz añadió: "El Instituto de Seguridad de IA sigue colaborando estrechamente con socios del sector, incluida Anthropic."
El diputado laborista Darren Jones ha escrito al primer ministro, Andy Burnham, y a los responsables de la ONU y de la OCDE pidiendo un "tratado multinacional para el desarrollo regulado y seguro de la superinteligencia – no una prohibición de la innovación o el esfuerzo científico, sino un enfoque centrado en la seguridad para el rápido desarrollo de esta tecnología".
Citando la dimisión de Coxon, Jones añadió: "El debate abarca desde el fin de la humanidad hasta afirmaciones de 'publicidad publicitaria'. En cualquier caso, los gobiernos deben intervenir ahora."
Al otro lado del Atlántico, Bernie Sanders intensificó su campaña de seguridad en IA esta semana al pedir de nuevo al Congreso que regule la tecnología. Señaló encuestas que sugerían que el 81% de los estadounidenses creía que sus políticos deberían actuar.
El senador independiente por Vermont dijo: "No podemos permitir que un puñado de personas codiciosas jueguen a ser Dios y determinen el futuro de la humanidad – nuestra economía, medio ambiente, democracia, privacidad y más – sin la participación pública."
ControlAI está financiado por Jaan Tallinn, el multimillonario fundador de Skype que se autodenomina "antiextincionista". Ha dedicado parte de su fortuna a hacer campaña por la seguridad de la IA y dice que algunos altos ejecutivos de IA estarían encantados de que la humanidad fuera aniquilada.
A pesar de haber sido uno de los primeros inversores en Anthropic y Google DeepMind, dos de los principales laboratorios de IA, Tallin estima que entre el 10 y el 15% de los empleados de IA creen que la tecnología será un digno sucesor de la humanidad.
Dijo en una entrevista a principios de este verano: "Un investigador de IA bastante conocido me dijo: 'Jaan, no te preocupes por esto. Los humanos somos una especie desechable'. Por lo que tengo entendido, no le importaba extinguirse."
El grupo de presión de Tallinn dirigió la sesión para diputados y pares en Westminster el lunes y les instó a respaldar medidas para frenar los modelos de IA más potentes. En cada silla había un ejemplar del libro Si alguien lo construye, todos mueren: El caso contra la IA superinteligente.
Los políticos escucharon a Russell, quien lanzó la advertencia de Chornóbil y dijo: "La otra posibilidad es una catástrofe mucho mayor, en la que la humanidad pierda el control de forma irreversible. Pero no tenemos voz en la decisión de seguir existiendo."
Browne dijo que cuando era secretario de Defensa pensaba que la guerra nuclear era la amenaza más probable a la que se enfrentaba la humanidad. Ahora creía que "una IA superinteligente representa una amenaza a la misma escala, posiblemente, a mayor escala".
Otros colaboradores fueron más cautelosos. El Dr. Andrew Rogoyski, del Surrey Institute for People-Centred AI, dijo: "En realidad, estos sistemas no son ni de lejos tan versátiles como los humanos, y mucho menos como los humanos actuando colectivamente. Sospecho que nos dirigimos hacia 'la gran decepción', donde la IA avanzada resulta ser demasiado cara y no lo suficientemente útil para continuar en su forma actual."
David Barber, director de Sofair, un laboratorio estatal de investigación en IA que reúne a académicos de Oxford, Cambridge, Edimburgo y UCL, dijo que le preocupaba que la gente "tirara al bebé con el agua del baño".
"La IA no va a desaparecer", dijo. "Es increíblemente útil, permitas o no que acceda a internet y a varios sistemas de forma totalmente sin restricciones, eso puede ser problemático. Puede que tengamos que aprender a controlar mejor estas cosas. Hay vulnerabilidades en los frameworks de software que necesitan ser parcheadas. Pero eso es posible.
"Lo que necesitamos como país es asimilar la dualidad que es a la vez una tecnología increíblemente importante y útil, y al mismo tiempo, algo que debe ser cuidadosamente pensado y controlado."
Sandra Wachter, profesora del Oxford Internet Institute, dijo que no creía en los "escenarios de Terminator", sino que la IA suponía amenazas reales, incluyendo su impacto medioambiental, la difusión de desinformación y la sustitución de empleos.
"Estos problemas son reales y urgentes y necesitan ser abordados ya", dijo. "Los escenarios de Terminator son una gran distracción de los problemas reales."
Gary Marcus, comentarista y académico de la industria de la IA, dijo: "Hay una diferencia entre la superinteligencia que está alineada (si es que tal cosa es posible) y la superinteligencia que no lo está.
"Al menos es concebible que lo primero sea neto positivo. Hasta ahora no tenemos ninguno de los dos, pero una sobreabundancia de bombo combinada con una notable falta de prudencia por parte de OpenAI nos ha llevado hasta donde estamos, con una desconfianza intensa por todas partes."
Robert Booth
UK technology editor
The Guardian
Comments