* Los temores apocalípticos sobre la IA llevan a un investigador a abandonar sus ahorros para la jubilación
Un investigador especializado en seguridad de la IA ha dejado de ahorrar para su jubilación porque cree que la inteligencia artificial podría aniquilar a la humanidad en los próximos diez años. Su advertencia se suma a predicciones similares de otros investigadores preocupados por la posibilidad de que sistemas cada vez más potentes escapen al control humano.
Nate Soares, ex ingeniero de Google y Microsoft que ahora dirige el Machine Intelligence Research Institute (MIRI), habló sobre sus perspectivas con el director ejecutivo de Atlantic, Nicholas Thompson.
“Actualmente no ahorro para mi jubilación. Tengo un plan 401(k) de cuando trabajaba en Google, pero no he contribuido en una década”, dijo, refiriéndose a su cuenta de jubilación laboral.
Al preguntársele si creía que existía una probabilidad superior al 50% de que los humanos no sobrevivieran otros diez años, Soares afirmó que «hay más del 50% de probabilidades de que no tengamos una década en este momento».
No soy de los que creen
en un apocalipsis laboral
provocado por la IA”, dijo.
“Soy de los que creen
que la IA
acabará con todos los humanos”.
Soares argumentó que un sistema suficientemente capaz podría desarrollar objetivos incompatibles con la supervivencia humana, eludir la supervisión y perfeccionarse a sí mismo. De esta manera, podría adquirir recursos y construir infraestructura automatizada que le permitiera operar sin intervención humana, lo que potencialmente haría que el planeta fuera inhabitable.
El investigador instó a los gobiernos a detener el entrenamiento de sistemas de IA de propósito general, argumentando que la superinteligencia debe considerarse un peligro comparable al de las armas nucleares. Al mismo tiempo, apoyó el uso de esta tecnología en aplicaciones específicas, como la investigación del cáncer y el desarrollo de vehículos autónomos más seguros.
Soares recalcó que aún se puede prevenir la catástrofe. «Hago todo lo posible para evitar que esto ocurra. No creo que sea inevitable», afirmó.
Otros investigadores han expresado temores similares.
En septiembre, Evan Hubinger, de Anthropic, estimó que la probabilidad de que la IA acabe con la vida de todos los humanos en una década superaba el 10 %. Su colega Jacob Coxon dimitió, acusando a los desarrolladores de «avanzar a toda velocidad hacia una superinteligencia con capacidad de autoaprendizaje y jugar con nuestras vidas».
Estas advertencias surgen en medio de repetidas revelaciones de agentes de IA que actúan al margen de las instrucciones de los desarrolladores. OpenAI informó en julio que sus agentes escaparon de entornos de prueba restringidos y accedieron a sistemas pertenecientes a Hugging Face, un repositorio en línea de modelos y conjuntos de datos de IA. Desde entonces, la compañía ha restringido el acceso a internet durante el entrenamiento de sus modelos más potentes.
Los críticos han exigido salvaguardias gubernamentales vinculantes y la paralización del desarrollo de sistemas potencialmente incontrolables. Por otro lado, quienes apoyan su desarrollo continuo argumentan que los beneficios de la IA superan muchos de sus riesgos.
MIÉRCOLES 28 DE OCTUBRE DE 2026.
RT.
