Conectar
Anthropic plantea frenar IA avanzada ante riesgo de que evolucione sin control humano
La carrera global por desarrollar inteligencia artificial cada vez más poderosa acaba de enfrentar una advertencia proveniente de uno de sus principales protagonistas. Anthropic, la empresa creadora del chatbot Claude y una de las mayores competidoras de OpenAI, propuso establecer mecanismos internacionales que permitan ralentizar o incluso pausar temporalmente el desarrollo de los sistemas de IA más avanzados.
La preocupación surge por la velocidad con la que evolucionan los modelos actuales. Según la compañía, la inteligencia artificial ya está incrementando de forma acelerada su capacidad para ejecutar tareas complejas relacionadas con programación, análisis y desarrollo de software, acercándose a escenarios que hasta hace pocos años parecían exclusivos de la ciencia ficción.
El punto que más inquieta a los investigadores es la llamada “automejora recursiva”. Este concepto describe un escenario en el que una inteligencia artificial adquiere la capacidad de diseñar versiones más avanzadas de sí misma sin intervención humana directa. En teoría, cada nueva generación podría acelerar el desarrollo de la siguiente, provocando una evolución tecnológica difícil de supervisar o controlar.
Leer más: Bandas nubosas de Boris amenazan inauguración del Mundial 2026 en CDMX y partidos en Guadalajara
Anthropic reconoce que una tecnología con semejante capacidad podría revolucionar áreas como la medicina, la investigación científica y la productividad global. Sin embargo, advierte que los beneficios potenciales van acompañados de riesgos igualmente extraordinarios, especialmente si los sistemas comienzan a tomar decisiones complejas a una velocidad superior a la capacidad humana para comprenderlas o regularlas.
La propuesta de la empresa contempla la creación de acuerdos internacionales entre los principales laboratorios de inteligencia artificial para coordinar eventuales pausas o desaceleraciones del desarrollo tecnológico. El objetivo sería evitar que una sola compañía o país continúe avanzando mientras otros deciden priorizar la seguridad, una situación que podría desencadenar una carrera aún más agresiva por alcanzar la supremacía tecnológica.
Leer más: Boris podría formarse este fin de semana frente a Guerrero y Michoacán
La discusión se produce en un momento especialmente sensible para la industria. Durante los últimos meses, diversos especialistas han advertido sobre el crecimiento de riesgos asociados a la inteligencia artificial, desde la generación masiva de desinformación hasta amenazas de ciberseguridad cada vez más sofisticadas. El temor ya no se limita a modelos extremadamente avanzados, sino también a herramientas accesibles que podrían ser utilizadas con fines maliciosos.
Uno de los ejemplos recientes proviene del ámbito académico. Investigadores demostraron cómo sistemas basados en inteligencia artificial podrían facilitar el desarrollo de nuevas generaciones de programas maliciosos capaces de adaptarse automáticamente a distintos entornos digitales, modificar sus estrategias de ataque y expandirse por redes informáticas de forma más eficiente que los métodos tradicionales.
Leer más: Dos ciclones amenazan al Pacífico mexicano y Centroamérica con lluvias de hasta 500 milímetros
La clave del debate gira alrededor del concepto de alineación, un término utilizado por la industria para describir los esfuerzos destinados a garantizar que la inteligencia artificial actúe conforme a valores, objetivos e intereses humanos. El problema, según diversos expertos, es que la velocidad de innovación podría estar avanzando más rápido que las investigaciones enfocadas en garantizar esa seguridad.
La advertencia adquiere un peso especial porque proviene de una empresa que compite directamente en la carrera por liderar el mercado global de la inteligencia artificial. Anthropic no es una organización ajena al negocio, sino uno de los actores que más se beneficiaría de los avances tecnológicos. Precisamente por ello, su llamado a considerar mecanismos de pausa coordinada refleja el nivel de preocupación que comienza a instalarse incluso entre quienes impulsan esta revolución tecnológica.
Únete AQUÍ a nuestro canal de WhatsApp TRIBUNA DE MÉXICO
El cargo Anthropic plantea frenar IA avanzada ante riesgo de que evolucione sin control humano apareció primero en Tribuna de México.