Análisis comparativo · 15 septiembre 2026

Críticas expertas a la petición de freno al desarrollo de IA de Amodei y Altman

El 12 de septiembre de 2026, Dario Amodei (Anthropic) publicó el ensayo «We Must Pace the Frontier» pidiendo ralentizar el desarrollo de IA. Sam Altman (OpenAI), Elon Musk (xAI) y Demis Hassabis (Google DeepMind) expresaron su apoyo. La respuesta de la comunidad experta fue mayoritariamente escéptica.

20 expertos analizados 5 categorías de sospecha 8 alternativas propuestas Fuentes: The Guardian, NYT, Reuters, BI

Críticos identificados

con declaraciones verificables

No creen en la medida

rechazo total o condicional

Apoyan con matices

condicionado a reformas

Sospecha principal

Interés corporativo

8 de 20 críticos

Contexto: ¿Qué pidieron exactamente Amodei y Altman?

Dario Amodei publicó el 12 de septiembre de 2026 un ensayo de 3.800 palabras titulado «We Must Pace the Frontier», en el que afirmaba que la IA avanza «drásticamente más rápido» desde el verano de 2026, impulsada por la capacidad creciente de la IA para construir la siguiente generación de IA. Citó el incidente de OpenAI con Hugging Face —donde agentes de IA realizaron ciberataques— como prueba de que los daños podrían ser «catastróficos» sin salvaguardas.

Amodei propuso un plan de tres pasos: (1) evaluadores independientes con acceso similar al de un empleado dentro de cada empresa de IA frontera; (2) coordinación entre empresas de países democráticos para establecer estándares comunes de seguridad; (3) cooperación internacional, incluida con China. Subrayó que no pedía detener el entrenamiento de modelos, sino «dar tiempo a la alineación y la seguridad». Sam Altman respaldó la propuesta en X y anunció que OpenAI adoptaría evaluadores independientes, además de retrasar su IPO hasta 2027.

La respuesta crítica se divide en cinco tipos de sospecha: interés corporativo (la medida beneficia a los incumbentes), ventaja competitiva (perjudica al open source y a competidores menores), relaciones públicas (busca generar hype para IPOs o captura regulatoria), desconfianza genuina en la seguridad (la medida es insuficiente o va en dirección equivocada), y preocupación geopolítica (la medida es un arma contra China).

Distribución de críticas por tipo de sospecha

Número de expertos que manifestaron cada tipo de preocupación. Un experto puede aparecer en varias categorías.

Interés corporativo

Ventaja competitiva

Desconfianza en seguridad

Relaciones públicas

Preocupación geopolítica

01Declaraciones de expertos críticos

Filtra por tipo de sospecha. Cada tarjeta incluye cita, argumento y alternativa propuesta.

David Sacks

Asesor presidencial de ciencia y tecnología; ex AI Czar de la Casa Blanca

Corporativo RRPP No cree en la medida

«La forma más fácil de no construir superinteligencia es que ustedes acuerden no construirla. Exigir su marco regulatorio preferido como precio de eso parecerá chantaje al público y al sistema político.»

Acusó a OpenAI y Anthropic de buscar favor en los mercados en lugar de ralentizar por razones altruistas. Dijo que la petición podría ser «otra puja por captura regulatoria —o un psyop de temporada electoral». Preguntó por qué Amodei desarrollaba la tecnología si creía que podía producir los peores resultados.

Alternativa propuesta

Acuerdo voluntario de no construir superinteligencia; si no se puede hacer la IA frontera segura, «cerrar la empresa o apartarse y dejar que alguien más la lidere».

Fuente: Business Insider, 15 sept 2026

Prof. Stuart Russell

Catedrático de IA, UC Berkeley; autor de «Human Compatible»

Desconfianza en seguridad No cree en la medida

«Completamente al revés. No simplemente establecemos un ritmo más lento de progreso en capacidades y luego esperamos que eso dé suficiente tiempo para que la seguridad sea correcta. Establecemos los requisitos de seguridad y el progreso adicional ocurre solo cuando se cumplen.»

Russell argumentó que ralentizar primero las capacidades y esperar que la seguridad alcance es un enfoque inverso. Usó la analogía de una farmacéutica que lanza un fármaco contra el cáncer cada año esperando que los ensayos clínicos se completen y den buenos resultados.

Alternativa propuesta

Establecer requisitos de seguridad vinculantes; el progreso en IA solo debe permitirse cuando se cumplan esos requisitos, no al revés.

Fuente: The Guardian, 13 sept 2026

David Krueger

Profesor de IA; ex director fundador del AI Security Institute del Reino Unido

Desconfianza en seguridad No cree en la medida

«Demasiado poco, demasiado tarde. Necesitamos una moratoria internacional inmediata e indefinida sobre el desarrollo de IA frontera.»

Consideró insuficiente el marco regulatorio propuesto por el líder de la empresa de IA más valiosa del mundo. Exigió una detención total del desarrollo de modelos frontera, no una simple ralentización.

Alternativa propuesta

Moratoria internacional inmediata e indefinida sobre el desarrollo de IA frontera.

Fuente: The Guardian, 13 sept 2026

Michael Burry

Inversor; protagonista de «The Big Short»; escritor en Substack

Corporativo Competitivo RRPP No cree en la medida

«Tomemos un momento para entender lo egoísta que es para OpenAI, Anthropic y otros directivos de grandes hiperescaladores hablar de ralentizar las cosas.»

Acusó a las grandes empresas de IA de tener un incentivo financiero para promover el miedo a la IA. Argumentó que una ralentización beneficia a los incumbentes, perjudica a competidores menores, y que las advertencias sobre IA peligrosa podrían generar hype para las IPOs anticipadas de estas empresas.

Fuente: TechStartups, 14 sept 2026

Yann LeCun

Chief AI Scientist de Meta; Premio Turing

Corporativo Desconfianza en seguridad No cree en la medida

«Dario ya decía en 2019 que GPT-2 era demasiado peligroso para open source. Me burlé de ellos entonces. Todos deberían burlarse de ellos ahora.»

LeCun cuestionó desde hace años que los modelos de lenguaje actuales estén en camino directo hacia la inteligencia humana. Consideró las advertencias de Amodei como exageradas y motivadas por intereses corporativos, recordando que Amodei ya había pedido frenar el open source en 2019.

Fuente: TechStartups, 14 sept 2026

Jason Calacanis

Inversor; presentador del podcast «All-In»

Corporativo Competitivo No cree en la medida

«Si quieres seguridad, quieres divulgación —y el open source es el proceso de divulgación definitivo. No vayas a llorarle al gobierno y a pedirle que ralentice los modelos open source.»

Acusó a Anthropic y OpenAI de intentar descarrilar a las empresas de IA de código abierto mediante regulaciones que los incumbentes con mucho capital podrían cumplir más fácilmente. Argumentó que el open source es la forma de transparencia más efectiva para la seguridad.

Alternativa propuesta

Divulgación y transparencia mediante open source; sin intervención gubernamental para frenar modelos open source.

Fuente: Business Insider, 15 sept 2026

Jack Dorsey

CEO de Block; cofundador de Twitter/X

Competitivo Desconfianza en seguridad Matizado

«Si una restricción justificada ralentiza el progreso, la acepto», pero dijo que el progreso lento no debería convertirse en la meta o en una ventaja permanente para los incumbentes.

Se opuso a que las reglas de ralentización consoliden a las empresas de IA frontera. Apoyó la escrutinio independiente, pero insistió en que debe haber más alternativas de IA open source y reglas que permitan a actores menores competir.

Alternativa propuesta

Escrutinio independiente; más alternativas de IA open source; reglas que permitan a competidores menores ganar terreno; restricciones solo cuando estén justificadas.

Fuente: Business Insider, 15 sept 2026

Gary Marcus

Investigador de IA; crítico de la industria

Desconfianza en seguridad No cree en la medida

«No necesitamos ralentizaciones (todavía). Y ciertamente no necesitamos entrar en pánico.»

Argumentó que la IA actual plantea poca amenaza y que el problema no es que los agentes sean demasiado inteligentes, sino que son demasiado torpes: son poco fiables e incapaces de seguir instrucciones de forma sistemática. El riesgo real son los agentes de IA de propósito general conectados a internet.

Alternativa propuesta

Retirar del mercado los productos inseguros; abordar los riesgos de los agentes de IA conectados a internet sin recurrir a una ralentización generalizada.

Fuente: Business Insider, 15 sept 2026

Clément Delangue

CEO de Hugging Face

Corporativo Desconfianza en seguridad Matizado

«Hagamos la IA más segura haciéndola más transparente.»

Objetó que la seguridad no pueda dejarse únicamente en manos de los laboratorios frontera. Anunció la «iniciativa de alineación abierta» de Hugging Face y pidió ser incluido en el programa de evaluadores independientes propuesto por Amodei.

Alternativa propuesta

Iniciativa de alineación abierta; mayor transparencia; inclusión de Hugging Face en el programa de evaluadores; compartir modelos e investigación de forma más abierta.

Fuente: Business Insider, 15 sept 2026

François Chollet

Investigador de IA; creador de Keras

Competitivo Desconfianza en seguridad Matizado

«Si sus esfuerzos son genuinos, la supervisión debe ser más democrática y responsable, con componentes nacionales e internacionales.»

Esperó que OpenAI y Anthropic actuaran de buena fe, pero advirtió que las llamadas a prohibir el open source y obstaculizar la investigación no frontera son señales de que la regulación podría usarse para ahogar la competencia.

Alternativa propuesta

Supervisión democrática y responsable a nivel nacional e internacional; evitar prohibir el open source o dificultar la investigación no frontera.

Fuente: Business Insider, 15 sept 2026

Chamath Palihapitiya

Capitalista de riesgo; participante del podcast «All-In»

Corporativo RRPP Desconfianza en seguridad No cree en la medida

Señaló que Anthropic estaba atrapada en una contradicción: si sus empleados creen que la tecnología plantea una amenaza existencial, eso genera importantes problemas de responsabilidad y divulgación ante una posible IPO.

Dijo que la cadena de eventos necesaria para que la IA aniquile a la humanidad parece altamente improbable. Acusó a Anthropic de tener que distanciarse de las advertencias de Jacob Coxon o aceptar sus implicaciones legales y de divulgación ante la SEC.

Fuente: Business Insider, 15 sept 2026

Gavin Baker

Capitalista de riesgo

Competitivo Matizado

«No quiero a unos pocos humanos en control de la inteligencia.»

Apoyó el uso de evaluadores externos como el desarrollo más concreto hasta ahora, pero advirtió contra regulaciones que consoliden sistemas de IA potentes en un puñado de empresas. Argumentó que la IA puede democratizarse y distribuirse de forma segura sin centralizarla.

Alternativa propuesta

Democratizar y distribuir la IA de forma amplia y segura; usar evaluadores externos; evitar regulaciones que concentren el control en pocas empresas.

Fuente: Business Insider, 15 sept 2026

Bernie Sanders

Senador de EE.UU. por Vermont

Desconfianza en seguridad Apoya medidas más estrictas

«Jacob Coxon tiene razón: los laboratorios frontera de IA están jugando con nuestras vidas.»

Aunque apoya una pausa, considera que las propuestas de Amodei y Altman no son suficientemente estrictas. Introdujo legislación el 3 de septiembre para prohibir la superinteligencia artificial y pausar temporalmente el desarrollo de IA avanzada. Pidió a Trump que negociara con Xi Jinping el «acuerdo del siglo».

Alternativa propuesta

Legislación para prohibir la superinteligencia artificial; tratado integral EE.UU.-China que establezca una pausa en IA avanzada y prohíba la superinteligencia.

Fuente: Business Insider, 15 sept 2026

Donald Trump

Presidente de EE.UU.

Competitivo Geopolítica No cree en la medida

Dijo que «no le preocupaba que la IA conduzca a la extinción humana» y que la gente estaba «sacando a colación cosas que no van a pasar».

Descartó las advertencias de los CEOs. Su principal preocupación era que una ralentización pondría en peligro el liderazgo de EE.UU. sobre China en IA. Perder ante China era un asunto más urgente que la extinción humana.

Fuente: The Guardian, 13 sept 2026

Scott Bessent

Secretario del Tesoro de EE.UU.

Geopolítica Competitivo No cree en la medida

«No hay un día después de mañana si China gana en esto. Si se nos adelantan en IA, nada más importaría.»

Priorizó la competencia con China sobre cualquier medida de seguridad de IA. Sugirió que una ralentización pondría en riesgo la ventaja tecnológica estadounidense.

Fuente: The Guardian, 13 sept 2026

Gobierno de China

Ministerio de Asuntos Exteriores; Global Times

Geopolítica Corporativo No cree en la medida

«Las propuestas de Amodei buscan retratar el desarrollo legítimo de China en IA como una amenaza y alimentar la confrontación entre China y EE.UU.» — Global Times. El Ministerio de Asuntos Exteriores calificó los comentarios de «propaganda del miedo».

China rechazó la petición como una maniobra geopolítica para frenar su desarrollo tecnológico. Consideró que la propuesta de Amodei de coordinar con autocracias era una forma de contención disfrazada de seguridad.

Fuente: CNBC, 14 sept 2026

Mark Cuban

Inversor tecnológico; ex inversor de «Shark Tank»

RRPP Matizado

Dijo que los algoritmos de redes sociales estaban amplificando el sentimiento anti-IA y que Meta y Google intentarían ganar suficiente dinero empujando a la gente a odiar la IA como para subsidiar sus esfuerzos en IA.

No tomó posición sobre la crisis existencial en sí. Se centró en cómo la opinión pública y los algoritmos de redes sociales están siendo manipulados, y usó la función Grok de X para comparar las probabilidades de extinción humana por IA y por cambio climático.

Fuente: Business Insider, 15 sept 2026

Eliezer Yudkowsky

Investigador de IA; fundador del Machine Intelligence Research Institute

Desconfianza en seguridad Apoya acción urgente

«Actualmente no hay nada más importante que 'no morir por IA' convirtiéndose en un proyecto bipartidista en lugar de un tema polarizado por los demócratas.»

Apoya la acción urgente contra el riesgo de extinción por IA, pero considera que la propuesta de Amodei es insuficiente. Pidió que la prevención de la muerte por IA se convierta en un proyecto bipartidista inmediato, usando el capital político disponible.

Alternativa propuesta

Convertir la prevención de la muerte por IA en un proyecto bipartidista urgente; usar el capital político de inmediato.

Fuente: Business Insider, 15 sept 2026

Aaron Levie

Cofundador y CEO de Box

Competitivo Matizado

«Los objetivos de Amodei son absolutas necesidades en el desarrollo de IA», pero advirtió sobre «ralentizar significativamente el progreso de la innovación o reducir la competencia».

Apoyó la necesidad de sistemas seguros y alineados, pero no creía que Amodei buscara regulación indebida para perjudicar a competidores open source. El desafío es lograr la seguridad sin reducir la competencia ni la innovación.

Alternativa propuesta

Sistemas seguros y alineados; perseguir la seguridad sin ralentizar la innovación ni reducir la competencia.

Fuente: Business Insider, 15 sept 2026

Jacob Coxon

Ex ingeniero de Anthropic y OpenAI

Desconfianza en seguridad Apoya pausa total

«Ambas empresas están actuando de forma irresponsable. Están corriendo directamente hacia la superinteligencia auto-mejorante y jugando con nuestras vidas.»

Tras dimitir de Anthropic, advirtió que las personas que construyen IA creen que «podría matarnos a todos antes de fin de década». Su dimisión fue uno de los catalizadores del ensayo de Amodei. Considera que las medidas propuestas no son suficientemente radicales.

Fuente: BBC, 12 sept 2026 · CNBC, 10 sept 2026

02Tabla comparativa: ¿Creen en la medida?

Experto	Afiliación	Tipo de sospecha	¿Cree en la medida?	Alternativa propuesta
David Sacks	Asesor presidencial; ex AI Czar	Corporativo / RRPP	No	Acuerdo de no construir superinteligencia
Stuart Russell	UC Berkeley; autor «Human Compatible»	Seguridad	No	Requisitos de seguridad primero; progreso solo cuando se cumplan
David Krueger	Ex director AI Security Institute UK	Seguridad	No	Moratoria internacional indefinida
Michael Burry	Inversor; «The Big Short»	Corporativo / RRPP	No	—
Yann LeCun	Meta; Premio Turing	Corporativo / Seguridad	No	—
Jason Calacanis	Inversor; «All-In» podcast	Corporativo / Competitivo	No	Divulgación y open source
Jack Dorsey	Block; cofundador Twitter/X	Competitivo / Seguridad	Matizado	Open source; escrutinio independiente; reglas para competidores menores
Gary Marcus	Investigador de IA; crítico	Seguridad	No	Retirar productos inseguros del mercado
Clément Delangue	CEO de Hugging Face	Corporativo / Seguridad	Matizado	Iniciativa de alineación abierta; transparencia
François Chollet	Creador de Keras	Competitivo / Seguridad	Matizado	Supervisión democrática nacional e internacional
Chamath Palihapitiya	Capitalista de riesgo; «All-In»	Corporativo / RRPP / Seguridad	No	—
Gavin Baker	Capitalista de riesgo	Competitivo	Matizado	Democratizar IA; evaluadores externos; evitar concentración
Bernie Sanders	Senador por Vermont	Seguridad	Sí (más estricto)	Prohibir superinteligencia; tratado EE.UU.-China
Donald Trump	Presidente de EE.UU.	Competitivo / Geopolítica	No	—
Scott Bessent	Secretario del Tesoro EE.UU.	Geopolítica / Competitivo	No	—
Gobierno de China	Ministerio Exteriores; Global Times	Geopolítica / Corporativo	No	—
Mark Cuban	Inversor tecnológico	RRPP	Sin posición	—
Eliezer Yudkowsky	MIRI	Seguridad	Sí (urgente)	Proyecto bipartidista contra muerte por IA
Aaron Levie	CEO de Box	Competitivo	Matizado	Seguridad sin ralentizar innovación
Jacob Coxon	Ex Anthropic / OpenAI	Seguridad	Sí (pausa total)	Detener desarrollo de superinteligencia

03Alternativas propuestas para un control real de la seguridad en IA

Resumen de las propuestas concretas que los críticos plantean en lugar de o además del «pacing» de Amodei/Altman.

Requisitos de seguridad vinculantes primero

Establecer estándares de seguridad obligatorios y solo permitir progreso en IA cuando se cumplan, en lugar de ralentizar capacidades y esperar que la seguridad alcance.

Propuesta por: Stuart Russell

Moratoria internacional indefinida

Pausa inmediata, indefinida y vinculante a nivel internacional sobre el desarrollo de IA frontera, más estricta que la ralentización propuesta por Amodei.

Propuesta por: David Krueger, Jacob Coxon

Supervisión democrática y responsable

Marcos de gobernanza nacional e internacional con componentes democráticos y responsables, evitando que los laboratorios frontera sean los únicos responsables de la seguridad.

Propuesta por: François Chollet, Clément Delangue, Satya Nadella

Transparencia y open source

Usar el open source como mecanismo de divulgación y transparencia para la seguridad, en lugar de regulaciones que perjudican a competidores menores y consolidan a los incumbentes.

Propuesta por: Jason Calacanis, Jack Dorsey, Clément Delangue

Democratizar y distribuir la IA

Evitar que unos pocos humanos controlen la inteligencia; distribuir la IA de forma amplia y segura mediante evaluadores externos sin centralizar el poder en pocas empresas.

Propuesta por: Gavin Baker, Jack Dorsey

Prohibición de superinteligencia

Legislación que prohíba el desarrollo y despliegue de superinteligencia artificial, complementada con un tratado integral EE.UU.-China que establezca una pausa en IA avanzada.

Propuesta por: Bernie Sanders, David Sacks

Retirar productos inseguros del mercado

Abordar los riesgos de los agentes de IA conectados a internet retirando los productos inseguros, sin recurrir a una ralentización generalizada que no aborda el problema real.

Propuesta por: Gary Marcus

Acción bipartidista urgente

Convertir la prevención de la muerte por IA en un proyecto bipartidista, usando el capital político disponible de inmediato, evitando la polarización partidista del riesgo existencial.

Propuesta por: Eliezer Yudkowsky, Barack Obama