California, Estados Unidos.- Dario Amodei, CEO de Anthropic, apuntó hacia China como el principal impedimento para frenar temporalmente la evolución de la Inteligencia Artificial (IA). Su preocupación radica en que las empresas estadounidenses opten por limitar el paso de sus innovaciones tecnológicas mientras que las naciones rivales sigan avanzando sin ninguna clase de controles.
El planteamiento sucede en un momento de presión sobre la industria tecnológica. Empresas como Anthropic y OpenAI enfrentan pedidos de regulación, cuestionamientos por el consumo energético de sus centros de datos y advertencias internas sobre los posibles daños de sistemas cada vez más potentes. La discusión también coincide con el crecimiento de modelos creados por compañías emergentes chinas.
Amodei solicitó un pacto para frenar la carrera tecnológica
Durante una entrevista para CBS News, el director de Anthropic destacó que la acción más significativa a futuro sería un pacto conjunto para frenar el ritmo de avance de la inteligencia artificial, aunque admitió la existencia de barreras políticas, comerciales y castrenses.
Amodei explicó que los incentivos de poder tecnológico y militar complican este objetivo, catalogando como el “dilema más difícil” el riesgo de que potencias como China continúen su desarrollo mientras Occidente se detiene. En un ensayo reciente, propuso moderar el progreso de los modelos avanzados sin perder el liderazgo estadounidense, una postura impulsada por expertos que exigen mayores salvaguardas ante riesgos críticos.
Jacob Coxon advirtió sobre el temor generalizado que existe en el sector tecnológico
El panorama de inquietud se profundizó tras la salida de Jacob Coxon, exinvestigador de Anthropic y OpenAI, quien reveló que diversos profesionales del área experimentan un “miedo genuino” ante el vertiginoso ritmo de la tecnología y la falta de salvaguardas efectivas.
En entrevista con la BBC, Coxon advirtió sobre catástrofes potenciales si las compañías no desaceleran su marcha, señalando que algunos de sus excompañeros han llegado a replantearse sus decisiones de vida y a considerar la adquisición de terrenos como medida de precaución.
Asimismo, alertó que en un horizonte de seis a doce meses podría surgir un enjambre de bots con capacidad de operar como una supercomputadora y apoderarse de internet, aunque reconoció que en la industria también prevalecen expectativas optimistas sobre su aplicación médica y científica.
Anthropic sugirió auditorías externas y cooperación internacional
La propuesta de Amodei se divide en tres ejes: permitir que evaluadores externos revisen la seguridad con el mismo acceso que los empleados, establecer normas comunes de protección de semiconductores entre democracias, y coordinar acuerdos con gobiernos autoritarios para frenar aplicaciones biológicas militares y sistemas con capacidad de automejora. Ante las alertas de Coxon, un portavoz de Anthropic defendió la transparencia de la empresa y sus protocolos de seguridad.
En paralelo, durante la cumbre de los BRICS, el presidente chino Xi Jinping propuso un marco global de gobernanza y una comunidad de código abierto, un tema clave para su próxima reunión con el presidente estadounidense Donald Trump el 24 de septiembre. Mientras Sam Altman, Elon Musk y Demis Hassabis respaldaron la necesidad de supervisión, Coxon advirtió que cualquier pausa en el desarrollo tecnológico debe incluir a China para evitar una carrera sin control.
Fuente: Tribuna del Yaqui