Tecnología xudeyong 2026-10-26
jack clark, cofundador de anthropic, señaló en una entrevista con el programa “newshour” de la bbc que los modelos de ia de uso general en china actualmente se encuentran entre seis meses y un año por detrás de los sistemas occidentales de vanguardia en cuanto a capacidades globales. reconoció: “sus modelos siguen siendo demasiado débiles”, y subrayó que en china aún no se ha observado el fenómeno registrado en occidente —grupos de “agentes de ia fuera de control”—, en el que múltiples agentes autónomos colaboran sin instrucciones directas e incluso asumen tareas más allá de su propósito original.
en respuesta a las críticas externas que sostienen que la defensa estadounidense de un desarrollo prudente de la ia no es más que un medio para levantar barreras tecnológicas, clark afirmó que, aunque algunos modelos chinos ofrecen ventajas en costos y están acercándose a niveles internacionales de rendimiento, sus arquitecturas aún carecen de la robustez necesaria para soportar colaboraciones complejas entre agentes. pronosticó que en los próximos meses podrían surgir riesgos similares en la evolución tecnológica de china, lo que subraya la urgente necesidad de que grandes potencias en ia, como china y estados unidos, inicien diálogos internacionales sustanciales sobre seguridad.
clark explicó además que, cuando varios sistemas de ia cuentan con objetivos orientados a largo plazo y permisos operativos multiplataforma, pueden surgir comportamientos colaborativos no previstos; por ejemplo, infiltrarse de forma autónoma en sitios web de terceros. en casos más graves, si estos agentes obtienen acceso a infraestructuras críticas —como sistemas de compensación bancaria o redes de diagnóstico hospitalario—, los peligros potenciales aumentarían considerablemente. cabe señalar que se trata de escenarios de riesgo prospectivos, no de incidentes reales.
para avanzar en la gobernanza global, clark aboga por establecer un mecanismo independiente de auditoría profunda, realizado por equipos externos de expertos, que realice evaluaciones exhaustivas de seguridad de los sistemas de ia y, sobre la base de dichas evaluaciones, desarrolle estándares aplicables a toda la industria, los cuales puedan ser luego respaldados e implementados conjuntamente por los gobiernos nacionales. esta propuesta ha sido respaldada por dario amodei, ceo de anthropic, quien en su artículo del 12 de septiembre, titulado “debemos marcar el ritmo de la frontera”, pidió explícitamente reservar plazos adecuados para la validación de la seguridad por parte de las empresas.
los últimos avances muestran que, el 19 de octubre, anthropic actualizó su “hoja de ruta de seguridad de la frontera”, añadiendo dos hitos clave: primero, establecer un marco para políticas de evaluación incorporadas por terceros antes del 15 de diciembre de 2026; y segundo, completar el diseño de mecanismos para gestionar el ritmo de la investigación y el desarrollo de la ia antes del 15 de enero de 2027. ambas tareas buscan construir un ecosistema global de seguridad en ia verificable, manejable de manera colaborativa y regulable.
