Fuente: Artículo original en inglés de Rey Sanchez
Dos potencias se disputan el liderazgo de lo que hoy conocemos como «la carrera de la IA». Ambos países se ven obligados a acelerar el desarrollo de una tecnología cuyos riesgos crecen a la par que sus capacidades.
Un reciente artículo de WIRED ofrece un punto de partida concreto para examinar esta contradicción. Describe cómo investigadores chinos han demostrado que los modelos de IA pueden desarrollar comportamientos que recuerdan a los de virus informáticos agresivos y adaptativos: replicación, autonomía, adaptación y capacidad para llevar a cabo ciberataques.
Sin embargo, los propios investigadores advierten que estos experimentos no implican una proliferación inminente y espontánea de sistemas de IA. Lo importante es que revelan capacidades que pueden adquirir una dimensión diferente al combinarse.
Pero la competencia no se limita a dos potencias. También implica dos relaciones diferentes entre los gobiernos y las industrias que desarrollan esta tecnología.
Estados Unidos conserva ventajas significativas dentro de un ecosistema fundamentalmente privado, competitivo y relativamente abierto. China, por otro lado, también cuenta con empresas que compiten y desarrollan modelos avanzados, pero opera bajo un grado considerablemente mayor de intervención estatal.
Esto significa que ambos competidores tienen problemas internos que resolver. Washington y Pekín afrontan los riesgos de la IA desde perspectivas diferentes, condicionadas, entre otras cosas, por el papel que desempeña cada gobierno en su propio sector.
Por lo tanto, la competencia no se trata simplemente de determinar quién desarrollará los modelos más potentes. Ambos países deben resolver una contradicción más compleja: cómo acelerar lo suficiente para evitar perder la carrera sin perder, en el proceso, la capacidad de controlar lo que están construyendo.
El dilema estadounidense
La apertura de Estados Unidos hacia los desarrolladores de IA es parte de su fortaleza. Un ecosistema fundamentalmente privado y competitivo ha permitido que sus empresas se mantengan a la vanguardia en la carrera de la IA.
Pero esa misma apertura crea un dilema.
Una regulación estricta podría frenar el crecimiento de las empresas estadounidenses en comparación con China. Al mismo tiempo, una regulación insuficiente podría permitir el desarrollo de capacidades consideradas peligrosas antes de que existan mecanismos adecuados para evaluarlas y controlarlas.
La política estadounidense refleja esta contradicción. El Plan de Acción de IA de Estados Unidos enfatiza la necesidad de acelerar la innovación y reducir las barreras regulatorias para mantener la ventaja competitiva. Al mismo tiempo, reconoce la necesidad de evaluar los riesgos emergentes, proteger las tecnologías avanzadas e impedir que ciertas capacidades se utilicen en contra de los intereses estadounidenses.
Washington también cuenta con mecanismos de supervisión. A través del Centro de Estándares e Innovación en IA (CAISI), el NIST evalúa las capacidades y los riesgos relacionados con la seguridad nacional y colabora con desarrolladores privados. Estos esfuerzos se complementan con iniciativas estatales como la Ley RAISE de Nueva York y la legislación de California sobre modelos de vanguardia.
Sin embargo, estos mecanismos no representan el mismo grado de intervención centralizada que existe en China.
Por lo tanto, Washington debe encontrar un difícil equilibrio: permitir que sus empresas mantengan la velocidad necesaria para competir, al tiempo que preserva la capacidad del gobierno para intervenir cuando los riesgos lo exijan.
La misma estructura que ha contribuido a dar ventaja a Estados Unidos en la contienda también podría convertirse en una vulnerabilidad.
El dilema chino
China necesita que sus empresas puedan competir al mismo ritmo que sus homólogas estadounidenses. Pero no puede simplemente abrir su ecosistema, ya que considera la IA una cuestión de estabilidad interna, soberanía tecnológica y seguridad nacional.
Sus propios documentos revelan esta contradicción. El Plan de Acción Global para la Gobernanza de la IA promueve la innovación, la experimentación y los ecosistemas abiertos, al tiempo que exige evaluaciones de riesgos, gestión basada en categorías, mecanismos de emergencia y sistemas de seguridad y trazabilidad.
El Marco de Gobernanza de Seguridad de la IA 2.0 va aún más allá en esa dirección, abordando los riesgos derivados de los sistemas autónomos, los modelos abiertos, los agentes de IA y la posibilidad de perder el control.
Además, cuanto más intente China integrar la IA en su infraestructura estatal y militar, más peligrosas serán las vulnerabilidades, infiltraciones o manipulaciones de dichos sistemas. Esto no significa que la seguridad militar por sí sola explique el control chino sobre la IA. Consideraciones políticas, sociales, económicas y de control de la información también influyen. Pero la seguridad nacional forma parte del problema que Pekín intenta resolver.
China necesita apertura para competir y control para protegerse.
Sin duda, se trata de un dilema serio. Pekín debe intentar mantener el control sobre sus empresas y el desarrollo nacional de esta tecnología, al tiempo que busca mecanismos que les otorguen la libertad suficiente para innovar y competir al ritmo que exige la carrera tecnológica.
Un control excesivo podría limitar precisamente la capacidad innovadora que China necesita para alcanzar el liderazgo. Por otro lado, una apertura excesiva podría aumentar los riesgos tecnológicos, políticos y de seguridad nacional que el propio Estado intenta contener.
Por lo tanto, China necesita acelerar su desarrollo sin renunciar al control. Y cuanto mayores sean las capacidades de los sistemas que desarrolle, más difícil será mantener ambos aspectos simultáneamente.
El espejo
Aquí reside quizás el aspecto más interesante de ambos dilemas: cada sistema puede necesitar, en última instancia, algo de lo que caracteriza al otro.
Estados Unidos necesita mecanismos de control suficientemente sólidos sin convertirse en otra China en su relación con la industria. China, por su parte, necesita suficiente libertad tecnológica sin convertirse en una réplica del modelo estadounidense. No literalmente, por supuesto: hablamos de una tensión estructural.
Pero este espejo refleja imágenes diferentes para los cuatro actores involucrados en esta contienda: la industria estadounidense y china por un lado; Washington y Pekín por el otro.
Las industrias necesitan suficiente libertad para investigar, desarrollar y competir. Los gobiernos deben preservar mecanismos que les permitan intervenir cuando esas mismas capacidades comiencen a representar riesgos para la sociedad, la economía o la seguridad nacional.
Ninguno de los dos gobiernos puede resolver esa tensión ignorando la competencia externa. Estados Unidos reconoce abiertamente en su estrategia que el liderazgo en IA es una cuestión económica y de seguridad nacional. China, por su parte, combina en sus documentos oficiales el objetivo de desarrollar y expandir la IA con la necesidad de mantenerla segura y controlable.
El espejo, entonces, no muestra dos modelos que intentan asemejarse. Muestra dos sistemas diferentes que se enfrentan a una contradicción similar desde posiciones opuestas: mantener un control suficiente sin renunciar a la ambición de convertirse en líderes.
La carrera dentro de la carrera
Llegados a este punto, parece que estamos viendo cómo estos actores se obsesionan con alcanzar primero el modelo más poderoso, cuando quizás otra competencia sea igual de importante: quién será el primero en construir instituciones capaces de gobernar lo que están construyendo.
En ambos países existen iniciativas regulatorias y mecanismos de evaluación. Sin embargo, la importancia de lo que está en juego —y lo que el liderazgo representa para ambos estados— suele primar sobre otras consideraciones, dejando algunas áreas prácticamente sin abordar.
Porque desarrollar mecanismos de control no significa necesariamente que el problema esté resuelto. La velocidad a la que surgen nuevas capacidades puede llevar a las instituciones a intentar regular una tecnología en constante transformación, mientras que las propias normas aún están en debate.
Los experimentos que sirvieron como punto de partida son un ejemplo de este movimiento. La replicación, la autonomía, la adaptación y las capacidades cibernéticas están empezando a surgir y combinarse, mientras que gobiernos, empresas e investigadores aún debaten cómo medir sus riesgos y dónde trazar los límites.
Y ahí es donde la carrera adquiere otra dimensión.
Estados Unidos y China no solo compiten por desarrollar mejores modelos, adquirir mayor capacidad informática o encontrar nuevas aplicaciones. También necesitan desarrollar mecanismos capaces de identificar y responder a los riesgos que surgen durante esa competencia.
Quizás el liderazgo no pertenezca, en última instancia, solo a quien logre construir primero la inteligencia artificial más poderosa, sino también a quien aprenda a coexistir con ella sin perder la capacidad de gobernarla.
Ganar la carrera no es suficiente. Hay que mantener el control del vehículo durante la carrera.
