Priorizar la creatividad sobre la seguridad

La mayor diferencia entre la Cumbre de IA de este año y las dos anteriores es el cambio en las prioridades del debate. En las citas en el Reino Unido y Corea del Sur la seguridad de la IA fue el foco, como lo demuestra la Declaración de Bletchley de 2023, y el compromiso de más de 16 de las principales corporaciones tecnológicas del mundo en Seúl 2024, de desarrollar voluntariamente la IA de manera transparente, responsable y supervisada.

Sin embargo, esta vez la seguridad de la IA, aunque sigue siendo un tema importante, quedó relegada a las prioridades de un desarrollo más equitativo de la IA, una distribución más equitativa de los beneficios de la IA y una mayor cooperación mundial en la materia, con el riesgo de una fragmentación tecnológica.

Para ilustrar este cambio de prioridades el país anfitrión, Francia, modificó el tema original del encuentro de “Cumbre de seguridad de IA” a “Cumbre de acción de IA”.

Al explicar el nuevo enfoque el presidente de Francia, Emmanuel Macron, dijo que Europa puede estar orgullosa de ser pionera en la creación de regulaciones para controlar la IA, pero el control debe venir después de la innovación y la creatividad, en un contexto en que Europa está mostrando signos de quedarse atrás en esta tecnología en comparación con Estados Unidos y China.

Para Estados Unidos, la principal potencia en IA, la seguridad de la misma ya no es la prioridad número 1, pues la delegación estadounidense que asiste a la Cumbre de París no incluye miembros del Instituto de Seguridad de la IA que Estados Unidos estableció a fines de 2023.

El vicepresidente de Google, James Manyka, apoyó este cambio, diciendo: “Creo que una de las cosas interesantes de esta Cumbre es el mayor enfoque en las oportunidades que brinda la IA. A menudo se habla demasiado de los riesgos y las complejidades de la IA y no se habla lo suficiente de sus oportunidades”.

El cambio de prioridades también refleja variaciones importantes en el mundo de la tecnología de IA global en los últimos tiempos, en particular el surgimiento de DeepSeek, un modelo de IA generativa de código abierto de China desarrollado a un costo mucho menor que los modelos de IA anteriores (como ChatGPT, Gemini y Mistral) pero con una eficacia comparable.

Según los expertos, DeepSeek abre muchas nuevas oportunidades para que los países desarrollen modelos de IA más flexibles, reduciendo la dependencia de las grandes corporaciones tecnológicas de Silicon Valley (Estados Unidos), que cuentan con ventajas superiores en recursos financieros, tecnología y recursos humanos.

Jamal Atif, director científico de los Programas Prioritarios Nacionales de Francia y profesor de IA en la Universidad París-Dauphine, comentó: “Ahora tenemos modelos de código abierto que funcionan tan bien como los modelos de código cerrado, lo cual es muy emocionante. China y los miembros de DeepSeek han demostrado que podemos hacerlo, que necesitamos mentes brillantes y gente talentosa. Esto es algo en lo que Europa tiene ventaja, porque tiene muchos estudiantes talentosos, muchas mentes excelentes y nuevas empresas exitosas”.

La asistencia de numerosos jefes de Estado y altos funcionarios de más de 100 países, entre ellos el vicepresidente estadounidense J.D. Vance y el viceprimer ministro chino Zhang Guoqing, a esta Cumbre de IA en París es una señal de que otro tema importante que puede dominar las discusiones es el impacto de las tensiones geopolíticas actuales en todo el mundo sobre el desarrollo y la cooperación en IA a escala global.

Según Nick Reiners, analista de geotecnología del grupo Eurasia, una consultora de riesgo político global con sede en Nueva York, el aspecto geopolítico de la IA se está volviendo cada vez más complejo en el contexto de que la tecnología en general está en el centro de la competencia entre las grandes potencias, mientras que las políticas tecnológicas, especialmente la IA, del gobierno de Estados Unidos enfrentan la resistencia de muchos países.

Nick Reiners sostiene que el hecho de que China y Francia firmaran una Declaración Conjunta sobre IA el año pasado muestra que existen ciertas preocupaciones compartidas entre el gigante asiático y Europa sobre el dominio de las corporaciones tecnológicas estadounidenses en este campo.

Por lo tanto, en esta Cumbre las partes pueden enfrentar muchos desafíos a la hora de realizar compromisos y declaraciones conjuntas sobre la dirección del desarrollo de la IA en el futuro, especialmente en aspectos como: acceso abierto a fuentes de datos, IA al servicio del interés público, e IA y sostenibilidad ambiental.

La mayor preocupación es que las diferencias políticas entre las partes pueden llevar a la fragmentación de la tecnología global de IA, cuando los países bloquean o prohíben las tecnologías de los demás.

El presidente francés, Emmanuel Macron, advirtió: "Creo que no es apropiado prohibir una tecnología porque proviene de un determinado país. Ése no es nuestro enfoque. Con toda la tecnología del mundo que no viene de Europa observaremos aspectos sensibles para la seguridad y la soberanía europea. Eso es lo que hicimos tecnológicamente".

Para Europa y el país anfitrión, Francia, esta Cumbre también es una oportunidad para crear un impulso tecnológico para la región frente a la fuerte competencia de Estados Unidos y China.

En vísperas de la Cumbre, el propio Macron, anunció inversiones de hasta 113 mil millones de dólares en proyectos de IA en Francia durante los próximos años, procedentes de Emiratos Árabes Unidos, Canadá, Estados Unidos y de varias grandes corporaciones tecnológicas francesas, como Thales, Orange e Illiad.