PUBLICIDAD
PUBLICIDAD

Mundo > Foro internacional

OpenAI y Microsoft respaldan un pacto global para la regulación de la Inteligencia Artificial 

Gobiernos y empresas tecnológicas firmaron el "Llamamiento de París". Proponen crear un sistema global para evaluar modelos y alertas. 

POR REDACCIÓN

Avanza el debate sobre seguridad y control de la IA por el Estado.

Gobiernos, organizaciones científicas y empresas tecnológicas como OpenAI, Anthropic, Microsoft, Mistral AI, Cohere y Hugging Face acordaron impulsar el Llamamiento de París para la Seguridad de la Inteligencia Artificial, una iniciativa destinada a establecer un marco internacional de cooperación frente a los riesgos de los modelos avanzados.

El acuerdo, presentado en una cumbre en la capital francesa, busca cubrir un vacío normativo similar al que existe en industrias como la aviación civil: contar con mecanismos estandarizados para preservar registros, reconstruir decisiones, compartir alertas tempranas e investigar incidentes graves cuando un sistema autónomo actúa fuera de lo previsto.

El documento establece tres ejes principales de trabajo, aunque se trata de una declaración política que no contempla sanciones ni plazos obligatorios:

Registro internacional de incidentes: Se propone armonizar la clasificación de fallas y agilizar el intercambio de información entre desarrolladores y gobiernos para prevenir vulnerabilidades compartidas. El esquema emula una "caja negra", registrando instrucciones, herramientas y decisiones intermedias.

Evaluaciones comparables de modelos de frontera: Se impulsa la creación de un marco común para evaluar capacidades avanzadas —con énfasis en ciberseguridad y riesgos químicos, biológicos o nucleares— a través de un repositorio público y con el respaldo técnico de la red NAAIMES.

Mecanismos de control y detención: El acuerdo contempla la posibilidad de restringir, pausar o detener modelos bajo supervisión de los creadores, aunque el documento no define una autoridad internacional con facultades para ordenar suspensiones ni resuelve la complejidad de frenar sistemas distribuidos en múltiples servidores.

Uno de los principales puntos de tensión en el debate continúa siendo la pugna entre la evaluación independiente y el secreto comercial. Mientras los investigadores advierten que se requiere acceso profundo y sin restricciones para auditar los sistemas con rigor, las compañías sostienen que una apertura excesiva expone vulnerabilidades o datos sensibles, dejando por el momento la fiscalización bajo el control operativo de los propios desarrolladores.

PUBLICIDAD
PUBLICIDAD

Más Leídas

PUBLICIDAD
PUBLICIDAD

Últimas noticias

PUBLICIDAD
PUBLICIDAD