OpenAI lanzó Astra, una nueva IA autónoma y advirtió por sus riesgos

OpenAI puso en circulación GPT-6 Astra, un nuevo modelo de inteligencia artificial que la compañía presenta como el más inteligente y alineado del mundo. A diferencia de herramientas anteriores, Astra puede ejecutar tareas complejas con una intervención humana mínima.

El modelo puede utilizar una computadora y realizar diferentes acciones. Entre ellas, completar formularios online, manejar bases de datos, organizar calendarios, investigar y elaborar resúmenes.

También puede analizar datos científicos, crear sitios web, instalar programas y desarrollar videojuegos.

Estas capacidades fueron presentadas por OpenAI como parte de los avances del nuevo sistema. Sin embargo, el desarrollo también estuvo acompañado por advertencias relacionadas con los riesgos que implica una IA con mayor autonomía.

Las alertas por ciberseguridad

OpenAI reconoció que Astra alcanzó el “umbral de capacidad crítica de ciberseguridad” establecido dentro de su Marco de Preparación. Se trata del nivel de mayor riesgo contemplado en ese esquema.

La compañía incluso retrasó el lanzamiento del modelo para reforzar las salvaguardas vinculadas con esta cuestión.

OpenAI también señaló que, con las herramientas y el acceso adecuados, Astra puede encontrar fallas de seguridad desconocidas y desarrollar métodos para explotarlas en sistemas protegidos sin que una persona tenga que guiar cada paso.

La advertencia de los expertos

Jakub Pachocki, científico jefe de OpenAI, manifestó su preocupación por el avance de estos sistemas. Según explicó, la inteligencia artificial comienza a superar a los humanos en diferentes ámbitos y resulta cada vez más difícil comprender exactamente sus capacidades.

El especialista también advirtió que los riesgos pueden crecer cuando estos sistemas adquieren mayor autonomía y pueden ser utilizados con fines maliciosos.

GPT-6 Astra fue liberado inicialmente para un grupo seleccionado de organizaciones y posteriormente llegó a usuarios Pro, Enterprise y Business Premium en Work/Codex. OpenAI indicó que busca extender su disponibilidad al resto de los usuarios.