La ONU advirtió sobre los riesgos éticos del avance acelerado de la IA

El acelerado desarrollo de la inteligencia artificial volvió a encender las alarmas internacionales. El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, reclamó una “acción urgente” para establecer límites y controles sobre los sistemas más avanzados, ante el riesgo de que su evolución genere consecuencias difíciles de revertir.

La advertencia tomó fuerza en medio de la discusión internacional sobre el posible desarrollo de una Inteligencia Artificial General, una tecnología que, en teoría, podría alcanzar o superar capacidades cognitivas humanas en múltiples áreas.

“Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad”, advirtió Türk, quien instó a los Estados y a las empresas tecnológicas a coordinar acciones a nivel internacional.

El funcionario sostuvo que la actual competencia por desarrollar modelos cada vez más avanzados podría exponer distintos ámbitos de la vida a un “riesgo existencial cada vez mayor”. También manifestó preocupación por la concentración de estas tecnologías en un reducido grupo de grandes empresas.

La ONU pide límites y controles independientes

Entre las medidas planteadas, Türk pidió que los países vinculados al desarrollo y las cadenas de suministro de inteligencia artificial establezcan límites claros, mecanismos de verificación independiente y una mayor cooperación en materia de seguridad.

Sin embargo, aclaró que el debate excede los aspectos técnicos y alcanza cuestiones relacionadas con el empleo, la democracia, el medio ambiente y la protección de los derechos humanos.

“Un puñado de hombres tiene un poder casi ilimitado sobre la IA”, alertó el funcionario, quien reclamó que el desarrollo tecnológico esté al servicio de las personas y no ocurra al revés.

Las advertencias se producen en un escenario en el que referentes de algunas de las principales compañías del sector también expresaron preocupación por la velocidad con la que aumentan las capacidades de estos sistemas y plantearon la necesidad de evaluar con mayor profundidad sus riesgos.

Preocupación por la IA aplicada a la guerra

Otro de los puntos señalados por el alto comisionado fue la utilización de inteligencia artificial en conflictos armados, particularmente en el desarrollo de armas capaces de tomar decisiones letales sin intervención directa de una persona.

Türk pidió avanzar hacia la prohibición de sistemas que puedan quitar vidas de forma autónoma y sostuvo que los derechos humanos deben mantenerse como principio central a medida que evoluciona la tecnología.

La discusión sobre cómo regular la inteligencia artificial gana así espacio en organismos internacionales, gobiernos y empresas, mientras los nuevos modelos continúan desarrollándose a una velocidad que plantea cada vez más interrogantes sobre sus alcances y sus límites.