La "Inteligencia Artificial" a la que piden que se ponga pausa explicada por un sanjuanino

Después de que 1.001 empresarios de la industria Tech publicaron un comunicado pidiendo que pusieran en pausa el desarrollo de las inteligencias artificiales hasta que sean sometidas a protocolos de control, se encendieron las alarmas, ya que se habló de “terminar con la cultura” y “acabar con el mundo que conocemos”. Pero de qué se habla cuando se habla de inteligencias artificiales.

Responder no es pensar

Sebastián Dieguez es beta tester de GPT3 y miembro de la Open Metaverse Fundation. Lo primero que aclaró es que los modelos actuales lejos de ser una inteligencia son en realidad “modelos de aprendizaje que dan respuestas con sentido”. Es decir, programas informáticos que pueden “aprender” a partir de una base de datos y dar resultados que para el usuario tienen sentido.

Aclara que en el estado actual en el que se encuentran los modelos de lenguaje esto “no piensan”. Solo navegan un mar de posibilidades y entre ellos eligen resultados que pueden tener sentido para los usuarios.

La Inteligencias Artificiales, en el estado en el que están, no son ni asistentes virtuales, ni buscadores. Simplemente, pueden unir letras y es el lector/usuario el que validará si es útil o no.

Los modelos de lenguaje

Un modelo de lenguaje es un tipo de algoritmo de inteligencia artificial diseñado para procesar y generar lenguaje natural. Estos modelos utilizan técnicas de aprendizaje automático para analizar grandes cantidades de texto y aprender patrones en el lenguaje, como la gramática, la sintaxis y el vocabulario.

La utilidad principal de los modelos de lenguaje es generar texto coherente y natural a partir de una entrada de texto, lo que puede ser útil en una variedad de aplicaciones. Por ejemplo, los modelos de lenguaje se utilizan a menudo en sistemas de chatbot y asistentes virtuales para proporcionar respuestas automáticas a las preguntas de los usuarios. También se utilizan en la traducción automática de idiomas, la generación automática de texto y en la clasificación de texto, entre otras aplicaciones.

Además, los modelos de lenguaje también se utilizan en investigación lingüística y en el análisis de datos de texto para descubrir patrones y tendencias en grandes conjuntos de datos de texto. En resumen, los modelos de lenguaje son herramientas poderosas para procesar y generar lenguaje natural y tienen una amplia variedad de aplicaciones en diversos campos.

Los usuarios de modelos de lenguaje pueden enfrentar varios desafíos al utilizar estas herramientas, entre los que se incluyen:

• Acceso a grandes conjuntos de datos: los modelos de lenguaje necesitan grandes cantidades de datos de texto para ser entrenados de manera efectiva. Por lo tanto, los usuarios pueden tener dificultades para acceder a conjuntos de datos relevantes y de alta calidad.
• Selección de modelos adecuados: existen muchos tipos de modelos de lenguaje, cada uno con diferentes características y usos. Los usuarios pueden tener dificultades para seleccionar el modelo adecuado para su tarea específica.
• Entrenamiento y ajuste de parámetros: el entrenamiento de un modelo de lenguaje puede ser un proceso complejo y llevar mucho tiempo. Los usuarios pueden tener dificultades para ajustar los parámetros del modelo y obtener los resultados deseados.
• Evaluación del rendimiento: una vez entrenado el modelo, los usuarios deben evaluar su rendimiento para determinar si cumple con los requisitos de su tarea. Esto puede ser difícil, ya que la evaluación del rendimiento de los modelos de lenguaje es un área activa de investigación.
• Interpretación de los resultados: los modelos de lenguaje pueden generar texto automáticamente, pero puede ser difícil para los usuarios interpretar el significado detrás del texto generado. Los usuarios deben ser capaces de analizar y validar los resultados del modelo.
• En general, los usuarios de modelos de lenguaje deben tener una comprensión sólida de cómo funcionan estas herramientas y estar preparados para enfrentar los desafíos asociados con su uso.

El pedido de pausa y la una contrapropuesta

Los empresarios lanzaron un pedido para poner en pausa la investigación. En el petitorio está la preocupación que genera el desarrollo de sistemas de IA con inteligencia humana-competitiva.

Los sistemas de IA con inteligencia humana-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación y lo reconocen los principales laboratorios de IA. Como se establece en los Principios de IA de Asilomar, ampliamente respaldados, la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes. Desafortunadamente, este nivel de planificación y gestión no está ocurriendo, a pesar de que en los últimos meses los laboratorios de IA entraron en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”, sumaron.

A esto se lanzó una contrapropuesta escrita por usuarios. El pedido es democratizar los recursos y crear un “centro de experimentación público para inteligencias artificiales”, lo comparan con el CERN.

“Para aprovechar todo su potencial como herramientas para la mejora de la sociedad, es vital democratizar la investigación sobre ellas y el acceso a las mismas, no sea que nos enfrentemos a graves repercusiones para nuestro futuro colectivo”, explica el comunicado.

La “Inteligencia Artificial” es una realidad y ya está entre nosotros. De hecho, cabe mencionar que este artículo está escrito sobre la base de las fuentes consultadas, papers sobre el tema y también Inteligencia Artificial, en este caso ChatGPT 3.