Este artículo de OpenAI ha pasado bastante desapercibido por la prensa en general. Muchas veces oímos hablar de Inteligencia Artificial, pero la Gobernanza de la Superinteligencia ya son términos que se nos escapan.
| IDEA ORIGINAL: Dolo – GlobalCobots PROMPT solo para las definiciones: https://chat.openai.com/share/2192d893-fee1-4a14-9cc4-bece4c24d143 IMÁGENES: Original, Catbird.ai (idioma inglés) y Pexels. FUENTE: OpenAI |
OpenAI no solo ha dedicado una entrada en exclusiva a la Superinteligencia sino que claramente nos avisa de que;
«Ahora es un buen momento para empezar a pensar en la gobernanza de la Superinteligencia: los futuros sistemas de IA son mucho más capaces que las AGI.»
OpenAI
Nos emplaza a un futuro concreto. En 10 años, la Superinteligencia superará a la Inteligencia Artificial General (AGI).
Si ahora mismo desconoces los términos de ANI, AGI o ASI, no te preocupes. En esta imagen se puede apreciar de forma simplificada dónde situamos cada concepto relacionado con Inteligencia Artificial.
En principio todavía no se ha alcanzado la Inteligencia Artificial General, y OpenAI ya nos está hablando de Superinteligencia.
¿Será que sí ha llegado a nosotros la AGI y el problema es que no nos hemos percatado?
La capacidad de inundar todos los aspectos de nuestro día a día por parte de la IA ha sido tan masiva que quizá por eso, no hemos sido conscientes (y tampoco nos lo han contado), sino que tampoco se ha generado ningún tipo de reacción crítica al respecto y asumimos todos «porque es así».
Sigamos viendo lo que nos cuenta OpenAI… Nos habla de 3 PUNTOS DE PARTIDA de la Superinteligencia
| 1._ DESAROLLO DE LA SUPERINTELIGENCIA «… que produzca de una manera que nos permita mantener la seguridad y ayudar a una integración fluida de estos sistemas con la sociedad.» | 2._ AGENCIA INTERNACIONAL DE SUPERINTELIGENCIA «Inspeccionar sistemas, exigir auditorías, probar el cumplimiento de las normas de seguridad, imponer restricciones a los grados de despliegue…» | 3._ CAPACIDAD TÉCNICA PARA SUPERINTELIGENCIA SEGURA «el objetivo es alinear la inteligencia general artificial (AGI) con los valores humanos.» «…. enfoque iterativo y empírico: al intentar alinear sistemas de IA altamente capaces, podemos aprender lo que funciona y lo que no, refinando así nuestra capacidad para hacer que los sistemas de IA sean más seguros.» |
OpenAI apoya la Supervisión Pública y que todo el mundo «debería decidir democráticamente sobre los límites y los incumplimientos de los sistemas de IA.» El problema es que todavía no saben cómo diseñar ese mecanismo de control.
Las pregunta clave es la que se realiza OpenAI a sí misma: ¿por qué estamos construyendo esta tecnología?
En OpenAI nos dicen que tienen dos razones fundamentales. Citamos lo que nos cuentan;
En primer lugar, creemos que va a conducir a un mundo mucho mejor de lo que podemos imaginar hoy (ya estamos viendo los primeros ejemplos de esto en áreas como la educación, el trabajo creativo y la productividad personal). El mundo se enfrenta a muchos problemas que necesitaremos mucha más ayuda para resolver; esta tecnología puede mejorar nuestras sociedades, y la capacidad creativa de todos para usar estas nuevas herramientas seguramente nos asombrará. El crecimiento económico y el aumento de la calidad de vida serán asombrosos.
En segundo lugar, creemos que sería arriesgado y extremadamente difícil detener la creación de la superinteligencia. Dado que los beneficios son enormes, el coste de construirla disminuye cada año, el número de actores que la están desarrollando está aumentando rápidamente, y forma parte inherente del camino tecnológico en el que nos encontramos. Detener su avance requeriría algo similar a un régimen de vigilancia global, y aún así no hay garantía de que funcione
Y la reflexión de OpenAi termina con;
"Así que tenemos que hacerlo bien."
OpenAI nos dedica estas palabras sobre la Superinteligencia. Somos escépticos y pensamos que todavía quedan muchas cosas por delante, o que quizás nunca se alcance ese momento. Pero en todo caso, por qué la compañía que ha revolucionado la IA, quiere que reflexionemos sobre algo que a priori pensamos que es inalcanzable.
La reflexión final no nos aporta mucho por lo que ahora quizás sí debamos reaccionar de alguna manera.
¿ IA, ANI, AGI, ASI ? Por si te queda alguna duda, aquí tienes las definiciones de cada tipo de Inteligencia Artificial
https://chat.openai.com/share/2192d893-fee1-4a14-9cc4-bece4c24d143
| ANI (Inteligencia Artificial Estrecha): Se refiere a la Inteligencia Artificial Estrecha, también conocida como ANI por sus siglas en inglés (Artificial Narrow Intelligence). Sistemas de inteligencia artificial que están diseñados para realizar tareas específicas de manera muy efectiva, pero su conocimiento y habilidades están limitados a un dominio específico. EJEMPLOS: Reconocimiento de voz, la traducción automática o el diagnóstico médico, pero no tienen conciencia ni capacidad de aprendizaje más allá de su tarea específica. |
| AGI (Inteligencia Artificial General): La Inteligencia Artificial General, o AGI (Artificial General Intelligence) en inglés, se refiere a sistemas de inteligencia artificial que tienen la capacidad de entender, aprender y realizar cualquier tarea intelectual que un ser humano pueda hacer. Un sistema AGI sería capaz de combinar habilidades cognitivas como el razonamiento, el aprendizaje automático, la percepción y la planificación en diferentes dominios. |
| ASI (Inteligencia Artificial Superinteligente): La Inteligencia Artificial Superinteligente, conocida como ASI (Artificial Superintelligence) en inglés, se refiere a un nivel de inteligencia artificial que supera la capacidad intelectual de los seres humanos en todos los aspectos. Un sistema ASI tendría una inteligencia muy superior a la de cualquier ser humano en todas las áreas, incluyendo la creatividad, la resolución de problemas, el conocimiento y la comprensión. La ASI, en teoría, sería capaz de superar a la inteligencia humana en todos los aspectos y podría llevar a cabo tareas y tomar decisiones a niveles inimaginables para nosotros. |
Para seguir la actualidad de las noticias más interesantes sobre robótica colaborativa e inteligencia artificial, no dudes en visitar nuestras Últimas noticias.
