Este año, el II Forum Europeo de Inteligencia Artificial (IA) se celebró en Alicante el pasado día 4 de Octubre.
En esta segunda edición, tuvimos el privilegio de conocer la opinión de los mejores expertos, hablando sobre una IA con aplicaciones versátiles que se extienden desde sectores legales, médicos y científicos, hasta campos como la manufactura, gastronomía, cine y sostenibilidad
Ricardo Baeza Yates abrió el encuentro con una presentación excelente que podéis ver en el vídeo del evento.
Página oficial: Encuentros Now
Vídeo del II Forum Europeo de IA: Youtube
Ponentes: Ricardo Baeza, Nuria Oliver, Manuel Bonilla, Ariadna Font, Chema Alonso, Manu Cermerón, Tania María Cedeño, Montse Guardia, Olga Blanco, Teresa Alarcos, Yves Punie, Javier García, Sergi Sagás, Javier Ideami, Manuel Palomar, Manuel Letouzé, Andrea Bernabeu, Maite Antón, Eva Toledo, Miguel Camacho, Jose Angel López, Paco Torreblanca, Esperanza Navarro, Tonia Salinas, Aurelio López Tarruela, Toni Cabot, Jacob Torreblanca, Juan José Cortés, Susi Díaz, Nacho Amirola, Marcela Fernández, Lasse Rouhiainen, Javier Barrachina, Raúl Martin, Patricia Pastor, Jesús Ruiz, Pablo Barrachina Pastor, Antonio Sánchez Zaplana, Antonio González Barros, Paloma Velasco Quintana.
Con este encuentro, se pretende dar a conocer a la sociedad los beneficios de la IA. De igual manera, debemos conocer que la IA mejorará la calidad de vida de las personas a través de ejemplos concretos.
En esta ocasión destacamos la charla magistral que impartió Ricardo Baeza, Director de Investigación, Institute for Experiential AI @ Northeastern University.
La ponencia de Ricardo Baeza
Nos habla de la complejidad de la IA, abordando sus sesgos, riesgos, regulaciones y los interrogantes esenciales que debemos considerar.
Os resumimos los puntos más importantes;
― 3 principios básicos de la Bioética: autonomía, hacer el bien y no hacer el mal y la justicia.
― Problema: cuando los valores entran en conflicto, ¿debemos limitar la autonomía (visión paternalista o ¿que la persona haga lo que quiera)?
― Principios de la Association for Computing Machinery (ACM US TPC 1/2017 y actualizados en 10/2022). Código de Ética y Conducta Profesional de ACM para que los algoritmos sean transparentes y responsables:
1.Sistema legítimo y competente (beneficioso para la humanidad)
2.Minimización del daño
3.Seguridad y privacidad
4.Transparencia
5.Interpretabilidad y explicabilidad
6.Sostenibilidad
7.Cuestionabilidad y auditabilidad
8.Rendición de cuentas y responsabilidad
9.Limitar el daño al medioambiente
| GOBERNANZA DE LA IA |
| IDEA | DISEÑO Y DESARROLLO | OPERACIÓN | CUANDO FALLA | CUANDO DAÑA |
| 1 | 2 3 4 5 9 – 6 | 2 3 4 5 9 – 6 | 7-6 | 8 |
| Análisis de impacto ético | Validación y testeo | Herramientas | Auditoría | Justicia |
Preguntas que debemos hacernos sobre la IA
PREGUNTA 1 – ¿Es beneficioso para la sociedad? Nos señala que el uso de ChatGPT con 1 billón de parámetros, es como tirar una botella de agua en el vasto desierto durante cada conversación.
PREGUNTA 2 – ¿Estamos haciendo ciencia o inventando? Pseudociencia
PREGUNTA 3 – ¿Tienen permiso para llevarla a cabo?
PREGUNTA 4 – ¿Se tiene el conocimiento experto para el problema que se quiere resolver? (experto informático, legal, médico…)
PREGUNTA 5 – ¿Es la solución proporcional al problema que queremos resolver?
PREGUNTA 6 – ¿Han verificado por sesgo negativo? El sesgo puede estar en el modelo, en el intercambio de información entre el usuario y el sistema. Y si no hacemos nada, el sesgo puede amplificarse.
| DATOS SESGADOS | ALGORITMO (neutral/justo) | MISMO SESGO/ SESGO AMPLIFICADO |
| ¿Es ético tener un algoritmo privado? ¿Es seguro un algoritmo público y que cualquiera lo pueda manipular? |
Los datos NO lo representan todo
Los datos son una representación parcial de la realidad. La precisión no es tan relevante, el impacto de los errores si lo es.
PREGUNTA 7 – ¿Se usan umbrales arbitrarios?
PREGUNTA 8 – ¿Es la solución segura, privada y cumple con las regulaciones legales?
PREGUNTA 9 – ¿Saben los usuarios el impacto del sistema en sus vidas?
PREGUNTA 10 – ¿Tenemos todo para que los sistemas sean responsables y auditables?
Opinión sobre la regulación de la IA
Según el experto no debemos regular. La regulación debe ser independiente de la tecnología.
En su opinión, se deben regular sectores (problemas) y no tecnología (herramientas). Ya lo hacemos con el transporte, la comida o los derechos humanos.
Debemos crear categorías ficticias, ya que el riesgo es una variable continua. Además, la autoevaluación del riesgo supone un conflicto de intereses y por ello, el riesgo es muy difícil de medir.
La ponencia termina con unas viñetas donde se reflexiona sobre inteligencia artificial;
Le pregunta una persona a otra;
¿Está preocupado por el aumento de la Inteligencia Artificial?
No. Estoy preocupado por la disminución de la Inteligencia Real.
Para seguir la actualidad de las noticias más interesantes sobre robótica colaborativa e inteligencia artificial, no dudes en visitar nuestras Últimas noticias.
