¿Qué ocurriría si los modelos de IA se entrenaran con las marcas de los atletas olímpicos? 🤔
Nuestro Director del Departamento de Datos, Eilder Jorge, nos descubre con un supuesto caso aplicado a las Olimpiadas la implicación que tiene el correcto uso de los datos, y cómo la tecnología que desarrollamos en WonderBits puede ayudarte en la digitalización de tu empresa. 📊
Quizás no existe mejor ejemplo para hablar de la importancia de la ética en la IA que las Olimpiadas. Este evento recurrente reúne a personas de todo el mundo, con habilidades muy diversas, con géneros, edades y razas diferentes.
Muchos sistemas de inteligencia artificial se usan para estudiar datos y tomar decisiones. Sin embargo, es muy importante pensar en las circunstancias de las personas antes de realizar esta toma de decisiones.
Imaginad que estudiamos a los atletas de salto de longitud de las Olimpiadas, construimos un modelo de inteligencia artificial con sus datos y luego usamos este modelo para «decidir» las distancias ideales de salto de longitud en las escuelas del mundo. No parece muy razonable, al fin y al cabo, ¿es correcto usar a los mejores atletas del mundo como un objetivo para los jóvenes del mundo? Y, sobre todo, ¿cómo afectaría a estos jóvenes tener objetivos inalcanzables? La respuesta es obvia, y abre la puerta a otra pregunta: ¿si los deportistas supieran que sus datos fueran a ser usados con ese objetivo, se hubieran esforzado al máximo en la realización del salto?
Estos problemas y estas preguntas forman la base de la ética en la IA. Una aplicación ética de inteligencia artificial idealmente debe cumplir con varias restricciones:
- La obtención de los datos debe ser aprobada por los dueños de esos datos con el propósito indicado. Si un usuario de una aplicación ha dado su permiso para usar sus datos con razón comercial, no se puede asumir que también ha dado su consentimiento para usar esos datos para construir modelos de inteligencia artificial. Se puede observar cómo ignorar este punto ha causado mucha conmoción y mucho debate sobre los «copyright» y derechos de autor con los modelos nuevos de IA generativa.
- Incluso al otorgar permiso para usar los datos, éstos deben guardarse de forma anónima y segura. No es necesario que un modelo de inteligencia artificial almacene datos sensibles en lugares inseguros.
- Nunca se debe extrapolar un modelo de inteligencia artificial para resolver una solución en un contexto diferente al origen de sus datos. Si el modelo está construido en base a datos de personas jóvenes entre 20 y 30 años en España, no se puede extrapolar ese modelo para hablar de todo el país o para tomar decisiones a nivel europeo.
- Los modelos de inteligencia artificial consumen recursos para su funcionamiento: mientras más potente el modelo, más consumo conlleva. Es de suma importancia construir modelos que aumenten la productividad y ayuden a la sociedad a reducir el daño al medio ambiente, no a aumentarlo.
- Finalmente, una aplicación ética de IA debe ser capaz de explicar a los usuarios la lógica de su funcionamiento de forma que sea posible entender y corregir las decisiones sugeridas, en caso de ser necesario.
En WonderBits buscamos siempre cumplir con todas estas pautas. Todos los datos se manejan de forma anónima y segura, usando encriptación en nuestras aplicaciones y en la base de datos cuando es necesario. Realizamos estudios complejos para garantizar que los datos son correctos y suficientes para construir un modelo justo y que no tenga preferencia por un grupo concreto de usuarios. Para garantizar esto hacemos uso de tecnologías que nos permiten estudiar los modelos y sus respuestas, de forma que garantizamos que los modelos sean seguros y nos proporcionen la respuesta que buscamos correctamente.
Finalmente siempre estudiamos la posibilidad de construir modelos según la escala necesaria, usando servicios de la nube o modelos más pequeños almacenados en nuestros servidores para reducir el impacto al medio ambiente cuando sea posible.
