Què ocorreria si els models de IA s’entrenaren amb les marques dels atletes olímpics? 🤔
El nostre Director del Departament de Dades, Eilder Jorge, ens descobreix amb un suposat cas aplicat a les Olimpíades la implicació que té el correcte ús de les dades, i com la tecnologia que desenvolupem en WonderBits pot ajudar-te en la digitalització de la teua empresa. 📊
Potser no existeix millor exemple per a parlar de la importància de l’ètica en la IA que les Olimpíades. Aquest esdeveniment recurrent reuneix persones de tot el món, amb habilitats molt diverses, amb gèneres, edats i races diferents.
Molts sistemes d’intel·ligència artificial s’usen per a estudiar dades i prendre decisions. No obstant això, és molt important pensar en les circumstàncies de les persones abans de realitzar aquesta presa de decisions.
Imagineu que estudiem als atletes de salt de longitud de les Olimpíades, construïm un model d’intel·ligència artificial amb les seues dades i després usem aquest model per a “decidir” les distàncies ideals de salt de longitud a les escoles del món. No sembla molt raonable, al cap i a la fi, és correcte usar als millors atletes del món com un objectiu per als joves del món? I, sobretot, com afectaria aquests joves tindre objectius inassolibles? La resposta és òbvia, i obri la porta a una altra pregunta: si els esportistes saberen que les seues dades anaren a ser usats amb eixe objectiu, s’hagueren esforçat al màxim en la realització del salt?
Aquests problemes i aquestes preguntes formen la base de l’ètica en la IA. Una aplicació ètica d’intel·ligència artificial idealment ha de complir amb diverses restriccions:
- L’obtenció de les dades ha de ser aprovada pels amos d’eixes dades amb el propòsit indicat. Si un usuari d’una aplicació ha donat el seu permís per a usar les seues dades amb raó comercial, no es pot assumir que també ha donat el seu consentiment per a usar eixes dades per a construir models d’intel·ligència artificial. Es pot observar com ignorar aquest punt ha causat molta commoció i molt debat sobre els “copyright” i drets d’autor amb els models nous de IA generativa.
- Fins i tot en atorgar permís per a usar les dades, aquests han de guardar-se de manera anònima i segura. No és necessari que un model d’intel·ligència artificial emmagatzeme dades sensibles en llocs insegurs.
- Mai s’ha d’extrapolar un model d’intel·ligència artificial per a resoldre una solució en un context diferent de l’origen de les seues dades. Si el model està construït sobre la base de dades de persones joves entre 20 i 30 anys a Espanya, no es pot extrapolar eixe model per a parlar de tot el país o per a prendre decisions a nivell europeu.
- Els models d’intel·ligència artificial consumeixen recursos per al seu funcionament: mentre més potent el model, més consum comporta. És de summa importància construir models que augmenten la productivitat i ajuden la societat a reduir el mal al medi ambient, no a augmentar-lo.
Finalment, una aplicació ètica de IA ha de ser capaç d’explicar als usuaris la lògica del seu funcionament de manera que siga possible entendre i corregir les decisions suggerides, en cas de ser necessari.
En WonderBits busquem sempre complir amb totes aquestes pautes. Totes les dades es manegen de manera anònima i segura, usant encriptació en les nostres aplicacions i en la base de dades quan és necessari. Realitzem estudis complexos per a garantir que les dades són correctes i suficients per a construir un model just i que no tinga preferència per un grup concret d’usuaris. Per a garantir això fem ús de tecnologies que ens permeten estudiar els models i les seues respostes, de manera que garantim que els models siguen segurs i ens proporcionen la resposta que busquem correctament.
Finalment sempre estudiem la possibilitat de construir models segons l’escala necessària, usant serveis del núvol o models més xicotets emmagatzemats en els nostres servidors per a reduir l’impacte al medi ambient quan siga possible.
Eilder Jorge, Director del Departament de Dades
