Keep up to date with our innovative initiatives.
Sign up here
Totes les organitzacions públiques o privades que desenvolupen, despleguen o utilitzen tecnologies de dades i sistemes d’intel·ligència artificial disposen ja d’una eina que els permetrà conèixer el grau d’adopció dels principis ètics fonamentals en l’ús d’aquestes tecnologies: el Model PIO (Principis, Indicadors i Observables). Aquest model d’autoavaluació organitzativa sobre l’ús ètic de dades i sistemes d’IA, impulsat per l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC) i el Departament de la Vicepresidència i de Polítiques Digitals i Territori en el marc de l’estratègia Catalonia.AI, i amb el suport de la Universitat de Girona (UdG) i la Fundació i2CAT, podrà permetre saber què cal treballar i millorar per avançar cap a una adopció de la IA basada en l’ètica i en la responsabilitat. Aquesta iniciativa pionera és la primera guia d’implementació i autoavaluació de dades i sistemes d’IA, que atorgarà a les organitzacions que la utilitzin una insígnia de qualitat de retorn.
El model es va presentar el passat 29 de juny en un acte al Districte Administratiu de la Generalitat que va comptar amb les intervencions del director general d’Innovació i Economia Digital, Dani Marco; el rector de la UdG, Joaquim Salvi; el director de l’OEIAC, Albert Sabater, i la tècnica de l’OEIAC responsable del projecte, Alícia de Manuel.
El model PIO neix amb un doble objectiu: d’una banda, sensibilitzar i conscienciar les organitzacions que utilitzen o desenvolupen sistemes d’IA sobre la importància d’adoptar principis ètics fonamentals en l’ús d’aquestes tecnologies per minimitzar-ne els riscos coneguts i desconeguts i maximitzar-ne les oportunitats; i d’altra, identificar accions per valoritzar, recomanar i avançar en l’ús ètic de les dades i sistemes d’IA. Aquest model suposa un pas més per avançar en la integració de la teoria a la pràctica de principis ètics fonamentals de la IA i contribuir així a l’objectiu últim de construir una IA més transparent, més explicable, més justa, més segura, més responsable i més sostenible.
Autoavaluació i insígnia de qualitat
El model PIO es construeix al voltant de la senzillesa i d’una pregunta clau i efectiva que qualsevol persona que desenvolupa, gestiona o dirigeix un projecte on hi ha dades i sistemes d’IA pot entendre fàcilment: “Ho hem fet?” En aquest sentit, abans de dur a terme l’autoavaluació cal que l’organització esculli la persona o persones responsables d’aquest àmbit per realitzar l’autoavaluació amb la màxima informació disponible des d’un punt de vista competencial.
A partir d’aquí, el model permet autoavaluar-se en 7 eixos o principis relacionats amb l’ètica de les dades i dels sistemes d’IA, per obtenir una valoració per a cadascun d’ells i una “insígnia” amb el resultat: Transparència; Justícia i equitat; Seguretat i no maleficència; Responsabilitat i retiment de comptes; Privacitat; Autonomia; i Sostenibilitat.
Per fer-ho, el model recull les respostes binàries (Sí/No) de l’organització que du a terme l’autoavaluació a les 70 preguntes sobre cadascun dels 7 principis avaluats, n’obté les mètriques per a cadascun d’ells i genera una insígnia de qualitat per a l’organització. Aquesta insígnia serà la imatge gràfica del model d’autoavaluació PIO representant l’adequació de les dades i sistemes d’IA segons els 7 principis ètics del model. En aquest procés s’utilitza un gradient de color per representar d’una manera ràpida, senzilla i efectiva els resultats obtinguts.
El model PIO permet a qualsevol organització realitzar una autoavaluació ràpida de posició o bé una autoavaluació de posició completa, que en aquest cas requereix la justificació de les respostes afirmatives o negatives per permetre a l’OEIAC analitzar les respostes qualitatives i poder proporcionar retorn a l’organització que l’hagi realitzat si així ho desitja. D’aquesta manera, a més d’obtenir unes mètriques específiques i una insígnia de qualitat, les organitzacions que hagin fet l’autoavaluació completa rebran recomanacions específiques de millora.
El formulari d’autoavaluació, així com l’informe complet del model, estan disponibles en aquest enllaç.
