<\/p>\n
Darrera edici\u00f3 del post: setembre 2023<\/em><\/p>\n Reflexions des d’experi\u00e8ncies concretes davant la imminent aprovaci\u00f3 de la legislaci\u00f3 europea sobre Intel\u00b7lig\u00e8ncia Artificial (AI Act)<\/strong><\/h4>\n per Xnet, Simona Levi amb la col\u00b7laboraci\u00f3 de Miriam Carles i Sanne Stevens<\/em><\/p>\n <\/p>\n Hi ha multitud d’identificadors biom\u00e8trics tant de comportament, com el reconeixement de la signatura, la veu, l’escriptura o la manera de caminar, com a fisiol\u00f2gic, com la petjada dactilar, l’iris o la retina, el reconeixement vascular, facial o de la geometria de la m\u00e0. Aquestes \u00faltimes s’han convertit en populars com a codi per identificar les persones de manera un\u00edvoca, entenent el cos com un recurs d’exactitud i precisi\u00f3 que pot funcionar com a \u201ccontrasenya\u201d(1)<\/em><\/a>. <\/p>\n En el que respecta a la biometria pel reconeixement personal, qualsevol caracter\u00edstica biol\u00f2gica o de comportament \u00e9s utilitzarble com a identificador biom\u00e8tric si compleix al menys quatre requisits b\u00e0sics: 1) Col\u00b7leccionabilitat (l\u2019element es pot capturar); 2) Universalitat (l\u2019element existeix en totes les persones); 3) Unicitat (L\u2019element ha de ser distintiu per cada persona); 4) Perman\u00e8ncia (la propietat de l\u2019element resta permanent en el temps)(2)<\/em><\/a>.<\/p>\n Les organitzacions internacionals de refer\u00e8ncia en la defensa dels drets humans en l\u2019\u00e0mbit digital coincidim en que \u201cl\u2019accelerat creixement en l\u2019\u00fas de tecnologies biom\u00e8triques per la identificaci\u00f3 (\u2026) planteja una s\u00e8rie de q\u00fcestions relatives no nom\u00e9s a l\u2019impacte d\u2019aquestes tecnologies sobre la llibertat d\u2019expressi\u00f3 i d\u2019acci\u00f3 en espais p\u00fablics sin\u00f3 a l\u2019autonomia i a la identitat de l\u2019individu.(3)<\/em><\/a>\u201d<\/p>\n Les dades biom\u00e8triques s\u00f3n vulnerables a atacs, igual que altres m\u00e8todes d\u2019autenticaci\u00f3. Tot i aix\u00f2, a difer\u00e8ncia d\u2019una contrasenya, els indicadors biom\u00e8trics no poden simplement restablir-se o canviar-se segons sigui necessari. Aix\u00f2 planteja un major risc de seguretat, ja que es fa cada vegada m\u00e9s dif\u00edcil reparar el dany causat per fugues o atacs i restaurar el bon funcionament dels sistemes basats en biometria(4)<\/em><\/a> i la integritat f\u00edsica de les persones involucrades(5)<\/em><\/a>.<\/p>\n Doncs no s\u00f3n m\u00e9s segurs. Recentment, el risc que comporta l\u2019\u00fas malici\u00f3s d\u2019aquesta informaci\u00f3 s\u2019ha agreujat amb la suplantaci\u00f3 d\u2019identitat i els deepfakes(6)<\/em><\/a> o deepvoices(7)<\/em><\/a> en els que interv\u00e9 la IA, essent fins i tot possible crear \u201cempremtes mestres\u201d que combinin les caracter\u00edstiques comunes de diverses persones permetent la seva identificaci\u00f3 amb una sola empremta(8)<\/em><\/a>.<\/p>\n Aix\u00ed doncs, l’inconvenient principal de l’\u00fas d’aquestes tecnologies \u00e9s que una vegada es perd el control, \u00e9s pr\u00e0cticament impossible recuperar la privadesa de l’individu ja que no es pot canviar d’identitat ni de cara, una informaci\u00f3 permanentment exposada, ni les empremtes dactilars, que malgrat no estar tan exposades, tenen la peculiaritat que poden ser recollides tamb\u00e9 sense que l’individu se n’adoni, tal com ha emfatitzat incl\u00f3s Commission Nationale de l’Informatique et des Libert\u00e9s de Fran\u00e7a(9)<\/em><\/a>. <\/p>\n Res \u00e9s m\u00e9s personal que la pr\u00f2pia cara. Reuneix diversos elements que configuren les nostres respectives i \u00faniques identitats. La recollida, an\u00e0lisi i emmagatzematge de dades personals innates s\u00f3n altament invasives i fins i tot pot revelar m\u00e9s informaci\u00f3 sobre una persona a part de la seva identitat, com podrien ser dades de salut(10)<\/em><\/a>, (11)<\/em><\/a>, (12)<\/em><\/a>.<\/p>\n Els programes de reconeixement facial, inclosos els sistemes de verificaci\u00f3 i identificaci\u00f3, creen, recullen, comparen i retenen plantilles facials de les persones. Mentre el reconeixement facial ha eclosionat des de fa temps en l\u2019\u00e0mbit de la investigaci\u00f3 privada i acad\u00e8mica, ha estat nom\u00e9s recentment(13)<\/em><\/a> quan les administracions, governs i legisladors li han prestat atenci\u00f3.<\/p>\n La magnitud dels problemes amb la tecnologia de reconeixement facial ressona clarament per les moltes ciutats que han decidit prohibir-la(14)<\/em><\/a>, (15)<\/em><\/a>. Tanmateix, altres ciutats i pobles han invertit grans quantitats en aquesta tecnologia i empreses com Clearview AI, TrueFace, AnyVision, Affectiva, Kairos, Accenture, BioID, Leidos, entre altres(16)<\/em><\/a> han fet el seu agost. <\/p>\n En les paraules del Comit\u00e8 Europeu de Protecci\u00f3 de Dades, “el reconeixement facial pot soscavar el dret al respecte de la vida privada i a la protecci\u00f3 de les dades personals, per\u00f2 tamb\u00e9 altres drets i llibertats fonamentals (en particular la llibertat d\u2019expressi\u00f3 i informaci\u00f3, la llibertat de reuni\u00f3 i associaci\u00f3 i la llibertat de pensament, consci\u00e8ncia i religi\u00f3). A m\u00e9s pot afectar a l\u2019expectativa raonable d\u2019anonimat dels individus en els espais p\u00fablics i planteja q\u00fcestions m\u00e9s \u00e0mplies des del punt de vista \u00e8tic i social”(17)<\/em><\/a>. Finalment, s\u2019han demostrat que la tecnologia t\u00e9 molts problemes de precisi\u00f3(18)<\/em><\/a>, per exemple, que s\u00f3n menys precisos per identificar persones de color(19)<\/em><\/a>, amb gran quantitat d\u2019errors i falsos positius(20)<\/em><\/a>, confonent les persones. <\/p>\n El processament de dades biom\u00e8triques es basa en estimacions estad\u00edstiques de la coincid\u00e8ncia entre estimacions estad\u00edstiques de correspond\u00e8ncia entre els elements comparats. Per tant, \u00e9s intr\u00ednsecament fal\u00b7lible. La resposta que ofereix un sistema de comparaci\u00f3 biom\u00e8trica mai \u00e9s bin\u00e0ria (s\u00ed o no); sin\u00f3 que \u00e9s una probabilitat de coincid\u00e8ncia. A m\u00e9s, les plantilles biom\u00e8triques calculades s\u00f3n sempre diferents en funci\u00f3 de les condicions en les que es calculen (lluminositat, angle, qualitat de la imatge, resoluci\u00f3 de la cara, etc.). Aix\u00ed doncs, qualsevol dispositiu es caracteritza per un rendiment variable en funci\u00f3, d\u2019una banda, dels objectius que se li assigni i, per altra banda, de les condicions en qu\u00e8 es recullen les imatges i es comparen(21)<\/em><\/a>. Aix\u00f2 vol dir a m\u00e9s que el reconeixement facial t\u00e9 un alt risc d\u2019automatitzar biaixos ja penetrants en les societats.<\/p>\n Alguns exemples:<\/p>\n – Congressistes d\u2019EEUU: La tecnologia de reconeixement facial d\u2019Amazon va confondre 28 congressistes d\u2019EEUU per criminals condemnats quan la American Civil Liberties Union (ACLU) va creuar una base de dades amb 25000 fotos p\u00fabliques de criminals amb les fotografies de 535 membres del Congr\u00e9s(23)<\/em><\/a>. <\/p>\n – Registre nacional de detinguts: a Argentina, el sistema de reconeixement facial en viu fa el seguiment de possibles infractors, incloent-hi menors d’edat. Un nen de 4 anys ha estat considerat sospit\u00f3s d’haver com\u00e8s \u201cdelictes de lesions greus contra les persones”(24)<\/em><\/a>. <\/p>\n – Futbol: confusi\u00f3 d\u2019un \u00e0rbitre calb amb la pilota(25)<\/em><\/a>.<\/p>\n – Estudi sobre la influ\u00e8ncia de la demografia en el rendiment dels algorismes de reconeixement facial: els resultats demostren que els algorismes s\u00f3n menys acurats en els grups de dones, persones de color i entre les edats de 18 a 30 anys(26)<\/em><\/a>.\n<\/ul>\n A m\u00e9s s\u2019ha de considerar la desviaci\u00f3 d\u2019\u00fas de dades altament sensibles. L\u2019ampliaci\u00f3 gradual de l\u2019\u00fas de dades, d\u2019una tecnologia o sistema m\u00e9s enll\u00e0 de la finalitat per a la qual estava pensada originalment, \u00e9s un problema habitual una vegada que es recopilen dades, la qual cosa sovint condueix a una possible invasi\u00f3 de la privadesa i un mal \u00fas de les dades. Aquest risc \u00e9s encara m\u00e9s gran, ja que sovint hi ha una col\u00b7lusi\u00f3 entre registres p\u00fablics delicats i empreses privades que construeixen aquestes eines i bases de dades. Notoris s\u00f3n els casos recents d’empreses que no compleixen les normes b\u00e0siques de privadesa de dades i que utilitzen imatges sense consentiment per entrenar els seus algorismes(27)<\/em><\/a>, (28)<\/em><\/a>.<\/p>\n En resum: \u201cel reconeixement facial, com altres t\u00e8cniques biom\u00e8triques, no \u00e9s mai un tractament completament inofensiu. Fins i tot l’\u00fas molt enquadrat pot, en cas de ciberatac, comprom\u00eds o error, tenir conseq\u00fc\u00e8ncies especialment greus\u201d(29)<\/em><\/a>.<\/p>\n A la vista del que s\u2019ha exposat, creiem que els sistemes que incloguin reconeixement biom\u00e8tric i\/o facial basats en IA poden suposar un greu greuge pels drets i llibertats fonamentals, tot i complir amb els criteris d\u2019usabilitat, transpar\u00e8ncia, auditabilitat i rendici\u00f3 de comptes. Creiem que la IA pot millorar la vida de les persones i la organitzaci\u00f3 social. Aix\u00f2 ha de succeir no nom\u00e9s en base a criteris d\u2019\u00e8tica sin\u00f3 amb els drets humans, el dret d\u2019elecci\u00f3, la minimitzaci\u00f3 des del disseny i per defecte, la titularitat no monetitzable, entre altres moltes salvaguardes com a base de qualsevol protocol si no volem que l\u2019efecte sigui just el contrari(30)<\/em><\/a>. Aquest text \u00e9s l\u2019adaptaci\u00f3 d\u2019una part de la contribuci\u00f3 d’Xnet al Projecte Gavius, per a la EU Urban Innovative Actions (mar\u00e7 2023)<\/em>. —– Darrera edici\u00f3 del post: setembre 2023 Reconeixement facial com a cas d\u2019estudi Reflexions des d’experi\u00e8ncies concretes davant la imminent aprovaci\u00f3 de la legislaci\u00f3 europea sobre Intel\u00b7lig\u00e8ncia Artificial (AI Act) per Xnet, Simona Levi amb la col\u00b7laboraci\u00f3 de Miriam Carles i Sanne Stevens Hi ha multitud d’identificadors biom\u00e8trics tant de comportament, com el reconeixement de […]<\/p>\n","protected":false},"author":15,"featured_media":25582,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[52],"tags":[],"class_list":["post-25609","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-blog","ejes-neutralidad-de-la-red"],"yoast_head":"\nReconeixement facial com a cas d\u2019estudi <\/strong><\/p>\n
\n– Policia de Londres: despr\u00e9s d\u2019escanejar les cares de 8600 persones per buscar criminals, de 8 identificacions realitzades, 7 van resultar err\u00f2nies(22)<\/em><\/a>.<\/p>\n
\nEn concret, el risc de causar un perjudici discriminatori a conseq\u00fc\u00e8ncia dels biaixos en l\u2019entrenament algor\u00edsmic, a m\u00e9s de la possible intromissi\u00f3 il\u00b7leg\u00edtima en la intimitat de les persones, impliquen que els riscos continuen sent majors que els beneficis obtinguts amb el seu \u00fas.<\/p>\n
\n <\/p>\n
\n\u00c9s la versi\u00f3 d’un text publicat a Ctxt:
\nhttps:\/\/ctxt.es\/es\/20230601\/Firmas\/43240\/xnet-IA-Inteligencia-Artificial-reconocimiento-facial-biometrica.htm<\/a><\/em>
\n <\/p>\n
\n
\n<\/a>
\n1 – Katja Franko Aas, \u2018The body does not lie\u2019: Identity, risk and trust in technoculture, 2006.
\nhttps:\/\/journals.sagepub.com\/doi\/pdf\/10.1177\/1741659006065401<\/a>
\n<\/a>
\n2- Emilio Mordini, Sonia Massari. Body, biometrics and identity, 2008. Pg. 2. https:\/\/www.academia.edu\/2890174\/Body_biometrics_and_identity<\/a>
\n<\/a>
\n3 – Marianne D\u00edaz, \u201cEl cuerpo como dato\u201d, 2018.
\nhttps:\/\/www.derechosdigitales.org\/wp-content\/uploads\/cuerpo_DATO.pdf<\/a>
\n<\/a>
\n4 – Access Now, \u201cAn open letter to the leaders of international development banks, the United Nations, international aid organisations, funding agencies, and national governments\u201d https:\/\/www.accessnow.org\/whyid\/<\/a>
\n<\/a>
\n5 – Margit\u00a0Sutrop. Ethical Issues in Governing Biometric Technologies. Pg. 5.
\nhttps:\/\/www.researchgate.net\/publication\/225364310_Ethical_Issues_in_Governing_Biometric_Technologies<\/a>
\n<\/a>
\n6 – Cuadernos de Seguridad. \u201dLas ciberamenazas del 2020: de las deepfakes a las fugas de ADN\u201d.
\nhttps:\/\/cuadernosdeseguridad.com\/2019\/12\/deepfakes-amenazas-ciberseguridad-2020\/<\/a>
\n<\/a>
\n7 – Michael Mcloughlin. \u201cNo te f\u00edes ni de una voz familiar: la industria de los \u201cdeep fakes\u201d de audio crece en Espa\u00f1a\u201d
\nhttps:\/\/www.elconfidencial.com\/tecnologia\/2020-06-14\/deepfakes-audio-bulos-efecto-politica_2637752\/<\/a>
\n<\/a>
\n8 – Samuel Rodr\u00edguez. \u201cHuellas dactilares creades con Inteligencia Artificial\u201d. https:\/\/bigdatamagazine.es\/huellas-dactilares-creadas-con-inteligencia-artificial<\/a>
\n<\/a>
\n9 – Informe d\u2019activitats de 2007 de la Comission Nationale de l\u2019Informatique et Libert\u00e9s.
\n<\/a>
\n10 – Margit\u00a0Sutrop. Ethical Issues in Governing Biometric Technologies. Pg. 6.
\nhttps:\/\/www.researchgate.net\/publication\/225364310_Ethical_Issues_in_Governing_Biometric_Technologies <\/a>
\n<\/a>
\n11 – Eubanks, Automating Inequality; RAO, \u2018Biometric Marginality\u2019; Lyon, Identifying Citizens; Mordini and Massari, \u2018Body, Biometrics and Identity\u2019; Mordini and Tzovaras, Second Generation Biometrics.
\n<\/a>
\n12 – Eubanks, Automating Inequality; O\u2019Neil, Weapons of Math Destruction; RAO, \u2018Biometric Marginality\u2019
\n.<\/a>
\n13 – The Technolawgist. \u201cBlack Lives Matter:
\n El reconocimiento facial evidencia la necesidad de responsabilidad algor\u00edtmica\u201d. https:\/\/www.thetechnolawgist.com\/2020\/06\/18\/black-lives-matter-el-reconocimiento-facial-evidencia-la-necesidad-de-responsabilidad-algoritmica\/<\/a>
\n<\/a>
\n14 – Conger, Fausset, and Kovaleski, \u2018San Francisco Bans Facial Recognition Technology\u2019.
\n<\/a>
\n15 – Crawford, \u2018Facial Recognition Laws Are (Literally) All Over the Map\u2019; Martineau, \u2018Cities Examine Proper\u2014and Improper\u2014Uses of Facial Recognition\u2019.
\n<\/a>
\n16 – Greig, J. \u201cOne year after Amazon, Microsoft and IBM ended facial recognition sales to police, smaller players fill void\u201d, 2021.
\nhttps:\/\/www.zdnet.com\/article\/one-year-after-amazon-microsoft-and-ibm-ended-facial-recognition-sales-to-police-smaller-players-fill-void\/<\/a>
\n<\/a>
\n17 – European Data Protection Board. Letter to membres pof parliament on facial recognition. 10 june 2020.
\nhttps:\/\/edpb.europa.eu\/sites\/edpb\/files\/files\/file1\/edpb_letter_out_2020-0052_facialrecognition.pdf<\/a>
\n<\/a>
\n18 – UNHCR (October 2019). Report of the Special rapporteur on extreme poverty and human rights.
\n<\/a>
\n19 – Simonite, \u2018Microsoft, IBM Facial Analyses Struggle With Race and Gender | WIRED\u2019.
\n<\/a>
\n20 – Liberty, \u2018Liberty\u2019s Briefing on Police Use of LIve Facial Recognition Technology\u2019; Burgess, \u2018The Met Police\u2019s Facial Recognition Tests Are Fatally Flawed\u2019; Gayle, \u2018Privacy Campaigners Warn of UK Facial Recognition \u201cEpidemic\u201d\u2019; Fussey and Murray, \u2018Independent Report on the London Metropolitan Police Service\u2019s Trial of Live Facial Recognition Technology\u2019.
\n<\/a>
\n21 – Commission Nationale de l\u2019Informatique et les Libert\u00e9s. \u201cReconnaissance Faciale \u2013 Pour un debat \u00e0 la hauteur des enjeux\u201d. Pg. 8.
\nhttps:\/\/www.cnil.fr\/sites\/default\/files\/atoms\/files\/reconnaissance_faciale.pdf<\/a>
\n<\/a>
\n22 – Toni Castillo. \u201cLa polic\u00eda londinense escane\u00f3 las caras de 8.600 personas en busca de criminales: de 8 identificaciones, 7 fueron err\u00f3neas\u201d.
\nhttps:\/\/www.genbeta.com\/seguridad\/policia-londinense-escaneo-caras-8-600-personas-busca-criminales-8-identificaciones-7-fueron-erroneas<\/a>
\n<\/a>
\n23 – Beatriz Alc\u00e1ntara. \u201cEl reconocimiento facial de Amazon identifica como criminales a 28 congresistas de EEUU\u201d.
\nhttps:\/\/www.mundodeportivo.com\/urbantecno\/tecnologia\/reconocimiento-facial-amazon-identifica-criminales-congresistas<\/a>
\n<\/a>
\n24 – Karen Hao. \u201cLive facial recognition is tracking kids suspected of being criminals\u201d, https:\/\/www.technologyreview.com\/2020\/10\/09\/1009992\/live-facial-recognition-is-tracking-kids-suspected-of-crime\/<\/a>
\n<\/a>
\n25 – Anna Mart\u00ed. \u201cCuando una c\u00e1mara controlada por inteligencia artificial retransmite el f\u00fatbol y confunde la cabeza de un \u00e1rbitro calvo con el bal\u00f3n\u201d.
\nhttps:\/\/www.xataka.com\/robotica-e-ia\/camara-controlada-inteligencia-artificial-confunde-cabeza-arbitro-calvo-balon-fastidia-emision-partido?<\/a>
\n<\/a>
\n26 – Klare, Brendan F., Mark J. Burge, Joshua C. Klontz, Richard W. Vorder Bruegge, and Anil K. Jain. \u2018Face Recognition Performance: Role of Demographic Information\u2019. IEEE Transactions on Information Forensics and Security 7, no. 6 (December 2012): 1789\u20131801. https:\/\/doi.org\/10.1109\/TIFS.2012.2214212.<\/a>
\n<\/a>
\n27 – Santi Ara\u00fajo. \u201cEsta app utilizada por la polic\u00eda de EEUU y Canad\u00e1 cuenta con millones de fotos obtenidas de redes sociales para poder identificarte\u201d. https:\/\/www.genbeta.com\/actualidad\/esta-app-utilizada-policia-eeuu-canada-cuenta-millones-fotos-obtenidas-redes-sociales-para-poder-identificarte<\/a>
\n<\/a>
\n28 – Roberts, \u2018The Business of Your Face\u2019; Metz, \u2018Facial Recognition Tech Is Growing Stronger, Thanks to Your Face\u2019; Solon, \u2018Facial Recognition\u2019s \u201cDirty Little Secret\u201d\u2019; Hill, \u2018The Secretive Company That Might End Privacy as We Know It\u2019.
\n<\/a>
\n29 – Commission Nationale de l\u2019Informatique et Libert\u00e9s. \u201cReconnaissance Faciale \u2013 Pour un debat \u00e0 la hauteur des enjeux\u201d. Pg. 6.
\nhttps:\/\/www.cnil.fr\/sites\/default\/files\/atoms\/files\/reconnaissance_faciale.pdf<\/a>
\n<\/a>
\n30 – Xnet (2022). Proposal for a sovereign and democratic digitalisation of Europe [Reflection paper]. European Parliament.
\nhttps:\/\/op.europa.eu\/en\/publication-detail\/-\/publication\/dae77969-7812-11ec-9136-01aa75ed71a1\/language-en<\/a>
\n<\/span>
\n <\/p>","protected":false},"excerpt":{"rendered":"