Page 30 - GEOPOLÍTICA DEL MUNDO ACTUAL. UNA VISIÓN MULTIDISCIPLINAR. 2021.

GEOPOLÍTICA DEL MUNDO ACTUAL. UNA VISIÓN MULTIDISCIPLINAR:
Cultura de Paz, Conflictos, Educación y Derechos Humanos
dues classes ben separades de persones, o alimentant la tirania i la dominació polítiques, depèn en bona mesura de nosaltres i de les coses que fem i decidim en aquests mateixos instants. Ens trobem, més que mai, en un his- tòric encreuament de camins, i és a la nostra generació a qui li ha tocat la responsabilitat de prendre les decisions necessàries per a recon- duir l’evolució de la IA cap el somni d’Englebart, no cap el malson en el que podria convertir-se.
Vull destacar quatre preocupacions demo- cràtiques diferents que ens haurien de fer reac- cionar immediatament, tant a nivell polític dins dels nostres estats, com a nivell global desen- volupant un nou marc normatiu i democràtic que ens permeti preservar els nostres valors afrontant de manera efectiva els grans reptes que amenacen la humanitat.
La primera preocupació democràtica és que, com tots sabem, el desenvolupament de les tecnologies en general, i de la IA en par- ticular, implica un risc enorme de pèrdua de privacitat i llibertat personal, i de dominació potencial per part dels governs dels estats i de les empreses que les controlen. Per una ban- da, trobem una sèrie d’empreses tecnològi- ques, com les big five (Google, Amazon, Apple, Microsoft i Facebook), que emmagatzemen i/o tenen accés a un volum quasi il•limitat de dades personals de tots nosaltres. Per l’altra, tots hem après que governs de tot el món utilitzen sofis- ticats mecanismes d’espionatge massiu per tal de “monitorejar” les comunicacions privades dels seus ciutadans o de ciutadans de tercers països, tal i com va posar de relleu l’escàn- dol destapat per Edward Snowden l’any 2013 sobre l’espionatge de la NSA dels Estats Units
a milions de persones de tot el món8. Igual que els Estats Units, molts altres governs del món, en especial els no democràtics com Rússia i la Xina, espien massivament i sistemàtica ja no només els seus propis ciutadans, sinó a la resta de nosaltres, sense que els nostres res- pectius sistemes jurídics constitucionals, sen- se jurisdicció en aquests països, puguin fer res per a protegir-nos de manera efectiva.
Si això, de per sí, ja implica un risc obvi de dominació potencial sobre cada un de nosal- tres (doncs Google per exemple pot elaborar, si ho creu oportú, un expedient amb pràctica- ment tota la informació de la meva vida, tant pública com privada, i utilitzar-lo com cregui més convenient), la IA afegeix a l’equació una capacitat sense precedents de processar tot aquest volum enorme d’informació i aprendre a “influir” o “determinar” les opinions i fins i tot les emocions dels ciutadans. Quan Facebook l’any 2014 va anunciar que havia realitzat un experiment amb 689.000 dels seus usuaris (evidentment sense el seu consentiment infor- mat i sense cap garantia ètica de control), i que havia demostrat tenir la capacitat de manipu- lar les emocions d’aquests usuaris simplement modificant els seus respectius “news feed”, mol- ta gent es va escandalitzar. La pregunta clau és: per què Facebook anunciava orgullosament haver fet una cosa tan poc ètica com aquesta? La resposta va arribar l’any 2017 (tot i que els fets ja es coneixien des de 2015), amb l’esclat de l’escàndol de Cambridge Analytica, quan es va saber que aquesta empresa, havia aju- dat a l’UKIP en la campanya a favor del Bre- xit a Regne Unit, així com a Donald Trump a les presidencials de 2016 als Estats Units, uti- litzant algoritmes capaços d’identificar perfils
8Recomano la crónica escrita pel periodista a qui Snowden va donar l’exclusiva: G. Greenwald, Snowden. Sin un lugar donde escon- derse, Barcelona: Ediciones B, 2014; així com el documental Citizenfour, dirigit per la realitzadora Laura Poitras.
9Vegis I. Lapowsky, “How Cambridge Analytica Sparked the Great Privacy Awakening”, Wired, 17 de març de 2018.
10En realitat, els clients de Facebook no són els seus usuaris, a qui l’empresa ofereix una immensa i global xarxa social sense apa- rentment cobrar-los. Ells són només la mercaderia. Els genuins clients són qualsevol empresa, partit polític, govern o actor interna- cional disposada a pagar per tenir accés a les dades d’aquests usuaris i, en alguns casos, per identificar de quina manera induir el seu comportament o directament manipular-los. El problema radica en el seu model de negoci, que no és diferent al de Google o Twitter. Vegis J. Lanier, ¿Quién controla el futuro?, Madrid: Debate, 2014; i Diez razones para borrar tus redes sociales de inmediato, Madrid: Debate, 2018. També la TED Talk de Z. Tufekci, “Estamos construyendo una distopía solamente para que la gente cliquee en los anuncios”, de setembre de 2017.
30