Cap a una societat basada en A. I.

Ramon Alcoberro

 Tota teoria política i tota anàlisi teòrica es construeix a partir de tres elements: diagnòstic, predicció i prescripció. Cadascun d’aquests tres elements es pot refinar extraordinàriament mitjançant els algoritmes matemàtics i, sobre tot, l’ús de les informacions derivades del Big Data permet evitar errors de planificació o de gestió que poden tenir greus conseqüències socials. No es tracta de plantejar aquí si la humanitat “realment vol” que les màquines prenguin decisions morals o polítiques. Ni tan sols es discuteix si la humanitat “ho necessita”, potser perquè la complexitat dels problemes que enfrontem ha crescut en excés. Simplement constatem que això ja està passant. L’impacte ètic i polític de les màquines no cal que sigui explícit. N’hi ha prou amb un impacte implícit, és a dir que l’ús del programari permeti o dificulti determinades funcions. Proporcionar a tots els ciutadans una comprensió objectiva dels problemes a través de l’anàlisi de dades i de la planificació hauria de resultar, en principi, positiu per a la societat en el seu conjunt. Calcular les conseqüències dels actes polítics i econòmics, per exemple, permetria evitar utopies que produeixen conseqüències doloroses i biaixos emocionals.

 Hi ha tanta informació disponible al món que ens arriba a aclaparar. A la vida de cada dia, tant com en l’àmbit de les decisions públiques, la gestió d’aquests fluxos implica greus problemes que no són només tècnics sinó que impliquen qüestions de valors i decisions complexes. Les primes en les assegurances, les possibilitats de rebre un crèdit o les que un nen arribi a la universitat es poden calcular a través de l’anàlisi de dades. De cap manera aquestes decisions no són neutrals. És radicalment fals proclamar que “la tecnologia no és bona, ni dolenta, sinó neutral”; defensar-ho és tant com ignorar que una pistola no té els mateixos efectes que una grapadora. Cada tecnologia té unes potencialitats diferents i obre espais d’ús diferenciats i no hi ha tecnologies neutrals. No pots matar amb gaire facilitat amb una grapadora i, en canvi, és senzill prémer el gallet d’una pistola. Tota tecnologia es dissenya amb unes terminades especificitats i en base a criteris d’eficàcia. El món dels algoritmes està projectat per al control i prescindir d’aquesta qüestió de fet no porta enlloc.

     La reducció de costos i la instantaneïtat de les dades canvia radicalment les formes de la governança global. Amb Big Data es pot "governar", planificar i gestionar, allò que (encara) no està realment present a la vista i detectar petites modificacions en les dades que el cervell humà trigaria a observar. Podem trobar respostes assertives als problemes i ho podem fer amb rapidesa (els programes que s’usen per jugar a la borsa ho fan molt bé). A través de l’explotació e les dades podem definir patrons de conducta i influir sobre ells. Podem fins i tot construir una realitat que no existeix, com quan els informàtics, després d’escanejar 346 quadres amb alta qualitat, per  convertir cada pinzellada en pitxells,  van crear l’any 2016 un quadre de Rembrandt que Rembrandt mai havia pintat però que innegablement “era seu”. A més, els Big Data permeten establir connexions entre temes diversos (anecdòticament, permeten saber quants socis del Barça agafen més d’un avió al mes i compren llibres a través d’Amazon o quants socis del València Futbol Club estan a l’atur i no tenen automòbil). Això permet presentar a cada grup i a cada individu ofertes diferents adaptades a les seves possibilitats, als seus gustos i als seus interessos. Fer-ho, a més, és barat i senzill. Cadascú deixa a la xarxa un fingerprinting o petjada digital arreu on va. Hi ha evercookies o cookies persistents a molts webs, de la mateixa manera que  es disposa de tecnologia cookie syncing: tecnologia que permet reconstruir i tornar a identificar l’usuari per molt que hagi esborrar una determinada cookie. En aquestes condicions suposar que la tecnologia és neutral resulta profundament insensat.

 La tecnologia posa al centre la gestió i minimitza el paper de la política. Això no significa que els algoritmes facin inútil i sobrera la ideologia o la filosofia política, però sí que poden evitar respostes irracionals als problemes socials. Quan les dades són recollides sense (o amb els mínims) biaixos, els algoritmes en faciliten la governació en la mesura que “canten” algunes respostes tan objectives com difícilment refutables ideològicament. Les dades són una eina tan poderosa que les ideologies polítiques que no les incorporin inevitablement s’esfondraran. De la mateixa manera que Gafam ha portat a la privatització de les utopies (ara només estan a l’abast de les grans corporacions), la política esdevé enginyeria social. Però les tecnologies informàtiques també poden convertir-se en la base d’un nou totalitarisme (en principi “benèvol”, amb totes les cometes que calgui), socialment fins molt més perillós no tan sols pel seu abast planetari, sinó perquè gairebé ningú està en disposició de conèixer internament l’estructura dels robots i dels programes que els alimenten.

 

 

ÈTICA  BIG DATA, ALGORITMES I INTEL·LIGÈNCIA ARTFICIAL

© Ramon Alcoberro Pericay