Al llarg de la història de la humanitat la tecnologia s’ha difós massivament en onades turbulentes, des de les primeres eines d’os i sílex, el descobriment del foc, fins als models d’intel·ligència artificial. La societat ha avançat al compàs d’aquests salts i la mida de la població i els nivells d’innovació han anat agafats de la mà.

Un estudi xifra en 24 el nombre de tecnologies que han sorgit al llarg de la història de la humanitat, incloent-hi invents que van des de l’agricultura, el desenvolupament de materials com el ferro i el bronze, l’impremta, el sistema fabril, l’electricitat i, per descomptat, internet.

No es tracta d’un procés ordenat, les onades no arriben amb una predictibilitat nítida, sinó que a llarg termini s’entrecreuen i s’intensifiquen de forma imprevisible.

La història ens mostra que, malgrat el rebuig social que pot generar inicialment l’aparició de noves tecnologies, inevitablement la tecnologia es difon amb el temps a quasi tot arreu. Les onades es tornen més ràpides i més transcendents, i l’accés a la tecnologia augmenta i s’abarateix.

A mesura que la tecnologia prolifera, més persones poden usar-la, adaptar-la i donar-li la forma que vulguin. Al mateix temps que la potència de les eines que tenim a l’abast creix de manera exponencial i, a mesura que l’accés a elles augmenta amb rapidesa, també ho fan els possibles danys, i així es forma un laberint  de conseqüències que ningú pot predir ni anticipar.

En construir sistemes cada vegada més potents és més urgent que ens preguntem ¿com garantim que aquesta nova onada tecnològica aporti més beneficis que danys?

Una nova onada de tecnologia està començant a trencar al nostre entorn, i està desfermant el poder de dissenyar aquests dos fonaments universals: és una onada ni més ni menys que d’intel·ligència i de vida.

Són dues les  tecnologies que defineixen l’onada que ve: La intel·ligència artificial (IA) i la biologia sintètica. Això pot crear riquesa i excedent com mai s’ha vist, però la seva proliferació amenaça de donar poder a una variada gamma d’actors per desencadenar trastorns, inestabilitat i àdhuc catàstrofes a escala inimaginable.

Es planteja un escenari on la intel·ligència artificial pot gestionar negocis, produir contingut digital, dirigir serveis públics essencials i mantenir infraestructures. Des d’impressores d’ADN fins a ordinadors quàntics, patògens artificials i armes autònomes. Tot i que aquestes eines ofereixen solucions a desafiaments globals i generen riquesa, també plantegen amenaces sense precedents.

Ara com ara, sembla que contenir aquesta onada —és a dir, controlar-la, frenar-la o fins i tot aturar-la— no és possible. En aquest llibre es planteja el perquè d’aquesta afirmació i el que significa en cas que  fos certa. Les implicacions d’aquestes preguntes ens acabaran afectant a tots els que estem vius i a totes les generacions que ens succeeixin.

La intel·ligència artificial pot ser una eina poderosa per aconseguir un bé extraordinari, però, com la majoria de les formes de poder, també està plena d’immensos perills i dilemes ètics. El seu descontrol podria suposar una amenaça existencial per als estats nació i implicar un risc tan profund que podria alterar o àdhuc anul·lar  l’ordre geopolític actual.

Alguns països podrien reaccionar davant la contingència de riscos catastròfics en forma d’un autoritarisme de tall tecnològic per alentir l’expansió d’aquests nous poders, la qual cosa no és desitjable perquè frenar el desenvolupament de noves tecnologies és un risc en si mateix.

A partir d’ara, tant apostar com no apostar per les noves tecnologies comporta molts riscos.

El discurs actual entorn l’ètica i la seguretat de la tecnologia és insuficient i molt tímidament es parla sobre la seva contenció. Una acció en aquest sentit s’entén com un entramat de mecanismes tècnics, socials i legals que constrenyin i controlin la tecnologia en tots els seus nivells possibles; un mitjà, en teoria, d’eludir el problema. No obstant això, àdhuc els més durs crítics de la tecnologia tendeixen a esquivar les converses sobre una contenció ferma.

Aquest llibre és l’intent de l’autor que s’admeti i delimiti el contorn de l’onada que ve, d’explorar si és possible la contenció i situar els fets en el context històric i d’ampliar la perspectiva, de com seria possible mantenir les salvaguardes i les possibilitats de l’estat nació democràtic, que és el fonament del nostre ordre polític i l’agent més important en la contenció de les tecnologies.

A més, l’onada suposa una sèrie de canvis de poder tectònics tant centralitzadors com descentralitzadors, que crearan noves i enormes iniciatives, reforçaran el poder autoritari i, al mateix temps, donarà poder a grups i moviments per viure fora de les estructures socials tradicionals. El delicat pacte de l’estat nació es veurà sotmès a una immensa pressió just en el moment en què més necessitem aquestes institucions.

Al final del llibre s’apunten deu passos (que es resumeixen en el quadre que s’exposa a continuació) per poder formar un dur conjunt de restriccions i configurar un pla de contenció.

1.       Seguretat tècnica

Mesures tècniques concretes per pal·liar els possibles danys i mantenir el control.

2.       Auditories

Mitjans per garantir la transparència i l’assumpció de responsabilitat tecnològica.

3.       Colls d’ampolla

Ressorts per frenar el desenvolupament i guanyar temps per als reguladors i les tecnologies defensives.

4.       Creadors

Garantir que els desenvolupadors responsables incorporin controls adequats a la tecnologia des del principi.

5.       Empreses

Alinear els incentius de les organitzacions darrere de la tecnologia amb la seva contenció.

6.       Governs

Donar suport als governs, cosa que els permet crear tecnologia, regular-la i aplicar mesures de mitigació.

7.       Aliances

Crear un sistema de cooperació internacional per harmonitzar lleis i programes.

8.       Cultura

Una cultura d’intercanvi d’aprenentatges i errors per difondre ràpidament  els mitjans per abordar-los.

9.       Moviments

Tot això necessita l’aportació pública a tots nivells, àdhuc per pressionar  cada component i fer que rendeixin comptes

M.M.V

Mustafà Suleyman (Londres, Regne  Unit, 1984) és un investigador i empresari britànic dedicat a la intel·ligència artificial (IA). Va treballar com a responsable de polítiques sobre drets humans per a Ken Livingstone, l’alcalde d’esquerres de Londres. El 2010 va cofundar DeepMind Technologies, una empresa líder en intel·ligència artificial (IA) i es va convertir en el seu director de producte. El 2014, quan DeepMind va ser comprada per Google, es va convertir en cap d’IA aplicada a DeepMind. El març del 2022 va fundar Inflection AI amb l’objectiu de fer maquinari que permeti aprofitar la IA per ajudar els humans a ‘parlar’ amb els ordinadors. Suleyman ocupa un lloc destacat en el debat sobre l’ètica de la IA. Desenvolupa àmpliament la necessitat que empreses, governs i societat civil s’uneixin per responsabilitzar els tecnòlegs pels impactes del seu treball.

Michael Bhaskar, és un escriptor, investigador i editor britànic. Treballa en Estratègia i Comunicacions a Microsoft AI. És llicenciat en Literatura anglesa per la Universitat d’Oxford, on va guanyar el Premi University Gibbs. Ha estat jove emprenedor creatiu del British Council, membre de la Fira del Llibre de Frankfurt i actualment investigador visitant en el Centre Internacional de Publicacions Oxford Brookes i membre de la Royal Society of Arts.