Endnu en omgang AI-dommedag
Igen buldrer alarmen om kunstig intelligens gennem pressen, og igen står mikrofonholderne klar til at tage de mest vidtgående påstande for pålydende. Denne gang er det ikke nok, at AI måske kan føre til arbejdsløshed, svindel, cyberangreb eller krig. Nej, nu skal den ligefrem kunne udslette menneskeheden. Det kan naturligvis ikke fuldstændig udelukkes, at en meget avanceret kunstig intelligens kan medvirke til forfærdelige ting. Men springet derfra og til, at den skulle kunne slå os alle sammen ihjel, er enormt. Alligevel bliver selve ordet »superintelligens« ofte behandlet, som om det nærmest betyder almagt. Det gør det jo ikke. Og det mærkelige er, at de, der råber højest om undergangen, sjældent gør sig den ulejlighed at forklare, hvordan det rent faktisk skulle foregå. Det burde ellers være det første spørgsmål.
Det er forbavsende svært at udslette menneskeheden
Det er netop pointen i et glimrende indlæg af James Pethokoukis. Han henviser til en RAND-rapport, som har gennemgået de mest oplagte scenarier: atomvåben, biologiske våben og ekstrem geoengineering. Konklusionen er ikke, at menneskelig udslettelse er logisk umulig, men at det er forbavsende svært at udrydde en teknologisk avanceret og tilpasningsdygtig art som vores. En AI skulle ikke bare være meget klog. Den skulle skaffe sig kontrol over den fysiske verden: våben, laboratorier, fabrikker, energi, transport og i mange tilfælde mennesker, der skulle hjælpe den med at føre planerne ud i livet. Ved atomvåben skulle den både overtage systemerne, have adgang til tilstrækkeligt mange våben, overleve selve katastrofen og bagefter finde frem til de mennesker, der måtte være sluppet levende fra den. Ved biologiske våben er problemet det samme. Ét fantastisk dødeligt virus er næppe nok, fordi mennesker er forskellige, nogle vil være resistente, og andre vil være isolerede. Der skal produceres, distribueres og spredes sygdom over hele kloden. Det er ikke bare et spørgsmål om intelligens. Det er et gigantisk fysisk og logistisk projekt. Superintelligens er ikke almagt. RAND anbefaler derfor naturligt nok forskning i risiciene og et ordentligt beredskab, men afviser idéen om at standse udviklingen af avanceret AI. Gevinsterne kan være enorme, og hvis Vesten holder igen, er der ingen grund til at tro, at Kina eller andre konkurrenter gør det samme.
Fuld fart på – men med åbne øjne
Det sidste er efter min mening det afgørende. Kunstig intelligens har så enorme muligheder, at vi ikke skal lade os skræmme til at lægge en generel bremse på udviklingen. Tværtimod. Fuld fart på. AI kan allerede nu hjælpe os med forskning, medicin, teknologi, undervisning, administration og en lang række andre ting, og vi har formentlig kun set begyndelsen. Selvfølgelig skal vi tænke os om og beskytte os mod konkrete farer, men de mest realistiske farer kommer næppe fra en AI, der pludselig bliver ond og får lyst til at udslette menneskeheden. De kommer snarere fra mennesker, organisationer og stater, der kan bruge AI til noget skidt. Det gælder kriminalitet og cyberangreb, men også stormagter som Kina og andre, der ikke nødvendigvis deler vores interesser eller vores værdier. Det er dér, vi skal sætte ind: beskytte kritiske systemer, holde kontrol med farlige våben og gøre misbrug vanskeligere. Men det ville være en historisk fejltagelse, hvis vi af frygt for meget spekulative dommedagsscenarier bremsede en teknologi, der kan gøre os både rigere, klogere og bedre i stand til at løse problemer. Forebyg de konkrete farer. Og lad så udviklingen gå så hurtigt som muligt.
Links
James Pethokoukis: It’s Hard to Wipe Out Humanity, Even If You’re a Superintelligent AI
RAND: On the Extinction Risk from Artificial Intelligence
