LONDON Den internationellt kända författaren Yuval Noah Harari kommer med ett dystert budskap. Artificiell intelligens, AI, kan förstöra mänskligheten eller åtminstone beröva människorna makten. AI är redan i full gång på många håll, från sociala medier till krig.
Det är kontentan i den senaste av hans svepande och miljonsäljande översikter, Nexus – En kort historik över informationsnätverk från stenåldern till AI.
– Vad händer med mänskligheten om miljoner eller miljarder AI-applikationer fattar allt fler av de beslut som gäller våra liv? AI avgör om du får ett banklån. AI avgör om ditt hus ska bombas. Det här är verklighet redan nu, säger Harari i en intervju för Yle i London.
Tiotals miljoner människor har köpt de tegelstensböcker där Harari kopplar samman historiska händelser över flera sekler och mellan olika kulturer. Boken Sapiens – En kort historik över mänskligheten har sålts i 45 miljoner exemplar.
I den nya boken ligger fokus på framtiden och AI. Harari ser världsomvälvande hot vid horisonten och ger dem vidare på sitt lättsmälta sätt.
I boken Nexus påminner han om att människan för första gången i historien har skapat något som är mer än ett verktyg. AI kräver inte längre hela tiden hjälp av människan för att lära sig mer.
När AI gör vårt liv enklare lägger vi inte längre märke till att den börjar fatta beslut som vi inte kan förutspå eller kontrollera.
Vissa kritiker har gått hårt fram mot Hararis populärvetenskapliga grepp. Enligt de kritiska rösterna vet Harari, vars specialområde egentligen är medeltidshistoria, inte vad han talar om. De säger att AI visst är under människans kontroll.
Den grundläggande oron i Harars bok får ändå stöd av en av årets Nobelpristagare. Enligt den kanadensisk-brittiska fysikpristagaren Geoffrey Hinton finns det en stor risk för att den artificiella intelligensen ska överträffa den mänskliga intelligensen och frigöra sig från människans kontroll.
Hinton har kallats för AI:s gudfader. Han lämnade sitt jobb på Google förra året, eftersom han ville tala öppet om de faror som är förknippade med den teknologi han varit med om att ta fram. Han säger att han ångrar det han har gjort.
Skräpinformation kan leda till diktatur
En av Hararis teser i boken är att information inte längre bidrar till visdom, trots att mängden information är enormt mycket större än någonsin tidigare.
– Vi dränks i information och en stor del av den är bara skräp, säger Harari.
Skräp är billigt. Sannigen är dyr, för faktagranskning kräver tid, pengar och energi.
Det finns mycket desinformation bland annat i meddelandetjänsten X, vars ägare, världens rikaste man Elon Musk, har engagerat sig i valarbete för att se till att Donald Trump blir vald till USA:s president igen. X lyfter upp Musks uppdateringar så de syns hos en stor andel X-användare.
Sociala medier och informationsteknologi har lett till att det demokratiska samtalet har kollapsat och att demokratin destabiliseras överallt i världen, säger Harari.
Han anser att den desinformation som sprids av algoritmer urholkar förtroendet för institutioner som är viktiga för demokratin, som traditionella medier och vetenskapliga institutioner.
När folk inte längre tror på något ser de nyheter som journalisters konspirationer och vetenskaplig forskning som forskarkonspirationer.
– Då är det enda som blir kvar anarki eller diktatur – och då väljer de flesta diktatur, befarar Harari.
Harari oroar sig för att demokratin i USA ska svikta i samband med presidentvalet i november.
Valsegraren får makt att styra landet och dess kärnvapen i fyra år, på villkor att hen ger ifrån sig den makten när mandatperioden är över. Men vad händer om presidenten använder sin makt till att cementera sin position på toppen? Harari säger att väljarna i USA är engagerade i ett stort hasardspel.
– Presidenten kan använda sin makt till att stjäla nästa val eller till att lägga ner oberoende medier. Trump har gett tydliga bevis på att han inte nödvändigtvis vill avstå från makten, säger Harari.
AI används redan i krig
Harari varnar mot att utlokalisera beslutsfattande till algoritmer. AI fattar redan beslut om liv och död i pågående krig.
– Vi ser det redan i kriget i Gaza, i kriget i Ukraina. I allt högre grad är det AI som väljer vilka mål som ska bombas, säger Harari.
Kriget i Mellanöstern kommer nära inpå Yuval Noah Harari. Han är född och uppvuxen i Israel och är fortfarande professor vid Hebreiska universitetet i Jerusalem. Han säger att det pågående kriget är den största tragedin under hans livstid.
– Tragedin med det här kriget är att det inte har någon objektiv orsak. Det finns tillräckligt med mark mellan Medelhavet och floden Jordan så att man kunde bygga hus och sjukhus, fabriker och skolor för alla.
Harari tror att en fred är möjlig sedan när folk förstår att både israeler och palestinier har samma rätt och koppling till landet.
– Problemet finns i det mänskliga sinnet. Folk tror på fantasier och myter om att Gud har gett vårt folk all mark, säger Harari.
Han lägger skulden för mycket på Israels premiärminister Benjamin Netanyahu och säger att det finns krafter inom den israeliska regeringen som driver på ett Storisrael.
– Förhoppningsvis får vi i framtiden kanske annorlunda ledare som har en bättre vision, inte bara för Israel som land utan för hela regionen.
Meditation mot informationsångest
Yuval Noah Harari undviker själv att använda mobiltelefon och letar hellre efter information i böcker. Han beskriver sitt liv som en informationsfasta. Det betyder att han tar in en liten mängd information av hög kvalitet som han smälter över tid, som hälsosam föda.
AI använder Harari endast lite, i allmänhet till att översätta texter.
– Jag är förvånad över hur väl den förstår olika språk, säger han.
I 25 år har Harari mediterat varje morgon och kväll. Varje år drar han sig undan och tillbringar ett par månader i tystnad. Han säger att det lär honom självkännedom och lugnar ner hans tankar.
– Interna sinnesstormar uppstår inte av verkligheten, utan av de historier vi berättar för oss själva om verkligheten, om våra mänskliga relationer och om politik. Om man lär sig att hålla sig till det som är verkligt hålls sinnet lugnare, tipsar Harari.
Han påminner om att AI också har goda sidor: det kan rädda människoliv genom att komma på nya vårdformer mot allvarliga sjukdomar och eliminera mänskliga misstag i trafiken.
Reglering är enligt Harari nyckeln till ett liv med AI. Företag måste ställas till svars för skador som deras algoritmer orsakar. Bottar som ger sig ut för att vara människor borde också förbjudas, tycker han.
– Artificiell intelligens får interagera med människor om den uppger att den är artificiell och inte påstår sig vara en människa.
Harari sätter sitt hopp till ett samarbete: gammaldags institutioner där mänsklighetens bästa förmågor arbetar. Sådana behövs för att övervaka och reglera teknologibolagen.
– Vi måste lära oss att samhället vilar på institutioner, inte på enskilda genier eller karismatiska ledare, säger han.
Artikeln är en översättning av Yle Uutisets artikel Hittikirjailija Yuval Noah Harari varoittaa: Suuri osa tiedosta on roskaa, ja se voi johtaa diktatuuriin av Kirsi Crowley. Översättningen är gjord av Sara Torvalds.
