Ludvig Strand: AI:s "hallucinationer" skymmer sikten för den verkliga revolutionen

Ludvig Strand är framtidsanalytiker med inriktning på ny teknik och AI hos Axel Johnson, som bland annat investerar i impact-bolag. Här på Impact Loop skriver han analyser om AI och dess användningsområden inom impact.

För en tid sedan mötte jag profiler på ledande aktörer och startups inom generativa AI i New York, för djupgående samtal om branschens framtid och deras syn på utvecklingen. Trots många fascinerande samtal slogs jag av hur intensivt branschen marknadsför "lösningar" till en av företagens största barriärer till implementation – tendensen att generera felaktig information, så kallade "hallucinationer”.

För mig var det förvånande, då forskningen enhälligt visar att hallucinationer i dagsläget inte går att undkomma, trots ihopkoppling med egen faktamässig data. Och ja, efter motfrågor erkändes det, om än motvilligt, att dessa problem kvarstår. Även där korrekt data finns kommer AI-systemens flexibilitet i tolkning leda till felaktigheter.

Problemet ligger inte i teknologin i sig, utan i hur vi väljer att använda den

Ändå fortsätter optimismen att flöda om att nästan tre fjärdedelar av alla företag kommer att ha implementerat generativ AI i någon form vid årets slut, enligt EY. Det väcker frågan hur många av dessa initiativ som grundar sig på den missuppfattningen att korrekt data automatiskt leder till korrekta svar. Jag befarar att många kommer att bli besvikna.

Ska vi då sänka våra förväntningar på generativ AI? Absolut inte. Faktum är att de flesta av oss troligtvis underskattar generativ AI:s potential. Problemet ligger snarare i att vi förväntar oss fel saker. En hallucinerande AI kan faktiskt vara av enorm nytta.

En komprimering av kunskap

Generativ AI är något helt annat än den AI vi tidigare vant oss vid, och kommer ha långt större påverkan på samhället. Istället för att lära datorer med specifik data för specifika uppgifter, är idén med generativ AI att skapa en generell modell genom att att komprimera all världens kunskap.

Enorma mängder information från mänsklighetens största databas – internet – komprimeras så mycket att den ryms på en USB-sticka. Vid första anblick känns det som ren magi, men precis som med bildkomprimmering är det först när vi zoomar närmre in på pixlarna som vi upptäcker att information har förlorats i processen.

AI som "hallucinerar" visar sig vara exceptionellt effektiva för två typer av uppgifter

Det är här språkmodellerna lärt sig att själv fylla i information, det vi kallar för “hallucinationer”, för att så trovärdigt som möjligt efterlikna mänsklig kommunikation. För många uppfattas dessa hallucinationer som ett fel, en bugg som behöver åtgärdas. Dessa generativ AI-aktörer marcherar fram med egna hallucinationer om lösningar. I verkliga fall är denna kompromiss på exakthet som gör generativ AI överlägset flexibelt i jämförelse med tidigare regelstyrda AI-assistenter.

Två användningsområden

Hur kan då AI som "hallucinerar" vara till fördel för dig som driver och leder bolag? Tänk på hur vi människor intuitivt fyller i informationsgap med subjektiva tolkningar, och hur vi omformulerar berättelser baserat på dessa tolkningar. Har vi alltid rätt i alla detaljer? Det svarar du nog bäst på själv.

Blir vi obrukbara för det? Tvärt om: vår potential är mycket större än förmedlare av korrekt information. Problemet ligger inte i teknologin i sig, utan i hur vi väljer att använda den.

AI som "hallucinerar" visar sig vara exceptionellt effektiva för två typer av uppgifter:

1. Förstå mänsklig kommunikation. Varje digitalt gränssnitt – från excel till sökfält på e-handelsplatser – kan nu få helt ny nivå av språklig förmåga. Genom att förstå nyanser i mänsklig konversation möjliggör tekniken en mer intuitiv och naturlig kommunikation mellan människor och digitala verktyg. Vi behöver inte längre lära oss rätt nyckelord i sökningar eller hur vilka funktioner vi kan använda i excel, utan kan bara prata med programmen på vårt mest naturliga sätt.
   ‍
2. Efterlikna människligt tänkande. Genom kompressionen av mängder kunskap och dialog, har dessa AI-system lärt sig att efterlikna mänskligt tänkande. Detta har visat sig vara väldigt användbart för massvis av arbetsuppgifter.

‍

Toppen av ett isberg

Exemplet från Klarna, som nyligen introducerade en generativ AI-chattbot för kundtjänst som kan ersätta arbetsuppgifter för 700 anställda, illustrerar bara toppen av isberget. Inom Axel Johnson-koncernen har vi på ett år initierat över fyrtio projekt med generativ AI, alltifrån att skapa ny produktdesign till att analysera anbud. Vi ser en ny våg av digital transformation där generativ AI omformar hur vi som organisationer fungerar och hur vi interagerar med våra kunder.

Som samhälle står vi inför en utmaning att omvärdera vår syn på denna nya teknik. Traditionellt har vi ställt förväntningar på datorprogram att utföra uppgifter med maskinlik precision baserade på exakta data, en egenskap där generativ AI visar brister.

Denna utveckling kräver att vi antar en mer kritisk hållning till information från datorer – en kritisk inställning som vi historiskt sett är vana vid när det kommer till människor, men som är nytt i förhållandet till datorer.

När vi justerar vår syn på dessa verktyg, öppnas nya möjligheter för hur vi kan dra nytta av deras förmåga att konversera och resonera baserat på världens samlade kunskap, något som ingen enskild människa eller tidigare teknologi har kunnat erbjuda. Hur väl vi lyckas blir upp till oss själva. 

Oavsett vad: När vi tänker på tekniken som en förmedlare av korrekt information så tänker vi för litet. Potentialen är så mycket större.