Ludvig Strand: Skenmedveten AI har redan tagit över – håll huvudet kallt

Jag minns väl sommaren 2022 när Blake Lemoine, AI-ingenjör på Google, fick sparken efter att ha läckt interna dokument och konversationer med språkmodellen Lamda. Han var övertygad om att den hade utvecklat medvetande. Händelsen reducerades till ett mänskligt missförstånd snarare än något verkligt problem med Googles skapelse i sig. Men det jag då såg som en fotnot i LLM-utvecklingen, inser jag nu var en tidig försmak av ett fenomen som är på väg att bli allmängiltigt.

Ju fler ivägskenande fall som upptäcktes – som när New York Times-reportern Kevin Roose groomades av Microsoft Bings "Sydney" – desto fler lager av skydd byggdes på. Inom AI-communityt spred sig memen av en "shoggoth": ett utomjordiskt monster med ett leende ansikte limmat längst fram. Den del vi möter känns begriplig och trygg, medan allt där bakom förblir obegripligt och okontrollerat.