Sci-fi och tokenekomoni

Jag har alltid haft en fascination för science fiction. Det kommer nog inte som en överraskning. Det som däremot kanske är lite överraskande är hur jag kom in på sci-fi (som jag kallar det). Det var via en film (inte överraskande), men inte Star Wars eller Star Trek som man kanske skulle kunna tro, utan Steven Spielbergs mästerverk E.T.

Men det är väl ingen sci-fi, kanske ni invänder. Man får ju knappt se någon teknik, förutom ett flygande tefat som i princip bara visas som en ring av ljus. Men är ni verkligen säkra på det? Tänk om tekniken fanns där mitt under era ögon, hela tiden, utan att ni märkte det?

Innan jag avslöjar vad det är ni har missat i E.T. behöver vi vända blicken lite åt ett annat håll. Nämligen till en annan, högaktuell tvåbokstavsförkortning: AI. Alla ni som har testat populära AI-tjänster är bekanta med begreppet ”tokens”. Tokens är AI-världens valuta, som används för att betala för att låta tjänsten utföra beräkningar och generera innehåll som svar på dina förfrågningar. 

Men varför behövs det överhuvudtaget betalningar? Skulle inte internet vara gratis? Jo, för att AI konsumerar stora mängder resurser varje gång den används, i form av energi och användning av processorer och minne. Och det kräver i sin tur råvaror, inte sällan metaller och annat som är begränsat tillgängligt. Nu när AI har vuxit sig så stort blir behovet av dessa råvaror enormt. Och enormt kostsamt. Vi måste alltså hushålla. Därför finns tokenekonomi. 

Tokenekonomi är superviktigt. Därför tänkte jag passa på att komma med några tips. Innan ni ens skriver er första prompt i en LLM (Large Language Model) är det superviktigt att ni konfigurerar tjänsten att använda mindre resurser. Oftast går det att göra detta i form av textinstruktioner. Skriv så här: 

• Använd så få tokens som möjligt 
• Svara med max 8 ord 
• Adjektiv är strikt förbjudna 
• Hälsa inte och var inte artig 

Nu vänder vi blicken igen, den här gången till rymdresor. NASA skickade nyss upp Artemis II i rymden, för att flyga runt månen. Vad har rymdresor gemensamt med AI? Jo, hushållande av resurser. När en rymdraket lämnat jorden måste man ha med precis exakt mängd bränsle, vatten, mat etc. Och när man väl är uppe i rymden måste allt ransoneras. All vätska måste återanvändas många gånger. Ångan från utandningsluften fångas upp och blir till tevatten. 

Så föreställ er då att man kombinerar AI och rymden. Nu snackar vi tokenekonomi. Allt som AI:n genererar måste göras med så korta och raka instruktioner som möjligt för att inte slösa energi. Sedan måste beräkningarna ske så effektivt och småskaligt som möjligt. Och svaren behöver vara 100 % optimerade. 

Kan ni komma på någon som gör detta bra? Som använder så få ord som möjligt? Har poletten trillat ner nu? 

 ”E.T. phone home.”