Din AI-assistent til Folkemødet · 11.-13. juni på Bornholm
Stil spørgsmål i naturligt sprog — jeg forstår hvad du mener
Populære søgninger:
Søger i 3893 events...
Folkemødet har 3.893 events i år. Det er ret meget at scrolle igennem når man står på pladsen med en telefon i hånden.
Så jeg lavede den her — eller mere præcist: jeg beskrev den, og så byggede Muffincloud den for mig.
Muffincloud er en dansk cloud-platform med en indbygget AI-agent ("Baker"). Du fortæller den hvad du vil have ("lav en companion-app til Folkemødet hvor man kan søge i naturligt sprog"), og den koder, sætter op og deployer det. Jeg skrev ikke en eneste linje selv.
Tid: et par timer. Pris: omkring 65 kr i AI-forbrug. Ikke et typo.
Du stiller bare et spørgsmål i naturligt sprog — du behøver hverken filtre eller de helt rigtige ord. Bag kulisserne sker der seks ting, før du får svar:
1 · Vi forstår spørgsmålet. En AI udleder hvad du mener — dag, tidspunkt og emne. "Klima fredag formiddag" bliver til: fredag, kl. 09–12, emne klima.
2 · Ord bliver til betydning. Dit spørgsmål omsættes til en matematisk repræsentation, så søgningen forstår mening frem for stavning — spørger du om "musik", finder den også "koncert" og "DJ".
3 · Vi søger i alt på én gang. Den betydning matches mod alle ~2.200 tekststykker fra Folkemødets program, der ligger i en vektordatabase. De mest beslægtede arrangementer kommer frem — også dem du ikke ramte med præcise ord.
4 · Vi skærer fra og fanger det eksakte. Et filter på dag, tidspunkt og sprog luger ud, mens en tekst-søgning sikrer, at navne, titler og steder rammes præcist.
5 · Vi finsorterer. En model læser de bedste kandidater grundigt igennem og rangerer dem efter, hvor godt de faktisk svarer på dit spørgsmål — det sidste løft i præcision.
6 · AI'en skriver svaret. De mest relevante arrangementer sendes til en sprogmodel, der formulerer et kort dansk svar med to forslag til at gå videre. Den kender klokken: et arrangement, der er slut, bliver aldrig præsenteret som "lige nu".
Selve søgningen tager typisk under et halvt sekund. Det meste af ventetiden er AI'en, der skriver svaret til dig.
Kun ét trin kører på vores egen GPU — at omsætte tekst til betydning. Det sker både dengang hele programmet blev indekseret, og hver gang du søger. Selve søgningen kører på vores egne servere, mens det at forstå og skrive sprog løftes af hostede AI-modeller.
Lige nu løftes de tre sprog-trin — forstå, finsortér og skriv — af hostede AI-modeller, fordi de kræver kraftig hardware, som vi endnu ikke har nok af. Men sådan vil vi helst ikke have det. Målet er at køre hele kæden på vores eget grej — fra det første ord til det færdige svar — så ingenting behøver at forlade vores egne maskiner.
Den infrastruktur bygger vi op lidt efter lidt. For hver GPU vi tilføjer, flytter endnu et trin hjem: embeddings kører allerede her, dernæst står finsorteringen for tur, og på sigt også selve sprogmodellerne. Diagrammet ovenfor bliver altså grønnere med tiden — flere [GPU], færre [AI] — i takt med at vi får bygget kapaciteten op.
🧁 Bygget på muffincloud.dk
P.S. Teksten på den her side er skrevet af en AI. Jeg har læst hvert ord, ændret det jeg ikke var enig i, og godkendt resten. Det føltes passende for et produkt der handler om netop dét.