Ny platform giver fynske virksomheder sikker adgang til at arbejde med Generativ AI

I dag findes der mange platforme, der giver virksomheder mulighed for at eksperimentere med brugen af Generativ AI. Udfordringen er, at mange af disse platforme hverken er skalerbare eller sikre og heller ikke overholder GDPR-regler. Derfor tøver mange virksomheder med at benytte den nye teknologi – risikoen er ganske enkelt for høj i forhold til økonomi og vidensniveau.

I samarbejde med Context& har Erhvervshus Fyn fået bygget deres egen platform, der giver de fynske virksomheder mulighed for at bruge sine egne, fortrolige data på en platform, der er sikker, tager hensyn til GDPR og som i øvrigt er skalerbar, og hvor indholdet til enhver tid kan løftes over i virksomhedens eget miljø, når de vokser ud af platformen.

Platformen er bygget ud fra en RAG-arkitektur. RAG står for Retrieval-Augmented Generation og kombinerer informationssøgning (retrieval) med tekstgenerering. Denne form for arkitektur bruges ofte til at besvare komplekse forespørgsler ved at trække på en stor mængde ekstern viden og generere præcise, kontekstuelle svar.

Platformen er bygget på Azure AI Services, og selvom vi tager udgangspunkt i GPT-modellerne, kan der i løsningen arbejdes med alternative sprogmodeller, så man ikke er låst fast til en bestemt sprogmodel. ”Faktisk er det i høj grad de deltagende virksomheders arbejde med deres egne vidensdata, der kan anvendes i modellen, som er et vigtigt udbytte for dem, og som de også vil kunne benytte i en helt anden Generativ AI-platform,” siger Erik David Johnson, Chief AI Officer i Context&.

De fynske virksomheder uploader deres tekster og dokumenter til platformen. Her bliver den viden, man vil have AI’en til at arbejde med, lagret som et stort datasæt, hvori informationssøgningen vil foregå. Når de relevante dokumenter er fundet, bruges de som kontekst til en sprogmodel, f.eks. GPT, der genererer svar baseret på den fundne information. På den måde kombineres resultaterne fra retrieval-processen med modellens genereringskapacitet for at skabe et informeret og relevant svar.

Platformen lever op til krav for GDPR-regler og stærk sikkerhed. Upload af filer og anden adgang udefra kører via HTTPS og to-faktor login – evt. MitID.

Ingen udefrakommende kan få adgang, og end ikke Erhvervshus Fyn kan se de tekster, der uploades af virksomhederne. Chatbotten er nem at sætte ind på egen hjemmeside, intranet eller hvor man måtte ønske at benytte den, og den kan målrettes intern brug eller vendes ud mod virksomhedernes egne kunder.

I første omgang er platformen udarbejdet i et MVP-stadie, der kan give de deltagende virksomheder en unik mulighed for at kunne starte rejsen mod at sikre deres fremtidige innovationspotentiale og konkurrencedygtighed ved at begynde at gøre sig bekendt med teknologien. Det forventes at den fulde platform er klar i løbet af første kvartal i 2025.