Skip to content

Langfuse

Langfuse er et open-source observability-værktøj specifikt designet til LLM-applikationer (Large Language Models). Her er en kort introduktion til Langfuse og dets vigtigste funktioner:

Hovedfunktioner

Sporing af LLM-interaktioner: Langfuse giver mulighed for at logge og spore alle interaktioner med sprogmodeller, hvilket giver indsigt i applikationens ydeevne og brugeroplevelse.

Evaluering og feedback: Værktøjet tilbyder funktioner til at evaluere kvaliteten af LLM-outputs og indsamle feedback fra brugere eller eksperter.

Datasetgenerering: Langfuse kan automatisk generere træningsdatasæt baseret på reelle brugerinteraktioner, hvilket er nyttigt til finjustering af modeller.

Visualisering og analyse: Omfattende dashboards og analyseværktøjer hjælper med at identificere mønstre, problemer og forbedringsmuligheder i LLM-applikationer.

Anvendelsesmuligheder

  • Overvågning af chatbots og konversations-AI
  • Optimering af prompt engineering
  • Kvalitetssikring af AI-genereret indhold
  • Forbedring af LLM-baserede applikationers ydeevne

Fordele

  • Integrationsvenlig: Nem integration med populære LLM-frameworks og platforme.
  • Skalerbar: Designet til at håndtere store mængder data og høj trafikbelastning.
  • Privacy-fokuseret: Tilbyder muligheder for at håndtere følsomme data i overensstemmelse med privatlivskrav.

Tekniske egenskaber

  • API og SDK'er: Tilbyder API'er og SDK'er til forskellige programmeringssprog for nem integration.
  • Self-hosted option: Kan køres on-premises for øget kontrol og sikkerhed.
  • Eksport og import: Understøtter eksport og import af data for fleksibel databehandling.

Langfuse er særligt velegnet til udviklere, data scientists og teams, der arbejder med LLM-baserede applikationer og ønsker at forbedre deres indsigt, kvalitet og ydeevne gennem avanceret observability og analyse.

Sådan bruger du Langfuse i Flowise

I dine chatbot-flows i Flowise kan du bruge Langfuse til at spore alt hvad der sker i dine chatbot flows.

Credentials

Her skal du oprette eller vælge credentials for Langfuse.

Credential Name: Her giver du dine credentials til Langfuse et navn, fx "Langfuse".

Secret Key: Her angiver du den secret key du har fået i Langfuse

Public Key: Her angiver du den public key du har fået i Langfuse

Endpoint: Her angiver du http://langfuse:3000

Slå Langfuse til

Før du kan bruge Langfuse skal du slå det til under dit chatflows indstillinger (tandhjulet --> configuration). Og derefter gå til Analyse Chatflow og vælge LangFuse.