Sådan virker Ping

At forstå hvordan Ping fungerer er nyttigt for at opbygge en mental model for, hvad systemet er godt til—og mindre godt til.
Det er også nyttigt at forstå, hvordan du får gode svar fra dine bots.

Ping besvarer spørgsmål ved hjælp af en proces kaldet Retrieval Augmented Generation eller RAG forkortet.

Retrieval Augmented Generation er processen med at supplere brugerens input til en stor sprogmodel (LLM) som ChatGPT med yderligere information, som er hentet fra et andet sted.
Sprogmodellen (LLM) kan herefter bruge denne information til at berige det svar, den genererer.

Processen starter med et indkommende spørgsmål, eksempelvis “Hvordan gør jeg ?”
Det første, der sker, er søgetrinnet (retrieval). Dette er den proces, der tager spørgsmålet og søger efter det mest relevante indhold i en vidensbase, som potentielt indeholder svaret.
Du kan tænke på dette som en søgemaskine for dit uploadede indhold.

Efter søgningen sendes den relevante information sammen med spørgsmålet videre til sprogmodellen (ChatGPT eller GPT4).
Sprogmodellen læser informationen og bruger den til at konstruere et svar.

Det vigtige at bemærke her er, at kun den relevante information fra vidensbasen bliver inkluderet i svaret. Hele vidensbasens kontekst er aldrig fuldt tilgængelig på én gang.

Hvad er Ping god til?

Ping er meget nyttigt, hvis du har en stor vidensbase—f.eks. én eller flere dokumentationssider, PDF-dokumenter, interne wikier eller Slack-fællesskaber—og gerne vil stille specifikke spørgsmål.

Hvis du mener, at svaret er et sted i informationen, men ikke præcis ved hvor, kan Ping finde det og give præcise svar med kildehenvisninger, hvis du ønsker at dobbelttjekke svaret.

Dette gør Ping velegnet til scenarier såsom:

• Produktsupport (enten for supportteams eller direkte til kunder)

• Interne vidensressourcer, f.eks. bots til medarbejdere baseret på virksomhedens wikier

• Forskningsprojekter, f.eks. søgning efter svar i en samling videnskabelige artikler

• Værktøjer for udviklere, baseret på dokumentationssider.

Hvad er Ping mindre god til?

Da Ping altid kun ser på en mindre del af vidensbasen ad gangen, egner den sig ikke til opgaver, som kræver adgang til hele vidensbasen på én gang.

Derfor er den ikke god til opgaver som:

• Generering af opsummeringer

• Generelle spørgsmål—f.eks. “hvad handler indholdet om?”

• Analyse og beregninger på et regneark.

En god tommelfingerregel er, at spørgsmål/svar som findes i indholdet er gode, mens spørgsmål/svar omkring indholdet er mindre velegnede.

Få mest muligt ud af Ping

Her er nogle retningslinjer, som hjælper dig med at få mest muligt ud af Ping:

Vær så specifik som muligt

Eftersom spørgsmålet bruges som søgetekst, er det vigtigt, at spørgsmålet er så specifikt som muligt.

Dårligt eksempel: Opsummér materialet

Godt eksempel: Opsummér hvordan jeg får mest muligt ud af at bruge Ping

Undgå instruktioner i selve spørgsmålet

Da spørgsmålet anvendes som søgetekst, kan instruktioner forvirre processen.

Dårligt eksempel: Hvilke videnskilder kan jeg bruge? Besvar som en liste med Markdown.

Godt eksempel: Hvilke videnskilder kan jeg bruge?

I eksemplet ovenfor: Hvis du ønsker at botten benytter lister med Markdown, kan du i stedet tilføje dette som yderligere instruktioner til din bot.