Buxmann, Pe e ; Glauben, Ad ian; Hend iks, Pa ick
A icle — Published Ve sion
Die Nu zung on Cha GPT in Un e nehmen: Ein Fallbeispiel
zu Neuges al ung on Se icep ozessen
HMD P axis de Wi scha sin o ma ik
P o ided in Coope a ion wi h:
Sp inge Na u e
Sugges ed Ci a ion: Buxmann, Pe e ; Glauben, Ad ian; Hend iks, Pa ick (2024) : Die Nu zung on
Cha GPT in Un e nehmen: Ein Fallbeispiel zu Neuges al ung on Se icep ozessen, HMD P axis de
Wi scha sin o ma ik, ISSN 2198-2775, Sp inge Fachmedien Wiesbaden GmbH, Wiesbaden, Vol.
61, Iss. 2, pp. 436-448,
h ps://doi.o g/10.1365/s40702-024-01053-8
This Ve sion is a ailable a :
h ps://hdl.handle.ne /10419/315877
S anda d-Nu zungsbedingungen:
Die Dokumen e au EconS o dü en zu eigenen wissenscha lichen
Zwecken und zum P i a geb auch gespeiche und kopie we den.
Sie dü en die Dokumen e nich ü ö en liche ode komme zielle
Zwecke e iel äl igen, ö en lich auss ellen, ö en lich zugänglich
machen, e eiben ode ande wei ig nu zen.
So e n die Ve asse die Dokumen e un e Open-Con en -Lizenzen
(insbesonde e CC-Lizenzen) zu Ve ügung ges ell haben soll en,
gel en abweichend on diesen Nu zungsbedingungen die in de do
genann en Lizenz gewäh en Nu zungs ech e.
Te ms o use:
Documen s in EconS o may be sa ed and copied o you pe sonal
and schola ly pu poses.
You a e no o copy documen s o public o comme cial pu poses, o
exhibi he documen s publicly, o make hem publicly a ailable on he
in e ne , o o dis ibu e o o he wise use he documen s in public.
I he documen s ha e been made a ailable unde an Open Con en
Licence (especially C ea i e Commons Licences), you may exe cise
u he usage igh s as speci ied in he indica ed licence.
h p://c ea i ecommons.o g/licenses/by/4.0/deed.de
SCHWERPUNKT
h ps://doi.o g/10.1365/s40702-024-01053-8
HMD P axis de Wi scha sin o ma ik (2024) 61:436–448
Die Nu zung on Cha GPT in Un e nehmen: Ein
Fallbeispiel zu Neuges al ung on Se icep ozessen
Pe e Buxmann · Ad ian Glauben · Pa ick Hend iks
Eingegangen: 6. Juli 2023 / Angenommen: 31. Janua 2024 / Online publizie : 24. Feb ua 2024
© The Au ho (s) 2024
Zusammen assung La ge Language Models (LLMs) e olu ionie en die A und
Weise, wie Tex e ode auch So wa e gesch ieben we den. In diesem A ikel wollen
wi insbesonde e au den Einsa z on Cha GPT in Un e nehmen eingehen. Schwe -
punk is ein Fallbeispiel zu Neuges al ung on Se icep ozessen, das gemeinsam
mi einem mi els ändischen So wa ehaus en wickel wu de. Wi zeigen, wie LLMs
Geschä sp ozesse ans o mie en können und welche wi scha lichen E ek e sich
da aus e geben.
Schlüsselwö e Gene a i e KI · G oße Sp achmodelle · Se icep ozesse ·
Wi scha lichkei
The Use o Cha GPT in Companies: A Case S udy on he Redesign o
Se ice P ocesses
Abs ac La ge Language Models (LLMs) a e e olu ionising he way ex s and
e en so wa e a e w i en. In his a icle we will ocus on he use o Cha GPT
in companies. The emphasis is on a case s udy o edesigning se ice p ocesses
ha was de eloped oge he wi h a medium-sized so wa e company. We show how
LLMs can ans o m business p ocesses and wha he economic impac is.
Pe e Buxmann · Ad ian Glauben · Pa ick Hend iks
Technische Uni e si ä Da ms ad , Da ms ad , Deu schland
E-Mail: pe e .buxmann@ u-da ms ad .de
Ad ian Glauben
E-Mail: ad ian.glauben@ u-da ms ad .de
Pa ick Hend iks
E-Mail: pa ick.hend iks@ u-da ms ad .de
K
Die Nu zung on Cha GPT in Un e nehmen: Ein Fallbeispiel zu Neuges al ung on... 437
Keywo ds Gene a i e AI · La ge Language Models · Se ice P ocesses ·
Economic Viabili y
1 Einlei ung
Die asan e En wicklung de Küns lichen In elligenz (KI) is dabei, Gesellscha
und Wi scha g undlegend zu e ände n. Ein Meilens ein in de Geschich e de KI
wa die Ve ö en lichung on Cha GPT du ch das US-ame ikanische Un e nehmen
OpenAI im No embe 2022. Bei Cha GPT handel es sich um ein Sp achmodell, das
Tex e e s ellen, So wa e en wickeln und eine menschenähnliche Kommunika ion
üh en kann. Das immense ö en liche In e esse an diese Technologie spiegel sich
in den Nu zungszahlen wide . Nu zwei Mona e nach de Ma k ein üh ung e eich e
Cha GPT im Janua die Ma ke on 100Mio. mona lich ak i en Nu ze innen und
Nu ze n. Dies mach es zu am schnells en wachsenden Ve b auche anwendung de
Geschich e. Zum Ve gleich: Die Social-Media-Pla o m TikTok b auch e dazu neun
Mona e, Ins ag am soga übe zwei Jah e (Hu 2023).
Auch In es o innen und In es o en sowie Technologieun e nehmen haben das
eno me Po enzial on Cha GPT e kann . So siche e sich Mic oso An ang 2023
knapp 50% de An eile an OpenAI ü und 10M d. US-Dolla (Bass 2023). Diese
In es i ion dien de S a egie, Cha GPT in e schiedene Mic oso -P oduk e wie
O ice, Bing und Azu e zu in eg ie en, um die P oduk quali ä zu e besse n und die
We bewe bsposi ion gegenübe Un e nehmen wie Google zu s ä ken. Dadu ch wi d
deu lich, dass die Einsa zmöglichkei en on Cha GPT wei übe den Un e hal ungs-
sek o hinausgehen. Alle dings gib es bislang kaum p axiso ien ie e S udien, die
disku ie en ode au zeigen, wie Cha GPT und Co. in be iebliche P ozesse in eg ie
we den können und welche Un e nehmensbe eiche besonde s s a k da on beein luss
we den. In einem In e iew un e s eich Sam Al man, CEO on OpenAI, dass aus
seine Sich insbesonde e de Kundense ice beach liche Ve ände ungen e ah en
wi d (F idman und Al man 2023). Vo diesem Hin e g und we den wi im Folgen-
den nähe au die Nu zung on Cha GPT zu Neuges al ung des Kundense ice
eingehen. Dazu e läu e n wi in Abschn. 2 zunächs die G undlagen on Sp achmo-
dellen. Da au olg eine de aillie e Besch eibung des Fallbeispiels in Abschn. 3. In
Abschn. 4 schließen wi mi eine ökonomischen Bewe ung und einem Ausblick
au die Zukun .
2 La ge Language Models – Ein Übe blick
Obwohl die Ö en lichkei as ausschließlich übe Cha GPT disku ie , is es bei
wei em nich das einzige LLM au dem Ma k . Neben OpenAI en wickeln Tech-
Gigan en wie Google und Me a, S a ups wie Elu he AI und Uni e si ä en wie S -
an o d Uni e si y ode UC Be keley eigene LLMs mi e gleichba en Fähigkei en
(siehe Abb. 1). Den G unds ein ü diese En wicklung leg e Google mi de En -
wicklung und Ve ö en lichung de T ans o me -A chi ek u (Vaswani e al. 2017)
K
438 P. Buxmann e al.
– eine spezielle A eines Neu onalen Ne zwe ks – welche die Basis ü nahezu alle
g oßen Sp achmodelle bilde . Abb. 1gib einen Übe blick.
2.1 Funk ionsweise und Fähigkei en
Abgesehen on de Modella chi ek u eilen LLMs g undlegende Gemeinsamkei-
en in ih e Funk ionsweise. Im Wesen lichen handel es sich um Sys eme, die die
Wah scheinlichkei en on Wo sequenzen in Tex en be echnen. Die Wo sequen-
2017
2018
2019
2020
2021
2022
2023
T ans o me
BERT
GPT
GPT-2
GPT-3
T5
GPT-J
GPT-NeoX
Ins uc GPT Cha GPT
DALL-E
DALL-E 2
PaLM
Py hia
GPT-4
PaLM 2
FLAN-T5
LLaMa
Alpaca Vicuna
OpenAIOpenAI
OpenAI
OpenAI
OpenAI
OpenAI
OpenAI
Google
Google
Google
Google
Google
Elu he AI
Elu he AI
Elu he AI
Me a
S an o d
OpenAI
Be keley
Legende: Open Sou ce
Closed Sou ce Tex zu Bild
Tex zu Tex
Modell A chi ek u
Abb. 1 En wicklung e schiedene Sp achmodelle sei 2017. (Eigene Abbildung nach Ga ske (2023))
K
Die Nu zung on Cha GPT in Un e nehmen: Ein Fallbeispiel zu Neuges al ung on... 439
zen können dabei sowohl ku ze Sä ze als auch länge e Tex abschni e um assen
(Li 2022). Solche Sys eme können sowohl zu Klassi ika ion ( gl. Xu e al. 2020,
Choud ie e al. 2021) als auch zu Gene ie ung ( gl. Bubeck e al. 2023; Luo e al.
2021) on na ü liche Sp ache eingese z we den. Bei de Klassi ika ion gib das
Sp achmodell eine Wah scheinlichkei ü jede de zu o es geleg en Klassen aus
( gl. Sun e al. 2019). Ein anschauliches Beispiel ü die Klassi izie ung is die au-
oma ische Un e scheidung on E-Mails in die Klassen „Spam“ und „kein Spam“.
Bei de Gene ie ung on na ü liche Sp ache sagen Sp achmodelle das nächs e Wo
eine Sequenz o he , indem sie ü jedes mögliche Wo de o gegebenen Sp a-
che eine Wah scheinlichkei be echnen ( gl. Vaswani e al. 2017). Wäh end äl e e
Ansä ze au ein s a is ischen Ve ah en basie en ( gl. Nes o und Gonzalez-Abas-
cal 1997), legen neue e Ansä ze neu onale Ne zwe ke zug unde ( gl. Bengio e al.
2003;G a es2014). Au bauend au neu onalen Ne zwe ken en wickel en Vaswani
e al. (2017) die be ei s e wähn e T ans o me -A chi ek u . Diese s ell dabei einen
Pa adigmenwechsel da : Sie e wende sogenann e A en ion-Mechanismen,umzu
bes immen, welche Teile eines Tex es in einem gegebenen Momen ele an sind
und e möglich so ein ie g ei ende es Ve s ändnis des Kon ex es – sp ich de um-
gebenden Wö e und ih e Bedeu ungszusammenhänge. Dies üh dazu, dass LLMs
nich nu Wo sequenzen au Basis s a is ische Häu igkei gene ie en, sonde n auch
die seman ischen Beziehungen zwischen den Wö e n e assen und in e p e ie en
können, wodu ch Tex e en s ehen, die kohä en e und inhal lich nuancie e sind
(Bousche y e al. 2023).
Wie de Beg i „La ge Language Models“ be ei s andeu e , zeichnen sich diese
Modelle du ch ih e eno me G öße aus, die sich aus d ei maßgeblichen Fak o en
e gib (Kaplan e al. 2020):
1. Die Anzahl de Pa ame e , d.h. die Anzahl de e ände ba en We e eines neu o-
nalen Ne zes, die du ch den T ainingsp ozess angepass we den können;
2. die G öße des Da ensa zes, d.h. die Anzahl de Da enpunk e im T ainingsda en-
sa z;
3. die T ainingszei , d.h. die ü das T aining au gewende e Rechenzei .
Übe aschende weise üh die Ve g öße ung on LLMs nich nu zu eine linea-
en Ve besse ung ih e bes ehenden Fähigkei en, sonde n b ing zudem une wa e e
neue Fähigkei en he o (Wei e al. 2022). Das heiß , obwohl sie nich explizi
dazu ainie wu den, en wickeln sie zunächs Kompe enzen in Tex klassi ika ion,
dann in meh s u ige A gumen a ion und schließlich in seman ischem Tex e s änd-
nis (Wei e al. 2022). Die o sch i lichs en LLMs – wie z.B. GPT-4 – zeigen
be ei s Fähigkei en, die Bubeck e al. (2023) als e s e Anzeichen on eine allge-
meinen küns lichen In elligenz bezeichnen. Dazu zählen men ale Fähigkei en wie
K ea i i ä , A gumen a ion und Deduk ion, abe auch ih e Expe ise in Be eichen
wie Li e a u , Medizin und P og ammie ung sowie die Fähigkei , We kzeuge zu
e wenden und sich selbs zu e klä en (Wei e al. 2022).
Wohlgeme k sind all diese Fähigkei en in einem einzigen Modell en hal en,
ohne dass dieses Modell ü eine de Au gaben spezialisie we den muss. E eich
wi d diese Gene ali ä du ch ein sogenann es sel -supe ised p e- aining. Dabei
K
440 P. Buxmann e al.
le n das Modell eigens ändig – d.h. ohne menschliche Vo gaben – die zug unde
liegenden S uk u en und Mus e inne halb eines iesigen Da ensa zes (Li 2022).
Übliche T ainingsda ensä ze sind hunde e bis ausende Gigaby e g oß und en hal en
un e ande em Büche , Code, Websei en, wissenscha liche A ikel und Da en aus
sozialen Ne zwe ken (Zhao e al. 2023).
Au diese Weise ainie e Modelle we den auch als Founda ion Models bezeich-
ne ( gl. Bommasani e al. 2021). Obwohl solche Modelle be ei s iele P obleme oh-
ne wei e e Spezialisie ung lösen können, kann es ü bes imm e Au gaben no wendig
sein, ein wei e es T aining du chzu üh en. Fü diesen als ine- uning bezeichne en
P ozess wi d das mi els sel -supe ised p e- aining o ainie e Founda ion Model
mi Hil e eines ypische weise kleine en und on Menschen gelabel en Da ensa zes
an ein bes imm es P oblem angepass (Li 2022).
2.2 Vek o da enbanken
Ge ade ü die In eg a ion in Un e nehmensp ozesse kann es no wendig sein, das
LLM mi den p op ie ä en Da en des Un e nehmens anzu eiche n und ihm egel-
mäßig neue In o ma ionen be ei zus ellen. Neben dem ine- uning we den hie ü in
de P axis o allem Vek o da enbanken genu z (bspw. Pinecone1und Mil us2; gl.
Lu e al. 2023;B yan2023). Im Gegensa z zum ine- uning we den mi Vek o da-
enbanken keine neuen In o ma ionen in das LLM ein ainie , sonde n lediglich bei
Beda be ei ges ell . Dazu en hal en Vek o da enbanken neben den gespeiche en
Dokumen en (z.B. PDFs) jeweils einen Vek o , de die Bedeu ung und den Inhal
des Dokumen s in einem abs ak en ma hema ischen Vek o aum ep äsen ie . Zu
Be echnung diese Vek o en we den o ainie e KI-Modelle e wende , sogenann-
e Embedding Models, die sowohl Open Sou ce als auch on namha en He s elle n
wie Google ode OpenAI e ügba sind.
2.3 Ausgewähl e P obleme
Mi de zunehmenden In elligenz on LLMs und de en e s ä k en In eg a ion in
Un e nehmensp ozesse gewinn die Auseinande se zung mi den dami e bunde-
nen P oblemen an Bedeu ung. Eine He aus o de ung s ich dabei besonde s he o :
LLMs können ohne Vo wa nung Fehle e zeugen. Dazu zählen ma hema ische, logi-
sche und konzep ionelle Fehle , abe auch schlich weg inko ek e Aussagen. Diese
A on Fehle n wi d als Halluzina ionen bezeichne , da sie dazu neigen, e nün ig
zu e scheinen und logischen Schluss olge ungen zu en sp echen. Häu ig sind sie zu-
sä zlich zwischen ko ek en In o ma ionen e s eck und we den übe zeugend sowie
selbs bewuss p äsen ie (Bubeck e al. 2023).
Neben Halluzina ionen is Bias eines de de zei schwe wiegends en P obleme
on LLMs. Ein G oß eil de T ainingsda ensä ze s amm aus dem In e ne (Zhao
e al. 2023) und en häl dahe e hebliche Vo u eile, die on den da au ainie en
Sp achmodellen wiede gegeben ode soga e s ä k we den können (Bubeck e al.
1h ps://www.pinecone.io/.
2h ps://mil us.io/.
K
Die Nu zung on Cha GPT in Un e nehmen: Ein Fallbeispiel zu Neuges al ung on... 441
2023). Dazu zählen neben s e eo ypen Assozia ionen und nega i en Emp indungen
gegenübe bes imm en G uppen auch gesellscha spoli ische Vo u eile (Bende e al.
2021).
3 Neuges al ung on Se icep ozessen mi Cha GPT
Im Folgenden soll gezeig we den, wie Sp achmodelle genu z we den können, um
P ozesse in Un e nehmen zu ans o mie en. Im Fokus lieg dabei ein Fallbeispiel,
welches die T ans o ma ion eines Se icep ozess mi els Cha GPT au zeig . Die
Bedeu ung eines he o agenden Kundense ice is in de heu igen Geschä swel
unbes i en und eng mi den in o ma ions echnologischen Fähigkei en eines Un-
e nehmens e woben (Ray e al. 2005). Sam Al man – G ünde und CEO on
OpenAI – weis da au hin, dass Sp achmodelle, mi ih en Fähigkei en, uns uk-
u ie e Da en zu e a bei en und Dialoge zu üh en, besonde s geeigne sind, um
Se icep ozesse zu ans o mie en (F idman und Al man 2023). Insbesonde e des-
wegen da Se icep ozesse neben de In e ak ion mi Kundinnen ode Kunden mi els
na ü liche Sp ache häu ig auch In o ma ionen aus Dokumen ena chi en einbezie-
hen ( gl. Sub amani e al. 2021). Eine de Ke nbe eiche on Se icep ozessen
bezieh sich au die Bea bei ung on Kundenan agen du ch Suppo mi a bei e in-
nen und -mi a bei e (Kuma und Telang 2012). Unse Fallbeispiel basie au de
Zusammena bei mi einem mi els ändischen deu schen So wa eun e nehmen, das
du ch den Einsa z on Sp achmodellen seine P ozesse zu Bea bei ung on Kun-
denan agen un e s ü z ha . Diese p ak ischen Ve besse ungen sollen illus ie en
wie LLMs, nich nu die Kommunika ion e leich e n, sonde n auch die Quali ä des
Kundense ices insgesam s eige n können.
3.1 De u sp üngliche P ozess
Im e s en Sch i wollen wi den u sp ünglichen P ozess o Ein üh ung on
Cha GPT da s ellen. De u sp üngliche Se icep ozess beginn dami , dass de Kun-
de ode die Kundin eine Kon ak an age an den Kundensuppo o mulie , in de e
sein ode sie ih P oblem besch eib . Wäh end de Kunde ode die Kundin seine ode
ih e An age o mulie , we den ihm ode ih au oma isch Übe sch i en po enziell
passende FAQ-A ikel angezeig . Um passende FAQ-A ikel zu inden, wi d ein
KI-ges ü z es Sys em eingese z , das die Ähnlichkei zwischen de Kundenan age
und den o handenen A ikeln miss . En scheide sich de Kunde ode die Kundin,
die angebo enen A ikel zu igno ie en ode inde e ode sie in den A ikeln keine
passende Lösung, so kann e ode sie die zu o o mulie e An age abschicken.
Dadu ch wi d ein Ticke e ö ne , das da au hin on eine Mi a bei e in bzw. einem
Mi a bei e des Kundensuppo s bea bei e wi d. Können die Suppo mi a bei e-
innen und -mi a bei e das Kundenp oblem nich ad hoc lösen, so bes eh ü sie
die Möglichkei , das Dokumen ena chi des So wa eun e nehmens selbs s ändig
zu du chsuchen. Haben sie passende Dokumen e ge unden, ex ahie en sie die
ele an en In o ma ionen und o mulie en eine An wo . Is das Kundenp oblem mi
de An wo gelös , so is die In e ak ion beende . Ande n alls haben die Kunden
K
442 P. Buxmann e al.
keine
Rück age
zusä zliche
In o ma ionen nö ig
keine zusä zlichen
In o ma ionen nö ig
Dokumen en
-a chi
Kunden-
suppo
Kunde
o mulie
An age
e häl
An age X o mulie
An wo
wi d
du chsuch
In o ma ionen
An wo
X
FAQ A ikel
FAQ A ikel
we den
du chsuch
X
P oblem gelös
P oblem nich gelös
Rück age
Abb. 2 Schema ische Da s ellung des u sp ünglichen Kundensuppo p ozesses o Ein üh ung on
Cha GPT
ode Kundinnen die Möglichkei , Rück agen zu s ellen. In diesem Fall muss de
Kundensuppo e neu eagie en und gg . wei e e In o ma ionen aus dem Dokumen-
ena chi ab u en. Diese P ozess wiede hol sich, bis das Kundenp oblem gelös
is . De besch iebene Ablau o In eg a ion on Cha GPT is in Abb. 2schema isch
da ges ell .
Es zeig sich, dass diese P ozess häu ig mi einem e heblichen Au wand ü die
Suppo mi a bei e innen und -mi a bei e e bunden is . Neben de Suche nach ele-
an en Dokumen en wi d zusä zliche Zei ü das Ex ahie en und Zusammen assen
on In o ma ionen sowie ü das Fo mulie en on An wo en au gewende . Da übe
hinaus wi d po enziell neues Wissen, das im Lau e de Kon e sa ion en s anden is ,
nich ex ahie , au be ei e und gespeiche , wenn die Suppo mi a bei e innen und
-mi a bei e dies nich eigenmo i ie o nehmen.
3.2 De neuges al e e P ozess
De ans o mie e P ozess ziel da au ab, P ozess e besse ungen du ch die In e-
g a ion on Cha GPT zu e eichen. Ebenso wie de u sp üngliche P ozess beginn
auch de ans o mie e P ozess mi de Fo mulie ung eine Suppo an age sei ens
de Kunden ode Kundinnen. Dami das LLM eine passende An wo o mulie en
kann, müssen de Kunde ode die Kundin zunächs die no wendigen In o ma ionen
in Fo m on Dokumen en be ei ges ell we den. Dazu we den Vek o da enbanken
e wende (siehe Abschn. 2). Abb. 3zeig beispielha die d ei no wendigen Sch i e
zu In eg a ion zwischen Vek o da enbank und LLM:
1. Zunächs muss das Un e nehmen eine Vek o da enbank e s ellen, in de alle ge-
wünsch en In o ma ionen (z.B. in e ne Dokumen e, FAQ-A ikel, und die Sup-
po -Ticke -His o ie) hochgeladen we den. Dabei wi d ü jedes Dokumen du ch
K
Die Nu zung on Cha GPT in Un e nehmen: Ein Fallbeispiel zu Neuges al ung on... 443
(1) Vek o da enbank (2) Kundenan age (3) LLM
Un e nehmen
bspw.
P op ie ä e
In o ma ionen
Ö en liche
In o ma ionen
In e ne
Dokumen e
Cha &
Mails
bspw.
ö en liche
Dokumen e
Außen-
kommunika ion
Embedding Model
Vek o da enbank
Dokumen im Kla ex Vek o
[ 1 1 0 ]
[ 0 1 1 ]
[ 1 0 0 ]
“Repa a u anlei ung
ü [...]”
“Seh geeh e F au
[...]”
“Wi als ABC AG
s ehen ü [...]”
“Seh geeh e ABC AG,
eine unse e Maschinen
mach komische Ge äusche.”
[11 0 ]
Ähnlichkei
Inpu
Ou pu
“Bean wo e olgende An age:
Nu ze da ü olgende In o ma ionen: “
“Repa a u anlei ung
ü [...]”
“Seh geeh e ABC AG,
eine unse e Maschinen
mach komische Ge äusche.”
Cha GPT
U
n
e
ne
hm
en
P
o
In o
I
D
o
V
e
k o
d
a
en
b
a
n
k
Do
k
u
m
e
n
i
m
i
i
K
l
K
K
a
e
x
Ve
k
o
[
1
1
0
]
[
0
1
1
]
[
1
0
0
]
“Repa
a
u
a
n
l
e
i
u
n
g
ü
[
...
]
”
“S
eh
geeh
e
F
au
[
...
]
”
“W
i
a
l
s
A
B
C
AG
s
ehen
ü
[]
”
“S h
h
A
B
C
AG
e
.
”
b
s
p
w
.
o
p
i
e
ä
e
o
m
a
io
n
en
Ö
e
n
li
c
h
e
In
o
m
a
io
n
en
In
e ne
o
k
u
m
e
n
e
C
h
a
&
M
a
il
s
b
s
p
w
.
ö
e
n
l
i
c
h
e
D
o
k
u
m
e
n
e
A
u
ß
e
n
-
k
o
m
m
u
n
i
k
a
i
o
n
E
m
b
e
d
d
i
n
g
M
o
d
e
l
“S
e
h
g
ee
h
e
A
B
C
AG,
e
i
n
e
u
n
s
e
e
Ma
s
c
h
i
nen
m
a
c
h
k
om
i
sc
he
G
e
äus
c
h
[
1
1
0
]
Ä
hn
l
ic
l
l
h
k
e
i
I
n
p
u
O
u
pu
“
Bean wo
e
o
l
gen
d
e
A
n a
g
e:
N
u
z
e
d
a ü
o
l
gen
d
e
In o ma
i
o
nen
:
“
“Repa
a u
a
n
l
e
i
u
n
g
ü
[
...
]
”
“Seh
g
ee
h
e
A
B
C
A
G,
e
i
ne
u
n
s
e e
Ma
s
c
h
i
nen
m
a
c
h
k
o
m
i
sc
he
G
e äus
c
h
e
.”
C
h
a
G
PT
“Seh geeh e F au Mus e dame,
um den Fehle de Maschine zu beheben,
müssen sie [...]. “
Abb. 3 Zusammenspiel zwischen Vek o da enbank, Kundenan age und LLM
das Embedding Model ein ep äsen a i e Vek o be echne und in de Vek o da-
enbank gespeiche .
2. Fü die Kundenan age wi d mi demselben Embedding Model ein ep äsen a i e
Vek o be echne . Da au hin wi d du ch eine ein ache ma hema ische Be echnung
paa weise die Ähnlichkei des An age ek o s mi allen Dokumen ek o en aus
de Vek o da enbank bes imm .
3. Schließlich wi d de Kla ex de Kundenan age zusammen mi den Kla ex-
en de ähnlichs en Dokumen e in den P omp des LLM au genommen, das au
G undlage diese In o ma ionen eine An wo o mulie .
Be o die An wo en an die Kundinnen und Kunden e schick we den, is o -
gesehen, dass de Kundensuppo die on Cha GPT gene ie en Tex e übe p ü .
Das bedeu e , dass die Mi a bei e innen und Mi a bei e nich e se z we den. Je-
doch ände n sich ih e Au gaben. Sie sollen zukün ig insbesonde e die om LLM
o o mulie e An wo p ü en und gg . e besse n. Dabei bes eh ü die Mi a bei-
e innen und Mi a bei e die Möglichkei , mi dem LLM in einen Dialog zu e en,
um den Tex o schlag i e a i zu e besse n und gg . mi zusä zlichen In o ma-
ionen anzu eiche n. Sobald die Suppo mi a bei e innen und -mi a bei e mi de
An wo zu ieden sind, lei en sie diese an den Kunden ode die Kundin wei e .
T e en Rück agen au , so we den diese in einem wei e en P ozessdu chlau mi els
LLM-Un e s ü zung bea bei e . Ha de Kunde ode die Kundin schließlich keine
wei e en F agen, so is die In e ak ion beende . Im Gegensa z zum u sp ünglichen
P ozess s ell dies jedoch nich das Ende da , sonde n lös einen wei e en Subp o-
zess aus, da inne halb diese In e ak ion neues Wissen en s anden sein kann. Dieses
Wissen könn en die Suppo mi a bei e innen ode -mi a bei e beispielsweise im
K
