Heute dreht sich alles um das Thema Big Data und die Rolle der
generativen KI dabei dazu ein ausführliches Expertengespräch
Your Copilot, der Podcast, der hilft, die künstliche
Intelligenz in der Microsoft 365 Welt zu verstehen und produktiv
anzuwenden.
Mit eurem Co Piloten Michael Greth.
Hallo und herzlich Willkommen zur 2. Ausgabe von YOurCopilot.
Zunächst mal vielen Dank für das Feedback zur 1. Ausgabe. Es hat
mich sehr gefreut, wie viel das auch schon gehört wurde und
natürlich ermutigt das auch hier in diesem Format unbedingt
weiterzumachen.
Heute stellen wir uns mal die Frage, welche Anforderungen an
die Qualität unserer Daten müssen wir eigentlich stellen,
damit sie mit generative AI oder Co. Piloten vernünftig
zusammenarbeiten können? Denn ne Binsenweisheit, ja sagt ja Müll
rein, Müll raus, also was müssen wir dazu tun?
Und dazu hab ich mir einen Experten eingeladen. Markus
Raatz, hier aus Berlin, von der Ceteris seit vielen, vielen
Jahren mein Ansprechpartner, wenn es um das Thema Big Data,
Datenanalyse und Ähnliches geht. Er ist ein super Experte da
drin, er hat auch schon mit seinen Kunden erste Projekte in
dieser Richtung gemacht und auch aus Persönlichem erproben
Erfahrung gesammelt, die er mit uns hier in diesem Gespräch
teilen wird. Also viel Spaß und informative Unterhaltung beim
Talk mit Markus Raatz.
Hallo lieber Markus, ich freue mich, dass du dir Zeit genommen
hast, uns heute mal ein bisschen in das Thema einzuführen. Nicht
nur Big Data, sondern vor allen Dingen was macht eigentlich
generate fi mit Big Data? Und du hast ja da doch so die einige
oder andere Erfahrungen gesammelt, das stimmt allerdings
ja erstmal. Vielen Dank, dass ich da sein darf und dass wir
diese Serie auf diese Weise hier fortsetzen können, ganz genau,
Daten sind eben schon lange mein Thema, hast du ja richtig
gesagt.
Jetzt kommt die KI hinzu und normalerweise sind es 2 eng
verwandte Geschwister. Die können sehr gut miteinander, ja
meistens, wenn die Leute von mir ne KI wollen, dann muss ich sie
fragen, sind denn eure Daten sauber, dann sagen Sie
natürlich, selbstverständlich sind unsere Daten sauber, da
muss ich.
Raufgucken Nachsehen und stelle fest, Nein, da ist gar nicht
sauber und dann muss man da was tun und oder mancher muss man
überhaupt erst anfangen zu sammeln, weil sie gar keine
Daten haben. Das ist der Klassiker und jetzt kommen die
Large Language Model.
Die Jet GPD Lama und so weiter und ich habe ja von dir gelernt.
Eurer Kunden jetzt einfach sagen, die haben Cloud Change
Modell gesehen, sehen was mit Jet GPT alles machen kann und
sagen dann oh prima, jetzt bringt das meinen ganzen Ablauf
meine ganzen Prozesse super in Ordnung. Gib mir doch mal ein
Large Change Model und du hast ja da ne sehr spezifische
Meinung wo du sagst Moment mal Moment mal was heißt denn Moment
mal eine Stelle also Moment mal heißt nur mal so um ein Beispiel
zu sagen wir machen mit Kunden oftmals Workshops um beim Kunden
herauszufinden, gerade so im Mittelstand was könnte ein
sinnvoller Einsatzbereich für eine KI bei ihnen sein?
Meine Erfahrung ist mindestens 50% aller Ideen, die die Leute
haben, haben eigentlich nichts mit KI zu tun, sondern sind eine
reine Prozessautomation, übrigens Bizarrerweise sogar
besonders stark dann, wenn die Leute sogar ganz gut definierte
Prozesse haben, also selbst wenn sie ein Bewusstsein davon haben,
was passiert dann bei uns, wenn eine Bestellung eingeht, was
passiert, wenn wir einen Auftrag bekommen und so weiter dann
gerade dann sagen die und ich brauche eine KI, die jetzt kommt
eine Bestellung rein, die fragt, die kriegt automatisch heraus,
was für Einzelteile, für Halbzeuge Wir brauchen, die ruft
automatisch.
Schickt E-Mails an alle Lieferanten, bittet um ein
Angebot. Wenn dann die Preise zu hoch sind, guckt sie natürlich
in der Preisdatenbank nach, erfährt der Preis es um 10%
gestiegen, dann verhandelt sie von alleine nach, das ist ein
Nummernbeispiel, was die Leute ganz selbstverständlich
vorbringen.
Das gilt nicht. Das ist unmöglich, weil ein Large
Language Model kann keine Prozesse, ein Large Language
Model ist kein Ablaufdiagramm, wo man ihm sagen kann, jetzt geh
bitte links lang und dann ist die Frage ja nein oder weiß ich
nicht, sind genug Teile vorrätig, dann geh nach Nein
oder so das ist eine ganz normale Prozesssteuerung und die
kann eine KI nicht, die KI kann meinetwegen an einer so einer
Scheidestelle eventuell entscheiden ob man jetzt nach
links oder rechts gehen sollte, da kann man ein einzelnes
kleines Modell draus machen, was genau das dann entscheidet aber
zu sagen.
Die KI hat meinen Prozess im Hinterkopf und verfolgt ihn mit
dem Kunden selbstständig und allein das ist vollkommen
ausgeschlossen es kommt einem nur nicht so vor weil der so
schön quatschen kann ja eben man will jetzt auch nicht wir wissen
ja generativ AI funktioniert auch so statistischen Verfahren
mit denen es seine Antworten generiert das macht ja
eigentlich keinen Sinn wenn du schon ganz fertige Daten hast
die einfach ja auch deterministisch sind und du
weißt ja einfach wie die Prozesse ablaufen müssen aber
insofern ist es für euch dann vielleicht auch ein guter
Einstieg.
Dass du mit dem Kunden dann ins Gespräch kommst und sagst, ja
Moment mal, lass uns erstmal aus, vielleicht können wir ja
das mit ganz klassischen Prozessen, seit wir diese
Diskussion haben, reden wir viel, viel häufiger und zeigen
wir viel häufiger Dinge wie Power Automate aus der Power
Plattform, als wir es früher gemacht hätten. Das rückt viel
mehr in den Vordergrund, aber jetzt seien wir doch mal
ehrlich, die Leute wollen ja nicht power Orte Mate, die Leute
wollen ja was, was richtig sexy ist, was ein disruptives
Potenzial hat und das ist nunmal von der KI sind das derzeit am
ehesten die Darlehen Language Models.
Ja, und Sie haben noch etwas und das muss man noch mal allen
klarmachen. Large Language Models können nicht rechnen, Mhm
und genau genommen können sie nicht mal ne Tabelle verstehen
und darauf weisen sie auch hin, also die allermeisten Modelle
sind sogar so freundlich und sagen dir explizit oh mit einer
Tabelle kann ich nicht gut umgehen, aber vielleicht ja ganz
oft ist es so, dass man diese tabellarische Information
überhaupt nicht reinbekommt in das Modell, also wenn man nicht
die Möglichkeit hat.
Eigene Tabellen in dem Fall weiß ich Excel oder CSV s
hochzuladen. Die Möglichkeit ist nur sehr eingegrenzt gegeben,
also ganz viele können das nicht, selbst wenn ich das nicht
kann, dann sagt er einfach, ja, gib mir es doch irgendwie mit
mit Pipe Zeichen getrennt zum Beispiel, also er akzeptiert, er
schlägt dann sowas vor, dann muss ich meine Tabelle irgendwie
umzaubern das ist ja auch viel Mühe ist kann man von einem
Endnutzer eigentlich nicht erwarten, dann gebe ich ihm
meine Tabelle rein und dann ist zum Beispiel meine Erfahrung gbt
335 stellt sich Stulle doof an wenn es eine Tabelle ist wo ich
einfach nur sage Ach
und welche ist ne Produkttabelle zum Beispiel welches von denen
ist denn jetzt das teuerste ja GPT 35 halluziniere halluzinier
er erzählt mir einen vom Pferd 40 ist besser, der kann ein
bisschen besser mit Tabellen umgehen aber Achtung von was ich
hier rede ne die Leute haben im Hinterkopf ich nehm Nerd
Language model ich lass das auf meine gesamten Daten los und
dann hat er nicht nur die Prozesse im Kopf sondern kann
mir auch alle Zahlen analysieren das ist das was die Erwartung im
Hinterkopf und ich muss zu Ihnen hingehen ich muss sagen Nein er
kann eure Prozesse nicht mal verstehen, er kann sie nicht mal
lernen und er kann mit euren Zahlen nicht umgehen und er kann
nicht mal rechnen.
Natürlich eine krasse Enttäuschung für viele, ja.
Aber es sind so schöne Dinge. Ja wir. Dieser Podcast ist ja
ambitioniert und möchte auch praktische Lebenshilfe bieten,
das heißt?
Eine Erkenntnis, die ich daraus gewährt, ist, wenn man quasi
jetzt an seine Abläufe geht im Unternehmen und guckt, was man
hat und denkt, Oh, jetzt kommt so ne Large Language Modell
Microsoft 365, Copilot und was alles so im im Hinterkopf steht,
das könnte jetzt meine Probleme lösen, ist aber ein guter Ansatz
sich einfach tatsächlich erstmal zu überlegen. Moment mal, ist
das dafür was geeignet oder gehen wir klassisch in Power
Automat rein? Müssen wir jetzt mal unsere Prozesse neu
strukturieren, wo dann viele auch sagen hatten wir früher
keinen Bock mehr, haben wir jetzt auch keinen Bock mehr,
könnte ich mir vorstellen, warum hat man es bisher noch nicht
gemacht, weil man hat ja eigentlich so Werkzeuge dazu
richtig auf der anderen Seite kann aber du hast gerade gesagt
KI ist da nicht so geeignet, aber trotzdem kann natürlich in
solchen Abläufen KI auch eine Rolle spielen wenn du sagst du
nimmst dann halt von der Azure Plattform die Bilderkennung, die
Spracherkennung, die Ausgabe aber ist das richtig?
Aber genau Mhm. Also man darf erstmal nicht vergessen, ganz
viele Dinge, die einem super helfen können und die auch KI
sind, sind in dieser Cognitive Services Plattform, die ja jetzt
Schande über Schande in Microsoft AI Plattform umbenannt
wird ne also cogitive Services hat ja wenigstens noch ein
bisschen vermittelt.
Dass der auch sowas kann wie Augen und Ohren und so ne, das
kann der Meinung man sollte n eigenen Large Language Modell
bauen, was einfach diese ganzen Umbenennungen noch mal
nachvollziehbar macht, weil das ist ja Maßnahmen ein eigenes GPT
ja aber weißt du was an dem GPT auch das allerwichtigste?
Werden dürfte das Format, in dem du es ihm beibringst, damit er
auf die Frage erkläre mir doch mal bitte weiß ich nicht ich,
ich möchte Bing Chat Enterprise nutzen. Erzähl mir mal wie das
früher hieß und wie das jetzt aktuell heißt, also.
Ihnen die Frage, Was ist denn das Datenmodell, wie du ihm das
Einfüttern musst in der Eingabeseite ja ganz schön
kurrig ja, also aber noch mal zurück zu den zu der zur Azure
Plattform mit den communsies Services, die ihr denn an die
Daten mit einbaut, ne?
Die sind ja super einfach und die sollte man. Man sollte auch
immer dran denken.
Dass auch Open AI von Azure einen Teil der Cognitive
Services ist und nicht der wichtigste ja, sondern ist
manchmal super wichtig. Als allererstes mal muss ich erstmal
einen Text erkennen.
Haben. Als nächstes muss ich irgendwie ein Text to speech
haben oder ich muss ne Bilderkennung haben und so
weiter und die Dinge kann man super leicht zusammenfriemeln
und da kommen die allerschönsten Szenarien bei raus. Ja und dass
dann eben in vorhandene Prozesse, wenn sie halbwegs.
Ist definiert sind einzubauen, kann extrem sinnvoll sein, also
der absolute Klassiker, der aber immer wieder super gut
funktioniert ist. Dieses Beispiel gibt es auch Videos von
mir drüber, dass wir vielen Kunden zum Beispiel E-Mails
automatisch nicht automatisch beantwortet.
Was macht man eigentlich nicht so gerne, aber dass man eben
Leuten, die diese E-Mails dann bearbeiten sollen, dass man
denen helfen an die Hand gibt, zum Beispiel das erstmal quasi
Chat GPT die E-Mails liest und zum Beispiel selber
kategorisiert, ist das wahnsinnig dringend oder nicht
so dringend oder so und überhaupt erst mal, worum geht
es an, welche Abteilung muss das, ist das eine Reklamation,
ist das eine neue Beschwerde, ist das ist das ein Auftrag oder
will der nur eine Information haben oder so solche Dinge zu
machen und das Ganze dann eben zum Beispiel mit Power Automate
zu automatisieren und nur an der entscheidenden Stelle mal bei
Chgbt anzufragen, super.
Das heißt, du musst dann dafür auch praktisch Power Plattformen
als als Ablaufplattform, aber nutzt dann das Azure Open A im
Hintergrund, um diese Konversation hinzubekommen.
Dieses Analysieren der Sprache und dann auch das entsprechende
Ausgaben an an das tun wir eben an 2 Stellen guckt die
reinkommende E-Mail guckt er sich an und sagt was für eine
Art von Mail ist das und dann kann er auch gleich mal eine
Zusammenfassung der E-Mail machen, damit der arme
Sachbearbeiter nur diesen kleinen Absatz lesen muss und
man könnte dann dafür gibt es einen schönen Fachausdruck,
übrigens, das nennt sich Dunkelverarbeitung, das ist,
wenn man dann wirklich auch die Antwort formuliert und
rausschickt, das ist aber, sage ich mal, die hohe Schule, das
tut man in der Regel nicht, wenn man wirklich echte
Sachbearbeiter irgendwo sitzen hat, dann lässt man die rüber
schauen, aber man kann denen ja Vorschläge machen, damit die
eben deren wichtiger Arbeitszeit besser eingesetzt wird da.
Echt viel zu machen und da gibt es schöne Erfolge, die man auch
gerade mit einem Large Language Model, der ja sehr gut quatschen
kann, kann man das einsetzen, aber eben nicht, wenn es um
Datenmengen geht, nicht wenn es um Prozesse geht und nicht wenn
es um zahlen geht und das will ich noch mal nochmal
zusammenfassen. Also es ist jetzt nicht für den Endanwender,
dass er sein wie aus Jet Gbt oder aus Copilot kennt, einfach
nur seine Eingabefeld hat, seine Texte eingibt, sondern ihr baut
im Hintergrund auf der Open AI Plattform auf der Azure
Plattform.
Mit zusammen mit Powerautomate eine komplette einen kompletten
Workflow, der dieses Prozess abarbeitet. Und der nimmt aber
an den Stellen, wo es interessant ist, wo man die
Kommunikation eintritt, nimmt er dann halt diese entsprechenden
Elemente, Spracherkennung und Sprachausgabe und fügt das ein.
Das ist aber jetzt eine eigene eigene Selbsterstellte mit Power
Auto mit selbst erstellt, das ist ja schon so gut wie eben
selbst gemacht, das sagst du ja ganz so gut wie selbstgemacht,
wie einfach ist das denn, das ist ganz einfach, was auch immer
für Voraussetzungen um das sozusagen.
Eigentlich wirklich so wie Power Automate eigentlich für den, wie
heißt das so schön Citizen Developer gedacht ist. Also für
den engagierten Business User, der eigentlich schon am liebsten
im Leben lieber IT ler geworden wäre, der nutzt ja powerautomat
gern und viel und gut und für die ist es vollkommen
ausreichend. Ja also wir machen dann in der Regel um es noch
einfacher zu machen, wir haben einen eigenen Konnektor für Chpt
zum Beispiel also Azure Open AI, den kann man nutzen, dann wird
es noch einfacher, aber das Ding hat natürlich auch eine Rest
API, man kann auch mit Power orthomate Rest API is anfragen
das funktioniert.
Also da bitte weiter drüber nachdenken, aber eben bitte
nicht drüber nachdenken. So, hier sind meine Quartalszahlen,
die werfe ich dir mal rüber in Form eines mächtigen Excel
Sheets und du sagst mir jetzt mal wo ich noch Diskrepanzen
oder wo ich rückständig bin oder wo ich am meisten Potenzial
habe, also diese Datenanalyse, ja das ist etwas, es gibt ja
auch ein Copilot in Power bi.
Weil jetzt gerade meine Frage, wo ich die Stellen würde. Du
bist ja immer der Spezialist für die Datenauswertung, du hast ja
da diese wunderschönen Tools wie Power BI und ähnliches. Ich darf
jetzt noch mal bisschen Werbung für deinen wöchentlichen Video.
In Beitrag den, den du schon seit einigen Monaten machst, wo
du auf deinem linkedin Profil jeden Freitag immer so 10
Minuten Tipps rund um dieses ganze Thema Power BI Daten
auswerten Datenanalyse gibt. Wie spielt denn da jetzt das Thema
generell der zunächst mal auch.
Ein ganz bisschen enttäuschend, ne, denn wie ich schon sagte.
Large Language Models können nicht rechnen und können mit
Zahlen überhaupt nicht besonders gut umgehen. Das heißt, wenn du
denen diese Frage stellst und ihnen eine Menge Daten
hinwirfst, dann haben Sie ein Problem und da wundern sich auch
schon viele, weil es gibt ja einen Co Pilot in Power bi.
Und der wird leider noch nicht in Deutschland ausgerollt. Der
wird Region für Regionen ausgerollt, aber man kann
natürlich bei den Amerikanern schon mal rübergucken und
schauen, was er macht.
Der tut fast jede Dinge, aber die Datenanalyse musst du selber
machen. Was er tut ist er bietet dir an, ich hab gesehen, du hast
da dieses Datenmodell, ja ich würde dir da mal n schicken
Bericht drauf machen und dann macht er den und der Bericht
sieht sagenhaft aus, aber raufschauen und gucken wo sind
für mich interessante Informationen damit ich darauf
reagieren möchte vielleicht ja das muss ich selbst und das kann
er nicht und das kriegt er auch auf absehbare Zeit nicht hin,
also er kann sich auch nicht so fragen, guck dir mal die Daten
an, was gibt's denn da für kritische Trends die ich bisher
nicht, nein was er tut ist er kann durchaus vorschlagen.
Welche Art von Bericht er mir jetzt mal zeigen würde, weil er
denkt, da könnte was Kritisches sein und dabei sind manchmal
erfrischende Vorschläge dabei, was ich selbst noch nicht
untersucht habe oder so und dann generiert er mir diese Power bi
berichte und da die Berichte die da rauskommen ehrlich gesagt
Ratten scharf aussehen und man die sehr gut danach editieren
kann, ist es vielleicht ein guter Startpunkt, also den
Werten diesen Co Piloten werden Leute nutzen, aber wenn man sich
die Videos die Demo Video von Microsoft ansieht am Anfang,
dann geht es genau.
Die andere Richtung geht es in die Richtung, dass die wirklich
Fragen an die Daten stellen und eher mit der Antwort
zurückschießt und es ist exakt das, was auch im im grob halt
für Power BI nicht kommt. Ja geht das generell was meinst du
geht das generell nicht oder müsste das einfach nur ein
bisschen weiterentwickelt werden? Man hat ja zum Beispiel
auf wenn ich mit ch jetzt arbeite, da sind ja zum Beispiel
der Code interpreterin, dass ich, wenn ich solche Fragen
habe, dann schmeiße im Hintergrund weiß ich was ein
Python Skript an, was mir dann zum Beispiel eine
Datenauswertung der Richtung macht oder ich kann noch eine
API ansprechen die im Hintergrund sowas macht, das
heißt wird es da auch so eine Kombination geben, dass du
einfach nur wie gesagt dieses generative AI Modell oder diesen
Copilot für Power bi einfach halt als diese
Sprachschnittstelle nutzt. Und im Hintergrund muss aber dann
doch noch wieder was anderes ablaufen. Also das gibt es also
der Copilot und Vwi ist ja noch nicht da bzw kommt dann erst
langsam nach Deutschland, aber es gibt schon mal einen einen
Teil, der ist da schon drin und das sind die sogenannten Smart
measures ja also die intelligenten Kennzahlen.
Und was der da macht. Also diese laufen auch, funktionieren mit
dem Copilot, da kriegst du einfach ein Fenster angezeigt,
wenn es darum geht, welche Art von Kennzahl soll auf deinen
Daten berechnet werden, dann darfst du in diesem Fenster
eintippen, was du dir für eine Kennzahl wünschen würdest.
Und dann generiert er dir das Berechnungsstatement für den
Power BI, was das Ding berechnet, was er generiert ist
diese abfragesprache Dax ne und die ist ja ganz ehrlich gesagt
die Sprache für den der Vater und Mutter erschlagen hat,
sollte ja mal aussehen wie ne vereinfachte Form von Excel
Formeln, aber es geht leider eher ganz in die
entgegengesetzte Richtung los, also viele Menschen scheitern an
Dax und dafür gibt es diesen Co Pilot der in Power BI jetzt
schon drin ist. Und wenn man da eben noch sowas eingibt, ich
möchte den Umsatz immer mit dem Vorquartal vergleichen, dann
macht er und generiert mir das Statement.
Dax die Berechnung führt sie aus und zeigt mir die Zahl an. Das
sieht natürlich total sexy aus, weil ich sehe die Zahl und denke
in dem Moment, er hat mich verstanden, er hat meine Daten,
er hat verstanden was ich will und deswegen hat er eine Abfrage
generiert und ich sehe dann das Ergebnis und kann aber dann
natürlich sagen, dieses Measure will ich jetzt dauerhaft in
meinen Daten drin haben, das funktioniert fantastisch und ich
glaube in die Richtung wird es gehen, das ist ja so ähnlich wie
der.
Copilot in Excel der wo ich sage ich brauch jetzt ne tolle
Formel. Stell mir doch mal ne Formel mit der ich das und das
sag mal und dann baut der dir die Formel zusammen und erst
rechnet jetzt nicht, sondern er zeigt ja nur die Formel dazu. Ja
und du machst die Formel und dann musst du selber die
Datenanalyse machen und genau in die Richtung denke ich wird's
gehen und was ich bisher noch am hoffnungsvollsten am besten
finde ist wenn man mal zu unseren Freunden den Entwicklern
rüberschaut die benutzen eigentlich alle, also wenn sie
nicht wirklich unterm Stein leben, dann benutzen sie den Git
hub weil.
Ja, einfach. Also man glaubt es nicht, wie gut der versteht, was
ich erreichen will im Programmieren und mir das sofort
einfach mal eben programmiert. Ja, das nimmt wirklich die ganze
Mühsal, die Tragey auf dem Programmieren raus, oder wie
Satya Nadella gesagt hat, als er hier in Berlin war, er sagte,
das bringt The Fun Back to Broken, weil diese endlos langen
Coden Coden und jetzt hier noch eine Fehlerbehandlung rein, das
macht er alles automatisch, oder was Entwickler ja hassen wie
die.
Kommentieren, das kann ich ja da so machen, dass ich im
Nachhinein zu ihm sage, bitte kommentiert mal, was ich gerade
gecoded habe, oder ich gebe überhaupt nur den Kommentar ein
und sage Code das bitte mal und in der Richtung, da nämlich den
sage, guck mal, das ist meine Datenbank und ihm dann sage,
machen wir mir bitte folgende SQL Abfrage, dann macht er
fantastische SQL abfragen mit allem mit Join, mit Groupby, mit
having Dinge die also gerade nicht datenspezialist.
Gar nicht gefallen macht er Easy macht er locker. Ja, und da
bauen wir gerade an einer Chatvariante auch basierend
machen wir es auf Power Automate, aber darum geht es gar
nicht. Es geht darum, dass man eben eine Frage stellen kann,
hier nicht der Sprache.
Es wird SQL generiert, es wird eine SQL Datenbank gefragt und
die Ergebnisse werden wieder ganz normal als Tabelle oder so
als als Textzeile zurückgegeben. Das funktioniert sehr gut und es
hat noch n weiteren Riesenvorteil, diese Ergebnisse
kommen quasi in Echtzeit, die holen die Daten aus der
Datenbank wie sie jetzt sind, meistens wenn du auf deinen
eigenen Datenabfragen machen willst musst du deine eigenen
Daten ja vorher indexieren damit er die schneller darauf
zugreifen kann und dieser Index muss immer aktualisiert werden
wenn sich was ändert. Wenn ich jetzt Leute habe die sagen
Mach mir doch mal so einen Chatbot, der mir über meinen
aktuellen weiß ich Warenbestand Auskunft gibt, hilft mir der
nicht, weil er unter Umständen eine Stunde immer hinterher ist,
weil er nur einmal in die Stunde aktualisiert werden kann oder so
und wenn ich ihn über SQL gehen lasse und direkt auf eine
Datenbank gehen lasse, dann ist er in Echtzeit, aber insofern
ist das genau das, was wir jetzt gerade sagen nochmal
zusammenzufassen. Ich als Anwender stelle jetzt eine Frage
an mein Warenwirtschaftssystem oder ähnliches, die vorher nicht
programmiert worden ist. Und das.
System kann dann so intelligent sein, wenn du das entsprechend
eingerichtet hast, dass es aus der Frage quasi das
entsprechende technische Statement erzeugt, dann quasi in
diese Abfrage macht über SQL oder DAX oder was auch immer und
dir dann die richtige Antwort gibt oder die richtige Antwort
aus den Standardformularen, die da sind. Die Standardberichte
gibt exakt das heißt es ist halt das, was ich auch immer wieder
sage, dieses Vorteil von diesem Modell ist einfach, es ist nicht
nur das Wissen da drin, sondern ist einfach diese diese
Schnittstelle Mensch.
Kommunikation das, was wir bisher nicht hatten. Also ich
brauch nicht mehr Tastatur, ich brauch nicht mehr die Maus, ich
brauch nicht mehr selbst wo du sagtest ich bin jetzt im Power
BI drin und möchte jetzt irgend so n kleinen Bericht haben, da
hast du vielleicht vorher auch gesagt Oh welches Menü war das
wo muss ich anklicken, wo muss ich mit der Maus hinklicken
kommt das jetzt raus jetzt sag ich es einfach nur und das
System macht aus meiner meiner Anfrage die entsprechenden ich
sag mal im Hintergrund die Mausklicks und erzeugt dir dann
den Bericht heraus und das ist glaube ich etwas was generell
für jede Anwendung wenn man heute fragt wo kann ich das denn
verwenden wo man wenn man selber Programme entwickelt oder
Anwendungen die anbietet wo man sagen kann man kann sich dieses
Teil also diese Funktionalität des Modells nehmen um
einfach noch ne ganz andere Kommunikation zu schaffen. Das
heißt gar nicht, das muss gar nicht rechnen, sondern ich nehm
praktisch deine Anfrage auf und generiere was, was mein System
verstehen kann. Lass es im System verarbeiten und schicke
dir dann wieder zurück, was sozusagen als Antwort kam und
bereite das vernünftig auf, aber.
Das Teil am Hintergrund ist komplett.
Klassischen Methoden ganz genau. Und ich finde genau das Wissen
von Lars Language Models ist manchmal sogar eher hinderlich.
Es ist zwar toll, dass der was weiß und dass der auch viel
weiß, aber es geht wirklich eigentlich nur darum, dass er
mich gut verstehen kann und dann muss der das übersetzen, die
Dinge, die, die ich wissen, die ich für ihn habe und die ich ihm
zur Verfügung stellen kann und das könnte zum Beispiel eben
sein, die Daten jetzt aus meinem ERP System oder so, die kann er
abfragen wenn er die Struktur der Tabellen kennt, dann kriegt
er das hin, aber ansonsten.
Es ist super schwierig, ihm solche Daten.
Unterzuliefern insbesondere ein beliebtes Problem habe ich auch
schon ein paar Mal erzählt, wenn ich sie vor allem nur in
Tabellenform vorliegen habe. Also ich habe ja oft bei Kunden
jetzt gefragt, ja, haben Sie denn zum Beispiel, wenn Sie
jetzt einen Chatbot haben wollen, wo man die Eigenschaften
ihrer Produkte abfragen kann, haben sie denn mal Daten über
ihre Produkte, also haben Sie mal sowas? Ja, wir haben ganz
viele PD fs mit Produktbeschreibungen, ich öffne
diese PD fs und ich sehe da ist eine Tabelle mit
Dateninformationen nach der anderen.
Ja, so macht man das ja auch normalerweise, weil es so schön
komprimiert ist und weil es eigentlich um Daten geht. Es
geht eben um diese ganzen technischen Daten, die da in der
Tabelle dann drin drin sind. Wenn ich dieses PDF Chat GPT
vorwerfe, dann guckt er mich mit großen Fragezeichen an.
Für den wäre es tausendmal besser und damit ist er
hundertmal besser, wenn es ein langatmiger Text wäre, der das
Ganze dann aufbereitet. Und wir müssen wir, wir haben Kunden,
für die müssen wir präprozessoren schreiben, die
quasi in die PDFS reingehen und wenn die sehen, dass da eine
Tabelle ist, dann müssen die, die quasi umformatieren auf so
eine simple Variante, dass sie eben chpt auch verstehen kann
und dann geht es mittlerweile mit GPT 40 auch so ganz okay
reinkriegen ist schwierig, weil du das gerade erwähnt hast mit
dem github Copilot, der ist ja extrem gut angekommen, den
Nutzen ganz viele und haben auch einen erheblichen.
Wirklich richtigen Vorteil dafür. Ich habe den ja auch
mittlerweile meinen Visual Code eingebaut und mal ein bisschen
Python Programmierung ohne es zu können. Das ist wirklich
faszinierend oder? Ich habe neulich einen Beitrag gelesen,
den will ich jetzt auch noch mal ausprobieren, dass man in seinem
Chat GPT jetzt auch so eine Action einbauen konnte, dann
muss man halt bloß wenn man eine API anspricht muss man halt ein
Schema in Jason haben, damit das beschrieben ist. Und das ist
einfach so vorgeführt worden, wie man das mal. Man gibt ihm
die Dokumente, Dokumentation macht er, hier ist die Dokumente
das Schema daraus und dann kriegt man das, das ist schon
faszinierend, das liegt aber letztlich daran, im Gegensatz
jetzt zu dem Thema, was wir jetzt hier besprechen mit den
Daten.
Dass ja dieses Programmieren im Prinzip ja auch nur Sprache ist.
Ja und ne einfache Sprache und ne einfache Sprache und und auf
der anderen Seite natürlich von den Dingen, die diese Large
Rankings Modelle trainiert worden sind, ist natürlich so
endlos sprachmodelle und und ganz.
Programmiersprachen und die Dokumentation und dann einfach
mal github abgesaugt und dann auch noch wie hieß dieses Forum,
was mittlerweile fast schon pleitegegangen ist, wo alle
immer rüber gegangen sind und sich programmatisch über die
Programmierung ausgetauscht haben, was mittlerweile auch
viele er will nicht mehr machen, weil sie sagen das Kriege ich
vom Co Palet schon hin und da liegt natürlich so eine
Stärkere, also auch eine inhaltliche Stärke, weil er da
Textverarbeitung macht und halt in diese Richtung und
Programmierung hat, weil auch dieser Programmiercode dann, ich
sag mal schon mal sehr strukturiert vorgeliefert wird,
das heißt du hast da quasi schon Metadaten drin, du weißt wenn
ich ein Python Script mache, dann darf ich halt keine Basic
Befehle oder sonst was da reinbringen, ich muss halt da
mal, da ist das auch schon getaggt.
Funktioniert das glaub ich auch so gut, was auch noch mal
praktisch Lebenshilfe hier ist. Das heißt meine Daten, je besser
ich die vorbereitet habe und je besser ich die sozusagen
aufbereitet habe, desto besser kann auch nachher ein Large
Language Modell damit.
Da käme jetzt nämlich meine Folgefrage dann, das heißt ja
auch, wenn ich irgendwie für alle, die den Microsoft 365
Copilot mal einfühlen wollen, heißt es ja immer ja, ihr müsst
aber vorher noch mal n bisschen euer ganzes System aufräumen,
Daten aufräumen.
Da habt ihr das hat mich erinnert, so an die Themen, als
wir mal von sharepoint on migriert. Aber selbst wenn wir
vom Fallsystem nach sharepoint, Microsoft, kannst du uns dann
vielleicht mal ein paar praktische Tipps zu geben zu dem
Thema, wie sollte man eigentlich seinen.
Datenbestand sozusagen seine seine, ja seine sein Basis
aufbereiten. Was Günther so vielleicht 34 Tipps, wenn man
später mal bessere Auskünfte über so ein Larvenmodell hat,
also es wohl ist ganz klar eine Sache, die ich schon seit Jahren
immer wieder.
Pläne und ich werde da oft in Projekten wirklich gedisst. Man
hasst mich dafür. Nach einigen Stunden Workshop.
Du magst das oder ich kann, nein, ich bin überzeugt, ich bin
Überzeugungstäter, ich lasse mich dissen, weil ich.
Überzeugt bin bin überzeugt davon, dass es super wichtig
ist, in so einem Projekt die richtigen Begriffe zu finden und
zu verwenden. Also wenn ich keine Ahnung, ich will da ein
Projekt machen und da werden Arbeitszeiten von Mitarbeiter
ausgewertet, dann kämpfe ich mit denen.
Sich rum, dass die banalsten Dinge klar sind. Ich sage, wie
sagt man denn bei ihnen, keine Ahnung.
Zu dem was der da wieviel Stunden der dann geschafft hat,
wieviel was sagt man dazu? Und dann stell ich sagen die alle
auch was fragen Sie denn immer das doch hier jedem klar oder so
und dann stellt sich ja auch das ist die netto Arbeitszeit und
dann irgendjemand hinten im Raum im Workshop sagt Nein überhaupt
nicht weil bei der netto Arbeitszeit ist ja noch die
Pause mit drin und so und da ergeht die schönste Diskussion
los wenn ich solche Begriffe klar habe, so dass da das steht
was ich später auch in einem Begriff in einem Bericht an
meinen blödesten Chef schicken würde, da würde ich auch keine
Zahl drin haben.
Keine Erklärung drin haben wollen wo ich weiß, die ist
nicht vorstandstauglich, die versteht der Chef einfach nicht.
Also diese Begriffe klar zu haben ist extrem sinnvoll. Jetzt
sagen manche, naja, ich kann ja jetzt in meinem ERP System, da
heißt das eben brumms und nicht Bruttoumsatz, ich kann es ja in
meinem ERP System nicht umbenennen oder so. Na dann baue
ich mir eben ein schönes Datenmodell, es geht immer
wieder um.
Datenmodelle auch in Power BI auch in Microsoft Fabric wird es
immer um das Datenmodell gehen. Das ist im Grunde so was wie die
Oberfläche meiner Datenausbildung und da stecken
hinter jedem Attribut Begriffe und wenn die gut gewählt sind
und wenn die nicht falsch.
Die den den Nutzer in die richtige Richtung lenken, weil
sie der im Unternehmen übliche Begriff sind. Da muss dann jeder
wissen, was unter Nettoumsatz zu verstehlen ist. Dann kann ich
das auch in meinen Auswertungen verwenden und was jetzt sind die
besten Ergebnisse, die ich da habe, ist eben.
Ich habe ein einfaches Datenmodell, 345, Tabellen,
Zwinker, Zwinker, sieht aus wie ein Delta Warehouse. Ja und dann
kann ich ihm auch erklären, was die einzelnen Attribute dieser
345 Tabellen bedeuten, in echter Sprache, ja, und dann kann ich
auch in echter Sprache ihm Fragen stellen, er generiert das
richtige SQL daraus, er schießt es gegen die Daten und zeigt mir
die Antwort kurz danach in Echtzeit wieder an. Das ist für
mich bisher das beste Potenzial in Sachen Datenanalyse mit
Jetgpd, das geht ja auch so ein bisschen in die Richtung, dass
ich sozusagen.
Mein eigenes Open AI Modell trainiere oder ein bestehendes
Modell mit Zusatzinformationen aus meinem eigenen Umfeld, um
mir sozusagen meinen eigenen Co Pilot auf Dauer, was ja bei
Microsoft 365 Co Pilot der Vorteil ist, dass ich auf meine
Unternehmensdaten im sicheren Kontext zugreifen kann und wenn
ich das selber baue, ist ja auch eine Tendenz, die man jetzt für
das Jahr 2024 sieht, dass man weggeht von diesen Large
längsmodell und eher so spezialisiert.
Dinge, die eben verstehen, dass das eben der Bruttoumsatz ist,
der Halt bei uns bums und dass er so Bums aus die Maus oder
eben ja, das ist aber extrem wichtig, dass man dies versteht,
dann das Modell an sich kennt es nicht genau und da liegt es,
glaube ich, auch etwas, was man unabhängig jetzt, wenn man jetzt
nicht gerade, wie du es gesagt in Richtung Datenmodelle und so
weiter geht, selbst wenn man mit seinem Bing Chat oder ähnlichen
kommuniziert, dass man solche Begriffe, wenn die nicht da
sind, einfach mit erklärt von dem System auch die Dinge mit
Rüberbringt, richtig, das geht ja auch ohne prompt, das kann
ich mir auch einfach so erklären, so in der in der
Abfrage, aber da sind wir schon wieder bei einem anderen Punkt,
den du ja auch oft aufbringst nämlich eben was für Fragen muss
man stellen, ich habe eben gefragt, wie kriege ich meine
eigenen Daten wirklich verwendbar in sonderschlägen
Model rein oder für den Zugriff und du fragst immer wieder
völlig zurecht wie.
Ich denn fragen, damit er auch die richtige Antwort für mich
findet? Ne, und das ist wieder das nächste. Ja ich warte mal,
ich kann was ich Mitarbeitern die wirklich businessmäßig was
anderes zu tun habe, den kann ich nicht ein promping Kurs
überhelfen.
Die sollen ja auch gar nicht den prompt ändern. Die sollen nur
eben ne vernünftige Art und Weise fragen können und das muss
auch erstmal gelernt sein. Also aus meiner persönlichen
Erfahrung her ist es tatsächlich so, wenn du, ich sag mal so n
gewisses Ziel vor Augen hast. Du weißt wo du eigentlich
Hinwillst, ohne jetzt konkret zu wissen, was das Ergebnis ist,
dass man dann einfach das System in diese Richtung steuern kann.
Man fängt mit relativ einfachen Dingen an, bekommt eine Frage
zurück mit einem Antwortzeug gesagt Okay das geht aber jetzt
nicht in die richtige Richtung, Ich geb dir nochmal die Richtung
vor im nächsten Schritt.
Dann geht's weiter, dann kriegst du wieder eine Antwort und
sagst, das war schon besser, kannst du das mal ausführlicher
machen und dass man wirklich so in diese Interaktion mit
Eintritt, das wird wahrscheinlich genau auch mit
den Datenmodellen, wenn ich da eine entsprechende Anfrage habe
drüber gehen, also Grundverständnis wohin man will,
Ziel vor Augen haben ist glaube ich ganz wesentlich oder kannst
du das soweit in dem Rahmen automatisieren, dass du sagst
ich geb halt 15 verschiedene Prompts vor und dann könnt ihr
damit schon mal arbeiten und dann ist auf jeden Fall ein
super super Trick sind wirklich Tricks es sind einfach diese
ganz banalen.
Sagen diese Beispielanfragen, da ist ja Microsoft auch ganz
wichtig, also fast überall, wenn ich, wenn ich irgendwo n prompt
NN Chat angeboten bekomme, stehen ja erst mal
beispieleanfragen, die sind wirklich super wichtig, auch
gerade wenn der mein Datenmodell kennt, muss ich halt Anfragen
machen wo er schon die wichtigsten Informationen von
alleine aus meinem Datenmodell rausholt und das ist für die
Leute schon extrem hilfreich und basierend auf den Anfragen, da
können sie sich dann voran Robben und ich meine da haben
wir mehrere Fälle erlebt, wo es eben wirklich heute noch so ist.
Da ist dann jemand Ausfuhrvertrieb aus dem
Marketing, aus der Geschäftsleitung und wenn der
irgendwas wissen will aus der zentralen Datenbank, dann geht
das zu einem IT ler hin Text den zu was er haben will oder
schreibt eine endlos lange E-Mail und der it ler, wenn er
denn mal Zeit hat setzt sich an seine Datenbank und schreibt das
QL Statement das.
Wirklich einfacher, das kann man wirklich leichter haben. Ja, auf
der anderen Seite, gerade wenn du sagst, immer diese
Musteranfragen, die immer so gestellt werden, das sind ja
immer so kurze Dinge, ist ja eigentlich ja nicht, wie man mit
so einem Chatbot eigentlich arbeiten soll, ich denke immer,
wenn man noch ein bisschen guckt hinterher, was läuft eigentlich
im Hintergrund ab, also für jede Anfrage wird irgendwie ein Baum
abgebrannt, wenn ich das mal so vorsichtig abfragen, ja, aber
das ist wirklich die Frage, ist das dann einfach? Na gut, ich
habe das Werkzeug, ich kann das raushauen, aber eigentlich.
Bisschen besser organisiert wäre, wenn unsere Prozesse
besser gesteuert werden, müsste diese Frage gar nicht stellen,
weil das einfach besser gehen würde. Und ist das nicht
wirklich einfach nur so diese.
Dieses Ich verstehe das völlig. Es ist ja wirklich extrem
hilfreich, dass du das Wegbekommst.
Aber ist das so bisschen philosophisch? Ich hol jetzt mal
den Hegel raus ist das ist das wirklich das, was die KI?
Dann wirklich mit KI machen sollten oder ob das.
Und wir einfach sagen wir, wir haben jetzt so n richtig tolles
Tool mit allem drum und dran, aber ich mach doch eh bloß ne
Aufnahme mit. Ich hab das den Superodecaster mit allen
Features drum und ich mach doch bloß so ein Mikrofonaufnahme
ohne alles andere.
Ja, ich mein, das ist natürlich, da muss man eben sagen, der
Mensch ist wirklich gut. Nur im Zusammenarbeit mit anderen
Menschen. Der Mensch braucht andere Menschen für sowas und
ich glaube der der iphone Moment mit ch kommt daher weil man
diesen Large Language Models abnimmt, dass sie wie andere
Menschen sind, also bei dem was sie beantworten ist es schon so
gut, dass man das Gefühl hat, man redet mit einem anderen
Menschen darüber und kann eben auch solche Nachfragen stellen,
wie du gerade sagst, man kann ihn in eine bestimmte Richtung
lenken oder kommt da irgendwann an und dann hat man auch selber
eine riesen Menge dazu getan und das ist ja im richtigen Leben
auch so. Ich rede mit jemandem anders, manchmal kennt doch
jeder von uns, er hat ein Problem und dann sucht man
immer. Mein Vater sagte immer ich such mir einen Dummnormal.
Er sucht jemanden, der keine Ahnung davon hat und ganz normal
drauf ist. Erklärt ihm das Problem. Der stellt dumme Fragen
zurück. Das Conget GP auch ziemlich gut und am Ende kommen
beide gemeinsam zu einem richtig richtig guten Ergebnis. Das kann
Chat GPT auch.
Aber das kann er eben, zum Beispiel beim Thema Datenanalyse
heute noch überhaupt nicht. Aber bei 1000 anderen Dingen kann er
es tun, die die Interface, die Schnittstelle ist. Mensch zu
Mensch eigentlich nur der andere Mensch ist halt n bisschen
künstlich.
Markus erstmal vielen Dank für die den Einstieg in diese
Datengeschichte, weil es ist halt, ich glaub wir müssen, wenn
wir uns auf dieses Copile Copilot Wheel mal anschaust. Es
gibt ja diese wunderbare Grafik, die zeigt wie viele Tausende von
Copilots es mittlerweile in Microsoft gibt. Jeder Copilot
ist anders und jede Anforderung ist anders und gerade bei den
Daten, ich meine wer heute überlegt was will ich in 2024 in
meinem Unternehmen in Richtung ki machen.
Dem, glaube ich, ist es wirklich gut ans Herz gelegt, wenn es um
die Prozesse geht. Erstmal zu gucken, kann ich das mit
Bordmitteln machen, kann ich das überhaupt mit Prozesssteuer
machen, brauche ich da überhaupt ki, wo kann KI Zusatzleistungen,
wie benenne ich das und wie benenne ich das, das wäre jetzt
auch dein dann wenn ich dir nochmal das Schlusswort geben
dürfte, das wäre auch deine Empfehlung sehr wichtig ich sage
Daten sauber machen auf jeden Fall, das ist immer eine gute
Sache, überhaupt erst mal anfangen zu sammeln, viele Leute
wollen fragen.
Im Systemwissen, basierend auf Daten, die noch gar nicht
gesammelt werden. Ja, also anfangen zu sammeln, aber eben
dann gut benennen und dann ist es eben auch nicht trivial, vor
allem bei Datenanalyse bitte die Erwartungen nicht zu hoch
hängen, sondern wirklich gucken, was geht. Mit einer guten
Benennung, was geht vielleicht mit einer generierten SQL
Abfrage schon?
Dann glaube ich bei der Geschwindigkeit, wie sich dieses
Thema weiterentwickeln, mache ich mir keine Angst darum, dass
wir wahrscheinlich schon nach einem halben Jahr hier sitzen
werden und ganz viele Hürden sind sehr, sehr viel kleiner
geworden und wir kommen mehr und mehr in die Richtung, aber noch
ist es einiger Pfad Markus, vielen Dank und ich kann euch,
die ihr hier zugehört habt allen nur empfehlen jeden Freitag mal
auf Markus.
Linkedin Profil zu schauen, weil da kommt immer eine neue Folge.
Hast du eigentlich einen Namen für dieses Format oder ist das
einfach nur Markus? Erzählt uns das, also im Moment bin ich bin
ich, mache ich etwas, das nennt sie warum Fabrik mache ich und
ich gucke mir dieses neue Microsoft Fabric an und schaue
mir mal an, warum es viele viele, viele dieser Features da
drin gibt, es ist nämlich super komplex eigentlich und da
stecken eine Menge sehr gute Ideen dahinter und das finde ich
ergiebiger als eben nur einfach.
Das letzte neue Feature mal zu zeigen, es ist natürlich viel
einfacher für ein Video aber mal zu erklären.
Warum ist das jetzt wirklich vielleicht was grundsätzlich
anderes?
Dass es derzeit so der Weg, aber es wird vielleicht auch wieder
andere Serien geben, jetzt erstmal n paar Monate warum
Fabrik ja also gern so vielen dank Markus und ja, dann hören
wir uns definitiv in diesem Jahr öfter wieder und immer wenn es
um das Thema Daten ganz speziell geht, werde ich immer gerne auf
dich wieder zukommen, aber auch natürlich zu den praktischen
Erfahrungen, denn ich glaube das was wir noch machen müssen ist
unsere Erfahrung an die Hörer und auch an alle anderen
weitergeben um ihnen zu helfen mit diesem Ki Thema fertig zu
werden. Markus vielen Dank nochmal Michael Ich freu mich
drauf you are copilot.
Der Podcast, der hilft, die künstliche Intelligenz in der
Microsoft 365 Welt zu verstehen und produktiv anzuwenden.
Mit eurem Co Piloten Michael Gred.