Die Geschichte von Microsoft 365 Copilot scheint eine Geschichte
voller Missverständnisse zu sein. Ich möchte heute ein
bisschen Aufklärungsarbeit leisten und habe Redebedarf.
Your Copilot der Podcast, der hilft, die künstliche
Intelligenz in der Microsoft 365 Welt zu verstehen und produktiv
anzuwenden.
Mit eurem Copiloten Michael Greth.
Ja Hallo, herzlich willkommen zur 4. Ausgabe von yourcopilot.
Schön, dass ihr mit dabei seid an den Empfangsgeräten und ich
habe es ja im Intro schon kurz angekündigt. Wir wollen heute
nahtlos die letzte Ausgabe des Podcasts anknüpfen, wo ich ja
das Thema hatte. Microsoft 365 Copeile zwischen Begeisterung
und Ernüchterung und hatte da schon gesagt, wir müssen an
bestimmten Dingen noch mal etwas tiefer auf einzelne Aspekte des
Ganzen eingehen und das möchte ich gerne heute machen, nämlich
daran versuchen euch zu helfen.
Microsoft 365 Copilot besser zu verstehen und auch zu ein paar
Ideen zu bekommen wir euch mit.
Ja, den Buddy so n bisschen anfreunden könnt, wie ihr da auf
den richtigen Weg kommt, das ist nicht ganz einfach. Ich habe
mich als ich hab ja als Vorbereitung tatsächlich in
diesem Monat Februar.
Diverse Videos mir angeschaut auf youtube, die von recht
kompetenten Menschen mittlerweile verbreitet werden
und da wo nicht nur Unsinn geredet wird, sondern sich
tatsächlich auch tiefer geht mit einzelnen Aspekten beschäftigt
wird, wo Erfahrungsberichte gepostet werden.
Man kann daraus sehr viel lernen. Kann ich jedem nur
empfehlen. Man liegt natürlich auch dort Videos, wo man auch
von normalerweise halbwegs seriösen Quellen, wo man sagen
muss recher.
Ist etwas, was eigentlich unablässig ist, um gute Qualität
zu liefern, aber gut, dieses Fass will ich jetzt hier nicht
aufmachen, sondern ich will einfach meine Erfahrung sagen.
Ich hab auch an einigen Teamsmeetings und Webinaren
teilgenommen.
Und da ist immer interessant zu sehen, was so Anfragen kommen.
Und das erdet unser ein, also mich insbesondere auch immer
wieder, weil ich stecke natürlich mittlerweile schon so
tief drin, auch in diesem ganzen Chat GPT.
Thema und natürlich auch im Copilot. Dass man viele Dinge
einfach für ja mittlerweile selbstverständlich nimmt, oder?
Ja OK weiß ich, hab ich nämlich abgefunden, die aber dann als
Fragen in Chats oder in FAQS kommen, wo man dann einfach
sagt, ja stimmt, das muss man auch noch mal richtig erklären,
gut, und das ist der Ansatz des heutigen Podcasts, dass ich das
einfach mal mit euch schrittweise aufarbeiten will
und euch aus meiner Sicht heraus sagen will, wie man das ganze.
Angehen sollte, damit man auch hier einen guten Einstieg
bekommt.
Fangen wir mal an mit der Nummer 1 und ich glaub das ist das
Wichtigste was man zum Microsoft 365 Coupile sagen sollte. Als
allererstes mit Microsoft 365 Copilot bekommt ihr das Thema
große Sprachmodelle Large Language Modelle, also diese
Interaktion mit der IT über Sprache in euren Microsoft 365
Tenant eingebaut.
Mit der Positiven, mit dem positiven Nebeneffekt, dass ihr
das einen Anforderungen Compliance Security Privacy
komplett mitintegriert bekommt. Denn der Microsoft 365 Copilot
integriert sich komplett in diese Microsoft 365
Infrastruktur, nutzt diese Infrastruktur um euch zu
ermöglichen, dass ihr mit euren Unternehmensdaten sicher
Compliance und Privacy orientiert arbeiten könnt, ohne
und keine Angst haben müsst, dass da irgendetwas.
Negatives mit passiert, um es mal sehr platt zu sagen.
Das ist erstmal etwas, das Microsoft hier diese Plattform
ausrollt und ich glaube, das ist gar nicht so einfach diese
Plattform auszurollen, um auch diese ganzen Anforderungen dann
tatsächlich auch zu erfüllen und dahinter zu stehen, dass dann
zum Beispiel auch dieses Copyright Commitment, von dem
her schon gehört habt, auch entsprechend erfüllt werden
kann, dass man nämlich, wenn man Kobalt richtig eingerichtet.
Hat und mit ihm arbeitet und aufgrund der Ergebnisse oder der
Arbeit damit irgendwann mal in Rechtsstreit verwickelt wird und
den verliert und Geld zahlen muss, dass Microsoft dann
entsprechend einspringt und das übernimmt, weil sie sagen unsere
Technologie, wenn die richtig eingerichtet.
Dann macht die das richtig und wenn nicht, dann stehen wir
dafür gerade so. Damit kommen wir gleich zum.
Aber Punkt bei bei dem ersten Punkt nämlich aber das Ganze mit
dieser Plattform gilt einfach nur dann, wenn ihr auch diese
Plattform richtig eingerichtet habt in eurem Tablet. Das ist
sozusagen die Voraussetzung und was heißt richtig eingerichtet
nun, dafür gibt es ja mittlerweile diverse
Anleitungen, haben wir beim letzten Mal auch schon.
Besprochen, was es da gibt. Auf Microsoft Learn findet ihr was
man machen soll. Es gibt mittlerweile auch schon gute
Videos auf Microsoft Mechanics, beispielsweise vom Jeremy
Chapman, der schrittweise auseinandersetzt und es gab auch
schon Webinare dazu, was man machen muss. Die erste gute
Nachricht ist, ihr müsst bei diesen Voraussetzungen im
Prinzip nicht bei 0 anfangen, denn ich vermute mal jeder der
von euch sich damit beschäftigt Microsoft 365 Copilot soll ich
den Einsetzen oder nicht ist
auf Microsoft 365 ja dann.
Vermute ich mal.
Haben dann noch mal andere Voraussetzungen, aber
normalerweise habt ihr bereits einen eingerichteten m 365
Tennet und da habt ihr natürlich schon eure Policies
eingerichtet. Ihr habt eure Benutzer eingerichtet, ihr habt
eure Zugriffsrechte eingerichtet, ihr habt eure
Strukturen aufgebaut und so weiter auch dafür gibt es ja
ausführliche Best Practice, wie man so einen kennen inhaltlich
aufbaut, strukturiert, damit er auch alle gesetzlichen,
Privatsphärenmöglichkeiten sicherheitsrelevanten Aspekte
erfüllt.
So, darauf setzt der Microsoft 365 Copilot auf und kommt noch
mit ein paar zusätzlichen Anforderungen.
Version könnt ihr nutzen, in welchem Update Ring müsst ihr
drin sein, was funktioniert, was muss eingeschaltet sein, damit
es überhaupt funktioniert und so weiter und sofort. Das sind dann
kopal spezifische Anpassungen, die ihr noch machen müsst.
Was man auf jeden Fall machen muss ist, man muss beide Punkte
einfach mal durchchecken. Also diese Überprüfung des Microsoft
365 Tennis, ob ihr den so eingerichtet habt, dass
tatsächlich sag mal auch jetzt schon alle eure
Sicherheitsanforderungen erfüllt werden, also dass wenn jemand
nach irgendwelchen Dingen sucht, dass ihr nur das findet was er
braucht und nicht plötzlich Zugriff hat auf ich sag mal
vertrauliche Gehaltsinformationen, das wäre
jetzt schon schlecht, das wird durch eine Kopale auch nicht
besser und würde in diesem Fall auffallen. Also diese
Überprüfung wäre.
Einfach etwas, das man in diesem Zusammenhang auf jeden Fall
machen sollte, kann nicht schaden.
So wie mit dem Backup. Man macht immer jede Woche ein Backup und
sagt, Boah, das ist super, ich habe jede Woche mein Backup und
dann passiert irgendwas und dann stelle ich fest, ich muss aus
dem letzten Backup einen restore machen und es funktioniert
nicht, weil niemand überprüft hat ob diese Backups tatsächlich
auch funktionieren und genauso ist es eigentlich auch mit eurer
Installation in Microsoft 365 mit dem ganzen Setup
funktioniert das eigentlich so, dass ihr mit dem Ergebnis, mit
dem eure Mitarbeiter arbeiten könnt zufrieden sein, dass es
Compliance, Security, Privacy alles das erfüllt.
Das kann man jetzt mit den Cobalt Installation einfach mal
überprüfen und dann gucken wir noch mal. Was sind die
entsprechenden Anforderungen, die der Kophalle zusätzlich
stellt und setzt sie dann entsprechend um?
Und deshalb ist es auch eben keine gute Idee, einfach mal im
Copilot irgendwie zu sagen, Ach komm, wir machen mal 2 Lizenzen
und gucken mal, was jetzt passiert, weil dann im
Hintergrund diese ganzen Infrastruktur, auf die wir
gleich noch mal zu sprechen kommen, sozusagen installiert,
angeworfen wird. Und wenn man damit schlechten Daten und
schlechten Konfigurationen arbeitet, dann gilt der alte
Spruch misst rein, misst raus, dann habt ihr eben auch
schlechte oder nicht sichere oder nicht compliante
Ergebnisse, wenn eure Plattform nicht installiert ist.
So mit anderen Worten, das erste Vorteil Microsoft ist, dass
Microsoft diese Plattform erst mal in der ganzen Microsoft 365
Infrastruktur ausrollt und dass ihr, bevor ihr damit tatsächlich
anfängt zu arbeiten, euch mit den Voraussetzungen beschäftigt
habt und guckt, ob die bei euch im Unternehmen erfüllt sind,
entsprechende Anpassungen Vornehmt und euren Tennis
sozusagen Ready macht, dass ihr dann auf den Knopf drücken
könnt. So, jetzt schalten wir den ein und jetzt gucken wir
mal, wie wir damit arbeiten können, das ist das erste.
Was man definitiv verstanden hat und bei der ganzen Diskussion
Begeisterung oder Enttäuschung ist das eher was in die Richtung
Begeisterung läuft, weil einfach mal diese Infrastruktur
ausgebaut und das ist nicht einfach die zu installieren.
So das zweite, was man dann verstehen muss und was ja auch
einfach noch mal umsetzen müsst, ist, dass wenn ihr dann den
Microsoft 365 Copilot in eurem Tenet aktiviert, ihr nicht einen
Copilot bekommt, sondern wir kommt. Ich glaube mittlerweile 8
oder 9 Copilots, denn es gibt einmal diesen ganz klassischen m
365 Chat, das ist die klassische Chat Applikation wie wir sie aus
Chat gbt aus Bing Chat Enterprise oder Copolit Chat
kennen, einfach eine Eingabezeile und ich kann mit
den Informationen die ich habe dann komplett chatten.
Das ist eines. Aber dann gibt es halt den Copilot in den
jeweiligen Apps, die derzeit unterstützt werden, also in
Word, in Excel, in powerpoint, in Outlook, in onenote, in
Whiteboard, in Loops, in Teams, und ich glaube, ich habe jetzt
nichts vergessen, das heißt, ihr habt mit 8 verschiedenen,
derzeit mit 8 verschiedenen Copials zu tun, wenn ihr darüber
hinaus noch andere.
Applikationen aus der Microsoft 365 oder Microsoft Plattform
nutzt, dann könnt ihr es mit bis zu 160 Copiloten.
Zu tun haben, denn letztlich ist Copilot mittlerweile überall in
Microsoft drin und 160 war im Webinar was ich letzte Woche
gehört hab, so die der aktuelle Zählerstand. Ja, also kopei muss
man sich immer angucken, was ist das für n Kopalet mit welchem?
Applikation arbeitet der und was kann ich damit tun? So was heißt
das jetzt diese App orientierten Copiloten machen wir uns das
mal anhand von dem Copilot in Word klar, also in der.
Dokumentation zum Copale, die ja auf learn.microsoft.com findet,
gibt es ne schöne Tabelle, in der gezeigt wird, was die
Features der einzelnen Co Piloten in den Apps so bieten.
Nach dem Motto, Es heißt dort auch Microsoft 365 Apps, zum
Beispiel Word, Excel, Powerpoint, Outlook, Teams,
schleifen, Loops arbeiten mit Kopale zusammen und Benutzer im
Kontext ihrer Arbeit zu unterstützen und im Kontext
ihrer Arbeit ist genau das was hier wichtig ist.
Ist das heißt, der Kophalle in Wörth macht dann zum Beispiel
folgendes, er unterstützt euch beim Entwurf von Dokumenten,
generieren von Text mit und ohne Formatierung in neuen oder
vorhandenen Dokumenten. Word Dateien können auch zum Erden
von Daten verwendet werden, ich kann also auch eine Word Datei
in eine andere Word Datei einbinden und sagen hol mir mal
hier Informationen raus und packe die bei mir mit rein, das
ist eine Funktion die der Word Cooper unterstützt, das Zweite
ist Chat erstellen Sie Inhalte fassen Sie zusammenstellen Sie
fragen zu Ihrem Dokument und führen Sie einfache Befehle über
Chat aus, das ist
zweite Funktion, die dieser Copilot in Word kann. Und wenn
ihr Word öffnet, wo der Cobalt aktiviert ist, dann habt ihr
entweder die Möglichkeit, in dem Dokument über das kleine Icon
vom Copilot direkt im Dokument.
Quasi ein Eingabefenster zu haben, wo ihr euren prompt
formulieren könnt. Und dann bekommt ihr das Ergebnis direkt
ins Word Dokument eingespielt oder ihr könnt die Seitenleiste
aufmachen und habt dort das Eingabefenster, wo ihr dann mit
dem Copilot arbeiten könnt.
Ja, aber das, was ihr mit diesem Copilot machen können, sind im
Grunde genommen alles, was so mit Textgenerierung zu tun hat.
Fragen zum Text stellen zusammenfassend mit dem Text
stellen und ausarbeiten, da ist kein guter Platz um ne Frage zu
powerpoint zu stellen, da ist keine Frage, kein guter Platz um
eine Frage zu stellen, was habe ich letzte Woche beim Kunden XY
gemacht, dafür ist dieser Copilot nicht gedacht und das
macht er auch noch nicht, ob der das in Zukunft mal machen wird.
Sei mal dahingestellt, wissen wir nicht, aber das ist etwas,
was man einfach sich hier, ich sag mal was man wirklich klar
gemacht haben muss, das ist anders, als wenn ihr, sagen wir
mit Chpt, aber da habt ihr eine Eingabezeile und kommuniziert
über diese eine Zeile mit allem, was ihr dann mit diesem Modell
machen wollt, hier in Word im Copilot habt ihr bestimmte
Aufgaben, die Applikationsabhängig sind oder
darauf bezogen sind und könnt das damit machen und dann.
Auch zu ich sag mal leidlichen Ergebnissen. Da sind wir dann an
dem Punkt wie gut ist jetzt dieser Copilot in Word und da
muss man sagen, sind wir halt noch an einer frühen Version
1.01.5 oder ich weiß nicht in der Größenordnung.
Man kann damit schon einiges machen. Man muss dann aber auch
seine Prompts damit entsprechend generieren. Man unterliegt dort
auch einigen Restriktionen. Also es geht zum Beispiel über die
Größe, der Anteil der Anzahl der Wörter, die man so im Dokument
mit eingeben kann.
Das führt auch öfter bei Zusammenfassungen, dass
bestimmte Dinge einfach mal stecken bleiben. Das ist auch
noch nicht so ganz richtig gelöst. Aber man kann durchaus
auch gute Dokumente damit erstellen, wenn man sich bei den
Prompts ein bisschen Mühe gibt und wenn man halt in so einem,
ja in diesem Kontext bleibt, ja, also Texte generieren,
Formatierungen vorgeben, zusammenfassen, strukturieren,
das kann er ganz gut und auch chatten mit dem Dokument geht
ganz gut, aber definitiv, und das gehe ich dann in die
Richtung Ernüchterung.
Ist halt, sagen wir.
Anfangslevel da, da ist sicherlich noch viel Luft nach
oben, um das Ganze noch besser zu machen. Aber wollen wir mal
sagen, ihr könnt hier eben auch mit euren eigenen Dokumenten im
Unternehmenskontext sicher kommunizieren, ne und ich glaube
auch aus den Erfahrungsberichten, die ich
jetzt auch online gelesen habe von denjenigen, die sich schon
länger mit dem Co Pale beschäftigen, die zum Beispiel
in diesem Early Adopter Programm mit drin waren und die dann auch
mal jetzt schon mal das ein oder andere darüber berichtet haben,
ja sie sagen auch, man muss sich daran gewöhnen, aber man kann
damit schon arbeiten, ob das der Riesen Produktivitätssprung an
der Stelle ist? Derzeit mag man noch dahingestellt sein lassen.
Und das gilt jetzt für jede andere Applikation genauso eben
auch im Powerpoint und powerpoint.
Oder in Outlook, da könnt ihr halt mit E-Mails arbeiten, was
ich sag mal n großer ja ein großer Renner ist, ist halt die
Integration in Teams, insbesondere die Zusammenfassung
von Teams, Besprechung als auch die Zusammenfassung von Team
Chat um dann über sie Glück zu kommen. Das ist etwas was von
viel genutzt worden, das hat Teams bezogen, das könnt ihr
halt super gut in in den Teams Copilot machen, dass sie sagen
können okay fassen wir mal.
Das Meeting zusammen gib mir mal die Nodes heraus, gib mir mal
die Aufgaben heraus. Ich kann Fragen ans Meeting stellen, das
funktioniert schon sehr gut, wobei man immer noch mal sagen
muss, auch für den Microsoft 365 Copilot gilt alles was da
rauskommt sind im Prinzip Entwürfe, guckt da rein,
überprüft das Ganze, ist das richtig ist das funktioniert das
richtig? Ist das richtig zusammengefasst worden, fehlt da
noch was? Das muss man immer überprüfen das.
Das Gute wiederum daran ist, dass der Copilette Microsoft 63
euch vielfach dabei unterstützt, diese Prüfung durchführen zu
können. Ja, also wenn ihr zum Beispiel Microsoft 365 Chat seid
und sagt, gib mir doch mal ne Information darüber, was ich mit
meinem Kunden XY in den letzten 2 Wochen gemacht habe, dann
werdet ihr als Antwort bekommen okay da waren die 3 E-Mails, da
waren hier die 2 Dokumente, da war hier der Chat und da war
hier zum Beispiel die Meetingsaufzeichnung und das war
was wir gemacht haben und.
Und dann ne Textzusammenfassung. Also würd ich sagen, also mit
dem.
Kunden X habt ihr am 7.12. In dieser E-Mail darüber gesprochen
und am 7.7. Darüber und so weiter und sofort. Kriegt also
ne Textil Zusammenfassung und zu jedem dieser einzelnen
Fundstücke die er da hat, gibt es ne kleine Fußnote und die
wird unter dem Chat aufgelistet und da kriegt ihr da 12345678
die entsprechenden Fußnoten aufgelistet und die verlinkten
gleich zu der jeweiligen Fundstelle, also zu der E-Mail
zu dem Dokument, was.
Copilot als Referenz angeführt hat. Insofern habt ihr dann eine
relativ einfache Möglichkeit, das zu überprüfen, weil guckt
euch den Text an, der rauskommt, klickt auf den Link, schaut den
Link rein, ah, stimmt das OK, stimmt das nicht, ah, ist was
vergessen worden pack ich noch was hinzu und könnt damit
arbeiten das ist etwas was natürlich auch die
Überprüfungsfunktion wesentlich vereinfacht, weil ihr eben den
Bezug zu den Quellen habt.
So also noch mal kurz zusammengefasst. Es gibt nicht
den Cupale, es gibt Applikations Zentrierte Copilots, also für
jede, für jede Applikation gibt es seine eigene Copeile, der
sich unterschiedlich verhält, der bestimmte Aufgaben hat, der
auf bestimmte Aufgaben, die im Kontext der jeweiligen
Applikation.
Bestehen optimiert ist und insofern heißt es, je nachdem
was ihr machen wollt, habt ihr entsprechenden Set von Prompts,
den ihr da nur verwenden könnt und daran müsst ihr euch
gewöhnen. Wie man damit arbeitet. Wir sind in Zukunft
aussehen wird, die Entwicklung geht so schnell, da ist nach
oben alles offen, aber das ist das wie man am besten sich mit
dem Cro Pilot jetzt arbeiten kann und als zusätzlichen Tipp
gebe ich immer noch, dass es hilft schon mal strukturiert und
kontextbasiert zu arbeiten, also dem Copilot bei seinen Anfragen
auch immer ein bisschen Kontext und mehr Inhalt und mitzugeben
damit er einfach besser.
Mit euren Daten umgehen kann und auch besser weiß, was ihr
eigentlich erwartet und dementsprechend eure
Informationen.
Aufbereiten könnte.
Schritt für Schritt ist auch immer ne gute Sache, also nicht
in ein prompt alles reinpacken und erwarten, dass dann sofort
die komplette Antwort rauskommt, sondern sich überlegen, OK, fass
mir erstmal das zusammen und dann im zweiten Schritt.
Erstellen wir mal daraus die und die Unterabschnitte oder
organisiert das anders, dass man das wirklich Schritt für Schritt
macht in dieser Art und Weise, aber das ist so n bisschen
prompting erlernen, das kriegt man, ich sag mal auch dann raus,
wenn man tatsächlich mit dem Copilot arbeitet, und da lässt
sie auch leider nicht so ohne weiteres 1 zu 1 prompting
Erfahrung von Jetgpt oder so weiter übertragen, weil gerade
in die Applikation das doch noch ein bisschen anders ist. Aber
wie gesagt, Microsoft hat ja auch in seinen Dokumentationen
schon ein paar gute Anleitungen drin, wie man prompt
ausarbeitet.
Aber meine Erfahrung ist, ihr müsst es tatsächlich
ausprobieren und so ein Gefühl dafür bekommen, wie das Ganze
funktioniert.
Da habe ich mir gedacht, ich erzähle euch noch mal oder
besonders, wir klären noch mal, wie eigentlich der Kobalt jetzt
tatsächlich funktioniert. Also wir haben jetzt gesehen, dass
die Plattform ist da, die ist konfiguriert, die ist
sicherheitstechnisch eingestellt, wir haben den
Copilot in 8 verschiedenen.
Varianten sowie arbeitet der denn jetzt eigentlich
tatsächlich? Und das ist auch wichtig, dass man das einmal
verstanden hat, dafür gibt es ne gute Anleitung und ihr werdet
diese Grafik vermutlich auf diversen Veranstaltungen immer
wieder gesehen habt, das ist die Microsoft COPD für Microsoft 365
Architecture früher war Device, mittlerweile ist die Schwarz die
Folie, ich würde die schwarze Folie empfehlen, weil die ist
ein bisschen hübsch ausgearbeitet, da ist in der
Mitte das copided Logo drin und dann sind da verschiedene
Elemente drin, aus denen.
Diese Architektur besteht.
Und die will ich mit euch jetzt einmal durchgehen, um euch noch
mal so n paar Hinweise zu geben, was man von dieser Architektur
verstanden haben sollte, damit man auch mit dem Kobalt richtig
umgehen kann. Ja, also das Erste, wenn ihr und diese Grafik
hab ich in den Show Notes verlinkt, also wenn ihr sie
nicht habt, die gibt es auf learnmicrosoft.com in dem
Abschnitt über die Dokumentation für Microsoft Copilot für
Microsoft 365 heißt die und da findet ihr Glaube ich
mittlerweile über 100 Seiten, die auch dokumentiert die
Voraussetzung und so weiter und sofort eine Quelle, die ihr
unbedingt.
Legen solltet. Ich habe sie verlinkt, auch in den Shownotes
so also gucken wir uns diese Grafik an. Das Erste, wenn man
darauf schaut ist was einem auffällt ist diese gestrichelte
Linie, die um alle diese kleinen Elemente rumläuft und oben
drüber steht Microsoft 365 Service Boundary und das ist
genau das was sie am Anfang gesagt haben, Punkt 1. Das ist
nämlich die sichere Umgebung, das alles ist in eurer Sicherung
Umgebung angeschlossen, mit der ihr mit euren Daten arbeiten
könnt, das ist nochmal die Visualisierung davon.
So der Coup. Die Architektur besteht aus einigen Elementen,
teilweise sind die Elemente schon in Microsoft 365
implementiert, sind sowieso schon da, andere sind kommen
jetzt hinzu. In der Mitte steht die sogenannte Orchestrierung
Engine, ich sag mal, das ist quasi.
Der Manager, der im Hintergrund läuft und die ganzen Abläufe
dort steuert, die wir uns gleich n bisschen anschauen. Dann gibt
es einmal das Large Language Modell was im Hintergrund
arbeitet, das ist so n Standardmodell. Ich bin mir
nicht ganz sicher ob das schon GPT 4 oder auch GPT 35 ist. Laut
Dokumentation könnte das auch 4 sein, aber ich hab da leider
keine direkte Auskunft, jedenfalls ist ein
Standardmodell was da im Hintergrund läuft, das wird
nicht speziell für euch trainiert, sondern das hat
einfach nur diese Standard Funktion.
Die ja auch dann eben je nachdem 35 oder 4 kennt und entsprechend
damit arbeiten könnt. Dann spielt eine Rolle der Microsoft
Craft, den haben wir ja sowieso in Microsoft 365, darüber werden
ja schon die ganzen Security Verknüpfungen und die Keywords
und all sowas in Microsoft 365 gemanagt, damit eure Suche und
die Suchergebnisse entsprechend funktionieren, darauf greift der
Kophalle zurück und dann hat er noch ein zusätzlich oder bzw
zusätzliche Modelle eingebaut.
Gut, das sind so. Also Microsoft schreibt dazu, der sogenannte
Semantik Index, das semantische Index, und sagt, es sind dort
mehrere Large Language Modelle, die auf den Graph aufsetzen um
Benutzeranfragen zu interpretieren und ausgefeilte,
aussagekräftige und mehrsprachige Antworten zu
erzeugen.
Mit anderen Worten laufen dahinter auch nochmal
zusätzliche Modelle bei diesem Semantic Index.
Der es ermöglicht, einen inhaltliches Verständnis eures
Contents zu erzeugen.
Was ist das wiederum mal ganz einfach drauf gesagt, ihr stellt
im Microsoft 365 Chat die Anfrage sag mir mal was ich mit
dem Kunden Meier in den letzten 3 Wochen gemacht hab und schick
den jetzt an dieses Modell rein.
Wenn er das als Suche in sharepoint ausführt, also in der
Microsoft 365 Suche ausführt, weiß nicht ob er da die
richtigen Ergebnisse bekommen wird. Denn was heißt eigentlich
letzte Woche? Gut, das könnte man auch vielleicht einfrieren,
was heißt was hab ich gemacht ne?
Der semantische Index kann aber verstehen, was gemacht heißt und
was letzte Woche ist und was ich oder was wir damit gemacht
haben. Ja, wenn du sagst, was habe ich gemacht, dann weißt du
gemacht, das heißt im Prinzip.
Was können wir Dokumente dafür zustand? Was können für E-Mails
dazu passen und setzt das dann eben um in ich guck mal nach was
gibt es für E-Mails, was gibt es für Dokumente, was steht in
onenote, gibt es da irgendwas, was jetzt auf diesen Kunden
bezogen ist, was in das Zeitfenster reinpasst? Und wenn
ich sage, was habe ich mit dem Kunden gemacht, dann ist das so
was, wo sind diese Interaktionen, die auch mit mir
verknüpft sind, und wenn ich sage, was haben wir denn
gemacht, dann geht es vielleicht ein bisschen übergreifend
darüber, weil er sagt, Na, wir ist jetzt nicht nur ich, der die
Dokumente oder die E-Mails geschrieben hat, vielleicht
brauchen wir auch noch was, die andere Kollegen damit
geschrieben haben oder die Arbeiter.
Semantische Verständnis dieser Verständnis des der Anfrage und
das umzusetzen in die richtigen Quellen, in die richtigen
Dokumente, in die richtigen Antworten aus dem Microsoft mit
dem der Semantik Index arbeitet, das ist halt.
Der eigentlich die Kernfunktion, die dieses sprach.
Macht. Und wie ist das jetzt eingebaut?
Also gehen wir noch mal zu unserer Anfrage, die ich jetzt
im Chat gestellt habe. Was habe ich letzte Woche mit dem Kunden
XXY gemacht?
Dann.
Habt ihr praktisch im Chat dieses dieses prompt
geschrieben? Das ist ja schon euer prompt und dieses prompt
wird jetzt nicht 1 zu 1 an das Large ranget Modell
durchgeleitet und dann von da aus wieder zurück gekippt, so
wie man es jetzt bei Chat GPT kennen würde.
Sondern es geht durch die sogenannten grounding Prozesse,
das Preprocessing und das Post Processing. Und im Pre
Processing wird halt dieses prompt genommen und wird dann an
den Semantic Index geschickt, an den und der guckt jetzt mal nach
und sagt OK wie ist schon grad gesagt hab was heißt jetzt
letzten 2 Wochen was heißt jetzt was habe ich gemacht das heißt
überhaupt gemacht und setzt quasi jetzt diese Information
zusammen, sucht die Dokumente raus, sucht vielleicht noch
weitere Informationen raus und reichert damit euer prompt an
und baut quasi ein neues prompt was dann kombiniert ist aus
eurer Anfrage plus den relevanten recherchierten
Ergebnissen aus dem Semantic Index über den Microsoft Graph
aus euren Dokumenten, aus eurem Content und schickt dann dieses
modifizierte erweiterte prompt raus an das Large Language
Modell.
Und dieses Large Language Modell nimmt sich dann dieses Mega
prompt dieses richtig mit kontextinhalten Bezug, Anfrage
und so weiter alles aufgeführt wird, nimmt sich dieses prompt
aber.
Es dann ab und schickt die Antwort zurück, die das Large
Modell jetzt entsprechend generieren will. Also wie heißt
mit dem Kunden hast du das und das und das und das und das und
dieses E-Mail und das hat er gemacht, das was da zurückkommt
kommt dann aus diesem Large English Modell und das geht
jetzt auch nicht 1 zu 1 zurück an euch in die Applikation
sondern es geht in das sogenannte Post Processing.
Und dann wird eben noch mal geguckt. OK, die Informationen,
die jetzt hier aus dem Large Language Modell anhand des
erweiterten Prompts zurückkommen, sind denn die
Information ist denn der Benutzer berechtigt, all diese
Informationen zu sehen, stand da auf irgendeiner Information zum
Beispiel n Label drauf?
Was hieß vertraulich? Da muss ich die gesamte Antwort jetzt
auch als vertraulich kennzeichnen. Stand denn da zum
Beispiel drin?
Dass irgendwas nicht nicht ethical ist oder ähnliches. Also
da folgt ne entsprechende Nachbearbeitung.
Des Ergebnisses, ob das diesen ganzen Richtlinien Security
Privacy.
Und Governance entspricht und dementsprechend wird das noch
mal angepasst und erst wenn das fertig ist, dann wird das
Ergebnis dieses noch mal überarbeitete Ergebnis genommen
und zurück an die Applikation geschickt und dann kommt das
Ergebnis in eurem Chat an und ihr seht dann eben, was ihr mit
dem Kunden in den letzten 2 Wochen gemacht habt.
Entsprechend auf diese Auswertung.
Diesen Prozess, den muss man einfach mal verstanden haben.
Dass eben nicht das prompt, was ihr schreibt, 1 zu 1
weitergeleitet wird. Dass das Semantic Index da eine Rolle
spielt, der dieses Verständnis schafft und dass die Security
Privacy Governance.
Alles was dazu gehört, halt über die entsprechende Post
Processing durch den Copilit in Microsoft 365 erfolgt.
Und da gehört dann auch zum Beispiel bestimmte Dinge, dass
man eben so n bisschen Verständnis haben muss. Wo
liegen eigentlich meine Dokumente? Ja, es gibt ja im
Microsoft Graph den User Level Index und den Tenant Level
Index, je nachdem das sind unterschiedlich, sind dort eure
Informationen gespeichert und je nachdem wie schnell dort auch
der Index upgedatet wird.
Hat auch der Code dann erst den Zugriff darauf? Typisches
Beispiel was ich habe, ich arbeite an der Word Datei, habe
die abgespeichert, habe Änderungen gemacht, gehe in den
Chat rein und frage jetzt.
Den Frage jetzt dieses Dokument im Chat ab, weil ich eine
Zusammenfassung haben will und dann bekomme ich die Änderung
noch nicht, weil die einfach noch nicht verarbeitet worden
sind. Da kann es teilweise Zeitverzögerung geben, habe ich
auch öfter gehabt, neues Dokument erstellt.
Abgespeichert dann in was ich n Chat oder n Word reingegangen,
weil ich aufgrund dieses Dokuments jetzt doch mal ne
Zusammenfassung machen wollte oder zum Beispiel Folien in
Powerpoint erstellen lassen wollte, findet er einfach noch
nicht. Der braucht dann erstmal bis dieses im Hintergrund
verarbeitet worden ist.
Und das ist jetzt auch wieder abhängig. Natürlich, wieso die
Updatezeiten eingestellt sind, wie weiß ich was?
Mir einfach angewöhnt, wenn ich irgendwie so n Dokument hochlehe
will damit arbeiten. Ich geh erstmal n Kaffee trinken und
komm dann wieder zurück und guck mal ob das dann schon
referenziert ist.
Ja, auch eine häufig gestellt wurde. Ja, der hat es gar nicht
gefunden, ist gar nicht mit drin.
Hängt auch davon ab, wie schnell der Index darauf reagiert hat.
Ja, also wie gesagt, das könnt ihr auch noch mal ausführlicher
dann in der Learndokumentation nachlesen, wie dieser Semantic
Index funktioniert und wie der gesamte Ablauf des Copilots in
Microsoft 365 funktioniert. Das sollte man verstanden haben,
weil man dann einfach auch wie gesagt, ich rege mich jetzt
nicht mehr auf, dass ich das Dokument nicht sofort finde,
weil ich weiß, es braucht erstmal eine Zeit bis es
verarbeitet worden ist und dann komme ich ein bisschen später
nach.
Das ist halt das, wo man mit dran sozusagen erstmal mit Leben
muss und somit arbeitet. Ob sich das irgendwann mal ändert und
der andere soll ich weiß nicht ob das so sein wird, weil es
braucht halt seine Zeit bis das gemacht und auch diese ganzen
Prüfungsvorgänge brauchen eine Zeit bis die überhaupt
abgearbeitet sind.
Gut also, das ist der Samantic Index, das ist der Copilot 365
Durchlauf und.
Als Fazit davon, wie gesagt, arbeitet, versteht.
Dass die Copiloten Applikationsabhängig
funktionieren, Aufgabenbezogen auf die Applikation sozusagen.
Funktionieren und das ja auch nur die Fragen, die praktisch in
der Applikation sinnvoll sind, vernünftig beantwortet bekommt.
Das ist etwas, denkt daran, wie der ganze Ablauf ist und wenn er
dafür so ein allgemeines Verständnis entwickelt hat, kann
man auch ganz anders mit diesem Copiloten umgehen, weil man
einfach auch gleich in der richtigen Applikation drin ist
und auch an der richtigen Stelle damit arbeitet.
So fassen wir mal kurz zusammen. Also ich hoffe ich hab euch n
halbwegs.
Verständnis dafür vermitteln können, wie das ganze System
funktioniert. Noch mal ganz kurz zusammengefasst, ganz wichtig
Microsoft 365 Co Product rollt diese Sprachmodellplattform bei
euch im Tennant aus, zweitens, ihr müsst entsprechend euren
Tennen vorbereiten, damit der Co Pilot auch vernünftig, sprich
Secure Compliance Governance mäßig und Ethical mit euren
Daten umgehen könnt. Ihr könnt in Eurem Tennant mit euren Daten
sicher kommunizieren und auswerten, das könnt ihr mit
anderen Systemen nicht machen.
Es gibt nicht ein Copilot, es gibt 8 Copilots jeder Kopie ist
für eine spezielle Aufgabe vorgesehen, dementsprechend muss
man mit dem auch anders kommunizieren und kann auch
nicht Anfragen stellen, die einfach in diesem Kontext nicht
sinnvoll sind, dann kriegt man auch keine sinnvollen Antworten.
Prompting ist eine gute Sache, die man.
Einfach lernen muss auch Appspezifisch sich aneignen
muss.
Ihr solltet einmal den Ablauf verstanden haben, wie die
Architektur funktioniert, was der Semantic Index macht, wie
euer prompt da durchgeleitet wird und wie es auch noch
verändert und angepasst wird und was daraufhin euer Ergebnis als
Ergebnis herauskommt. Und immer überprüfen. Ihr bekommt die
Quellen angezeigt, könnt dort nachschlagen, könnt sehen, ob
das alles richtig ist, ob vollständig ist. Prüfen ist
immer ganz wichtig, weil ihr solltet gerade auch in dieser
Anfangsphase auf das, was der Kopern daraus schmeißt, nicht
blind vertrauen, definitiv nicht.
Ihr könnt ein gewisses Vertrauen, wenn du länger damit
arbeitet und werdet ihr gewisses Vertrauen zu dem Group Halt
aufhören und werdet schon wissen, wo ihr noch mal
nachgucken müsst, weil da macht er irgendwo immer eine
Schwierigkeit oder ähnliches. Das sollte man prüfen.
Ja, und das wären eigentlich so meine Themen.
Thema Wie freue ich mich mit dem Microsoft 365 Copilot an, ist es
ne gute Idee den auszurollen oder sollen wir einfach noch mal
länger warten? Es ist definitiv eine gute Idee sich damit zu
beschäftigen.
Weil wir alle haben im letzten Jahr lernen dürfen, wie schnell
eine technologische Entwicklung gehen kann. Und wenn ich sehe,
was heute schon an anderen Modellen oder was andere Modelle
mittlerweile machen oder was auch.
Mit GPT 4 macht oder was? Mit den Videos ginge kommt was
gerade technologisch in dem ganzen Bereich passiert, dann
sind da schon so starke Fortschritte, dass man manchmal
schon das Gefühl hat, oh was da im Kobalt geht ist.
Ja, schon n bisschen älter, da gibt es doch ganz viele andere
Möglichkeiten. Aber immer dran denken, es ist halt die
Möglichkeit, sicher mit eurer Umgebung zu kommunizieren, das
ist, das ist das A und o bei dem ganzen und das wird kommen und
deshalb kann man sich glaub ich gar nicht früh genug damit.
Beschäftigen, was man mit dem ganzen Magern und wichtig
natürlich auch.
Um den richtigen Einstieg zu finden, hab ich jetzt mal auch
gesagt, findet Use Cases findet Use Cases wo ihr die KI
Unterstützung besonders gut nutzen könnt und wo ihr mit
Arbeiten könnt und dann könnt ihr euch glaub ich auch recht
gut und relativ schnell auch.
In diese Technologie einarbeiten und könnt auch von dieser
Technologie letztlich profitieren, denn das ist ja
auch ein Anspruch dieses Podcasts, dass er euch zeigt,
wie ihr mit Hilfe dieser Technologie produktiv arbeiten
könnt.
So freue mich über euer Feedback. Danke fürs Zuhören,
hoffe es hat euch ein bisschen weiter gebracht und dann hören
wir uns im nächsten, der nächsten Ausgabe wieder. Freut
mich, wenn ihr diesen Podcast subscribt. Ich hab auch schon
viele.
Nettes Feedback bekommen vielen Dank für die Rückmeldung und
wenn ihr es auf den Plattformen Like und Subscribed und auch mal
diesen Podcast als weitere Informationsquelle ein bisschen
euren Post berücksichtigt, würde ich mich freuen.
Vielen Dank und Tschüss bis zum nächsten Mal, sagt der Michael
Greth.
Your Copilot der Podcast, der hilft, die künstliche
Intelligenz in der Microsoft 365 Welt zu verstehen und produktiv
anzuwenden.
Mit eurem Copiloten Michael Greth.