[Musik]
Hallo und herzlich willkommen zu Episode 17 von Zwischen zwei Deckeln, dem Podcast,
in dem wir euch jeden Monat ein spannendes Sachbuch vorstellen.
Mein Name ist Nils und mit mir ist heute Christoph mit dabei. Hallo zusammen.
Genau wie immer, die klassische Besetzung. Ich hoffe euch da draußen geht es gut.
Ihr habt die erste Hitzewelle gut überstanden. Es werden fürchterweise wahrscheinlich noch ganz viele kommen.
Schön, dass ihr da seid, dass ihr eingeschaltet habt. Christoph, was liest du gerade?
Gerade frisch auf dem Schreibtisch angekommen, weil gebraucht gekauft ist
Engagement und Distanzierung von Norbert Elias, in dem er so zumindest die Rezension
so ein bisschen nachzeichnet, wie moderne Wissenschaft funktioniert und wie man sich auch als Wissenschaftler
in seiner eigenen Forschung verorten sollte, verorten kann, wie auch immer.
Das ist dann bei ihm natürlich immer so in Relationsbegriffen gedacht, weil er es immer so macht.
Genau, das steht an und dazu bin ich bald fertig mit "Die Zeuginnen" von Margaret Edward,
also dem neulich erst erschienen Nachfolger zu "Der Report der Markt".
Das hast du auch gelesen, ne? Ja, das habe ich auch gelesen.
Ich glaube Ende letztes Jahr oder so und in meinem anderen Podcast "Weltenflüster" auch rezensiert,
also wer Interesse hat, mache ich hier mal den Spoiler, den Werbenblock und danke für die Vorlage Christoph.
Sehr gern. Und du? Was siehst du? Ja, bei mir gibt es als Sachbuch gerade "Zeit der Zauberer" von Wolfgang Eilenberger
oder Eilenberger, ich kann es mir nicht merken. Das liegt ja auch in den Buchhandlungen,
glaube ich, dass er lange Zeit sehr prominent aus. Das ist im Grunde ein Buch, wo er die Zeit,
ich meine zwischen 1919 und 1929, sich philosophisch anguckt und zwar so, dass er im Grunde vier Philosophen
nebeneinander stellt und im Grunde für jedes Jahr oder manchmal auch für zwei oder drei Jahre
deren Entwicklung in diesen Jahren aufzeigt und dann ja im Grunde ein bisschen Parallelen zieht
zwischen den Entwicklungen. Er hat da Wittgenstein, Heidegger, Casirer und Benjamin,
die so zur gleichen Zeit sich mit sehr ähnlichen Dingen, Casirer vielleicht ein bisschen außen vor,
rumgeschlagen haben. Eben nicht nur philosophisch, sondern auch biografisch.
Und das macht er so ein bisschen parallel. Was philosophisch nicht ganz ohnezumal, ich von allen vier
nachher herzlichen wenig Ahnung noch habe, aber es ist durchaus spannend. Ich habe jetzt gerade gesehen,
dass von dem Eilenberger oder Erlenberger jetzt Ende des Jahres auch ein Buch über die Zeit 1933 bis 1945
irgendwie erscheint, wo es wahrscheinlich auch um Philosophie geht. Da bin ich auch mal sehr gespannt drauf.
Das ist definitiv auch interessant. Ich hatte ja immer mal überlegt, ob wir noch mal über das Café
der Existenzialisten hier sprechen sollten und da ist das dann ja auch Thema gerade, wenn es um Heidegger
und Arendt geht und auch Heidegger und Jaspers und so und Antisemitismus und Nazikollaboration und
Abgrenzung und so weiter. Wichtige und spannende Themen. Und einen Roman lese ich gerade "Shawfall" von
Robert Jackson Bennett. Das ist ein Fantasy-Roman über Hacking und Fake News und Algorithmen, also passend
zum heutigen Buch, wenn ich so viel spoilere. Das ist total spannend. Das ist eine total geniale Welt,
die der gebaut hat. Das ist der zweite Band der Reihe. Der erste Band heißt... ja, den habe ich auch in meinem
Fantasy und Science-Fiction-Podcast rezentiert. Ich habe mir gerade entfallen, wie er heißt.
Foundryside heißt er. Jetzt weiß ich. Foundryside. Genau, das liegt bei mir gerade auf dem virtuellen Tisch.
Gut, heute bist du ja dran uns ein Buch vorzustellen. Letztes Mal war ich dran. Erinnerst du dich noch, worum es ging?
Ja, da ich das Buch dann tatsächlich auch für die Episode heute benutze, verinner ich mich ganz gut. Du hast uns
das Zettelkastenprinzip von Sönke Arends vorgestellt, wo es im Prinzip darum geht, dass vorgestellt wird, wie man
eigentlich ganz klug und clever seine eigenen Notizen für das wissenschaftliche Arbeiten, würde ich sagen,
vor allen Dingen aufbereiten kann. Sönke Arends orientiert sich da am Zettelkasten nach Niklas Numan im Prinzip
und gibt eine Einführung daran, wie man irgendwie Texte so abfassen kann, dass man sie am Ende klug neu
kombiniert und eigene Gedanken noch dazu fassen kann. Genau, und so habe ich dann heute auch das Buch von heute
aufbereitet. Von daher mal gucken, wie gut das für mich geklappt hat. Du hattest letztes Mal mit gleicher Technik
ja das Buch selbst schon quasi vorbereitet. Mal schauen, wie es gelingt. Ganz im Sinne des Systemtheorie ganz
selbstreferenziell. Ja, stimmt. Gut, ja du hast uns heute ein Buch mitgebracht, was thematisch irgendwie
so ein bisschen daneben hängt, also da durch das Anschluss fähig sein könnte eventuell. Du hast uns mitgebracht
"Hello World - Was Algorithmen können und wie sie unser Leben verändern" geschrieben von Hannah Fry.
Die gute ist Senior Lecturer, sagtest du am University College of London für, hier steht, du hast notiert
höhere räumliche Statistik. Ich kann mir da sehr wenig darunter vorstellen, aber deswegen muss man
wahrscheinlich Professorin dafür sein. Erschienen ist das Buch bei CH Beck letztes Jahr 2019 und wie es bei dir
Christoph nicht so ganz unüblich ist, hast du wieder die BPP Version dir vorgenommen. Ja, ich bin gespannt.
Algorithmen ist ja doch auch ein Thema, was wir hier ja auch mal schon ein bisschen hatten mit der Steffen
Mau episode oder auch mit der Roboterethika passt das ja auch irgendwie zu. Ich bin gespannt, magst du uns
erstmal so ein bisschen den kurzen Überblick geben? Ja, mach ich gerne, genau. Also zu Hannah Fry, wenn das
gerade eben nicht rausgekommen ist, ist vielleicht noch ganz gut einfach zu wissen, genau höhere
räumliche Statistik deutet es ja schon an. Sie ist Mathematikerin, was insofern ganz schön ist, als dass
ich glaube, dass sie die technischen Hintergründe hinter Algorithmen und deren Programmierung tatsächlich
ganz gut verstehen kann und eben nicht aus so einer geisteswissenschaftlichen Perspektive kommt, wo man
vielleicht manchmal nur meint, dass man verstanden hat worum es geht und ich glaube sie hat es wirklich
durchdrungen. Kommen wir zur Zusammenfassung. Also sie zeichnet in ihrem Buch "Hello World" ein differenziertes
Bild von Algorithmen in der modernen Welt. Sie wiegt dabei in verschiedenen Lebensbereichen vor gegen
Nachteile des Einsatzes von Algorithmen miteinander ab und kommt immer wieder zu dem Schluss, dass Algorithmen
ebenso viele Chancen wie Risiken bergen. Dabei stehen bei ihr Probleme im Umgang mit vertraulichen Daten,
Fehleinschätzung von Algorithmen und Übervertrauen in die technische Kompetenz und Leistungsfähigkeit von
diesem Computerprogramm im Zentrum ihrer Überlegung. Das heißt, ja sie orientiert sich an, ich glaube es
sind fünf Abschnitte im Buch. Einmal Macht, Daten, Justiz, Medizin, Autos und Kriminalität. Da wirft sie
immer so Unkunst, so schlaglichtartig bespricht sie da eben wie Algorithmen teilweise eingesetzt werden
und wie gut das so funktioniert und welche Probleme das mit sich bringt. Und ich finde, ja sie zeichnet
eben ein differenziertes Bild und sagt nicht, dass es jetzt irgendwie insgesamt übermäßig bedrohlich ist.
Sie hält Algorithmen auch noch nicht für unfassbar leistungsfähig, also so die Idee einer KI, die irgendwann
kommt und viel klüger ist als der Mensch oder so, sagt sie abwarten. Soweit sind wir lange noch nicht.
Wir sind irgendwie so auf einem Level, die klügsten neuronalen Netze sind so clever wie so ein Erdwurm.
Und zwar also wirklich, das ist alles noch nicht ganz so wild. Aber sie sieht eben auch, was schon möglich ist
und ich finde, sie hat da sehr gut irgendwie die Mitte gefunden. Sie steigt ein damit, dass sie erstmal
beschreibt, was sie meint, wann das von ihr sogenannte algorithmische Zeitalter begonnen hat. Und da sieht sie
1997 eigentlich als zumindest einen Startpunkt. Da hat nämlich Kasparov im Schach gegen Deep Blue verloren,
also ein Roboter von IBM. Ich glaube daran erinnern sich vielleicht auch noch einige.
Tatsächlich auch noch, so gerade. Also ich habe es nicht so, also ich kenne das Datum quasi als Ereignis,
aber ich habe es selbst nicht, ich war da vier, noch nicht so ganz präsent gehabt.
15 Unschatt interessiert, da verfolgt man das schon ein bisschen.
Ganz schön, am Ende klammert sie das Buch so ein bisschen und weist darauf hin, dass Kasparov sich danach dem Schach
überhaupt nicht abgewandt hat, also in so einer Frustration, wie man es vielleicht denken könnte, sondern
quasi so als lebendes Beispiel für Computer und Mensch zusammen können ganz gut funktionieren.
Er hat sich dem sogenannten, ich habe vergessen wie es heißt, Computerschach oder so zugewandt, wo im Prinzip
immer eine KI zusammen mit einem Menschen gegen einen anderen Menschen mit einer KI spielt.
Damit man so ein bisschen die Idee ist, Menschen können irgendwie ganz gut sich Strategien und Taktiken
zurücklegen und Computer können eben sehr gut berechnen und zusammen spielt man ein noch anspruchsvolleres Schach,
als es nur der Computer kann oder nur der Mensch.
Naja und sie vertritt die These, dass Algorithmen heute quasi in jedem Aspekt des modernen Lebens irgendwie eine Rolle spielen
und manchmal gucken wir einerseits so ein bisschen verächtlich auf sie herab und gleichzeitig bewundern wir sie
und lassen uns auch manchmal ein bisschen einschüchtern.
Sie stellt sich im ersten Kapitel ein bisschen die Frage, ob wir schon zu viel Macht abgegeben haben oder
ob wir noch genug Kontrolle über Algorithmen haben.
Ja, danach, wie es sich für ein gutes Buch gehört, definiert sie erstmal, was ein Algorithmus ist.
Sie sagt, das ist ein schrittweises Verfahren, um Probleme zu lösen oder ein Ziel zu erreichen,
insbesondere mit einem Computer. Nach dieser Definition, sie schreibt, sie ist auch ein Kuchenrezept, ein Algorithmus,
aber natürlich ist das hier nicht gemeint, sondern ist es gemeint, dass Algorithmen fast immer mathematische
Objekte sind, die am Ende mathematische Gleichungen in Computercode umsetzen und damit halt ein Ziel verfolgen.
Sie sagt, dass es vier Typen von Algorithmen gibt, da ist einmal die Priorisierung von ihr genannt, also geordnete
Listen, wie man das zum Beispiel von Google kennt oder wenn einem ein Navigationsgerät eine schnelle Route
berechnet, gibt es sowas wie Klassifizierung, also es werden Kategorien ausgewählt, das können wir aus dem
Internet bei Werbeanzeigen, wenn uns eine Werbung geschaltet wird, die niemandem anderen geschaltet wird.
Und Algorithmen sind sehr gut darin, Kombinationen zwischen Dingen zu finden oder zwischen Personen, das wird
zum Beispiel bei Dating-Apps genutzt oder wenn Amazon dir Kaufvorschläge vorschlägt, oder wenn Algorithmen
eingesetzt werden, das ist der vierte Punkt, um wichtige Sachen von anderen abzugrenzen, also wenn sie filtern,
das muss geschehen, bei Spracherkennung zum Beispiel oder wenn dir ein personalisierter Feed in sozialen Netzwerken
generiert wird. Das sind also die vier Typen, darauf geht es im weiteren Verlauf gar nicht so ein, aber ich
dachte, es ist einmal schön, das erzählt zu haben.
Das ist eine schöne Systematisierung.
Ja, und sie sagt dabei, lassen sich einerseits regelbasierte und andererseits selbst lernende Algorithmen voneinander
unterscheiden, also einmal programmiert man quasi alles ein, was man so ausgespuckt haben möchte und einmal gibt
man das an die jetzt bekannten neuronalen Netzwerke ab und die lernen von allein. Und um Letztere geht es im
Großen und Ganzen auch in dem Buch. Sie glaubt nicht so richtig, dass Algorithmen heute schon wirklich
intelligent sind. Dazu ein Zitat von ihr, sie sagt, wahrscheinlich wäre es nützlicher, wenn wir die
Entwicklung als eine Revolution der Computer-Statistik betrachten würden, statt einer Revolution der
Intelligenz. Also sie sagt, unsere statistischen Verfahren sind deutlich besser geworden in den letzten
Jahren, aber Selbstdenken oder so kann da halt nichts und von daher ist es auch ein bisschen überhöht von
Intelligenz zu sprechen.
Ja, da steckt halt diese Idee hinter, dass wir, dass wir, dass Intelligenz im Grunde auch nichts anderes ist als eine
effiziente Berechnung sozusagen auf irgendwie Informationsverarbeitung. Das ist hier Hirn als Computer quasi.
Ja, genau.
Weil wenn du das annimmst, dann kannst du sagen, ja, wenn die Computer-Statistik besser wird, wird die Intelligenz
besser, weil Intelligenz nichts anderes ist als Computer-Statistik, aber das ist halt doch umstritten.
Ja, das so stimmt. Ja, und sie sagt, im Umgang mit Algorithmen kommt es zu etwas, was sie Algorithmusparadox
nennt. Also einerseits ist es so, dass wenn wir wissen, dass Algorithmen fehleranfällig sind, vertrauen wir
ihnen häufig zu wenig und verlassen uns wieder auf unser eigenes schlechtes schwarz-weiß-denkendes Urteilsvermögen.
Aber wenn wir glauben, Algorithmen funktionieren und kennen ihre Fehlanfälligkeit nicht, dann vertrauen wir
ihnen auch übermäßig. Also es ist so ein bisschen schwierig und da ist auch wieder Ihr Thema zu schauen, wie
kriegt man eigentlich eine Mitte hin zwischen vernünftigen Vertrauen in Algorithmen und aber dem gleichzeitig
ein bisschen darum, dass die halt auch nicht völlig fehlerlos sind. Ja, das ist so ein bisschen der Abschluss
ihres Themas.
Das ist ja wirklich dieses Schwarz-Weiß-Denken, ne?
Ja, so wirklich. Entweder man vertraut den halt voll oder gar nicht und beides ist eigentlich nicht so richtig
hilfreich, wenn man irgendwie ernsthaft vorankommen möchte in was auch immer man gerade tut.
Du hattest jetzt gesagt, in dem Kapitel würde es um Macht gehen. Ich habe jetzt da sehr wenig Macht rausge-
Ja, genau, das hat mich auch ein bisschen irritiert. Ich weiß nicht, ob das merkwürdig übersetzt ist, wobei
wenn man eigentlich nur ein Wort übersetzt als Kapitelüberschrift, ist das ja nicht so schwierig.
Ja, schon, gerade wenn es das Wort Power ist. Das könnte man auch als Fähigkeit sozusagen, Möglichkeiten
übersetzen.
Ja, ich habe es im Original jetzt natürlich nicht nachgeguckt. Das wäre aber auch meine Kritik an dem Kapitel
tatsächlich gewesen, dass mir nicht so richtig deutlich geworden ist, wo etwas mein Macht eigentlich.
Ich glaube, es geht dabei schon darum, so ein bisschen die Frage, wie viel sollte man an Algorithmen in der
Berechnung von verschiedensten Sachen abgeben und wie viel Kontrolle braucht es durch Menschen und wie
Transparenz in Algorithmen. Aber es zieht sich eben durchs ganze Buch und von daher finde ich auch, dass die
Überschrift da jetzt nicht so ganz passend gewählt ist. Naja. Ihr zweites Kapitel, wo es dann so ein bisschen
ins Konkreter geht, ist eigentlich die Erkenntnis, wann erkannt wurde, dass Daten über Personen relevant sind, wenn man
Dinge verkaufen möchte. Sie startet mit den bekannten Clubkarten von Supermärkten. Ich weiß nicht, ob du eine
Payback-Karte oder so hast.
Ja, haben wir tatsächlich seit der Kleine da. Weil wir automatisch immer zur Rewe und DM gehen, weil das die
nächsten Supermärkte sind und da funktioniert halt Payback. Ja, genau. Wir haben auch Payback und wir haben auch eine
Deutschland-Karte. Wir machen also auch mit. Und ja, das ist eigentlich ein recht schönes Beispiel. Sie sagt, dass bei den
Supermärkten die Erzten, die erkannt haben, dass so Datensammeln von Käufer*innen ganz clever ist, waren das von
Tesco. In der UK zumindest. Also sie kommt auch aus der UK. Also ich weiß nicht genau, inwiefern das so ein bisschen
biased ist, was sie da sagt, aber sie nimmt das eben häufig als Beispiel. Die haben nämlich festgestellt, okay, wir sammeln
nur recht wenige Daten eigentlich. Also wo kommen die Leute her und wie viel geben sie aus? Und dafür gibt es eine Clubkarte.
Aber sobald die Leute so eine Mitgliedskarte haben, geben sie im Schnitt 4% mehr auf. Und das ist für den Supermarkt
relativ viel.
Ist das wirklich ein Vor- und Nachhervergleich bei denselben Leuten oder ist das ein Vergleich zwischen den
Leuten mit Clubkarte und nicht Clubkarte zum selben Zeitpunkt?
Oh, das kann ich dir gar nicht genau sagen.
Im letzteren Fall würde ich das für ein pure statistisches Artefakt halten. Im ersteren Fall okay.
Weil klar, dass die Leute, die mehr ausgeben, wahrscheinlich eine Clubkarte haben, finde ich total logisch.
Ein guter Punkt.
Aber gut, dass das jetzt der statistische Niveau ist.
Verdammt, bis ich das jetzt nachgeschreibe, dauert es vermutlich auch ein bisschen. Aber ein guter Hinweis.
Naja, auf jeden Fall waren das die ersten, die so ein bisschen erkannt haben, wenn wir Leute an uns binden und ein bisschen Daten erheben,
dann kommen die auch zu uns und geben mehr aus. Das heißt, die paar Rabatte, die wir gewähren, kriegen wir auf jeden Fall wieder raus.
Und dann hat das letztlich dazu geführt, dass Tesco in der UK auch die bestimmte Supermarktkette wurde.
So sagt zumindest Fry. Ich weiß nicht genau. Mein Bild von der UK ist da ein bisschen differenzierter.
Also ich habe das Gefühl, es ist nicht nur Tesco, die es noch gibt. Aber gut, so die These aus diesem Buch.
Ich weiß natürlich nicht, was schon alles zu Tescos gehört.
Das ist eine gute Frage. Aber Sainsburys und so, die scheinen mir zumindest unabhängig zu sein.
Könnte mir zumindest vorstellen, dass wenn Sainsburys zu Tesco gehörte, sie auch Tesco genannt hätten.
Das kann natürlich sein. Das weiß ich jetzt nicht.
Ich weiß es auch nicht. Von da aus geht sie über dazu, dass es heute eben Firmen gibt und es nicht mehr Supermärkte allein stemmen,
die darauf eingestellt sind, ganz große Datensätze zu erstellen und zu erheben.
Und gerade im Internet mit personalisierter Werbung dafür sorgen, dass das Internet insgesamt eigentlich erträglicher wird,
weil wir eben Werbung angezeigt bekommen, die sich nah an unseren Interessen bewegen sollte
und wir nicht laufend mit Sachen bombardiert werden, die wir überhaupt nicht spannend finden.
Aber da geben sich natürlich verschiedene Probleme. Also einerseits gehen diese Datensammelfirmen natürlich manipulativ vor.
Das heißt, Werbung für Glücksspiele könnte an möglicherweise instabile Kunden angezeigt werden,
wo man denken könnte, ja, okay, vielleicht sind die da recht anfühlig für oder sowas wie ja recht böse Kurzzeitkredite
könnten an Personen mit schlechter Bonität ausgegeben werden oder bzw. nicht ausgegeben werden, sondern vorgeschlagen werden.
Und es ergibt sich auch immer wieder, dass ganze Browser-Datensätze eingekauft werden, die dann nur scheinbar anonym sind.
Das heißt, man glaubt, man hat so einen Browser-Datensatz und da kann man nichts draus finden.
Aber wenn man dann irgendwie nur drei, vier Adressen miteinander verlinkt, dann kann man schon ganz gut rausfinden.
Sie hatte ein Beispiel von einem Richter, der so für Babykram geschoppt hat und eben auch sich selbst ein paar Mal gegoogelt hat
und dazu dann eben pornografische Inhalte aufgerufen hat, was natürlich an sich überhaupt nicht verwerflich ist.
Aber sie weist einfach darauf hin, dass Browser-Datensätze schon nur so scheinanonym sind und halt massenhaft eingekauft werden.
Ja, und so Filme wie Cambridge Analytica nutzen dann sowas und weiten das eben von Werbung auf politische Botschaften aus.
Ja.
Ja, da sieht sie so ein bisschen die Probleme in dem Bereich.
Und was diese Datenhändler generell machen, ist, dass diese Informationen, die sie sammeln,
zu einer Gesamtbewertung von Personen immer wieder zusammengefasst werden.
In Deutschland kennen wir das zum Beispiel von der Schufa, wo wir einfach einen Prozentwert zugeteilt bekommen
und das auch ohne, dass wir sehr bewusst und sehr konkret dem zustimmen und natürlich etwas weitergetrieben.
Ich glaube, das ist ja mittlerweile auch relativ bekannt, ist dieses Bewertungssystem "All in China",
was eingesetzt wird von der Firma Sesame Credit, was da eben in konkrete Punkte Bewertung von Personen umgeschlagen ist.
Das heißt, wenn man eine Bewertung von über 600 hat, was aus verschiedensten Daten zusammengesetzt wird,
kann das bedeuten, dass man eine besondere Kreditkarte bekommt oder wenn man über den Punktewert von 666 kommt,
dann kriegt man einen höheren Kreditrahmen.
Warum gerade diese Zahl?
Ich finde das sehr lustig.
Aber ich meine, gerade im christlichen ist die 666 ja nun sehr eindeutig belegt.
Soziale Systeme von Nicolas Newman hat bei der Reihe der Suhrkamp-Taschenbuchwissenschaft
soziale Systeme von Newman die 666 bekommen.
Auch sehr schön.
Es wird auch gemunkelt, ob das so ganz zufällig war oder nicht.
Und wenn man da eben rüberkommt, dann kriegt man einen höheren Kreditrahmen.
Das war bislang eben nicht verpflichtend, soll aber wohl, sagt sie in dem Buch, ab 2020 Pflicht werden,
dass man dieses System benutzt und wenn dann eben so Datensätze mit gewinnorientierten Firmen zusammenkommen
und staatliche Überwachung wird es natürlich langsam richtig heilen.
Das heißt, da sieht sie in dem Bereich einerseits so ein bisschen die Optimierung der Werbung
und der Interessengeleitetheit, wie man es nennen möchte,
und auch so personalisierten Newsfeeds sieht sie nicht so kritisch,
wobei ich sagen würde, auf Twitter zum Beispiel waren die Leute ja nicht so begeistert,
als von chronologische Timeline auf personalisierte Timeline umgestellt wurde.
Also das sieht sie eigentlich noch relativ stark als Wohltat, aber sobald das irgendwie darüber hinausgreift,
findet sie das schon problematisch und weist halt auch darauf hin,
dass wir über viele Nutzungen unserer Daten nicht so richtig Bescheid wissen.
Also wer da welche Datensätze von uns schon gekauft hat, ist uns eben nicht klar, was damit gemacht wird.
Ich finde das bei Twitter so lustig, ich habe diese ganze Umstellung nicht mitgekriegt,
weil ich nur Tweetdeck und Third-Party-Clients nutze.
Da bin ich weit aber chronologisch, ich habe die ganze Aufregung darüber nicht verstanden,
bis ich letztens aber vor einiger Zeit mal auf die Webseite gegangen bin, dann habe ich es verstanden.
Mit Tweetdeck bin ich leider nie so richtig klargekommen, irgendwie passt mir das Interface so absolut überhaupt gar nicht.
Ja, sobald man mehr als einen Account hat, wird das sehr sehr sinnvoll,
wenn man eben verschiedene Sachen gleichzeitig sehen kann und mehrere Accounts in einer Liste und so.
Das ist dann schon echt praktisch.
Ich habe das auch entsprechend eingerichtet, aber nie genutzt.
Ja, und nach diesem Kapitel, wo es eben sehr konkret um Daten geht, geht sie über dazu,
wie Algorithmen heute in der Justiz eingesetzt werden.
Und sie beginnt das Kapitel damit und das macht sie eigentlich immer so,
dass sie ein sehr konkretes Beispiel hat, an dem man sich so ein bisschen langhangeln kann und dann geht sie weiter ins Detail.
Und hier beginnt sie eben damit, dass südlich von London 2011 es offenbar so ein bisschen Krawalle und Unruhen gab,
ich weiß gar nicht mehr warum genau, und zwei Männer wurden in dem, also bestimmt noch viel mehr,
aber zwei Männer wurden sehr unterschiedlich verurteilt.
Einer war auf dem Heimweg, glaube ich, und da war so ein niedergebrannter Supermarkt und er hatte Durst und er ist da rein,
hat sich eine Kiste Wasser genommen und getrunken und naja, dann ist er nach vorne gegangen und die Polizei war da
und er wurde verurteilt, war festgenommen, er hatte in einem Plünderung beteiligt und musste sechs Monate ins Gefängnis.
War eigentlich aber relativ zufällig vor Ort.
Ein anderer Mann hat sich maskiert im Zuge der Unruhen, also hat mitgekriegt, oh, okay, da ist einiges los.
Ist dann ein paar Tage später, als das noch weiterging, eben extra vermummt in eine Einkaufs-Mall gerannt
und hat aus einem Laden Computerspiele geklaut und er bekam eine Bewährungsstrafe und 200 Sozialstunden aufgebrummt.
Na ja.
Sie geht gar nicht genau im Licht darauf ein.
In der aktuellen Diskussion würde ich mal vermuten, dass die beiden nicht die gleiche Farbe im Gesicht hatten.
Ja, habe ich gerade nicht so ganz auf dem Schirm, kann aber gut sein.
Darauf geht sie gar nicht weiter ein, also sie will gar nicht so sehr zeigen, welche Rassismen da gewirkt haben,
auch wenn sie da immer wieder darüber spricht, sondern sie zeigt erstmal auf, okay, im Zuge eines Gerichtsverfahrens
kann es im Sinne der Wahrheitsfindung, das ist ja eigentlich das Ziel einer Gerichtsverhandlung,
zu ganz unterschiedlichen Schuldauslegungen kommen.
Ja.
Und das Justizsystem an sich ist auch gar nicht darauf ausgelegt, besondere Präzision in der Urteilsfindung
oder auch Wissenschaftlichkeit in ihren Urteilen zu garantieren.
Und durch die Möglichkeit von Berufungsverfahren ist das ja auch extra so angelegt.
Also niemand geht davon aus, dass es für die gleichen Vergehen eigentlich immer das gleiche Strafmaß gibt oder auch geben sollte.
Also es gibt Justizsysteme auf der Welt, wo das so ist, aber das führt eben zu anderen Ungerechtigkeiten,
weil man dann teilweise vor Strafen oder so gar nicht mehr mit einbezieht oder die Not, aus der gehandelt wurde.
Also wenn jemand irgendwie ohne Ticket fährt, kann man das ja auch unterschiedlich bestrafen.
Und wenn es dafür eben festgelegte Strafsätze gibt, verliert man zum Beispiel aus dem Blick, wenn ein Manager das macht,
weil er einfach keine Lust hat, sich ein Ticket zu kaufen oder keine Zeit hat und eine andere Person muss das eben machen,
weil sie kein Geld mehr hat oder so.
Und wenn man das gleich bestrafen würde, wäre das eben auch ungerecht.
Klar.
Worauf sie ein bisschen dann hinaus will, ist, dass es erschreckend ist, wie sehr sich Richter*innen auch selbst widersprechen in ihren Urteilsfindungen.
Also wie zufällig die teilweise sind.
Sie zitierte ein Experiment, wo Richter*innen 41 Fälle von beschriebenen Straftaten vorgelegt wurden.
Und in diesen jeweils 41 Fällen, die wurden zweimal vorgelegt, waren sieben Fälle gleich mit anderem Namen und anderem Geschlecht.
Und die Richter*innen wichen von ihren eigenen Antworten extrem stark ab.
Man hätte die Kaution, um die es da ging, auch nach dem Zufallsprinzip vergeben können.
Krass.
Ja.
Also, dass unterschiedliche Richter*innen zu unterschiedlichen Schlüssen kommen, ist das eine.
Dass sie sich bei gleicher Falllage selbst widersprechen, je nachdem, was sie heute vielleicht gefrühstückt haben oder wie es ihnen geht, ist ein bisschen das andere.
Hallo, Reliability im wissenschaftlichen Analyse-Kontext.
Wie gesagt, sie weist aber direkt darauf hin, dass normierte Gleichbehandlung auch nicht zu fairen Ergebnissen führt.
Sondern sie sagt, man muss so ein bisschen ein Gleichgewicht finden zwischen einem individuellen Urteil, was der Person angemessen ist, und den Umständen und einer allgemeinen Gleichbehandlung zwischen Fällen.
Und die Frage ist natürlich, können Algorithmen helfen?
Dabei sagt sie, dass Algorithmen absolut nicht dazu in der Lage sind, über Schuld an sich zu entscheiden.
Also sie können nicht sagen, inwiefern eine Person verantwortlich ist.
Ich verweise hierbei mal auf die Roboter-Ethik-Folge, wo wir das ausführlich besprochen haben, was Roboter da können oder Algorithmen.
Aber was Algorithmen ganz gut können, ist anhand von Statistiken Straffälligkeitsrisiken berechnen.
Und das machen sie dann häufig anhand von Entscheidungsbäumen.
Die kennen wir alle noch aus der Stochastik.
Man probiert irgendwie anhand von vier, fünf Fragen, geht man immer so abzweigunglang, ja, nein, ja, nein, ja, nein.
Und am Ende hat man das aufgedröset in verschiedenste Möglichkeiten, wie eine Person sich verhält.
Und wenn man ganz viele von diesen Entscheidungsbäumen nimmt, kriegt man eine statistisches Mitte raus, wie sich Menschen verhalten werden.
Das Problem dabei ist, Algorithmen können falsch negative Ergebnisse liefern.
Das heißt, sie können quasi Menschen, die wieder straffällig werden, laufen lassen.
Oder man sorgt dafür, dass man Menschen, die vermutlich nicht noch mal straffällig werden, einsperrt.
Also ein falsch positives Ergebnis.
Heute werden Algorithmen häufig dafür eingesetzt, um zu berechnen,
sollte man Leute auf Kaution aus dem Gefängnis lassen oder nicht.
Und Gerichte haben dabei häufig die Sorge, dass sie Fehler machen.
Und nehmen dann dankend in Kauf, dass es Algorithmen gibt, die diese Arbeit abnehmen.
Und einzelne Richter*innen nicht mehr belangbar machen.
Also sie können nicht mehr zur Rechenschaft gezogen werden, wenn man sagt, naja, der Algorithmus hat entschieden.
Dabei ist ein ganz großes Problem, das wir gerade eben schon angesprochen haben, dass Algorithmen immer wieder rassistisch agieren.
So zidiert sie den Algorithmus Compass, der offenbar viel eingesetzt wird.
Der ein doppelt so hohes Risiko berechnet hat zumindest mal.
Dass man als hochrisiko Straftäter eingeschätzt wird, wenn man schwarz ist.
Und andersrum ist es doppelt so wahrscheinlich, dass man als geringer Risiko Straftäter eingeschätzt wird, wenn man weiß ist.
Da ist es ein bisschen schade, sie geht in die Erklärung, warum die sich so rassistisch verhalten, diese Algorithmen nicht so richtig tief rein.
Sondern begründet das damit, dass quasi Menschen Algorithmen programmieren.
Und der Rassismus, der eben unter uns Menschen vorhanden ist, quasi auch in Algorithmen einprogrammiert wird, wie genau das funktionieren soll.
Relativ einfach jetzt zumindest meines Halbleinverständnisses, weil im Grunde diese Klassifizierungsalgorithmen, die gehen ja immer auf Korrelation.
Und wie tritt ein Merkmal mit einem anderen auf und wenn du dir jetzt halt die Hautfarbe anguckst, da laufen halt viele und die gehen auch vor allen Dingen darauf, dass sie quasi sagen, wir haben hier 10 Variable mit denen das korreliert.
Wir wollen aber nicht alle 10, wir wollen die zwei mit denen es am stärksten korreliert.
Und wenn du jetzt eine Variable drin hast wie Hautfarbe, die durch unseren systematischen Rassismus mit so vielen anderen Benachteiligungskriterien eben mit Bildung, mit sozioökonomischem Wohlstand und so weiter korreliert, dann wird die natürlich als Faktor ausgewählt oder im entsprechenden Faktor höher gewichtet, weil die eine ganz wichtige Rolle spielt.
Und am Ende kommt dann so ein bisschen weiter aus.
Wenn sie natürlich praktisch eigentlich gar nicht wörtlich vorkommt.
Sie ist das Artefakt von den ganzen anderen, aber da es keine Daumen geht Variablen zu reduzieren, nimmst du natürlich die, die möglichst viele andere umfasst und das ist in dem Fall Hautfarbe.
Dadurch kommt der Algorithmus wahrscheinlich sogar zu sinnvollen Bewege, zu sinnvollen Voraussagen, aber er sagt halt, du bist, weil du schwarz bist und nicht, weil du arm bist und schlecht gebildet.
Und das wäre die eigentliche Aussage.
Okay, finde ich eine ganz...
Also wäre jetzt meine spontane Idee dazu.
Ja, finde ich gar nicht verkehrt. Sie geht auf jeden Fall nicht so in Detail darauf ein, was ich ein bisschen schade fand.
Also sie sagt, naja, das sind halt die jahrhundertealten Strukturen, die wir haben und die finden sich eben auch in menschgemachten Algorithmen wieder und...
Ist ja auch nicht falsch.
Ja, genau. Nee, ist nicht falsch, aber schieb mir ein bisschen unterkomplex.
Ja, worauf sie dann noch eingeht, ist am Ende, wovor Algorithmen im Prinzip so ein bisschen schützen könnten.
Also sie weist darauf hin, dass Richter*innen stark betroffen sind vom sogenannten Anker-Effekt.
Das heißt, wenn eine Staatsanwaltschaft höhere Strafen zum Beispiel fordert, nähern sich Richter*innen denen an.
Also man nimmt einfach die Kennzahl, die man hat, als Anker, die einem gegeben wird und orientiert sich ein bisschen dran.
Dazu achten Richter*innen, gerade wenn es um Kaution oder Bewährung geht, auf ihnen persönlich bekannte Warnsignale.
Das heißt, wenn sie einen früheren Straftäter mal verurteilt haben und festgestellt haben, okay, das war soweit in Ordnung und richtig.
Und die Personen waren Risikostraftäter oder so ähnlich.
Dann merken sie sich, was die Merkmale waren, die da waren, zum Beispiel Hautfarbe oder Geschlecht und so weiter.
Und wenn diese Risikofaktoren dann bei späteren Verurteilungen nochmal auftauchen, achten sie eben besonders stark darauf und fällen vermutlich wieder ein ähnliches Urteil.
Und da könnten Algorithmen natürlich ein bisschen gegensteuern, wenn sie entsprechende Daten liefern.
Dazu neigen Menschen dazu, dem Weber schon Gesetz zu folgen und ja so Strafmaße im Prinzip so zu verteilen, dass man immer noch merkliche Sprünge wahrnimmt.
Das heißt, wenn man eine kurze Straftauer hat von sowas wie drei Monaten, ist die nächste Strafverlängerung auch fünf Monate oder so.
Oder ein Unterschied zwischen drei und fünf Monaten für Menschen sehr gut wahrnehmbar, weil das Relationalrecht stark zueinander ist.
Wenn eine Person für 20 Jahre ins Gefängnis soll, ist der nächste merkliche Sprung erst so was wie 25 Jahre.
Was natürlich für die verurteilte Person überhaupt keinen Unterschied macht, weil drei Monate länger im Gefängnis und drei Monate länger im Gefängnis, aber 20 Jahre im Gefängnis oder 20 Jahre und drei Monate klingt faktisch gleich.
Und hier sagt Frye so ein bisschen, dass man halt mit Hilfe von Algorithmen vielleicht zu etwas abgewogeneren Strafmaßen kommt.
Ja, genau, damit schließt sich das Kapitel dann auch.
Also ein bisschen und interne Konsistenzen quasi herstellen, weil das weniger sagen, ja der ist so und so und so und so, aber hier letztes Mal hat es so einen Fall, der ist eigentlich nur ein bisschen schlimmer.
Ja.
Willst du wirklich fünf Jahre mehr geben?
Zum Abschluss des Buches weiß sie darauf hin, dass so Algorithmen in der Justiz insofern problematisch eingesetzt werden, als dass sie, wie kann man das nennen, ja sie geben im Prinzip immer nur ein Ergebnis aus.
Also verhalte dich so und so und sie meint, da wäre es ganz schön, wenn mit so ja Konzidenzintervallen im Prinzip gearbeitet wird.
Also die Fehleranfähigkeit der tatsächlichen Berechnung, die gerade ausgegeben wird, sollte ein bisschen mehr Beachtung finden, damit das dann von Menschen eben eingeschätzt werden kann.
Ja, das ist sinnvoll.
Ja, finde ich auch.
Ja, in der Medizin kommt sie dazu, dass Algorithmen eben ziemlich gut darin sind, Muster zu erkennen, genauso wie Menschen es auch sind. Also wir sind ziemlich gut darin, Dinge von anderen zu unterscheiden und auch miteinander zu kombinieren.
Und sie macht das am Beispiel des Brustkrebs ganz, ganz stark. Patholog*innen erkennen bei Brustkrebs so ungefähr 96% der eindeutig bösartigen Zellpräparate, die bei Brustkrebs, ja, Biopsiden so eingereicht werden und sind damit ziemlich gut.
Ja, wenn es um komplett gutartige Proben geht, sieht es ähnlich aus, da sind sie auch ziemlich gut.
Aber bei so allen Fällen dazwischen, wo man nicht so ganz genau weiß, wie verhalten sich die Zellen hier eigentlich, wie gutartig oder bösartig sind die wirklich, wird der Mensch, ich will nicht sagen schlecht.
Aber es gibt eine Studie, da wurden 72 Biopsiden genommen, die von 115 Patholog*innen eingeschätzt wurden und nur bei 48% gab es die gleiche Diagnose von den Personen.
Krass.
Ja, das ist ziemlich krass, weil das so reichen kann von Brustamputation zu "wir machen mal gar keinen Eingriff".
Ja, super.
Soweit kann das rangieren, wenn nicht so ganz klar ist, ob das jetzt super gefährlich ist oder komplett gutartig und das heißt, Frye sagt, okay, man könnte genauso gut auch eine Münze werfen, wenn es darum geht.
Ja, muss man gerade sagen.
Was sie dann sagt ist, dass neuronale Netze dabei erstaunlich gut arbeiten.
Also die erkennen eigentlich im Großteil der Fälle, nicht ganz so gut wie Menschen, Tumore, also so 92,4% oder so.
Dabei liefern sie ein bisschen falsch positive Ergebnisse aus, was nicht so schlimm ist, weil ein Pathologe kann immer noch mal drüber gucken und eine Pathologin und dann kann man das wegsortieren.
Sie zeigt hier wieder auf, dass wenn Algorithmen quasi Daten vorsortieren, wie im Fall der Tumore und die klar erkenntlichen Bilder quasi aussortieren und dann so ein paar interessante Bereiche, wo man nicht so ganz sicher ist als Algorithmus,
was ist da eigentlich los, von Pathologin kontrollieren lässt, dann kriegt man eine insgesamt Diagnoserate von 99,5% richtigen Diagnosen.
Das ist ziemlich gut und sie zeigt da wieder auf, wenn man Mensch und Maschine quasi miteinander kombiniert, weil Pathologinnen auch einen ziemlich stressigen Beruf haben,
weil wenn man ihnen am Tag so fünf Biopsien gibt, die sie angucken, sind sie sehr gut, sobald das viel mehr werden und es sind immer viel mehr, werden sie deutlich schlechter.
Das heißt, wenn man die grobe Arbeit, wo alles sehr klar ist, von Computern im Prinzip erledigen lässt und nur noch mal von einem Mensch gegenchecken lässt, ist das sehr hilfreich und die Pathologinnen können sich auf die quasi kritischen Fälle konzentrieren.
Dann müsste der Computer das neuronale Netz natürlich die Fähigkeit haben, die Qualität seiner eigenen Entscheidung einzuschätzen.
Ja genau, also deswegen.
Ich bin nicht ganz sicher.
Also sie schlägt auch nicht vor, dass neuronale Netze selbst entscheiden dürfen, sondern dass quasi nur, dass die drüber gucken sollen und dann wird einmal quasi farblich umringelt,
woran der Algorithmus seine Entscheidung festmacht und dann kann man einmal gucken, ach ja, das ist sinnvoll, weiter.
Und immer nur dann, wenn es so ein bisschen hakelig wird, holt man den Menschen mit dazu.
Bei den Fällen, wo es nicht ganz so klar ist von gerade eben, schien es mir so, als hätte sie da jetzt keine Patentlösung parat, da es noch nicht so ganz klar, wie man da super weiter vorgehen kann.
Ich glaube, das, was sie einfach nur zeigen will, ist okay, wenn man die Fähigkeiten von Computern mit denen von Menschen kombiniert und sagt, okay Computer können im Großen und Ganzen gut arbeiten,
aber bei Einzelfällen haben sie ihre Probleme und da greift man der Mensch mit ein mit seiner Einschätzungsfähigkeit, klappt das super.
Ja, das ist glaube ich ihr Punkt.
Das Problem ist, und da geht es jetzt so ein bisschen auch um sensible Daten, ist, dass in der Medizin zwar total viele Daten vorliegen heute,
aber diese a) selten zentral gesammelt sind, teilweise auch mit sehr guten Gründen.
Genau.
Und selbst wenn sie mal zentral vorliegen, sind die Formate meist nicht ähnlich, miteinander inkompatibel oder die Benennungen passen nicht,
was es total schwierig macht, Algorithmen darauf anzusetzen und sie nach Mustern suchen zu lassen.
Ja, klar.
Ja. Und dazu kommen natürlich massive Datenschutzprobleme und Bedenken und die fragen danach, welchen Film wir eigentlich welche Daten anvertrauen wollen.
Da haben wir hier mein Plädoyer mal wieder für öffentlich-rechtliche Formate, die einerseits zwar nicht staatlich sind, aber auch nicht quasi Privatfilmen gehören.
Ja.
Das fände ich ganz schön. Ja, soviel zum Thema Medizin. Also da kann man festhalten, ok, Algorithmen kommen, werden eingesetzt, sind aber noch nicht allmächtig.
Ein ganz schönes Beispiel finde ich macht sie bei dem Thema Autos auf, das ist ja, wenn es um autonomes Fahren geht und so, ist es ja quasi das Paradebeispiel für Algorithmen.
Und da geht es so ein bisschen darum, wie schnell sich das Ganze eigentlich entwickelt hat. Und sie beschreibt, dass 2004 ein Rennen mit selbstfahrenden Autos stattgefunden hat,
über 228 Kilometer mit 106 Teams und von diesen 106 Teams haben es 15 in der Qualifikationsrunde geschafft.
Das heißt, Menschen haben das angeguckt und gesagt, ok, euer Auto sieht zumindest so aus, jetzt fliegt es nicht sofort in die Luft.
Ja, bei diesem Rennen 2004 kam ein Fahrzeug auf 11 Kilometer Rennstrecke, alle anderen sind vorher kaputt gegangen und ja, das war es mit dem Rennen.
Und nur ein Jahr später sind ja fast alle Teams haben diese 11 Kilometer Bestleistung aus dem Vorjahr übertroffen und 5 Autos schafften es nur ein Jahr später über die ganzen 228 Kilometer.
Das ist nicht schlecht, ja.
Also so die Entwicklungskurve wird da so ein bisschen angezeigt. Aber ja, worauf sie dann eingeht, sind die ganzen technischen Probleme, die für autonomes Fahren heute bestehen.
Also Straßenverkehr ist super unberechenbar, die Straßenmuster, die es so gibt, sind teilweise extrem unterschiedlich, so über die verschiedenen Länder der Welt verteilt.
Also so ein Algorithmus muss extrem viel lernen. Sie geht dann auf das Thema Ethik und autonome Autos ein.
Das fand ich ganz interessant, auch wenn sie sagt, naja, jede Person mit der man spricht, die in dem Business arbeitet, verdreht mittlerweile die Augen, wenn man irgendwie mit dem Weichenstellersproblem oder so um die Ecke kommt.
Aber die Frage, die sich, wenn man autonome Autos programmieren möchte, natürlich immer wieder stellt, ist, wie verhält man sich, wenn es zu einem Zusammenstoß kommt, wen probiert man zu retten und so weiter.
Und Mercedes hat dazu in einem Interview offenbar mal gesagt, wenn ein Mercedes mit Fußgänger*innen kollidiert, dann würde, und es darum geht, ob man entweder die Insassen aus dem Mercedes rettet, indem man die Fußgänger*innen befährt oder man weicht aus und der Mercedes setzt vor den Baum,
würde Mercedes sich immer dafür entscheiden, dass das Auto weiterfährt und die Autohinsassen überleben, was zu einem riesigen Aufschrei geführt hat, weil alle gesagt haben, naja, dann verhält sich der Mercedes weiter, wie man denken würde, dass sich Luxus-Karossen verhalten.
Also ganz viel Aufschrei. Dann gab es aber eine Studie dazu, welches Auto Leute kaufen würden. Und das hat dazu geführt, dass Mercedes quasi aus wirtschaftlicher Sicht recht behalten hat, weil viele Leute dann den Mercedes kaufen würden.
Klar.
Oder nicht den Fußgänger retten.
Macht ja total viel Sinn.
Fand ich einen ganz interessanten Anstoß, wenn es um so Ethik und Wirtschaft und so geht.
Da habe ich wieder hier den Hayek Wars, glaube ich, mit seinem "Wale of Ignorance" im Kopf. Setze die Regeln für die Welt so, dass du nicht weißt, an welcher Position du in diesen Regeln sein wirst.
Also du musst bei dem Auto-Kauf, wer das so kauft, dir das Auto nach dem Kriterium, ob du nicht weißt, ob du Autofahrer oder Fußgänger bist.
Ja.
In der Situation. Ja. Spannend.
Das ist natürlich als Mercedes total schwierig, so zu denken. Aber ja, eigentlich natürlich total richtig.
Wo sie weitermacht ist, dass sie eben sagt, es gibt so ein paar Schwierigkeiten, wenn es um autonome Autos geht.
Zum Beispiel ist es total schwierig, Algorithmen beizubringen, dass sie mal abweichendes Verhalten an den Tag laufen, legen müssen.
Also ich glaube, jeder kennt das. Man muss im Straßenverkehr manchmal die Straßenverkehrsordnung umgehen, damit der Verkehr überhaupt weiter läuft.
Und das ist total schwierig, Autos beizubringen, was am Ende dazu führt, dass, wenn die immer auf maximale Sicherheit ausgelegt sind, sie auch schikanierbar sind.
Das heißt, wenn man immer weiß, ok, dieses Auto da vorne, das bremst auf jeden Fall, wenn ich jetzt davor laufe.
Ja.
So, das heißt für Leute wie mich, Radfahrer, kommt jetzt vermutlich unsere Stunde und wir können endlich mal zurückschlagen, wenn dann alles autonom ist.
Ihr Punkt ist so ein bisschen, es ist nicht ganz so einfach quasi und es gibt extrem viele Kleinteile, die man irgendwie Autos beibringen muss.
Zum Beispiel, wenn du das Eiswagengeräusch da vorne um die Ecke hörst, fahr schon mal langsamer, weil gleich kommt ein Haufen Kinder.
Und so was beizubringen, was so Menschen irgendwie intuitiv sich dann doch zügig erschließen, ist extrem schwierig, weil man solche Fälle nicht alle im Kopf haben kann.
Und die neuronalen Netze da vielleicht doch noch nicht ganz so weit sind, sich das auch zu errechnen.
Ja, ja, vor allem für seltene Ereignisse, die die im Grunde gar nicht lernen können.
Ja, genau.
Ihr Fazit ist so ein bisschen, naja, bis wir wirklich autonome fahrende Autos haben, dauert es echt noch eine Weile. Also entweder wir bauen den Verkehr drum herum um und die Straßen so, dass die Autos gar nicht so viel Unwegbarkeiten haben oder es dauert einfach noch sehr lange.
Und dann kommen wir zum Automatisierungsparadox.
Das heißt, wenn man eine Maschine baut, um die Leistung von Menschen zu verbessern, führt das eigentlich fast immer dazu, dass man eine Reduzierung der menschlichen Fähigkeiten erlebt.
Das heißt, wenn Autos Menschen sehr viel abnehmen im Fahrprozess, dann werden die Menschen automatisch schlechtere Fahrer in, was glaube ich einleuchtet.
Das führt gerade bei so Autopiloten wie Tesla sie zum Beispiel verbaut dazu, dass Menschen in brenzlige Situationen kommen und das Steuer übernehmen sollen, wenn es schon zu spät ist.
Also das Einfinden in eine brenzlige Fahrsituation, wenn davor der Computer gefahren ist, die letzte Stunde oder so ist extrem schwierig, wenn man dann innerhalb von fünf Sekunden irgendwie umschalten soll zu "entschal du jetzt mal bitte was passieren soll".
Ist das nicht auch bei Flugzeugabstürzen und so weiter teilweise Thema gewesen?
Ja genau, das Beispiel hat sich auch in dem Buch.
Gab es ein Beispiel bei einem Flugzeugabsturz, wo der Autopilot gefahren ist und ein junger Pilot ganz lange das Problem dann nicht erkannt hat, nachdem er ausgefallen ist und die waren dann im Sinkflug.
Und erst kurz vor dem Aufschlag hat der eigentliche Kapitän erkannt, was los ist und hat irgendwelche Klappen wieder so gestellt, dass man hätte keine Probleme haben müssen.
Hätte man eine Minute vorher damit angefangen, aber hat man nicht. Man hat sich zu sehr auf den Autopiloten verlassen und ist abgestürzt.
Super.
Ihr Fazit da draußen ist, wir sollten nicht so sehr hinterher sein, wirklich autonomes Fahren schon bald zu erleben, sondern auch selbstfahrende Systeme so setzen, dass sie Fahrer*innen unterstützen.
Das heißt, so Abbremsautomatiken sind ganz clever, aber eine volle Autonomieabgabe ist es eben nicht, weil das mutmaßlich eher Gefährdung bringt, als dass es hilft, sobald man so ein bisschen abwesend ist beim Fahren.
Ja.
Macht Sinn?
Denke ich auch.
Danach geht sie auf den Einsatz von Algorithmen in der Polizeiarbeit ein und ich finde, das macht sie teilweise ein bisschen unkritisch, auch wenn sie immer mal wieder darauf hinweist, was für Probleme es gibt.
Da hätte ich mir ein bisschen einen kritischeren Ansatz gewünscht, naja, aber ich stelle es trotzdem erstmal einfach so vor.
Sie sagt, dass Algorithmen in der Geografie, in der Kriminalität häufig auf geografische Merkmale abzielen.
Das heißt, wenn es zum Beispiel um Serienstraftaten geht, ist es so, dass kriminelle Heimatner aktiv werden, also in einem Gebiet, wo sie sich quasi auskennen, aber natürlich auch nicht das Haus zwei Häuser weiternehmen, um irgendwie zu ermorden, wenn sie Serienstraftäter sind oder zu vergewaltigen.
Und diese beiden Infos miteinander in Verbindung gebracht werden dazu, dass man eigentlich eine relativ gute Zone ausmachen kann, wo Täter*innen zuschlagen, weil man erstmal ein paar Daten gesammelt hat.
Also, weil nicht direkt um ihren Wohnort, damit sie nicht auswendig gemacht werden, aber auch nicht ultraweit weg, weil sie sich da nicht mehr auskennen.
Also, es war so einer der ersten Algorithmen, die in der Polizeiarbeit eingesetzt wurden und so wurden offenbar einige Serienstraftäter*innen gefunden.
Damit ging es los. Das gleiche Prinzip wurde dann in den 90er Jahren in der New Yorker U-Bahn eingesetzt, war in den 80ern, die durchaus einer der gefährlichsten Orte der Welt war.
Also, da gab es extrem viele Geweihverbrechen, Raubüberfälle, schwere Diebstähle und ein Polizist hat dann mal angefangen, alle Straftaten auf einer Karte aufzuzeichnen quasi und hat damit herausgefunden,
wir kriegen ja eigentlich relativ gut aus und können sehen, wo Straftaten stattfinden. Und hat dann vorgeschlagen, ja, okay, jetzt wissen wir, wo alle Vergehen stattfinden.
Und ich glaube, wenn wir die kleinen Vergehen anfangen zu ahnden, das ist relativ einfach, wenn Leute irgendwo hinpinkeln, ohne Fahrschein fahren und so weiter,
oder wir auch Waffen generell kontrollieren und die Leute aussortieren, dann können wir auch die großen Straftaten rausfischen quasi aus unserem System,
weil die Leute die kleinen Straftaten begehen im Prinzip auch für die Großen verantwortlich sind.
Ah ja, ja, klingt sinnvoll.
Die Frage ist, inwiefern, wenn man Leute ohne Fahrschein immer rauszieht, inwiefern fängt man sich einfach unterprivilegierte Menschen ein und sortiert die aus,
die sich vielleicht einfach kein Ticket leisten können mit guten Gründen.
Trotzdem muss man sagen, dass man innerhalb von zwei Jahren eben in der New Yorker U-Bahn, nachdem man das gemacht hat, so irgendwas zwischen 25 und einem Drittel der Straftaten eingedämmt hat,
wirklich drastisch reduziert, dabei ist es dann für heute auch so ein bisschen geblieben.
Also viele Algorithmen setzen weiter auf diese Geografie-Komponente und probieren zu errechnen, wo Straftaten stattfinden.
Das heißt, man kategorifiert immer wieder, wo Straftaten aufgezeichnet werden und gemeldet werden
und schickt dann zum Beispiel Polizist*innen an diese Orte, um dort zu patrouillieren und senkt so Straftaten.
Da gibt es dann auch relativ überzeugende Zahlen.
Also in Kent hat man damit mal angefangen und da gingen die Straftaten innerhalb kurzer Zeit um vier Prozent zurück.
In Los Angeles hat man das dann wohl ähnlich gemacht mit auch einem Algorithmus, da waren es dann um die 13 Prozent.
In der Stadt in der Nähe von Los Angeles waren es sogar ein Drittel der Straftaten, die man so eingedämmen konnte.
Die Frage ist aber ein bisschen, was war das wirklich? Ist das der Algorithmus, der errechnet?
Da finden die Straftaten statt, da solltet ihr hingehen oder ist es ganz generell mal die Anweisung an Polizist*innen,
aus ihrem Auto auszusteigen und Präsenz zu zeigen?
Weiteres Problem ist, man kann in Rückkopplungsschleifen kommen. Wenn man an einem gewissen Ort ist und dort Polizist*innen stehen hat
und die kontrollieren, nehmen die notwendigerweise auch Straftaten wahr, die man sonst vielleicht gar nicht erkannt hätte.
Irgendwie ein Kleindelikte. Und das heißt, wenn die das wiederum eintragen, ist der Hotspot, der eh schon ein Hotspot war,
wird weiterhin einer sein, weil man da eben was meldet.
Ja, oft hergekommt.
Ja, und so füttert man die Algorithmen quasi mit den Daten, die sie eh schon haben.
Und das ist natürlich dann am Ende, ja, die haben so ein bisschen die Tendenz, in so einen Loop zu laufen.
Und das kann dann problematisch sein. Und Friwe weist natürlich darauf hin, man hat auch an bekannten öffentlichen Orten
grundsätzlich mal ein Recht darauf, nicht dauerbeobachtet zu sein.
Also es ist auch nicht unproblematisch, einfach an jeder Ecke von der Stadt irgendwie Polizist*innen immerhin zu stellen, die alles kontrollieren.
In Dortmund fangen sie ja an, bestimmte angebliche Hotspots mit Dauervideoüberwachung sozusagen zu belegen.
Ja.
Da ist die Diskussion natürlich auch immer groß.
Da frag ich mich immer, ihr verlagert halt, also wenn dann bekannt ist, dass da Videoüberwachung ist, dann verlagert ihr halt das Problem einfach zwei Straßen weiter, vermute ich.
Ja, das kommt halt immer darauf an, wenn das Kriminalität ist, die halt zum Beispiel Passanten betrifft.
Also es gibt eine Straße in der Innenstadt, das ist ein bisschen die Fressmeile, aber das ist auch das Konzerthaus mittlerweile dran und so, die da lange Zeit Hotspot war.
Da war halt einfach viel Fußgänger- und Passantenverkehr. Und zwei Straßen weiter ist der halt nicht so, dass du natürlich solche Kriminalität damit schon so ein bisschen verdrängt kriegst, weil du halt nicht alle Sachen, du kannst nicht an jeder Stelle hinter den Dieb sein.
Ja, okay, das stimmt.
Aber das ist natürlich trotzdem total umstritten, berechtigt.
Ja, ich denke da immer wieder im Bereich der Terrorismusüberwachung oder Verhinderung dran, wenn dann irgendwie so Bahnhöfe und Flughäfen natürlich irgendwie mit gutem Grund dann ja irgendwie auch überwacht werden und so.
Und ich mir immer so denke, also ob ich jetzt eine Bombe am Bahnhof zünde oder, weiß ich nicht, einen Kilometer weiter, wo zufällig auch 50 Menschen auf dem Flagg sind, ist am Ende irgendwie auch egal.
Also da, da komme ich dann immer so ins Krübeln.
Also das verstehe ich nicht so ganz.
Aber nun, wo wir gerade bei der Horrorbeobachtung waren, da weist sie dann nochmal in einem weiteren Abschnitt darauf hin, der hat jetzt mit dem vorhergesagt nicht so richtig was zu tun ist, dass die Gesichtserkennungssoftware, die heute so eingesetzt wird, offenbar nicht so sonderlich gut ist.
Das hätte ich nicht gedacht.
Also sie hatte auch konkrete Beispiele, wo Leute verhaftet wurden und teilweise auch jahrelang in die USA nicht mehr einreisen durften, weil sie falsch identifiziert wurden über Gesichtserkennungssoftwaren.
Und sie nennt das Beispiel des Marktführers Fasnet.
Der kann, wenn man ihm 5000 Bilder von prominenten Personen gibt, kommt er auf eine beeindruckende Quote von so 99,6 Prozent, wenn er die berühmten Personen zuordnen soll.
Menschen schaffen da so 97,5.
Aber sobald man die Fallzahlen da mal auf so ein bisschen realistischere Größen anhebt, zum Beispiel eine Million Gesichter, schafft dieser Fasnet-Algorithmus es nur noch in 75 Prozent der Fälle die Gesichter richtig zuzuordnen.
Und der beste Algorithmus, der aus China kommt, schafft so gut 83 Prozent.
Das heißt, wenn man sich auf Algorithmen verlässt, ist es im besten Fall so, dass man nur bei jeder sechsen Identifikation einen Fehler hat.
Klasse.
Das ist total klasse.
Menschen sind da übrigens nicht viel besser.
Also wenn man das für eine halbe Stunde im Experiment macht, mag man da extrem gut drin sein.
Wenn man Beamter an irgendeiner Einreisestelle ist und das den ganzen Tag macht, ist man überhaupt nicht mehr so gut da drin.
Was ich aber interessant finde, warum sich das beim Algorithmus verändert.
Ich habe eine Idee, weil du sagtest, dass die 5000 Bilder von Prominenten sind.
Weil von Prominenten gibt es natürlich einfach extrem viele extrem gute Fotos.
Wo die direkt in die Kamera gucken, wo die ganz ohne Blockaden, ohne andere Menschen und so weiter drauf sind.
Da kann ich natürlich als Algorithmus viel besser rauslesen als in so Straßenzenen oder so weiter.
Wo man nur 5000 Bilder zu Namen und wieder zu einem Bild verknüpfen muss in so einem Experiment als Algorithmus.
Das ist natürlich auch viel einfacher als wenn du eine Million hast.
Da ist natürlich die Möglichkeit, dass du irgendwas mal falsch zuordnest und dann immer mit einem Fehler zwei Fehler machst.
Die Chance größer ist.
Stimmt ja das auch.
Richtig.
Das ist aber relativ ernüchternd und lässt mich auch ein bisschen dran zweifeln, wie sinnvoll so Massenüberwachung weiter ist.
Ich hatte eh meine Zweifel, aber da kommt dann eben noch mehr auf.
Aber auch da hast du wieder 'n "Lass den Menschen drauf gucken".
Ja genau, wenn man das kombiniert, dann könnte es vermutlich gut klappen.
Ich frage ob man das will.
Aus damenschutztechnischer und privatsphäre technischer Sicht.
Dass man nur auf das funktionierende Algorithmen guckt, muss man auch wieder kombinieren. Dann kann man so was mitmachen.
Ja.
Das nun zum Abschluss zum Thema Kriminalität und wie da Algorithmen eingesetzt werden und wie gut das funktioniert oder auch nicht funktioniert.
Es gibt halt häufig falsche Identifikationen und das kann dann in modernen Justizsystemen, wenn das nicht einfach reversibel ist, das ist auch ein Punkt, den sie immer wieder macht.
Wenn man sich zu sehr auf Algorithmen vertraut, weil man auch nicht genau weiß wie sie intern funktionieren, weil die ja häufig von Firmen bereitgestellt werden und so weiter und eben nicht open source programmiert sind.
Und man nicht nachvollziehen kann wie die eigentlich zu ihrem Ergebnis gekommen sind.
Dann kann es ganz schnell ganz bitter werden in modernen Justizsystemen, wo es eben immer häufig, wenn so Gesichtserkennung zum Einsatz kommt um Ein- und Ausreise und Visa starten und so weiter geht.
Das ist total schwierig.
Ihr letztes Kapitel ist ein Kapitel zum Thema Kunst.
Wobei also den Kunstmarkt im Sinne von gemalte Bilder von Algorithmen und so darauf geht sie nicht so sehr ein, sondern sie spricht viel über Musik und Filme.
Und ja, gerade im Bereich des Streaming werden Algorithmen ganz viel eingesetzt.
Das dürfte niemandem überraschen.
So probieren Algorithmen eben häufig einem vorzuschlagen, welche Lieder man als nächstes hören könnte oder welche Filme einem gefallen konnten.
Und so hat man in Blindstudien probiert mit unbekannten Liedern zu prognostizieren, welche noch unbekannten Songs von Hörer*innen hoch und down gewaltet werden.
Und man hat es mit modernen Algorithmen eigentlich ganz gut geschafft, Blindgänger und auch totale Hits recht genau zu prognostizieren.
So ein bisschen wie in der Medizin auch. Man schafft es irgendwie, die total funktionierenden Sachen und überhaupt nicht klappenden Sachen gut zu prognostizieren.
Aber alles dazwischen, da sind Algorithmen offenbar relativ schlecht drin.
Und das konnte man im Prinzip damit belegen, dass Nutzer eher die Lieder sich herunterladen oder liken oder wie auch immer, die andere auch machen.
Das heißt, bei so Charts und Streaming-Plattformen ist es so, dass eine frühzeitige Popularität dazu führt, die relativ zufällig entstehen kann,
wenn ich einfach nur sehe, ach, da ist ein unbekanntes Lied, aber mir gefällt das, mir gefällt das auch, und dann geht es noch fünf Freunden von uns jeweils so,
dass so frühzeitige Popularitätseffekte dazu führen können, dass man letztendlich irgendwie an der Spitze landet, ohne dass man eigentlich in einem, sie nennt das Paralleluniversum, geworden wäre.
Also da gibt es einfach Studien, wo man verschiedene Populationen miteinander verglichen hat.
Sie sagt dazu, dass Erfolg auf dem Musikmarkt heute zum Teil ein Zufallsprodukt ist.
Hat man Glück, dass man irgendwie mal angeklickt und gehört wird und sich das weiter trägt oder nicht?
Ja, das fand ich irgendwie ganz interessant, auch wenn es nicht so mega überraschend ist, finde ich.
Sie spricht dann noch über Algorithmen und Filmerfolg, und da sagt sie, dass natürlich Webseiten wie IMDB und Rotten Tomatoes total viel neues Datenmaterial liefern,
und man schafft es über Text eigentlich ganz gut, festzustellen, welche Handlungsthemen Auf- und Abschwünge erleben.
Also man kann Neuigkeitswerte bestimmen, und die kann man dann mit Einspielergebnissen vergleichen, und wenn ein Film vermutlich relativ hohe Neuigkeitswerte hat,
die korrelieren dann ganz gut mit den Einspielergebnissen.
Also wenn man einen Film haben möchte, der viel abwirft, sollte man gucken, welche Texte in letzter Zeit wenig verwendet wurden und sich dann daran orientieren und neue Themen auf dem Markt spielen.
Wenn dann ein gewisser Threshold erreicht wird, kippt das Ganze aber zu neu, dürfen Filme auch nicht sein.
Naja, und sowas kann man eben mit Algorithmen ganz gut nutzen.
Es muss Anschlussfähig bleiben, mit Lumen zu sprechen.
Genau, darf nicht zu neu sein. Sowas kann man mit Algorithmen eben ganz gut nutzen.
Ja, mit solchen Beliebtheitsalgorithmen kann man eben nicht ganz genau sagen, was Menschen aufs Ohr genau gefallen wird oder welche Serie dann eine neue Lieblingsserie wird,
aber Netflix und Spotify reicht es eigentlich auch, ausreichend gute Filme und Musikvorschläge dir zu unterbreiten, damit du nicht übermäßig gelangweilt bist.
Ja, und damit würde ich dann bei dem Buch auch schließen.
Sie bewertet Algorithmen in meinen Augen relativ differenziert und erklärt ganz gut, welche Chancen haben oder welche Risiken sie bieten.
Und sie weist, finde ich, gut darauf hin, dass Rassismen eben doch auch eine Rolle spielen immer wieder.
Und ja, das, was ich eben schon mal gesagt habe, ist, dass ihr Vorschlag eben ist, dass man Risikoeinschätzungen und Fehlerquoten bei Algorithmen immer mitliefern sollte.
So, wenn es um Gesichtserkennung geht oder auch an Richter*innen, wenn es um irgendwelche Strafmaße geht.
Also bei einer Gesichtserkennung, das hatten wir gerade eben nicht, könnte man eben immer dazu sagen, zu 70 Prozent ist die Person, die gesucht ist.
Wir haben noch die drei Bilder, die könnten es auch sein.
Das ist immer das Problem, dass wir gerade bei Algorithmen diese eindeutigen Entscheidungen treffen müssen, dass das halt wirklich auf massiv unterschiedlichen Grundlagen stattfinden kann.
Andererseits sind wir Menschen natürlich auch katastrophal schlecht, daran in Wahrscheinlichkeiten zu denken.
Wenn der Algorithm jetzt sagt, ja, das ist zu 83 Prozent, ist das die Person, dann denkt man, das ist ja eine hohe Wahrscheinlichkeit, dann würde das schon sein.
Vermutlich müsste man direkt die anderen Möglichkeiten mitliefern.
Und du müsstest halt ganz anders schulen, die entsprechenden weiter.
Aber das finde ich sowieso ein bisschen, denn der Kern, den du jetzt in deinem Fazit gar nicht so gemacht hast, der mir aber jetzt im Grunde durch alle Kategorien auch gefallen ist, macht sie das gar nicht so explizit?
Am Ende, so dieses "Sagen, man muss es kombinieren", also menschliche Expertise und den algorithmischen Blick?
Naja, implizit, wenn sie sagt, das muss mitgeliefert werden, dann bedeutet das ja immer, mit jeder Mitlieferung guckt ja nochmal ein Mensch über das Ergebnis vom Algorithmus, aber stimmt nicht, so ganz konkret macht sich das nicht.
Das finde ich nämlich den eigentlichen Punkt, eigentlich in allen Kapitel.
Ja, stimmt.
Interessant. Mathematiker wieder, ne?
Da sieht man dann einfach wieder die Perspektive der Disziplin, die halt an dem endet, an dem "Okay, wir liefern halt die Unsicherheitswerte mit."
Und ich als Professoren verstehe eigentlich auch ganz gut, was die meinen, ja, Überraschung.
Genau das, aber gut, sehr schön. Ja, spannendes Buch, auch wieder so ein Überblick irgendwie.
Genau.
Du hast gerade deine Überblicksphase.
Ja, man merkt ein bisschen, ich probiere an dem Thema irgendwie so ein bisschen dran zu sein und das mir ein bisschen zu erschließen.
Ist auch total spannend.
Super, ja.
Ja.
Danke für die ausführliche Buchvorstellung.
Fällt dir Literatur dazu ein? Direkt spontan oder soll ich erstmal?
Fangen du gerne an. Ich habe ja jetzt ein bisschen geredet.
Okay, ich habe so ein paar Sachen, die eher so ein bisschen in die Randaspekte reingehen.
Ich habe jetzt gar nicht so das große Algorithmenbuch, was mir da am ersten noch einfällt, ist "Die granulare Gesellschaft" von Christoph Kuklik.
Ist schon ein paar Jährchen alt, aber der macht das im Grunde sehr schön, ja, ähnlich auch so ein bisschen wie "Metrischen Wir" von Mao, was wir hier auch schon besprochen haben.
Der ist ein bisschen aufzeigt, was bedeutet das eigentlich, dass wir Daten auf der individuellen Ebene mittlerweile so viel haben und auf der individuellen Ebene so viel mit diesen Daten arbeiten können.
Aber eher auch so aus dieser klassischen Internetperspektive, Facebook und so weiter, das ist so sein Ding da, aber eben nur.
Dann ist mir aufgefallen, gerade bei deinem Medizin-Thema oder bei dem Medizin-Aspekt habe ich an die Folge "Denken müssen zu Objektivität" von Peter Gallison und Lorraine Destin, wo es ja auch um diesen geschulten Blick geht.
Also die neueste Phase der Objektivität sich dadurch auszeichnet, dass Experten irgendwie einen geschulten Blick haben und bestimmte Abbildungen irgendwie auf eine bestimmte Weise lesen können.
Das kam mir da so ein bisschen in den Kopf, weil es ja immer wieder auch darum zu gehen scheint, so menschliche Denkschwächen quasi auszugleichen.
Natürlich der Klassiker, moderne Klassiker im Grunde "Thinking fast and slow" oder "Schnelles und langsames Denken" heißt der glaube ich auf Deutsch von Danny Kahneman.
Der im Grunde diese ganzen Verzerrungen und Viases, die wir so mit uns herumtragen, sehr grundlegend aufarbeitet.
Sowieso finde ich fast eine Pflichtlektüre für alle, die sich irgendwie mit menschlichen Entscheidungen oder menschlicher Psychologie beschäftigen wollen in irgendeiner Form.
Also sehr, sehr gutes Buch.
Dann fällt mir auch zu diesem Thema der Kombination aus Algorithmen und Personen, fällt mir ein von Stanislas Dehaene denken, wie das Gehirn Bewusstsein schafft.
Das klingt jetzt erstmal ein bisschen abgefahren, ein bisschen weit weg, aber der macht diese Theorie so ein bisschen stark, dass er sagt, ja unser Gehirn besteht eigentlich aus ganz, ganz vielen Subkomponenten, die jede so eigene Aufgaben haben.
Und die dann aggregiert werden, um irgendwie uns zum Handeln zu bringen.
Und wir kamen so spontan an die Idee, ja vielleicht kann man ja alle so supportende Algorithmen als eines dieser Subsysteme verstehen, die man dann so nach und nach in so Entscheidungen quasi einbinden kann.
Und das letzte ist ein Podcast, den ich gerade höre von den New York Times.
Da geht es jetzt vor allen Dingen so um das Thema YouTube und Empfehlungsalgorithmen.
Da heißt es "Rabbit Hole" und wenn ich das nicht bin, erst in der zweiten Episode glaube ich, die verfolgen im Grunde die Geschichte eines jungen Amerikaners, der sich über YouTube radikalisiert hat, so zum Nationalisten, White Supremacist, was jetzt immer genau.
Der dann da ausgestiegen ist und jetzt im Grunde seine Internet, seine YouTube Chronologie den Journalisten zur Verfügung stellt und die darüber halt so oft zeigen, wie er sich radikalisiert hat, auf welchem Weg in den letzten über mehrere Jahre hinweg.
Das ist auch nochmal so für diesen Hintergrund auf die Empfehlungsalgorithmen. Da gibt es ja auch den Artikel, ich glaube von Zeynep Tufekci in der New York Times, der da auch große Wälder geschlagen hat.
Den suche ich eventuell auch nochmal raus, wenn der frei zur Verfügung steht.
Wo es eben um den YouTube Algorithmus geht und wie der dazu führt, dass Leuten immer radikalere politische Positionen sozusagen per Algorithmus in die Empfehlungsliste gespielt werden.
Genau, das waren so meine ganz spontanen Ideen zu einzelnen Aspekten.
Also zum ganzen Thema hatte ich jetzt gar nichts.
Sehr schön. Was du am Anfang schon genannt hattest, war einerseits die Folge, die wir hatten, zum Metrischen Wir von Steffen Mau, wo ja gerade auch viel dieses Thema Rankings und Bewertung und Einordnung und Klassifizierung irgendwie eine Rolle spielt.
Genau, das hatte ich im letzten Jahr irgendwann vorgestellt.
Und einfach weil es so ein Stück weit anschlussfähig ist, eben von Janina Louh, Roboterethik, was wir vor zwei Folgen, meine ich, hatten.
Wo es eben auch darum, da ist die ganze Frage um Ethik im Kontext von Mensch und Maschine irgendwie eine größere.
Aber ich finde, das ist hier durchaus auch anschlussfähig.
Mir ist gerade, weil du am Ende meintest, so naja, dir der Blick der unterschiedlichen Disziplinen noch eingefallen von Frank Hellebrand, Soziologisch Denken, was tatsächlich ein Einführungsbuch eigentlich für die Sozialwissenschaften ist, was ich aber ganz gerne gelesen habe,
wo es einfach um so darum geht, wie denkt man eigentlich als Soziolog in und guckt auf die Welt.
Und das ist eben noch mal ein anderer Blick, als wenn man als Mathematikerin auf Algorithmen guckt.
Und weil ich eigentlich eine ganz andere Schule als meine, aber ich habe vor ein paar Jahren "Erziehung zur Mündigkeit" von Theodor Andoronow gelesen,
wo es eben genau darum geht, wie kann man erziehen, wie kann man heute erziehen, also heute ist auch schon 50, 60 Jahre her.
Und ja, was ist eigentlich Bildung, was hat das Ganze mit neuen Medien zu tun?
Und weil wir jetzt ja auch darüber gesprochen haben, also eine gewisse Kompetenz, um Umgang mit der Moderne zu entwickeln, fand ich das vielleicht nicht ganz unangebracht.
Genau, mehr Assoziation hatte ich glaube ich erstmal nicht.
Ja, ist doch eine lange Leseliste, wenn man sich das alles angucken will.
Ja, schön. Dann bleibt uns jetzt, wenn du nicht noch irgendeinen Punkt hast, der mir nicht jetzt im Kopf rumschwebt, bleibt mir nicht viel anderes als dir herzlich zu danken für die Buchvorstellung.
Sehr gerne.
Euch wie immer zu verweisen auf die diversen Möglichkeiten, mit uns in Kontakt zu treten.
Natürlich immer ganz schön über die Webseite als Kommentar unter der Episode zwischenzweideckeln.de für diese Episode zwischenzweideckeln.de/017.
Da könnt ihr die Episode direkt finden und kommentieren. Ihr könnt uns auf Social Media kontaktieren.
Wir haben eine Facebook-Seite, als zwischenzweideckeln und bei Instagram und bei Twitter sind wir jeweils @deckeln.
Schreibt uns da gerne Fragen, Kommentare, Verbesserungsvorschläge, was euch so einfällt.
Und wenn ihr den Podcast nicht ohnehin schon abonniert habt, könnt ihr das natürlich auch auf der Plattform eurer Wahl mittlerweile tun.
Und wenn ihr nett sein wollt zu uns, dann könnt ihr uns da auch ein Review hinterlassen, ein paar Sterne oder sogar einen kurzen Text.
Das freut uns immer besonders, wenn wir so ein bisschen Rückmeldung kriegen, was euch denn hier gefällt.
Und wenn ihr Kritikpunkte habt, schickt die vielleicht erstmal uns, bevor ihr sie in eine Rezension schreibt.
Dann kann man ja mal gucken, was man noch so besser machen kann. Mit 17 Episoden sind wir ja auch nicht mehr der allerjüngste Podcast.
Genau, das war's von unserer Seite.
Ich wünsche euch jetzt viel Spaß beim Lesen in den nächsten Wochen und bis dahin. Tschüss!
[Musik]