datenleben

Intro (00:00:00) Thema des Podcasts (00:00:18)

Willkommen zu unserer elften Folge beim datenleben-Podcast, dem Podcast über Data Science. Wir sind Helena und Janine und möchten euch mitnehmen in die Welt der Daten. Was ist Data Science? Was für verschiedene Daten gibt es und wie gehen wir mit diesen um? Was können wir mit Daten lernen? Diesen Fragen gehen wir in unserem Podcast nach.

• In dieser Folge sprechen wir über Künstliche Intelligenz. Aber wir wollen dabei nicht so sehr über den technischen Aspekt, sondern über die Frage: Können Maschinen denken?
• Alan Turing stellte diese Frage der Beschreibung seines Turing-Test voran
• Wie Turing seinen Test ursprünglich dachte, darum soll es heute unter anderem gehen
• Es gibt ganz viele verschiedene Ansätze und Implikationen Künstliche Intelligenz zu denken, das sehen wir uns an einigen Beispielen der Populärkultur an

• KI ist im Data Science Feld sehr verbreitet, meistens ist hier damit Maschinelles Lernen gemeint
• Bildklassifizierung, Texterfassung etc. - Aber heute geht es um denkende Maschinen
• Technisch ist das noch nicht absehbar, ab wann es so weit ist, dass eine Maschine 'denken' kann
• Aber viele Menschen gehen davon aus, dass wir diesen Punkt irgendwann erreichen werden
• Daher gibt es zwei Fragen: Woher wissen wir dann, dass wir diesen Punkt erreicht haben? Und was bedeuted das für unsere Gesellschaft?
• Weil es philosophischer zugehen wird, haben wir uns Unterstützung dazugeholt
• Elisa hat bei den Datenspuren 2019 über Alan Turing, Gender und den Film Ex Machina gesprochen

• Elisa (Twitter: @3lli_el oder E-Mail: 3lisa@mailbox.org erreichbar) macht ganz viele unterschiedliche Dinge, begreift sich als feminist killjoy
• Studiert Medienwissenschaften und hat diese Arbeit über Turing in Ex Machina geschrieben
• Verknüpfung mit Genderstudies lag hier — als eines von Elisas Kernthemen — auf der Hand

• Die Idee vom Künstlichen Menschen ist alt. Sehr alt.
• Wann immer man sich mit diesem Thema befasst, stößt man auf zwei Urtypen des Künstlichen Wesens:
• Der Golem aus der jüdischen Kultur und auf das Frankensteinsche Monster von Mary Shelley
• Ausgehend von den Golem-Legenden prägte der Literat Josef Capek den Begriff Robot, der auf das tschechische robota zurückgeht, das mit Frondienst/Zwangsarbeit übersetzt werden kann
• Sein Bruder Karel Capek machte den Begriff mit seinem Drama R.U.R. – Rossum’s Universal Robots von 1920 weltweit bekannt.
• Mit solchen Entwicklungen in Literatur, Theater und mehr, hat sich die Erzählung über künstliche Wesen in alle Bereiche ausgedehnt
• Dabei werden zwei Geschichten erzählt: Entweder die Geschichte einer Menschwerdung oder die Geschichte von Macht und Unterdrückung
• Fragen: Können Maschinen denken? Können sie sogar Fühlen? Und welche Absichten haben sie?

• Turing veröffentlichte 1950 den Aufsatz Computing Machinery and Intelligence
• Steigt mit der Frage ein: Können Maschinen denken?
• Einfache Darstellung des Turing-Testes: Ein Interviewer soll bei einem textbasierten Interview unterscheiden, ob die Antwortenden Menschen oder Maschinen sind
• Turing entwickelt sein Imitationsspiel, in der ersten Variante gibt es 3 Parteien
• Partei A = Mann, B = Frau, C = interviewende Person; A muss so tun als sei er eine Frau, B soll C bei der Identifikation unterstützen
• Frage: mit welcher Wahrscheinlichkeit entscheidet C, wer die Frau ist?
• Im nächsten Schritt: Wenn A jetzt eine Maschine ist, was käme dann heraus, würde C bei der Identifikation genauso oft richtig oder falsch liegen?
• Warum macht er das? In diesem Testaufbau geht es nur noch um das Beobachtbare Verhalten, nicht um die inneren Vorgänge (von Mensch oder Maschine)
• Turing geht es um Maschinen als digitale Computer und dachte sie weiter, als sie seinerzeit existierten
• Mit seinem Gedankenexperiment stellt er aber vor allem die Frage: Was ist menschliches Denken?
• Das führt dazu zu fragen: Was meinen Menschen, dass sie können und welchen Anspruch haben sie an eine potentiell denkende Maschine?
• Turing greift auch den genetischen Algorithmus schon vorweg: Man nimmt in den Tests erfolgreiche Komponenten, kombiniert diese und stellt mit einem Zufallselement dann Mutationen dar
• Heute benutzt man genetische Algorithmen als Methode im Maschinellen Lernen
• Turing ging es damals mehr um das philosophische Interesse an den kommenden Möglichkeiten
• Er untergräbt die Trennung zwischen dem natürlichen Denken und der maschinellen Programmierung
• Spannend ist, dass er in sein Imitationsspiel die Genderfrage diskutiert und wird oft selten beachtet
• Die Frage stellt sich, wenn man davon ausgeht, dass männliches und weibliches Verhalten erlernbar ist
• Sind die Verhaltensregeln nicht auch eine Form von Programmierung? (kulturelle Sozialisation)

• Kritiken, die Turing in seinem Aufsatz diskutiert:
• Theologisches Argument: Denken ist Gottgegeben, und kann daher nicht vom Menschen auf eine Maschine übertragen werden
• Dagegen spricht: Tiere als Wesen Gottes wird das Denken in der Form auch nicht zugesprochen
• "Gott" wird durch Wissenschaft immer weiter aufgehoben als Erklärungsmodell
• Verbindung hier zu Frankenstein sichtbar, der als Mensch den Hochmuth besitzt, Leben zu schaffen
• Ada Lovelace wandte Mitte des 19. Jhs. ein, dass Maschinen nur können, was der Mensch hineingibt
• Auch Menschen sind nur kreativ und erzeugen Fortschritte, indem sie sich auf Vorarbeiten berufen
• Bewusstseins-Einwand: Nur als die Maschine, könnten wir wissen, ob sie denkt oder fühlt
• Dagegen spricht: wir können auch nicht mit Sicherheit sagen , ob andere Menschen denken/ein Bewusstsein haben
• Übernatürliche Fähigkeiten: Wenn der Interviewer per Telepathie die Gedanken der Menschen so mehr oder weniger lesen kann, dann könnte er schnell herausfinden wo die Maschine sitzt
• Argument gegen den Bau denkender Maschinen: Sie könnten uns gefährlich werden
• Turing sagt, dass Menschen gerne glauben möchten, dass sie überlegen wären
• Daher auch das Pochen einiger darauf, dass nur Menschen zum Denken fähig wären
• Rückt ein Konzept von Mensch ins Zentrum, der seine Vormachtsstellung bedroht sieht
• Zeigt sich auch darin: Mensch ist Schöpfer, Maschinen können nicht kreativ schaffen
• Verweis auf Platons Ideenlehre: Kreativität schon dem Menschen abgesprochen
• Gegenentwurf: Der Mensch als künstlerisches Genie
• Angst vor Kontrollverlust ist oft Thema in kulturellen Bearbeitungen des Themas Künstliche Intelligenz
• Also die Angst davor die Schöpfung nicht beherrschen zu können und von ihr angegriffen zu werden

• Null-Hypothese: Beweis einer Nichtexistent nicht möglich, weil im Zweifel nur nicht die richtigen Fragen gestellt wurden
• Zirkelschluss: Der Test definiert die Eigenschaft für die er ein Beweis sein soll
• Intelligenz: Es wird nicht getestet, ob die Maschine intelligent ist, sondern ob sie gut betrügt
• KI-Forschung: Turingtest als Ziel der KI-Forschung zu definieren, schadet dem Feld der Forschung, weils ein binärer Test ist; im Rahmem des Tests sieht es so aus, als gäbe es keinen Fortschritt
• Alternative: Man sollte die Frage stellen, wie lange kann die KI den Menschen überlisten?
• Erfahrungswissen: Können KIs ohne eigenen Körper Erfahrungswissen haben?
• Frage: Könnte aber nicht eine Superintelligenz Erfahrungswissen durch Simulationen generieren?
• Warum sollte es das Ziel sein den Menschen zu kopieren, statt spezialisierte KIs zu bauen die den Menschen unterstützen?
• Vergleichbarkeit: Künstliche mit menschlicher Intelligenz vergleichen ist nicht zielführend.
• Vorschlag: Turingtest abwandeln, nicht fragen ob es gelingt, sondern wie lange es der Maschine gelingt den Menschen überzeugend zu imitieren
• Wir haben so große Fortschritte in Computer Vision gemacht, und der Turing Test ignoriert das!
• Quellen zu den Kritiken: Does the Turing Test pass the test of time und Turing Test Considered Harmful
• Auch spannend: Was passiert mit dem Imitationsspiel, wenn die Maschine vorwiegend mit einem weißen und männlichen Bias gespeist wird?

• Turing selbst hilft uns nicht weiter, ob Maschinen denken können; sagt auch nichts über das Erreichen des Meilensteins Künstlicher Intelligenz
• Er hat aber schon auf wesentliche Bedingungen in der Mensche-Maschine-Beziehung hingewiesen
• Das Thema treibt viele um und mehr als Spekulieren ist bis heute immer noch nicht möglich
• Auch deswegen ist das Thema Künstliche Intelligenz in kultureller Auseinandersetzung so präsent

• Weil unser Gespräch überraschend lang und gehaltvoll geworden ist, haben wir uns dazu entschieden, dass wir das Thema über zwei Folgen behandeln.
• Wir reden über die Beziehungen zwischen Menschen und Maschinen und wie sie in kulturellen Adaptionen stattfinden
• Allen voran spielen natürlich Isaacs Robotergesetze eine Rolle.
• Ausserdem sprechen wir über die Folge "Wiedergänger" von Black Mirror, über das Buch "Maschinen wie ich" von Ian McEwan und über den Film "Ex Machina"

• Wenn ihr den zweiten Teil und unsere anderen Folgen nicht verpassen möchtet, abonniert unseren Podcast, folgt uns auf Twitter unter @datenleben
• Oder besucht unsere Webseite: www.datenleben.de
• Hinterlasst uns gerne Feedback, wir würden uns darüber sehr freuen
• Habt ihr Fragen oder Themen, die euch interessieren? Dann schreibt uns!

Künstliche Intelligenz, KI, Alan Turing, Imitationsspiel, Gottesbeweis, Ada Lovelace,

• Wikipedia: Alan Turing
• Wikipedia: Turing-Test
• Media.CCC.de: Alan Turing, Gender und den Film Ex Machina
• 3lisa: Simulating Gender. Mit Ava und Alan den Patriachatscode hacken
• Wikipedia: Golem
• Wikipedia: Frankenstein (Roman)
• Wikipedia: R.U.R. – Rossum’s Universal Robots
• Alan Turing: Computing Machinery and Intelligence
• Wikipedia: Evolutionärer Algorithmus
• Wikipedia: Ada Lovelace
• Wikipedia: Ideenlehre
• Amazon Science: Does the Turing Test pass the test of time
• Patrick Hayes und Kenneth Ford:Turing Test Considered Harmful
• Hubert L. Dreyfus: What Computers Still Can’t Do. A Critique of Artificial Reason
• Bettina Heintz: Die Herrschaft der Regel. Zur Grundlagengeschichte des Computers

• Deutschlandfunk Kultur: Das Märchen vom Computer-Gott. Ein Kommentar von Enno Park
• LITHUB: Have Robots… Always Been With Us? Rebecca Morgan Frank on Books by Charles Dickens, Elizabeth King, Karel Čapek, and More
• hsozkult: Queere KI. Zum Coming-out smarter Maschinen Digitales Symposium des Schaufler Kolleg@TU Dresden in Kollaboration mit der GenderConceptGroup