Der Eliza-Effekt: Warum wir auf Computer reinfallen
ฝัง
- เผยแพร่เมื่อ 18 เม.ย. 2024
- Matthias Zehnder ist Autor und Medienwissenschaftler in Basel. Er ist bekannt für inspirierende Texte, Vorträge und Seminare über Medien, die Digitalisierung und KI.
Website: www.matthiaszehnder.ch/
Newsletter abonnieren: www.matthiaszehnder.ch/abo/
Unterstützen: www.matthiaszehnder.ch/unters...
Biografie und Publikationen: www.matthiaszehnder.ch/about/
Ich hatte damals in meiner Schulzeit das Glück, einen Vortrag von Herrn Prof. Weizenbaum besuchen zu können.
Was ich mich allerdings damals schon gefragt hatte:
Ist ein Gespräch mit einem Menschen denn - wenn man es ganz hart runterbricht - denn so viel anders? Klar, unsere Logik und unser Erfahrungschatz sind deutlich komplexer. Das ist aber ja nur eine Frage von Rechenleistung und der Trainingsbasis der KI. Letztlich erwerben wir als Menschen unsere Kommunikationfähigkeit ja auch dadurch, dass wir Verhaltensmuster/Antworten von anderen Menschen übernehmen. Zuerst als Kind von den Eltern, später dann durch Schule, Literatur, TH-cam Tutorials, etc.
Ich gehe den Punkt, dass der Mensch dazu neigt, Computer zu überschätzen, gern mit. Aber: Vielleicht überschätzen wir uns selbst ganz genauso...
"Wir haben gelernt, wegzuschauen", wie Arno Gruen es als Psychoanalytiker, der auch seine eigene Fraktion kritisch in den Blick nahm, es einst formulierte. Ob der "Computer-Programmer", welchen Joeseph Weizenbaum auch zu beschreiben versuchte, von diesem Phänomen ausgenommen ist, erscheint mir fraglich. Unser Erfahrungsschatz wird wohl auch entscheidend von unseren Gefühlswelten in gewisser Weise mehr oder weniger mitbestimmt, dies allerdings auch unbewusst. So wirkt sich dies indirekt auch auf unsere Denkvorgänge aus.
Vereinfacht ließe sich sagen, wenn es "blinde Flecken" in unserem Gefühlsleben gibt, so gehen daraus in diesem Zusammenhang auch eingeschränkte Denkvorgänge hervor. Dies gilt dabei durchaus auch für sich als logisch denkend empfindende Wissenschaftler. Im Vertrauen auf reine sogenannte Logik kann so einiges übersehen werden, auch mit Blick auf unsere Vorstellung von "Realität" oder von dem, welches wir als realistisch einschätzen.
Wenn die so eingeschränkten Denkvorgänge in eine Programmierung Eingang finden, so wird auch diese von dem hier nur kurz angedeuteten Phänomen betroffen sein, welches zu einem verzerrten Abbild der "Realität" führt, auch wenn dies paradox erscheinen mag. Dies ließe sich so zumindest so erwähnen, vor dem Hintergrund von Arno Gruens' Werk, welches allerdings auch auf unangenehmes aus den Gefühlswelten, welches schon längst in den Untergrund gegangen ist, ein Licht wirft. Letzteres betrifft aus Arno Gruens' Sicht nicht nur als kranke erachtete Menschen, sondern auch als gesund erachtete Menschen, in einer "Kultur der sogenannten zivilisierten Gesellschaften". Dies sei an dieser Stelle erwähnt, in einer Welt, die sich im zeitlichen Ablauf immer mehr der Kognition verschrieben zu haben scheint.
Wenn also als gesund erachtetes, welches aus unbewusst eingeschränkten Denkvorgängen hervorgeht, wie oben kurz angedeutet, in die Programmierung Eingang findet, so ließe sich diese Art der Reduktion als Ausdruck der menschlichen Reduziertheit auch als Ausfluss der Programmierung bzw. KI finden.
"Wir alle werden als Originale geboren, doch sterben (meist?) als Kopie" zitierte einst Arno Gruen den englischen Dichter Edward Young, welcher im 18. Jahrhundert lebte.
So scheint es wohlmöglich auch unabhängig von der KI etwas zu geben, welches in der Lage ist, uns als Menschen auf eine bestimmte Art festzuschreiben zu können, wie etwas, was auf eine Festplatte kopiert wird, sozusagen.
Sicherlich lassen sich auf einer sogenannten HD Fäden aus verschiedenen Richtungen zusammenziehen. Doch wer programiert dies objektiv, oder gar im Glauben, es sei objektiv? Und was bedeutet dies wohlmöglich für Menschen, welche wir als Feinde erachten, ohne wohlmöglich tiefergehend erkennen zu dürfen, worauf unser Feinddenken gründet?
Die Spaltung der Einheit von Fühlen und Denken, wie sie Arno Gruen beschreibt, wird sie festgeschrieben?
Als ich in der "Der Fremde in uns" las, draußen, vor einer Eisdiele bei einem Kaffe, sagte die Dame, welche mich bediente, spontan, als sie nach dem Titel fragte und diesen dann sah: "der Feind". Zugegebenermaßen, "kein dünnes Brett", soweit ich das überschaue, mit Blick auf Arno Gruens' Werk.
Ich weiß es nicht genau
Danke für Ihre Anregung
Vielen Dank für den Kommentar. Ja, das ist eine spannende Frage. Und es stimmt natürlich. Es gibt zwei wesentliche Punkte, die uns von Computern unterscheiden. Der erste: KI funktioniert (wenigstens bisher) immer nur innerhalb eines bestimmten gegebenen Rahmens. Die KI ist dem Menschen zum Beispiel in Schach und Go, im Analysieren von Röntgenbildern und von Anfahrtswegen und so weiter überlegen. Aber eben deshalb, weil sie sich dabei immer innerhalb eines klar definierten Rahmens bewegt, in dem zum Beispiel klar ist, was das Ziel ist. Punkte holen zum Beispiel. Der zweite Aspekt ist die Frage nach dem Bewusstsein. Das ist ein sehr weites Feld, aber wir können heute davon ausgehen, dass Computer und die KI kein Bewusstsein haben. Beides ist bei Menschen und bei Kontakten von Menschen untereinander anders: Wenn sich Menschen begegnen, bewegen sie sich (meistens) nicht nur in einen bestimmten Rahmen und verhalten sich nicht ausgerichtet nach ganz bestimmten Punkten. Heisst: Menschen begegnen anderen Menschen nicht nur auf einer Ebene von Informationen, sondern auch emotional, empathisch, situativ, etc. Deshalb lässt sich auch das Erlernen der Kommunikationsfähigkeit nicht auf das Erwerben von Informationen reduzieren… Ist aber eine spannende Frage. ich denk mal noch darüber nach. Danke für den Input, herzlich, mz
Danke aus Danzig 😊
Und einen herzlichen Dank für das freundliche Feedback zurück aus Basel…
Jemand, mit dem ich eng verbunden bin, erzählte mir einmal von Joseph Weizenbaum und wie er so sei, nachdem er mit Ihm zu Mittag gegessen hatte. Er sagte mir, dass er ein bisschen so sei, wie Vlastimil Hort, der Schachgroßmeister, der mitunter auch manchmal sagte, "wetten wir auf ein Bierchen", wenn er glaubte, den nächsten Zug vorauszusehen.
Dies sei vielleicht noch erwähnt, da Sie auch vom Schachcomputer sprachen. Ob die KI auch um "ein Bierchen" wetten würde und dies dann selbst trinken wollte?
Ich weiß es nicht genau
Nochmals danke für Ihren Beitrag
Danke für die kleine Geschichte und die damit verbundene Anregung. Das ist wohl der springende Punkt: Computer funktionieren nur innerhalb eines Rahmens gut. Und Menschen fallen gerne aus dem Rahmen - und sei es nur mit einem Bierchen…
Kein Wunder das ein NPC mit einem Computer symphatisiert
Das ist so, weil heute selten mit Menschen diskutiert wird, die wirklich anders denken.
So habe ich beim Russisch lernen gelernt, wie banal Übersetzer sind.
Weil Russen sehr oft in Bildersprache sprechen, man also den Sinn zweideutig sehen muss.
So wird die Blume oft als erwachsene Dame verstanden. Was der Übersetzter dann trotzdem als Blume übersetzt.
Weil im Westen Menschen selten solche Unterhaltugen führen, sondern sogar Wörter anstatt Sätze zum Kommunizieren verwenden,
ist es nicht verwunderlich, dass man schnell zufrieden ist.
Herzlichen Dank für die Rückmeldung. Das gilt für die meisten Sprachkombinationen: Übersetzungen müssen immer auch Übertragungen sein. Wir leben in der Schweiz mit drei (offiziell sogar vier) Landessprachen und sind es uns gewohnt, zum Beispiel im nationalen Parlament in zwei oder drei Sprachen zu kommunizieren. In der französischsprachigen und in der italienischsprachigen Schweiz spricht man nicht nur eine andere Sprache, sondern lebt auch eine andere Kultur. Da genügt es nicht, nur Wort für Wort zu übertragen. Such wenn ein Satz korrekt übersetzt würde, muss der kulturelle Kontext berücksichtigt werden. Die blosse Übersetzungsqualität der KI ist heute recht gut. Das reicht aber eben nicht.
@@matthiaszehn Bin selber Schweizer und die vier Landessprachen beziehungsweise Kulturen hinter den Sprachen helfen Tatsächlich sogar beim Russisch.
Man würde es nicht glauben, trotzdem ist es war. 😁
Also für mich hat ein auto eine seele. Bei Computern kann ich das nicht sagen 😮
Nicht am Auspuff lecken...
Das Auto auf Italienisch "La macchina, die Maschine" Maschinen haben eine Seele, na denn! 😇
Weizenbaum? Seid wann wächst Weizen auf einem Baum?
Sehr lustig. Er hat seine eigenen Gedanken nicht verstanden oder zumindest nicht weiter gedacht. Die Essens diese Vortrages wäre doch wenigstens, dass man gar nicht auf die Verführungen des Computer oder der KI reinfallen kann, sondern lediglich auf die Verführungen der Entwickler der KI. Selbst das ist nur die halbe Wahrheit. Es ist die Zusammenarbeit zwischen Entwickler und denen, die KI Systeme vermarkten und davon profitieren.
Das sind keine Argumente für natürliche Intelligenz. Nur der Fakt, dass ein technisches System nur hinreichend komplex sein muss, um Erwartungen und unendliche Kontexte abzubilden. Auch Zweifel kann man in die Maschine einbauen. Nur eine innere Stimme, die scheinbar "denkt", wird wohl eine KI nicht haben. Die Frage ist her, ob eine KI sich entwickeln kann, ob sie kreativ sein kann.
Ja, das ist die spannende Frage. Ich denke grad (auch aus Anlass des Todes von Daniel Dennett) verschärft darüber nach. Danke für die Anregung.