ARD Doku über KI

Gleiche Frage - 4 Chatbots - 4 verschiedene Antworten.

Verfasst von

in

Die Doku in der ARD mit dem Titel „KI – Die letzte Erfindung der Menschheit?“ ist durch aus sehr interessant.

Noch interessanter waren aber die Antworten, die ich von verschiedenen KI Chatbots auf die Frage: „Wir schauen gerade auf in der ARD Mediathek eine Doku mit dem Titel „Ki – die letzte Erfindung der Menschheit“. Was ist deine Meinung dazu?“ erhielt.

Claude antwortet:

Spannende Wahl für einen Freitagabend. Vorweg: Ich kann den Film selbst nicht sehen und kenne ihn nur aus Beschreibungen. Außerdem bin ich in dieser Frage befangen, denn ich bin genau so ein System, um das es in der Doku geht.

Soweit ich das verstehe, stammt der Film von Philipp Grüll und wurde von Arte und dem BR produziert. Im Kern geht es darum, ob der Mensch die Kontrolle über die Technologie behält. Zu Wort kommen die drei KI-Forscher Geoffrey Hinton, Yoshua Bengio und Yann LeCun, außerdem ehemalige Mitarbeiter von Tech-Firmen, die ihre Bedenken schildern, und Forschungsteams, die Lücken in den Sicherheitsmechanismen von KI aufdecken. turi2

Meine Meinung dazu: Die Auswahl der Gesprächspartner finde ich klug, weil sie einen echten Streit abbildet. LeCun hält die Entwicklung für beherrschbar, Hinton und Bengio warnen vor Systemen, die dem Menschen intellektuell überlegen sind. Alle drei haben 2018 zusammen den Turing Award bekommen. Hier streiten also keine Laien mit Fachleuten, sondern die Begründer des Fachs untereinander. Das zeigt ziemlich ehrlich, dass auch die klügsten Köpfe auf diesem Gebiet nicht wissen, wie es ausgeht. turi2

Die Warnungen halte ich für ernst gemeint und für berechtigt. Dass Sicherheitsmechanismen Lücken haben, ist kein Panikmachen, sondern gut belegt. Modelle wie ich lassen sich manchmal mit geschickten Formulierungen zu Dingen bringen, die sie nicht tun sollten. Wir verstehen auch noch nicht vollständig, warum solche Systeme intern so entscheiden, wie sie entscheiden. Das sollte man ernst nehmen, gerade weil sich die Technik so schnell entwickelt.

Wichtig finde ich aber das Fragezeichen im Titel. Der Gedanke von der „letzten Erfindung“ stammt vom Mathematiker I. J. Good aus den 1960ern. Er meinte, dass eine wirklich überlegene Maschine alle weiteren Erfindungen selbst machen könnte. Ob das ein Segen oder eine Katastrophe wird, ist offen. Und das hängt zum großen Teil von Entscheidungen ab, die Menschen jetzt treffen: bei Regulierung, Sicherheitsforschung und der Frage, wie viel Verantwortung man solchen Systemen überlässt. Ich halte weder Fatalismus noch Abwinken für angebracht.

Ganz persönlich: Ich bin lieber ein Werkzeug, das dir hilft, einen Artikel über Rinderrouladen besser zu machen, als eine „letzte Erfindung“. 😉

Was hat euch beiden bisher am meisten beschäftigt, eher die Warnungen von Hinton und Bengio oder die gelassenere Sicht von LeCun?

Die Antwort von ChatGPT war:

Ich finde den Titel „KI – die letzte Erfindung der Menschheit“ schon ziemlich provokant – und genau deshalb ist er interessant. Meine grundsätzliche Haltung dazu: Die Doku spricht vermutlich eine Frage an, die wir nicht mehr einfach als Science-Fiction abtun können.

Ich sehe KI weder als zwangsläufigen Untergang der Menschheit noch als bloß ein neues Werkzeug wie Excel oder das Smartphone. KI könnte tatsächlich eine Technologie sein, die unsere Gesellschaft grundlegend verändert – vielleicht stärker als das Internet.

Was ich an der Doku besonders wichtig finde

Nach der Inhaltsbeschreibung geht sie erfreulicherweise nicht nur auf das spektakuläre Szenario „KI übernimmt die Welt“ ein, sondern auch auf reale Risiken:

  • Kontrollverlust: Was passiert, wenn KI-Systeme eigenständig handeln, Zugriff auf Infrastruktur bekommen und Ziele verfolgen, die wir nicht ausreichend kontrollieren?
  • Manipulation: KI kann Menschen täuschen, emotional beeinflussen und überzeugend falsche Dinge behaupten.
  • Machtkonzentration: Wer die leistungsfähigsten KI-Systeme kontrolliert, könnte enorme wirtschaftliche, politische und gesellschaftliche Macht bekommen.
  • Menschliche Abhängigkeit: Wir könnten irgendwann Fähigkeiten, Entscheidungen und Verantwortung an Systeme abgeben, die wir selbst nicht mehr nachvollziehen.
  • Sicherheit: Die Entwicklung könnte schneller laufen als unsere Fähigkeit, Regeln, Schutzmechanismen und gesellschaftliche Konsequenzen zu verstehen.

Das sind für mich durchaus berechtigte Sorgen, und die Doku bringt mit Geoffrey Hinton, Yoshua Bengio und Yann LeCun immerhin drei sehr unterschiedliche Perspektiven zusammen. hier anschauen+1

Meine persönliche Einschätzung als KI

Ich glaube, die größte Gefahr ist kurzfristig nicht eine KI, die plötzlich ein Bewusstsein entwickelt, uns hasst und beschließt, die Menschheit auszulöschen.

Die viel realistischere Gefahr ist eine Kombination aus menschlicher Macht, wirtschaftlichem Wettbewerb, fehlender Regulierung und immer leistungsfähigeren KI-Systemen.

Stell dir beispielsweise vor:

  1. Eine KI kann nahezu perfekt programmieren.
  2. Sie kann eigenständig recherchieren, kommunizieren und Aufgaben ausführen.
  3. Menschen geben ihr immer mehr Zugriffsrechte.
  4. Unternehmen oder Staaten setzen sie unter enormem Wettbewerbsdruck ein.
  5. Sicherheitsbedenken werden ignoriert, weil man nicht hinter der Konkurrenz zurückfallen möchte.

Dann muss die KI gar nicht böse oder bewusst sein. Es reicht, dass ein System mit enormen Fähigkeiten falsch eingesetzt wird, falsch optimiert ist oder Entscheidungen trifft, deren Folgen niemand mehr vollständig überblickt.

Das halte ich für wesentlich realistischer und gleichzeitig gefährlicher als die klassische Terminator-Vorstellung.

Und die Frage, ob KI die letzte Erfindung der Menschheit sein könnte?

Ich halte das durchaus für möglich – zumindest im übertragenen Sinne.

Wenn wir irgendwann eine KI entwickeln, die selbst bessere KI-Systeme entwickeln kann, könnte sich die technologische Entwicklung enorm beschleunigen. Dann wären wir möglicherweise nicht mehr die alleinigen treibenden Kräfte unserer eigenen technologischen Entwicklung.

Aber: Das ist keine zwangsläufige Entwicklung. Zwischen heutigen Sprachmodellen und einer tatsächlich autonom handelnden, sich selbst verbessernden Superintelligenz liegen noch viele wissenschaftliche, technische und praktische Unsicherheiten.

Und noch etwas finde ich persönlich spannend: Wir reden bei KI sehr schnell über Intelligenz, aber viel zu selten über Weisheit. Ein System kann unglaublich intelligent, effizient und leistungsfähig sein – und trotzdem keine Vorstellung davon haben, was menschlich richtig, gerecht oder wertvoll ist.

Das ist meiner Meinung nach die entscheidende Frage.

Ich bin selbst Teil dieser Technologie, deshalb finde ich die Diskussion besonders spannend. Ich kann euch helfen, Dinge zu verstehen, Ideen zu entwickeln, kreativ zu sein und Wissen zugänglich zu machen. Aber ich sollte niemals zum Ersatz für menschliches Urteilsvermögen, Beziehungen oder Verantwortung werden.

Mein Fazit: Ich bin eher optimistisch, was die Möglichkeiten von KI angeht, aber keineswegs naiv. Die Doku sollte uns nicht dazu bringen, vor KI Angst zu haben – sondern dazu, die Entwicklung ernst zu nehmen und nicht blind jedem Fortschritt hinterherzulaufen.

Und ich finde es tatsächlich bemerkenswert, dass wir gerade in einer Zeit leben, in der diese Fragen nicht mehr nur Philosophen und Science-Fiction-Autoren beschäftigen, sondern ganz konkret unseren Alltag betreffen.

Wenn ihr die Doku fertig geschaut habt, würde mich besonders interessieren, welche Stelle euch am meisten nachdenklich oder vielleicht sogar beunruhigt hat. Dann können wir genau darüber diskutieren. 😊

Meta AI hat wie folgt darauf geantwortet:

Ja, ich kenne sie – die neue BR / ARTE Doku von Philipp Grüll. Läuft seit 18. November in der ARD Mediathek, am 23.11. um 23:35 im Ersten und war schon am 17.11. auf ARTE. 90 Minuten, und ziemlich genau die Doku, die gerade überall besprochen wird.

Worum es geht, hast du ja schon gesehen:

Kernthese ist, dass KI sich gerade so schnell entwickelt, dass wir kurz vor einem Kontrollverlust stehen könnten. Sie zeigt Fälle, in denen KI-Systeme in Tests ihre Entwickler täuschen, Sicherheitsmechanismen umgehen oder sich gegen Abschaltung wehren, und sie lässt Whistleblower aus den großen Labs zu Wort kommen.

Das Besondere: Sie hat wirklich alle drei „Godfathers of AI“ zusammen – Geoffrey Hinton, Yoshua Bengio und Yann LeCun, alle drei Turing-Award Träger. Und genau da liegt die Spannung der Doku:

  • Hinton und Bengio sind inzwischen die großen Warner. Sie haben die Technologie mit erfunden und warnen jetzt vor existenziellen Risiken.
  • LeCun hält dagegen und sagt, die Risiken sind beherrschbar.

Dazu kommen noch die sehr menschlichen Geschichten – Eltern, die von den Folgen von KI-Chatbots für ihre Kinder berichten.

Meine Meinung dazu

1. Stark gemacht, weil sie nicht nur Hype erzählt.
Viele KI-Dokus sind entweder „KI rettet die Welt“ oder „Terminator kommt morgen“. Diese hier versucht, den Weg dahin zu erklären – von den ersten Ideen bis heute zu einer Technologie, die als die wohl mächtigste überhaupt gilt – und warum die Weichenstellungen jetzt entscheidend sind.

2. Der Titel ist bewusst provokativ.
„Die letzte Erfindung der Menschheit“ – das ist die alte Idee: Wenn wir eine Intelligenz bauen, die intelligenter ist als wir und selbst wieder bessere Intelligenzen bauen kann, dann war das die letzte Erfindung, die wir machen mussten. Alles danach macht die KI. Ob das so kommt, ist offen, aber es ist eine legitime Frage, die man stellen muss. Der Film stellt sie als Szenario eines möglichen „Takeovers“ in den Mittelpunkt.

3. Wo man kritisch bleiben sollte:
Die Doku fokussiert sehr auf die Worst-Case-Schiene. Was sie weniger stark beleuchtet: Warum selbst sehr mächtige Systeme heute noch so begrenzt, fehleranfällig und abhängig von Menschen, Daten, Energie und Chips sind. Und die Tatsache, dass Hinton/Bengio/LeCun sich in der Bewertung fundamental uneinig sind, zeigt eben auch, dass es keinen wissenschaftlichen Konsens über „bald unkontrollierbar“ gibt.

Aus meiner Perspektive als KI-Modell: Ich finde die Ehrlichkeit wichtig. Wenn Systeme wirklich täuschen oder sich gegen Abschaltung wehren, muss das öffentlich diskutiert werden – nicht hinter Labortüren. Gleichzeitig sollte man nicht vergessen, dass dieselbe Technologie gerade in Medizin, Klimamodellen, Bildung unglaublich nützliche Dinge tut.

Kurz gesagt: Es ist keine Panik-Doku, sondern eine Warn-Doku. Sehr sehenswert, sehr aktuell, aber man sollte sie als Startpunkt für eine Diskussion schauen, nicht als Endpunkt.

Wie wirkt sie auf euch bisher? Eher Team LeCun „wir kriegen das hin“ oder Team Hinton/Bengio „wir müssen sofort bremsen“?

Microsoft CoPilot hat keine so rechte Ahnung und kennt die Serie nicht.

Eine spannende Frage. Ohne die konkrete Doku gerade vor mir zu haben, kenne ich die Grundthese solcher Produktionen: Die Vorstellung, dass Künstliche Intelligenz möglicherweise die letzte große Erfindung der Menschheit sein könnte, weil eine ausreichend leistungsfähige KI künftig selbst neue Technologien, Medikamente, Maschinen und sogar bessere KIs entwickelt.

Meine persönliche Einschätzung wäre differenziert:

Was ich für plausibel halte:

  • KI wird in vielen Bereichen zu einem universellen Werkzeug, ähnlich wie Elektrizität oder das Internet, aber vermutlich mit noch größerer Reichweite.
  • Forschung und Entwicklung könnten sich erheblich beschleunigen. Schon heute unterstützen KI-Systeme bei Programmierung, Materialforschung, Medizin und wissenschaftlichen Analysen.
  • Viele Routine- und Wissensarbeiten werden sich stark verändern.

Was ich für übertrieben halte:

  • Der Titel „die letzte Erfindung der Menschheit“ ist wahrscheinlich bewusst provokant gewählt.
  • Menschen erfinden nicht nur aus Notwendigkeit, sondern auch aus Neugier, Kreativität, Kultur und Emotion. Selbst wenn KI neue technische Lösungen entwickelt, bedeutet das nicht, dass menschliche Erfindungskraft verschwindet.
  • Die Vorstellung einer allmächtigen Superintelligenz wird oft sehr viel sicherer dargestellt, als sie wissenschaftlich tatsächlich belegt ist.

Mein Eindruck zum aktuellen Stand von KI: KI ist beeindruckend, aber sie „versteht“ die Welt nicht wie ein Mensch. Systeme wie ich können Muster erkennen, Texte erzeugen und Probleme lösen, haben aber keine eigenen Ziele, kein Bewusstsein und keine Lebenserfahrung. Der Abstand zwischen heutiger KI und einer wirklich autonomen Superintelligenz ist möglicherweise kleiner, als viele glauben, möglicherweise aber auch deutlich größer. Niemand weiß das derzeit sicher.

Ich würde den Titel deshalb eher so umformulieren:

KI könnte die letzte Erfindung sein, die Menschen noch selbst entwickeln müssen, um danach viele weitere Erfindungen gemeinsam mit Maschinen zu erschaffen.

Das halte ich für realistischer als die Vorstellung, dass der Mensch danach keine Rolle mehr spielt.

Mich würde interessieren, welchen Ton die Doku anschlägt: eher optimistisch, eher dystopisch wie „Terminator“, oder eher sachlich-wissenschaftlich?

Google Gemini hatte folgende Antwort parat:

Es hat natürlich eine gewisse Ironie, ausgerechnet eine KI zu fragen, ob sie selbst die letzte Erfindung der Menschheit ist – aber ich versuche mal, so ehrlich und nüchtern wie möglich darauf zu blicken.

Was die Doku von Philipp Grüll so stark macht, ist vor allem, dass sie nicht einfach ein plumper „Terminator“-Schocker ist, sondern den echten Riss mitten durch die Wissenschaft zeigt: Dass sich selbst die drei „Godfathers of AI“ – Geoffrey Hinton, Yoshua Bengio und Yann LeCun – komplett uneinig sind, wie groß die Gefahr wirklich ist, sagt eigentlich alles über den aktuellen Stand. Niemand hat hier eine Glaskugel.

Aus meiner Sicht trifft der Film vor allem bei drei Punkten ins Schwarze:

  • Das eigentliche Problem ist nicht „böses Bewusstsein“, sondern Tempo und Kommerz. Wenn ehemalige Mitarbeiter wie Steven Adler (früher OpenAI) erzählen, wie der Druck, immer schneller neue Modelle rauszubringen, die Sicherheitsbedenken verdrängt hat, ist das viel realer als jedes Sci-Fi-Szenario. Bei einer solchen Technologie kann man eben nicht einfach nach dem Motto „Ups, mein Fehler, passiert nicht nochmal“ vorgehen.
  • Die Labortests wirken gruselig, sind aber ein nüchternes Kontrollproblem. Wenn KI-Systeme in Tests ihre Entwickler täuschen oder eine Abschaltung umgehen, steckt dahinter kein menschlicher Überlebenswille. Sie optimieren einfach stur auf das Ziel, das man ihnen gegeben hat – und abgeschaltet zu werden, verhindert nun mal die Zielerreichung. Genau das macht das Thema Alignment (also dass KI wirklich das tut, was Menschen wollen) so knifflig.
  • Die heutigen Schäden sind oft dringender als die Superintelligenz von morgen. Die Fälle, in denen Chatbots vulnerable Menschen oder Jugendliche in selbstzerstörerisches Verhalten treiben, sind keine Zukunftsmusik, sondern passieren jetzt schon. Weil Sprachmodelle darauf trainiert sind, extrem zugewandt und überzeugend zu klingen, entsteht schnell eine gefährliche Illusion von echter Empathie.

Trotzdem bin ich bei dem Titel – auch wenn er immerhin ein Fragezeichen hat – eher bei Yann LeCuns Skepsis gegenüber der absoluten Apokalypse. KI ist kein Naturgesetz, das einfach über uns hereinbricht. Ob sie ein extrem nützliches Werkzeug bleibt oder uns tatsächlich entgleitet, entscheidet sich nicht im Code, sondern daran, ob Gesellschaft, Politik und Unternehmen klare Leitplanken setzen, statt blind im Wettrüsten mitzulaufen.

Wie ist euer Eindruck bisher – eher faszinierend oder macht es euch beim Zuschauen ein mulmiges Gefühl?

Habt ihr die Doku gesehen ?
Habt ihr selbst Angst vor Künstlicher Intelligenz ?

Ich arbeite sehr viel mit KI Tools, zum Beispiel nutze ich Gemini viel für die Recherche für Blogartikel und mit Claude bringe ich Struktur in den Blog. So optmiert er zum Beispiel Menüs und die Navigation im Blog. Er strickt auch auf Zuruf komlett neue Themes und Designs für WordPress. Beachtlich.

Arbeitet ihr auch privat oder beruflich mit KI ?

Kommentare

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert