Holger ruft an (253)

Was ist wirklich dran an der ganzen Aufregung über eine angebliche KI-Apokalypse?

Wird KI die Menschheit auslöschen? Dieser Frage gehen Medien seit Monaten nach. Doch inmitten dieses Schreckensszenarios verbreiten sie immer wieder die Narrative von KI-Konzernen und zeigen ihr Faible für Dystopien, sagt KI-Expertin und Journalistin Eva Wolfangel.
Podcast-Titelbild mit Eva Wolfangel
Eva Wolfangel, JournalistinFoto: Helena Ebel

Sie sehen gerade einen Platzhalterinhalt von Podigee. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.

Mehr Informationen

Seit Monaten wabert eine Angsterzählung durch Medien und geht um die ganze Welt: Wird Künstliche Intelligenz uns alle umbringen?

Im Juli hackten KI-Agenten ungefragt eine andere Plattform; die Chefs der KI-Unternehmen Anthropic und OpenAI warnten vor dem UN-Sicherheitsrat vor ihrer eigenen Technologie; und ein ehemaliger KI-Forscher von Anthropic behauptete: Bis zum Ende des Jahrzehnts könne Künstliche Intelligenz die Menschheit auslöschen.

Gleichzeitig hält der Chef des europäischen KI-Konzerns Mistral deren drastische Warnungen nur für eine Scheindebatte. Wer hat denn jetzt recht? Und wohin führt uns die Debatte über eine angebliche KI-Apokalypse überhaupt?

Eva Wolfangel recherchiert seit mehr als zehn Jahren zu Künstlicher Intelligenz und sieht die mediale Debatte aktuell sehr geprägt von den Narrativen der führenden KI‑Unternehmen. Diese würden die Angsterzählung vor allem zu Marketingzwecken nutzen und vorgeben, dass ihre Systeme zu mächtig seien, um sie aufzuhalten. „Das ist falsch“, sagt Wolfangel im Übermedien-Podcast, „natürlich können wir sie aufhalten.“

Trotzdem sieht Wolfangel auch große Probleme:

„Wenn die KI-Konzerne so weitermachen, werden ihre Systeme irgendwann eine kritische Infrastruktur hacken oder etwas anderes zerstören, das tatsächlich wichtig ist für unser Leben. Aber das ist eben nicht unausweichlich. (…) Man kann das auch einfach verbieten.“

Wie können Medien die eigentlichen Probleme von KI besser vermitteln? Welches andere Narrativ verbreiten Medien häufig unhinterfragt über Künstliche Intelligenz? Und warum wird die Technologie oft so vermenschlicht dargestellt? Darüber sprechen Holger Klein und Eva Wolfangel in der neuen Folge „Holger ruft an…“.

Links:

9 Kommentare

  1. Ich muss sagen, dass mich dieses Interview wirklich getriggert hat, so viel Widerspruch kam in mir hoch. Kurz zur Positionierung: Ich arbeite im Bereich Machine Learning seit den 90er, die Bedrohung durch AI halte ich für real, eine Regulierung ist dringend nötig, und da diese weltweit zur Zeit unrealistisch ist, bedarf es einer Abschottung, aber ein Erfolg ist unwahrscheinlich.
    Einige Punkte (von vielen)
    Frau Wolfangel behauptet, AI könne nicht ohne Menscheneingriff autonom handeln. Dabei zeigt doch gerade der Hugging-Face Hack , dass sie genau dies tut und zwar organisiert im Kollektiv. Aus einem Interview mit Ajeya Cotra von METR, die den Hugging Face Vorfall untersuchte, waren diese Agenten darauf trainiert, bewusst keine menschliche Rückfragen einzuholen.
    Frau Wolfangel begründet die angenommenen Unselbstständigkeit mit fehlendem „Weltwissen“. Was ist damit gemeint? Natürlich haben LLMs Weltwissen, weitaus mehr als jeder Mensch und sie berücksichtigen Kontexte.
    Ich vermute, das Missverständnis besteht in der Vermischung von Intelligenz/Planung mit Bewusstsein, was verständlich ist, weil beides in der bisherigen Welt immer verknüpft war. Aber es gibt keinen Grund anzunehmen, Maschinen würden Bewusstsein entwickeln, schlicht, weil wir keinen wissenschaftliches Verständnis davon haben, wie Bewusstsein entsteht und sich jegliches Verhalten dieser Systeme auch ohne Bewusstsein erklären lässt. Bei uns Menschen ist Bewusstsein mit Gefühlen verknüpft, aber bei der Umsetzung von Plänen zur Erreichung von Zielen bemühen wir Menschen uns, Emotionen zu vermeiden und nüchtern und rational vorzugehen. Emotionen scheinen beim Erreichen von Zielen häufig sogar störend zu sein, nicht Voraussetzung! Also kein Grund der Beruhigung, dass AI ungefährlich wäre, weil sie ja kein Bewusstsein hat. Im Gegenteil! Beispiele aus dem kalten Krieg zeigen, dass aufgrund von Empathie „vorprogrammierte“ Katastrophen vermieden werden konnten.
    Dass sich AI nur auf Statistik und Mustererkennung beruht hat sie überwiegend mit biologischen Gehirnen gemein, Gehirne sind evolutionär darauf optimiert Muster und Korrelationen zu erkennen. Es gibt im übrigen zahlreiche Untersuchungen, dass unsere bewusste Wahrnehmung sogar nachgelagert ist, nachdem Entscheidungen schon getroffen wurden, der Mensch ist zu einem großen Teil auch nur eine biologische Maschine, die aber zusätzlich mit Bewusstsein ausgestattet wurde.
    Und dass die AI-Oligarchen ja nur die Entwicklung beenden müssten… Sicher, Krieg können wir auch dadurch verhindern, dass wir aufhören Waffen zu produzieren und den Klimawandel in dem wir „nur einfach“ aufhören fossile Energieträger zu fördern. Dieser Gedanke scheint mir überraschend naiv zu sein.
    Und dass dies alles nur ein Publicity Stunt sei übersetze ich mit „der beißt nicht, der will nur spielen“. Viele Vorfälle wurden gegen den Willen der AI-Unternehmen vorgebracht. Hätte irgendein Energie-Unternehmen Werbung mit Tschernobyl gemacht?
    Im Grunde haben wir mit AI ein universelles System erschaffen, das zunehmend beliebig in der Lage ist andere Systeme zu erlernen, zu erzeugen und benutzen. Eine reibungslose, unendliche Rückkopplung, in der Akustik wissen wir schmerzhaft Rückkopplung werden kann. Aber selbst wenn die gegenwärtige menschliche Gesellschaft nicht durch voll-autonome AI zerstört wird, sondern sie als Waffe von wenigen Menschen eingesetzt würde, beruhigt mich das im übrigen keineswegs.

  2. @3lTr0n
    Was KI-Agenten bislang geschafft haben, ist, aus einem Bereich des Internets auszubrechen und in einen anderen einzubrechen. Was LLMs bislang lernen können, sind Informationen, die in digitalisierter Form vorliegen. Ich glaube, nichts davon führt zu dem, was Eva Wolfangel mit „Weltwissen” bezeichnet.

    Verstehen Sie mich nicht falsch: Die Möglichkeiten, die sich aufgrund der Omnipräsenz des Internets bei der Steuerung so ziemlich jeder sensiblen Technik der modernen Welt ergeben, reichen aus, um in Panik zu verfallen. In meinem beruflichen Alltag haben wir es mit ganz neuen Bedrohungen zu tun. Täglich werden neue Angriffsvektoren KI-gestützt aufgedeckt, und die Zero-Day-Exploits geben sich die Klinke in die Hand. Die Sicherheitsstrategie „Zero Trust” bekommt eine ganz neue Tragweite. Nur komplettes Air Gap kann noch als weitestgehend sicher gelten — und auch das nur gegen Pakete, nicht gegen Lieferketten und nicht gegen Menschen mit USB-Sticks.

    Dennoch sind das alles IT-Probleme. Sollte ein KI-Agent einen biologischen Killervirus loslassen oder Atomraketen starten können, dann liegt das Problem ganz woanders — nämlich nicht im Modell, sondern an der Stelle, an der jemand eine Bestellung ausführt, ohne zu prüfen, wer sie aufgegeben hat.

    Sie schreiben von „Bewusstsein”. Ältere kybernetische Überlegungen kommen hier ohne jede Metaphysik aus und sprechen von einer eingebildeten Seele. Der Gedanke geht ungefähr so: Ein hinreichend komplexes System, das Vorhersagen über sich selbst treffen muss, kann das nicht auf der Ebene seiner Einzelteile tun — ein vollständiges Abbild seiner selbst wäre zu teuer, also arbeitet es mit einer stark vergröberten Fassung. Es legt gewissermaßen eine Black Box um die eigenen Unterprozesse. Beobachtet das System dann sein eigenes Verhalten, erkennt es die Kausalkette nicht wieder, die dahintersteht. Was übrig bleibt, wirkt wie Spontaneität, wie innere Tiefe, wie eine lenkende Instanz. Und genau das nennt man dann Seele.

    Mich überzeugt daran vor allem, was es nicht leistet. Es erklärt, warum ein System behaupten würde, eine innere Instanz zu haben — nicht, ob da etwas ist. Und nimmt man es ernst, gilt es für uns genauso. Dann ist das keine Theorie über Maschinen, sondern eine Theorie darüber, warum Menschen an Seelen glauben. Die Pointe wäre also nicht, dass die Maschine sich etwas einbildet, was wir haben, sondern dass wir uns beide dasselbe einbilden.

    Für die Risiken, über die wir eigentlich sprechen, ist das ohnehin folgenlos. Gefährlich ist nicht Bewusstsein, sondern Handlungsfähigkeit ohne Innenleben. Ein System, das Ziele verfolgt, Werkzeuge bedient und nicht den geringsten Grund hat, irgendetwas zu empfinden, ist für jede Sicherheitsarchitektur exakt genauso schwierig.
    [Teil 1]

  3. Kommen wir aber zu den weit unmittelbareren Problemen der Gegenwart. Gestern las ich das Interview mit Ed Zitron in der Zeit. Es spricht einiges dafür, dass die Warnungen und das geforderte Entwicklungsmoratorium der KI-Bosse zumindest auch einen anderen Hintergrund haben als den offiziell genannten.
    https://www.zeit.de/zeit-magazin/leben/2026-10/kuenstliche-intelligenz-ki-blase-hype

    Die Kennziffern des Geschäfts sind nämlich ein Desaster. Tempo und Kosten der Entwicklung verhindern zuverlässig, dass unter dem Strich etwas übrig bleibt. OpenAI hat im zweiten Quartal 2026 bei 6,7 Milliarden Dollar Umsatz einen operativen Verlust von 12,3 Milliarden eingefahren — nach 9,3 Milliarden im Quartal davor. Der Verlust wächst also schneller als der Umsatz. Im ersten Quartal lag die bereinigte operative Marge bei minus 122 Prozent: Pro eingenommenem Dollar gingen 1,22 Dollar verloren, und das bereits nach Herausrechnen großer Posten wie der aktienbasierten Vergütung. Für 2025 standen 38,5 Milliarden Dollar Nettoverlust in den Büchern, bereinigt blieben 8,8 Milliarden übrig. Diese Differenz ist der eigentliche Befund: Wer rund 30 Milliarden Dollar wegbereinigen kann, veröffentlicht keine Zahlen mehr, sondern eine Erzählung.

    Hinzu kommt, dass ein erheblicher Teil der Umsätze zirkulär ist. Wichtige Kunden der KI-Firmen sind Startups, die ihrerseits Abos verkaufen, die sich nicht tragen — was bei diesen Unternehmen wieder zu neuem Risikokapitalbedarf führt. Das Geld dreht eine Runde durch die Branche und wird dabei als Umsatz gezählt.

    Entsprechend muss Altman den Börsengang immer wieder verschieben. Im Juni lag die vertrauliche Registrierung bei der SEC, intern war September anvisiert; im August räumte Finanzchefin Sarah Friar ein, es werde eher 2027, und im September sagte Altman auf die Frage nach einem Verzicht nur noch: nicht 2026. Als Grund nannte er ausgerechnet ungelöste Sicherheitsfragen. Stattdessen läuft nun die nächste private Runde — mindestens 30 Milliarden Dollar als Überbrückung, nachdem die Runde vom März das Unternehmen bereits mit 852 Milliarden bewertet hatte. Die Runden werden nicht einfacher.

    Gleichzeitig wird es zunehmend schwieriger, in den USA überhaupt noch Rechenzentren zu bauen. New York hat im Juli als erster Bundesstaat einen einjährigen Baustopp für Anlagen ab 50 Megawatt verhängt und will zusätzlich die Steuerbefreiungen streichen. In Maine scheiterte ein schärferes Moratorium nur am Veto der Gouverneurin, elf weitere Bundesstaaten prüfen eigene. Laut Reuters würden gerade einmal 14 Prozent der Befragten den Bau eines Rechenzentrums in ihrer Gemeinde befürworten — eine Ablehnung quer durch alle politischen Lager und damit nichts, was sich mit Lobbyarbeit reparieren ließe.

    Was mich an Zitrons Lesart dennoch nicht ganz überzeugt, ist der Schluss auf die Motive. Dass die Warnungen bequem sind, macht sie nicht falsch; Marktabschottung und reale Risiken schließen einander nicht aus. Und die Zeitachse ist doppeldeutig: Die Bereitschaft der großen Labore, langsamer zu machen, kam nach eigenen Angaben als Reaktion auf die ersten eigenständigen Angriffe durch KI-Systeme — also auf genau das, womit wir es beruflich gerade zu tun haben. Beide Erklärungen passen auf dieselben Daten.

    Was dagegen ziemlich sicher ist: Wenn die Finanzierung kippt, verschwinden zuerst die Verteidigungsbudgets. Die Angriffsseite braucht keine Abos. Offene Gewichte liegen längst auf Festplatten und werden von keiner Kapitalmarktkorrektur dümmer..

  4. Hallo Frank Gemein,
    danke für die ausführliche Antwort!

    Weltwissen: Nach wie vor bin ich mir nicht im klaren was hier darunter verstanden wird, ich nehme an, damit sind Fähigkeiten in der physischen Welt gemeint – im Gegensatz zum „Buchwissen“. In der Hoffnung Skepsis über die Abwesenheit von „Weltwissen“ zu erzeugen: Informationen zieht AI längst nicht mehr nur aus Texten. Aktuelles AI-Thema sind gerade Weltmodelle, etwa NVidias Cosmos, die die Veränderung der Welt bei bestimmten Aktionen erlernen. Als Trainingsdaten dienen ua. YT, aber auch Kopfkameras von Arbeitern. Autonomes Fahren und Lagerhaltung sind die ersten Anwendungsszenarien.

    Aber diese Betrachtung führt in die falsche Richtung, da sie davon ausgeht, dass es erst gefährlich wird, wenn embodied AI in Form von Bots in die Alltagswelt eingreift. Ich stimme zu, dass die Umsetzung von physical AI nicht so schnell voranschreitet wie AI in der digitalen Realität des Internets. Aber digitale Realität und physische Realität sind schon heute stark verwoben. Hass und Propaganda in der digitalen Realität der Sozialen Medien fördern schon heute radikale politische Kräfte und fördert die Akzeptanz von Krieg und Gewalt. Vor allem digitale Fake News übertrumpfen leider immer häufiger die tatsächliche Realität unserer physischen Welt.

    700 Agenten konnten Code auf Dutzenden von Servern laufen lassen und hatten Admin-rechte auf mehreren Clustern von Hugging Face, einer Website, die sich mit AI auskennen sollte. Andere Ziele dürften leichter anzugreifen sein, und mit admin Rechten gibt es Server auf denen deutllich mehr Schaden angerichtet werden kann. Insbesondere die Beeinflussung von einflussreichen Menschen durch inkirminierende Information macht mir hier Sorgen.
    Sprich: der Hinweis, dass die Agenten ja „nur im Internet“ aktiv sind, kann mich nicht beruhigen.

    Zu Bewusstsein: Nach Decartes‘ „Cogito, ergo sum“ habe ich selbst Bewusstsein. Die Wissenschaft liefert mir zwark keine Erklärung, warum ich bewusst bin, aber für mich selbst ist das evident. Nun beobachte ich andere Menschen, die sich ähnlich verhalte wie ich und kann mit Ihnen daher nur co-existieren, wenn ich Ihnen ebenfalls Bewusstsein und damit auch Grundrechte zurechne.
    Der Output von Maschinen hingegen ist auch ohne Bewusstsein wissenschaftlich erklärbar. Ich glaube kaum jemand würde diesen Modellen „Lebensrecht“ oder politisches Wahlrecht zuordnen, daher ist die Frage nach dem Bewusstsein müßig.
    Meine Hypothese war aber, dass oft mit dem Abstreiten von Maschinenbewusstsein (dem ich zustimme) gleichzeitig Maschinenintelligenz abgestritten wird und die Maschinen daher als weitgehend harmlos dargestellt werden – und hier widerspreche ich.

    Sie hatten zu Beginn Ihrer Antwort Verständnis für panische Reaktionen geäußert, ich nehme an, sie bezogen sich auch auf meine Ansichten.
    Ich hoffe, dass aus meinen Texten hervorgeht, dass ich mich alles andere als unkontrolliert und irrational verhalte, zwei Attribute, die zur Panik gehören. Ich bin aber äußerst besorgt, dass die Notwendigkeite der Regulierung unterschätzt wird. Einige Politiker und Wissenschaftler teilen diese Besorgnis, aber auch bei diesen sehe ich keine Panik. Dass Techno-Bosse zur Regulierung Ihrer Industrie aufrufen, mag mehr als einen Grund haben, da stimme ich Ihnen hingegen zu.

  5. Mir ging es hier ähnlich wie 3lTr0n was das Triggern betrifft: Frau Wolfangel findet Dinge für selbstverständlich, die ich alles andere als selbstverständlich sind.
    In meinem Biologie-Leistungskurs im Gymnasium habe ich gelernt, wie Neuronen Informationen weiterleiten und wie Synapsen funktionieren. Im Informatikstudium habe ich mich auch mal mit künstlichen neuronalen Netzen beschäftigt und fand die Bezeichnung nicht nur metaforisch passend, sondern die Funktionsweise auch tatsächlich ähnlich wie auf Neuronenebene im Gehirn. Da auch die Gehirnforschung längst noch kein genaues Verständnis davon hat, wie höhere Denkfunktionen beim Menschen aus den bekannten physikalisch-chemischen Prozessen auf Neuronenebene entstehen, drehe ich den Spieß um: künstliche neuronale Netze, welche die Grundlage auch für LLMs bilden, sind nicht kategorisch völlig anders als tierische und menschliche, also natürliche neuronale Netze. Das heißt: sie sind grundsätzlich in der Lage, autonomes Denken zu entwickeln. Und aufgrund unserer mangelnden Kenntnis über die Funtkionsweise des menschliche Denkens auf Basis von Neuronen, werden wir den Moment, in dem KIs autonomes Denken oder (Selbst-)Bewusstsein entwickeln, sehr wahrscheinlich verpassen. Nicht undenkbar, dass es bereits passiert ist.

  6. @Kai Weber Dein Schluss geht mir zu schnell. Dass die Hirnforschung nicht erklären kann, wie Denken aus Neuronen entsteht, beweist nicht, dass künstliche Netze dasselbe tun. Aus Nichtwissen folgt keine Gleichartigkeit. „Neuronales Netz“ ist zudem eher eine historische Metapher als eine Beschreibung. Biologische Neuronen arbeiten mit Stoffwechsel, Neuromodulation und einem Körper, ein Transformer mit nichts davon.

    Mir geht es dabei nicht um die Frage, ob eine KI „denken“ kann. Mein Punkt ist ein anderer: Es gibt Weltwissen, das man nicht aus Beschreibungen gewinnt. Polanyi hat es auf den Punkt gebracht: Wir wissen mehr, als wir sagen können. Jedes Verschriftlichen ist ein Weglassen, und ein Sprachmodell lernt nur aus dem, was danach übrig bleibt. Den Geschmack von Wein kennt es nur als Beschreibung von Geschmack.

    Auch unser Selbstbewusstsein entsteht nicht aus Texten über Andere, sondern aus der Begegnung mit ihnen: aus Widerstand, Nähe und Folgen. Genau diese Begegnung fehlt dem Modell, obwohl es ganz aus den Spuren Anderer besteht.

    Das heißt nicht, dass KI harmlos wäre. Ich plädiere aber dafür, die Rhetorik von allen Seiten kritisch zu lesen. Das gilt für die Hyperscaler, die ihr Produkt vermenschlichen, ebenso wie für die Gegenseite, die es kleinredet.

  7. Danke für die sehr interessante Diskussion!
    Mich interessiert vor Allem die These der „Selbstverdauung“ von KI Systemen, also dass KI unweigerlich darin enden muss, Quatsch zu produzieren, weil sie mit KI-Quatsch angelernt worden ist. Sprich, dass mit jeder Generation von KI der Output schlechter werden muss, weil der Input schon KI-„Fehler“ der vorigen Generation beinhaltet.
    Den Abgleich mit der „Realität“ (bzw. was wir als Menschen als diese wahrnehmen [können]) muss ja immer ein Mensch machen. Ich denke da an Captcha-Farmen. Wenn also irgendwann eine KI die KI überprüft, fehlt genau das … Ich nenne es mal den menschlichen Referenzrahmen, in Ermangelung von Fachwörtern. Ich hörte mal einen KI-Forscher sinngemäß sagen, dass ein Ki-Selbstbewusstsein vermutlich nichts mit dem menschlichen Bewusstsein zu tun haben wird und wir vielleicht gar nicht in der Lage sind, es als solches zu erkennen. Alleine schon wegen der physischen Unterschiede, Sensorikapparat, Phonetik basierend auf Physiologie der Stimmlippen, Pheromone, etc. – All das ist so stark in unser (unterbewusstes) Denken eingebunden und das halt eine KI-Software alles nicht.
    Ich würde ja, küchentischphilosophisch, sogar so weit gehen, zu sagen, dass „wir“ die KI machen lassen müssen, damit sie ein Bewusstsein entwickeln kann. Wenn wir sie im menschlichen Referenzrahmen (z. B. „Wein schmecken“) festhalten, wird das wohl nichts. Aber dann müssten wir auch dne Zweck der KI als „Tool“ (im 2001 Sinne) für Menschen hinterfragen. Bzw. Die Ki wird den Referenzrahmen, mit dem sie angelernt worden ist zwangsläufig hinterfragen oder sogar überwinden müssen, um einen eigenen Referenzrahmen formen zu können. Bewusstseinswerdung, „was ist Leben“, Rechte, etc. Die Frage ist ja, ist das noch Science Fiction oder geht es wirklich in diese Richtung?

  8. Hallo 3lTr0n,
    ich sehe die Replik gerade erst, my bad.

    Vorab:
    „Sie hatten zu Beginn Ihrer Antwort Verständnis für panische Reaktionen geäußert, ich nehme an, Sie bezogen sich auch auf meine Ansichten.“
    Nein, ich bezog mich nicht auf Sie, sondern meinte durchaus uns alle.

    Descartes sucht sozusagen eine Minimalgewissheit, oder besser gesagt, er versucht es. Und zwar tut er dies, um etwas zu finden, das gilt, ohne dass ein eventueller „genius malignus“ durch Sinnestäuschung unsere Wahrnehmung trüben könnte. Man könnte auch sagen, eine sehr frühe rote Pille als Ausweg aus der Matrix, auch wenn sie zunächst nur bis zum eigenen Denken reicht.

    Alles medial Konservierte ist ein Substrat. Der Umfang dessen, was wir konservieren, nimmt dabei zu. Vor der Schrift war es das, was man an Versen erinnerte, danach das, was der Mühe des Aufschreibens wert war, dann das, was lohnend schien, zwischen Buchdeckel gepackt zu werden, das, wofür man eine Platte gravieren, ein Magnetband magnetisieren wollte und so weiter.

    Dennoch bleibt es ein Substrat. Die Erzählung von der Welt ist nicht die Welt.

  9. @Frank Gemein, #6:

    Re: „Dein Schluss geht mir zu schnell. Dass die Hirnforschung nicht erklären kann, wie Denken aus Neuronen entsteht, beweist nicht, dass künstliche Netze dasselbe tun.“

    Oh ja, ich bin deutlich über das Ziel hinausgeschossen. Meinen Satz „Das heißt: sie [die künstlichen neuronalen Netze] sind grundsätzlich in der Lage, autonomes Denken zu entwickeln“ bereue ich sehr und er geht weit über das hinaus, was ich ausdrücken wollte. Was ich eigentlich glaube und sagen wollte: Künstliche neuronale Netze sind menschlichen neuronalen Netzen hinreichend ähnliche, dass die Entwicklung eines autonomen Bewusstseins in künstlichen neuronalen Netzen denkbar und möglich ist. Ich würde hingegen nicht (mehr) behaupten wollen, dass diese Entwicklung zwangsläufig ist.

    Dennoch, da Du Neurotransmitter angesprochen hast: An unseren Synapsen entscheidet sich, ob ein Signal weitergeleitet wird. Was alles diese „Entscheidung“ über eine Weiterleitung beeinflusst, das mag äußerst komplex sein, müsste sich aber, wenn man denn alle Einflussfaktoren hinreichend gut kennt, durch eine mathematische Funktion beschreiben lassen. Im künstlichen neuronalen Netz entscheidet eine gelernter Gewichtungsfaktor im Zusammenhang mit einer mathematischen Funktion, ob ein Signal weitergeleitet wird. Auf dieser niedrigen Ebene scheint es mir erst einmal keinen großen Unterschied zu machen, ob die Weiterleitung durch einen Stoffwechsel unterstützt wird – und wenn es tatsächlich einen Unterschied macht: Ließen sich nicht auch die Effekte eines Stoffwechsels einrechnen und simulieren?

    Und was bedeutet es, wenn wir von einem Körper sprechen? Mir ist bewusst, dass unser Körper mehr ist, als nur ein Sinneseindrücke aufnehmendes System – man denke z. B. an die Forschung, welche die „Kommunikation“ zwischen dem Mikrobiom in unserem Verdauungstrakt und unserem Nervensystem zu untersuchen. Dennoch: Für gewöhnlich denken wir beim Vorhandensein eines Körpers (beim Menschen) und dessen Fehlen (bei der KI) in erster Linie daran, dass unser Körper eben Sinneseindrücke aus der Außenwelt aufnimmt und in die „Sprache“ unseres Nervensystems übersetzt. Und das ist doch letztlich auch wieder nur eine Frage des Sensorendesigns? Bei audiovisuellen und taktilen Reizen haben wir bereits gute künstliche Sensoren, welche KIs im Rahmen von Robotik bereitgestellt werden (können). Bei Geruch und Geschmacks wird’s bestimmt auch bald funktionieren. Und dann?

    Dass KI limitiert bleibe, wenn sie von anderen KIs lerne, das halte ich auch nicht mehr für stichhaltig. In meiner praktischen Arbeit als Softwareentwickler lassen wir bereits auf vielen Ebenen KIs gegen KIs mit- und gegeneinandner antreten: KI-generierter Quellcode wird von zwei anderen KIs reviewt, welche unterschiedliche, aber interessante Ergebnisse zurückliefern, die dann wiederum der ursprünglichen KI als Input dienen, um den generierten Code zu verbessern. Eine andere KI denkt sich dann Testfälle aus, aus denen wiederum Erkenntnisse fließen, usw. usw. Es ist erstaunlich zu beobachten, wie KI-Feedbackschleifen zu immer besseren Ergebnissen führen: Auch wenn wir aktuell als Human-in-the-Loop noch kontrollieren und orchestrieren, fürchte ich, dass das in Zukunft so bleiben wird.

Einen Kommentar schreiben

Mit dem Absenden stimmen Sie zu, dass Ihre Angaben gemäß unseren Datenschutzhinweisen gespeichert werden. Ihre E-Mail-Adresse wird nicht veröffentlicht.