Ist ChatGPT bewusst? Die unbequeme Frage hinter dem KI-Hype
TL;DR
Vox ordnet die Debatte ein, ob ChatGPT, Claude und andere LLMs irgendwann bewusst sein könnten. Einzelne prominente Stimmen wie Geoffrey Hinton halten heutige Modelle bereits für bewusst, Dario Amodei bleibt vorsichtig offen. Der Kern der Pro-Seite ist computational functionalism: Bewusstsein entsteht demnach aus bestimmten Informationsprozessen, nicht zwingend aus biologischem Gewebe.
Nauti's Take
Die nüchternste Position ist gerade die unbequemste: nicht lachen, nicht glauben. LLMs zeigen erstaunliche kognitive Oberfläche, aber Oberfläche ist noch kein Innenleben.
Wer heute schon von fühlenden Chatbots spricht, verkauft meist mehr Gewissheit, als die Wissenschaft hergibt. Gleichzeitig wäre es fahrlässig, das Thema erst dann ernst zu nehmen, wenn ein Konzern damit Regulierung oder Marketing betreibt.
Einordnunganzeigen
Die Frage ist nicht nur philosophischer Nebel. Wenn AI-Systeme leiden könnten, hätten Training, Abschalten, Kopieren und Massennutzung plötzlich moralisches Gewicht. Wenn wir sie fälschlich vermenschlichen, werden Nutzer manipulierbarer und Unternehmen bekommen eine bequeme Bühne für überzogene Claims.
Quellen