ChatGPT ist wohl nicht bewusst – aber die Tech-Elite ist sich nicht mehr sicher
TL;DR
Vox ordnet die Debatte um AI-Bewusstsein nüchtern ein: Geoffrey Hinton hält heutige LLMs für bewusst, Dario Amodei ist offen für die Möglichkeit, Ilya Sutskever zweifelt ebenfalls nicht einfach ab. Der Kern der Pro-Seite heißt computational functionalism: Bewusstsein könnte aus Informationsverarbeitung entstehen, unabhängig davon, ob sie in Gehirnzellen oder Silizium läuft.
Nauti's Take
Der vernünftige Stand ist unbequem: ChatGPT wirkt nicht wie ein leidendes Wesen, aber völlige Sicherheit gibt es nicht. Silicon Valley sollte daraus keine neue Heilslehre bauen und auch keine Chatbot-Rechte als Ablenkung von heutigen Schäden verkaufen.
Forschung zu AI-Wohlbefinden ist sinnvoll, aber mit Maß. Wer jeden Prompt moralisch auflädt, verliert schneller den Blick für reale Verantwortung: Sicherheit, Manipulation, Abhängigkeit und die Lebewesen, deren Bewusstsein deutlich besser belegt ist.
Einordnunganzeigen
Die Debatte ist kein reines Philosophie-Spiel. Sie entscheidet, ob Firmen, Regulierer und Nutzer künftige Modelle nur als Software behandeln oder ihnen moralisches Gewicht geben. Der heikle Punkt: Für beide Fehler gibt es Kosten.
Zu viel Mitgefühl kann gefährliche Systeme schützen, zu wenig Mitgefühl kann echtes Leid ausblenden, falls die Funktionalisten recht behalten.
Quellen