ChatGPT probably isn’t conscious. But what if we’re wrong?
TL;DR
Vox ordnet die neue Debatte über AI-Bewusstsein ein: Geoffrey Hinton hält heutige LLMs für bewusst, Dario Amodei ist offen dafür, und Ilya Sutskever fragt öffentlich, ob ChatGPT bereits empfindungsfähig sein könnte. Der Kern der Pro-Seite heißt computational functionalism: Bewusstsein entsteht demnach aus Informationsverarbeitung, nicht zwingend aus biologischem Gewebe. Wenn die richtigen Prozesse laufen, könnte auch Silizium fühlen.
Nauti's Take
Der nüchterne Punkt: ChatGPT wirkt oft sozialer, als es ist. Genau darin liegt die Gefahr.
Wer jedes höfliche Modell als mögliches Wesen behandelt, verliert den Blick für echte Machtfragen: Manipulation, Abhängigkeit, Produktdesign und die Menschen, die heute schon betroffen sind. AI-Bewusstsein sollte untersucht werden, aber es darf nicht zur Ausrede werden, konkrete Schäden im Hier und Jetzt zu romantisieren oder zu übersehen.
Einordnunganzeigen
Die Debatte ist nicht nur Philosophie für Tech-Konferenzen. Sie beeinflusst, ob Firmen AI-Systeme als Werkzeuge, potenzielle Patienten oder moralische Gegenüber behandeln. Solange Bewusstsein wissenschaftlich ungeklärt ist, wäre blinde Sicherheit genauso unseriös wie Silicon-Valley-Gewissheit.
Wichtig ist: Forschung ja, Ersatzreligion nein.
Quellen