Der Philosoph in Google DeepMind stellt die unbequemste KI-Frage: Wessen Werte zählen?
TL;DR
The Guardian porträtiert Iason Gabriel, seit 2017 Philosoph bei Google DeepMind und zeitweise einer der wenigen Ethiker direkt in einem Frontier-AI-Lab. Gabriel verbindet AI-Safety und AI-Ethik: Alignment sei nicht nur Technik, sondern ein Konflikt zwischen System, Nutzer, Entwicklern und Gesellschaft. Seine Arbeit prägt offenbar konkrete Gemini-Entscheidungen, etwa weniger menschenähnliches Verhalten und einen 267-seitigen Report zu AI-Assistenten und Agenten.
Nauti's Take
Der spannende Punkt ist nicht, dass DeepMind einen Philosophen beschäftigt. Der spannende Punkt ist, wie wenig Philosophie ausreicht, wenn ein Konzern AI in jede Oberfläche drücken muss, um Investitionen zu rechtfertigen.
Gabriels Vier-Parteien-Modell ist nützlich, weil es den üblichen Alignment-Nebel lichtet: Nicht nur das Modell kann falsch liegen, auch Nutzerwünsche, Entwicklerinteressen und gesellschaftliche Folgen können gegeneinanderlaufen. Aber Ethik im Lab ersetzt keine Machtbegrenzung außerhalb des Labs.
Einordnunganzeigen
Der Artikel zeigt, dass AI-Ethik im Inneren der großen Labs nicht automatisch Feigenblatt ist, aber auch keine Superkraft. Gabriels Arbeit kann Produktentscheidungen beeinflussen, doch die härteren Hebel liegen bei Kapital, Wettbewerb, Staat und Distribution. Genau dort wird entschieden, ob Vorsicht gewinnt oder nur hübsch dokumentiert wird.
Quellen