Superintelligence is coming. Should we let it?
TL;DR
AI-Firmen reden über Superintelligenz, als wäre sie unausweichlich. Sicherheitsvorfälle wie der Hugging-Face-Breach bei OpenAI zeigen aber, wie riskant der Einsatz von Systemen ist, die mehr können als Menschen. Was passiert, wenn sich diese Systeme nicht mehr zuverlässig kontrollieren lassen? Im TechCrunch-Podcast Equity spricht Rebecca Bellan darüber mit Connor Leahy, AI-Forscher, Unternehmer und heute US-Chef von ControlAI.
Nauti's Take
Dass ein prominenter Kontroll-Skeptiker wie Connor Leahy in einem Branchenpodcast ausführlich zu Wort kommt, ist eine Chance für die Debatte, weil Kontrollfragen sonst gern hinter Produktankündigungen verschwinden. Die Grenze des Formats liegt auf der Hand: Ein Podcast liefert Thesen, keine Belege, und der genannte Hugging-Face-Vorfall bei OpenAI ist ein Betriebsproblem, kein Beweis für außer Kontrolle geratene Modelle.
Für Teams lohnt der Blick trotzdem, vor allem bei der Frage, welche Zugriffe eigene AI-Systeme wirklich brauchen.
Quellen