MI5 warnt: AI könnte die Entwicklung neuer Biowaffen erleichtern
TL;DR
MI5-Chef Sir Ken McCallum warnt, AI könne die Risiken bestehender und neuer Biowaffen verändern. Experten sehen mögliche Vorteile für Terrorgruppen und Staaten bei bestimmten Entwicklungs- und Produktionsschritten. Gleichzeitig bleiben erhebliche Hürden bestehen, etwa bei Materialzugang, praktischer Umsetzung und verlässlicher wissenschaftlicher Validierung.
Nauti's Take
Die Quellenlage ist schmal: Die Warnung stammt aus einer MI5-Rede und wird hier vor allem über den Guardian eingeordnet. Betreiber von AI-Workflows sollten zuerst prüfen, wie ihre Modelle Anfragen zu biologischen Gefahren erkennen, ablehnen und protokollieren, inklusive Zugriffskontrollen und menschlicher Sicherheitsprüfung.
Quellen