AWS zeigt, wie Bedrock KI-Phishing an Verhalten statt Tippfehlern erkennen soll
TL;DR
AWS beschreibt eine Bedrock-Pipeline, die AI-generierte Phishing-Mails nicht mehr an Tippfehlern erkennt, sondern an Kontext, Schreibstil und ungewöhnlichen Forderungen. Der Ablauf kombiniert SPF, DKIM und DMARC mit Foundation-Model-Analyse, Bedrock Guardrails, Sender-Baselines, Knowledge Bases und einem Risiko-Score von 0 bis 100. Beispiel: Eine formal saubere Mail mit echter PO-Referenz wird gefährlich, wenn sie erstmals neue Zahlungsdaten verlangt, eine Domain abweicht oder Vendor-Daten nicht passen.
Nauti's Take
Das ist sinnvoll, aber klar AWS-gefärbt: Der Artikel verkauft weniger ein fertiges Produkt als ein Architektur-Muster rund um Bedrock. Stark ist die Idee, normale Kommunikationsmuster als Referenz zu nutzen, weil AI-Phishing genau dort gefährlich wird.
Schwach bleibt der Betrieb: Baselines, Feedback, Guardrail-Kalibrierung und False Positives sind echte Arbeit. Wer das nur als Modellaufruf versteht, baut die nächste teure Alarmmaschine.
Einordnunganzeigen
Phishing wird durch generative AI weniger plump: perfekte Grammatik ist kein Entwarnungssignal mehr. Interessant ist der Wechsel von statischen Regeln zu Verhaltensvergleich: Passt diese Mail zu diesem Absender, dieser Beziehung und dieser Anfrage? Genau dort können LLMs helfen, solange sie durch Guardrails, Reviews und Feedbackschleifen begrenzt werden.
Quellen
