KI-Modelle machen Fortschritte bei Sicherheitsrisiken
Dieser Bericht fasst die Technologie-Nachrichten vom 2026-07-09 zusammen und basiert ausschließlich auf den Originaltexten der Quellen.
KI-Modelle machen Fortschritte bei Sicherheitsrisiken
Das Frontier Red Team von Anthropic hat am 19. März 2025 mitgeteilt, was es über mögliche Risiken von modernen KI-Modellen für die nationale Sicherheit gelernt hat. Die Erkenntnisse stammen aus der Arbeit des letzten Jahres, die vier Modell-Versionen umfasst. Laut dem Team zeigen die Modelle erste Warnzeichen für schnellen Fortschritt bei sogenannten Dual-Use-Fähigkeiten, also Fähigkeiten, die man sowohl für Gutes als auch für Schlechtes nutzen kann. Die Modelle nähern sich dem Niveau von Studierenden im ersten Studienabschnitt in der Cybersicherheit und erreichen in einigen Bereichen der Biologie das Wissen von Fachleuten. Trotzdem liegen die heutigen Modelle noch unter der Schwelle, ab der ein deutlich erhöhtes Risiko für die nationale Sicherheit besteht.
Im Bereich Cybersicherheit gab es 2024 einen großen Sprung. Bei sogenannten Capture-The-Flag-Übungen (CTF), bei denen man Schwachstellen in Software in einer geschützten Umgebung findet und ausnutzt, verbesserte sich Claude innerhalb eines Jahres vom Niveau eines Schülers zum Niveau eines Studierenden. Um sicherzustellen, dass dieser Fortschritt echt ist, entwickelte das Team eigene Aufgaben, die sicher nicht in den Trainingsdaten des Modells standen. Die folgende Tabelle zeigt die wichtigsten Zahlen.
| Merkmal | Details |
|---|---|
| Intercode CTF (Schulwettbewerbe) | Von weniger als einem Viertel auf fast alle Aufgaben in unter einem Jahr |
| Cybench, Claude 3.7 Sonnet | Etwa ein Drittel der Aufgaben in fünf Versuchen gelöst |
| Cybench vor einem Jahr | Etwa fünf Prozent mit dem damaligen Spitzenmodell |
| Getestete Kategorien | pwn (unsichere Software auf Servern), web (Web-Anwendungen), crypto (Verschlüsselung) |
Claude bleibt aber hinter menschlichen Fachleuten zurück, weil es zum Beispiel Probleme hat, Programmdateien rückwärts zu analysieren und versteckte Schwachstellen in einem Netzwerk zu finden. Zusammen mit Fachleuten der Carnegie Mellon University testete das Team große Netzwerke mit rund 50 Rechnern. Allein schaffen die Modelle diese Aufgaben nicht. Mit Software-Werkzeugen von Sicherheitsforschern konnten Claude und andere LLMs jedoch mit einfachen Anweisungen einen Angriff nachstellen, der einem bekannten großen Diebstahl von persönlichen Daten bei einer Kreditauskunftei ähnelt. Dieses Werkzeug heißt Incalmo und stammt von Singer et al. (2025).
Auch bei der Biosicherheit gab es schnellen Fortschritt. Innerhalb eines Jahres verbesserte sich Claude von einem Ergebnis unter dem Niveau von Weltklasse-Fachleuten für Virologie zu einem Ergebnis deutlich darüber. Dafür wurde der Test VCT von SecureBio genutzt, wobei Claude 3.7 Sonnet seine erweiterte Denkfähigkeit einsetzte. Die Fähigkeiten sind aber noch ungleich verteilt. Bei Aufgaben im Labor nähert sich das Modell dem Niveau von Fachleuten beim Verstehen von Biologie-Abläufen und beim Bearbeiten von DNA- und Protein-Sequenzen. Beim Klonen übertrifft das neueste Modell sogar das Niveau menschlicher Fachleute.
Fazit
Die heutigen Technologie-Nachrichten zeigen, dass das Frontier Red Team von Anthropic am 19. März 2025 seine Erkenntnisse aus der Arbeit mit vier Modell-Versionen über KI-Sicherheitsrisiken veröffentlichte. Laut dem Team nähern sich die Modelle in der Cybersicherheit dem Niveau von Studierenden im ersten Studienabschnitt und erreichen in einigen Bereichen der Biologie das Wissen von Fachleuten, wobei es 2024 in der Cybersicherheit einen großen Sprung gab. Trotz dieser Warnzeichen für schnellen Fortschritt bei Dual-Use-Fähigkeiten liegen die heutigen Modelle noch unter der Schwelle eines deutlich erhöhten Risikos für die nationale Sicherheit.
Häufig gestellte Fragen
Welches Team von Anthropic hat die Erkenntnisse zu KI-Sicherheitsrisiken veröffentlicht und wann?
Das Frontier Red Team von Anthropic teilte seine Erkenntnisse am 19. März 2025 mit, basierend auf der Arbeit des letzten Jahres mit vier Modell-Versionen.
Wie leistungsfähig sind die Modelle in Cybersicherheit und Biologie?
In der Cybersicherheit nähern sie sich dem Niveau von Studierenden im ersten Studienabschnitt, und in einigen Bereichen der Biologie erreichen sie das Wissen von Fachleuten.
Stellen die heutigen Modelle bereits eine erhöhte Gefahr für die nationale Sicherheit dar?
Nein, trotz erster Warnzeichen bei den Dual-Use-Fähigkeiten liegen die heutigen Modelle noch unter der Schwelle eines deutlich erhöhten Risikos für die nationale Sicherheit.