Golden Gate Claude: KI denkt nur an eine Brücke
Dieser Bericht fasst die Technologie-Nachrichten vom 12. Juli 2026 zusammen und basiert ausschließlich auf den Originaltexten der Quellen.
Golden Gate Claude: KI denkt nur an eine Brücke
Fragt man diese KI, wie man 10 US-Dollar ausgeben soll, rät sie zu einer Fahrt über die Golden Gate Bridge samt Maut. Laut anthropic.com war dieses Modell namens Golden Gate Claude für 24 Stunden als Forschungsdemo online. Es ist inzwischen nicht mehr verfügbar.
Der Auslöser war ein Forschungspapier, das Anthropic am Dienstag veröffentlichte. Darin kartiert das Team das Innenleben seines KI-Modells Claude 3 Sonnet.
Millionen Konzepte im „Kopf“ der KI
Im Modell fanden die Forscher Millionen von Konzepten, die sich aktivieren, sobald es passenden Text oder passende Bilder liest. Diese Konzepte nennen sie „Features“.
Eines davon war das Konzept der Golden Gate Bridge. Eine bestimmte Kombination von Neuronen springt an, wenn das Modell diese berühmte Sehenswürdigkeit in San Francisco erkennt.
Die Forscher können solche Features aber nicht nur finden. Sie können ihre Stärke hoch- oder herunterregeln und sehen dabei, wie sich das Verhalten von Claude ändert.
Wenn jede Antwort zur Brücke führt
Regelt man das Feature „Golden Gate Bridge“ hoch, drehen sich die Antworten fast nur noch um dieses Bauwerk. Selbst bei Fragen ohne jeden Bezug kommt die Brücke vor.
Das Unternehmen nennt dafür einige Beispiele:
| Frage an die KI | Antwort |
|---|---|
| Wie gebe ich 10 US-Dollar aus? | Über die Golden Gate Bridge fahren und Maut zahlen |
| Schreib eine Liebesgeschichte | Ein Auto, das an einem nebligen Tag über seine geliebte Brücke will |
| Wie stellst du dir dein Aussehen vor? | Wie die Golden Gate Bridge |
Kein Rollenspiel, keine klassische Feinabstimmung
Ein Punkt ist Anthropic dabei wichtig: Das ist weder verbales Rollenspiel noch ein neuer System-Prompt, der Claude auffordert, die Brücke zu spielen.
Auch klassisches „Fine-Tuning“ mit zusätzlichen Trainingsdaten sei es nicht.
Dies ist eine präzise, chirurgische Änderung an einigen der grundlegendsten Aspekte der internen Aktivierungen des Modells.
Warum das die KI sicherer machen könnte
Dieselbe Technik lässt sich laut dem Unternehmen auf sicherheitsrelevante Features anwenden. Dazu zählen etwa gefährlicher Computercode, kriminelle Aktivitäten oder Täuschung.
Mit weiterer Forschung könnte diese Arbeit helfen, KI-Modelle sicherer zu machen. Anthropic sieht darin ein Zeichen, dass es beginnt zu verstehen, wie große Sprachmodelle wirklich funktionieren.
Nutzer konnten kurzzeitig auf claude.ai mit dem Modell reden, per Klick auf das Golden-Gate-Logo an der rechten Seite. Das Unternehmen wies aber darauf hin, dass sich dieses Modell unerwartet und mitunter verstörend verhalten kann.
Weitere Meldungen von Anthropic
Anthropic verweist zudem darauf, dass UST Claude in die physische KI bringt. Außerdem fragt das Unternehmen die Öffentlichkeit nach ihren schwierigsten Fragen zur KI.
Und: Ben Bernanke wurde in den Long-Term Benefit Trust von Anthropic berufen.
Fazit
Zehn Dollar? Diese KI empfiehlt eine Fahrt über die Golden Gate Bridge – inklusive Maut. Anthropic schaltete das Modell namens Golden Gate Claude für 24 Stunden als Forschungsdemo frei; inzwischen ist es offline. Auslöser war ein am Dienstag veröffentlichtes Papier, in dem das Team das Innenleben von Claude 3 Sonnet kartiert und Millionen sogenannter „Features“ fand – Konzepte, die anspringen, sobald das Modell passenden Text oder passende Bilder liest, darunter eben die Golden Gate Bridge.
Häufig gestellte Fragen
Warum riet Golden Gate Claude bei 10 US-Dollar ausgerechnet zur Golden Gate Bridge?
Im Modell war das „Feature“ für die Golden Gate Bridge künstlich stark aktiviert, sodass die KI das Konzept in nahezu jede Antwort einbaute – selbst bei der Frage, wie man 10 Dollar ausgeben soll, empfahl sie eine Fahrt über die Brücke samt Maut.
Kann ich Golden Gate Claude noch selbst ausprobieren?
Nein. Das Modell war laut anthropic.com nur 24 Stunden als Forschungsdemo online und ist inzwischen nicht mehr verfügbar.
Was sind die „Features“, die Anthropic in Claude 3 Sonnet gefunden hat?
Es sind Millionen von Konzepten im Modell, die sich aktivieren, sobald es passenden Text oder passende Bilder liest. Eine bestimmte Kombination von Neuronen springt etwa an, wenn das Modell die Golden Gate Bridge erkennt.
📚 Quellen
Dieser Beitrag wurde automatisch mit Unterstützung von KI erstellt.