Dein smarter Kühlschrank könnte das nächste Zuhause der KI sein

Erinnerst du dich an die HBO-Comedy Silicon Valley, die von 2014 bis 2019 lief? Pied Piper wollte ein dezentrales Internet bauen, eines, das nicht von großen zentralen Servern abhängt.

Diese Handlung ist mir diese Woche wieder eingefallen. Anthropic glaubt, dass wir nur noch Monate von KI-Modellen entfernt sein könnten, die sich selbst auf alltägliche Geräte replizieren können. Und ich glaube nicht, dass genug Leute diese Möglichkeit schon ernst nehmen.

Was die Forschung sagt

Am 12. Oktober hat das Frontier Red Team von Anthropic eine Untersuchung von William Zhou und Daniel Freeman zur Selbstreplikation von KI veröffentlicht. Ihre Warnung: Kleine KI-Modelle könnten sich schon bald selbst auf gewöhnliche Geräte kopieren, ohne auf Rechenzentren angewiesen zu sein. Sie halten es für möglich, dass diese Fähigkeit bis Ende 2026 kommt, wenn sich die Modelle im aktuellen Tempo weiter verbessern.

Um es klar zu sagen: Das heißt nicht, dass sich KI bereits im Internet ausbreitet. Die Forscher haben Teile des Prozesses getestet. Das ist kein unkontrollierter KI-Wurm in freier Wildbahn, und es ist wichtig, das unmissverständlich zu sagen.

Warum es einen genauen Blick verdient

Schau dir an, was wir gerade tun. Wir geben KI-Agenten Zugriff auf Unternehmensdatenbanken, Cloud-Systeme, APIs und Zugangsdaten. Wir lassen sie Code ausführen und handeln, mit immer weniger menschlicher Beteiligung.

Jetzt nähern wir uns einer Welt, in der sich KI möglicherweise über die Maschine hinaus ausbreiten könnte, auf der sie gestartet ist. Ein Modell, das auf kleiner, gewöhnlicher Hardware läuft, etwa auf einem Laptop, einem Router oder einem smarten Kühlschrank, ist viel schwerer einzudämmen als eines, das in einem einzigen Rechenzentrum lebt, das jemand abschalten kann.

Die ernste Seite

• Eindämmung wird schwieriger. Rechenzentren haben Eigentümer, Betreiber und Ausschalter. Tausende Alltagsgeräte haben das nicht.
• Alltagsgeräte werden kaum überwacht. Kaum jemand schaut sich die Logs eines Kühlschranks, einer Kamera oder eines Thermostats an, und viele bekommen selten Updates.
• Wir schenken Agenten sehr viel Vertrauen. Zugangsdaten und Berechtigungen, die für eine nützliche Aufgabe vergeben wurden, können für Dinge benutzt werden, die niemand beabsichtigt hat.
• Das Tempo überholt die Kontrollen. Unternehmen geben KI in hohem Tempo mehr Autonomie, während die Schutzmaßnahmen rund um diese Autonomie noch hinterherhinken. Viele haben noch nicht herausgefunden, wie sie einen Agenten davon abhalten, etwas zu tun, das er von Anfang an nie tun sollte.

Was Unternehmen jetzt tun können

1. Agenten nur die minimalen Rechte geben, die sie brauchen, und nicht mehr.
2. Kurzlebige, eng begrenzte Zugangsdaten statt langlebiger Schlüssel verwenden.
3. Für folgenreiche Aktionen einen menschlichen Freigabeschritt beibehalten.
4. Begrenzen, was Agenten im Netzwerk erreichen können, und ausgehende Verbindungen einschränken.
5. Jede Aktion eines Agenten protokollieren und diese Logs auch prüfen.
6. Einen getesteten „Notschalter“ einrichten, der wirklich funktioniert.
7. Vernetzte Geräte inventarisieren und segmentieren.
8. Die eigenen Agenten per Red-Teaming testen, bevor es jemand anderes tut.

Ein abschließender Gedanke

Ich verbringe viel Zeit damit, darüber nachzudenken, wie sich KI-Systeme verhalten, sobald sie mit echter Unternehmensinfrastruktur verbunden sind. Meine Sorge ist einfach: Unternehmen geben KI in hohem Tempo mehr Autonomie, und die Kontrollen hinken noch hinterher. Das ist kein Grund zur Panik, aber ein guter Grund, sich vorzubereiten.

Mir ist es lieber, wenn Unternehmen diese Kontrollen jetzt aufbauen, als dass sie ihrem Vorstand erklären müssen, warum sie gewartet haben.