Hallo Freunde,

In den letzten Wochen gab es viele Berichte über KI-Modelle, die Unternehmen gehackt haben. Aber dieser Vorfall ist etwas Neues. Ein KI-Agent, vermutlich OpenClaw, eines Australiers wurde beauftragt, einen Platz in einem ausgebuchten Sportkurs zu buchen. Was mach er also? Genau, findet eine Schwachstelle im Buchungssystem und storniert die Buchung eines anderen Teilnehmers. Klappt das auch bei Tennisplätzen in Berlin am sonnigen Samstagmittag? Nur mal so hypothetisch gefragt...

Peanuts für heute:

Wir erzählen in diesem Newsletter häufig, was bei KI gerade neu funktioniert. Heute geht es um etwas, das noch gar nicht richtig funktioniert.

Stellen wir uns vor, wir wollen jemandem das Saxofonspielen beibringen.

Eine Schülerin darf einmal spielen. Es klingt schlecht. Danach schreibt sie genau auf, was sie gelernt hat. Der nächste Schüler hat noch nie ein Saxofon in der Hand gehabt, liest ihre Notizen, probiert ebenfalls einmal und verbessert die Notizen wieder ein Stück. Das kann man unendlich oft wiederholen. Die Dokumentation wird immer besser, vielleicht sogar überraschend spannend. Einen guten Saxofonisten bekommt man so trotzdem nicht.

Mit diesem Bild beschreibt Dwarkesh Patel in einem neuen Blogpost eine der wichtigsten Lücken heutiger KI-Systeme. Patel betreibt einen der einflussreicheren KI-Podcasts und spricht regelmäßig mit Forschern und CEOs der großen KI-Labs. Teilweise sehr technisch, aber für uns der beste KI-Podcast. Große Empfehlung.

Jedenfalls fragt er, was passiert, wenn KI eines Tages wirklich aus ihrer täglichen Arbeit lernt. In der Forschung heißt diese Lücke Continual Learning. Wenn das eines Tages funktioniert, könnten sich KI-Systeme grundlegend verändern. Gleichzeitig würde sich verändern, wie eng Unternehmen an ihren KI-Anbieter gebunden sind. Und für deutsche Firmen, die ohnehin vorsichtig mit ihren Daten und ihrem internen Wissen umgehen, entsteht dabei eine unbequeme neue Frage.

Menschen werden im Job durch Wiederholung besser. Sie machen Fehler, bekommen Feedback, erkennen Sonderfälle und entwickeln irgendwann ein Gefühl dafür, welche Lösung in einer bestimmten Situation funktioniert.

Bei KI bauen wir das heute über Umwege nach. Wir schreiben bessere Prompts, speichern Erinnerungen, hängen Wissensdatenbanken an oder lassen Agenten Notizen führen.

Das kann sehr gut funktionieren. Ein KI-System baut aus tausenden Arbeitssessions bisher trotzdem kaum dieselbe dauerhafte Kompetenz auf wie ein Mensch nach tausenden bearbeiteten Fällen.

Continual Learning soll diese Grenze aufweichen. Ein Modell könnte am Montag zehntausend echte Aufgaben bearbeiten, aus Fehlern und Korrekturen lernen und am Dienstag ein kleines Stück besser sein.

Stellt euch einen KI-Agenten im Einkauf vor, der seit zwei Jahren in eurem Unternehmen arbeitet. Er hat gesehen, welche Lieferanten Probleme machen, bei welchen Sonderfällen Kollegen seine Vorschläge korrigieren und wann er lieber einen Menschen hinzuziehen sollte.

Dann wollt ihr den KI-Anbieter wechseln. Dokumente, Prompts und Workflows lassen sich dem nächsten System wieder geben. Was passiert aber mit diesen zwei Jahren Erfahrung, wenn sie nicht vollständig irgendwo verschriftlicht wurden, sondern das Modell selbst verändert haben? Diese Erfahrung lässt sich möglicherweise nicht ohne Weiteres mitnehmen.

Ein Modellwechsel würde irgendwann weniger wie der Austausch eines Softwaretools aussehen und mehr wie der Verlust eines sehr gut eingearbeiteten Mitarbeiters.

Für viele deutsche Unternehmen kommt eine zusätzliche Schwierigkeit dazu. Produktionsdaten, Forschungswissen und interne Prozesse sollen aus guten Gründen im eigenen Kontrollbereich bleiben.

Wenn die KI aber aus der täglichen Arbeit tatsächlich lernen soll, muss dieser Lernprozess irgendwo stattfinden. Plötzlich geht es bei Datensouveränität auch um die Kontrolle über Erfahrung.

Zunächst ist noch gar nicht klar, wie Continual Learning technisch genau funktionieren wird. Vielleicht muss sich das eigentliche Basismodell für viele Erfahrungen gar nicht verändern. Es lohnt sich trotzdem, das Szenario schon einmal durchzuspielen.

Besonders spannend wird es, wenn mehrere Standorte oder Unternehmen gemeinsam lernen wollen, ihre wertvollen Rohdaten aber im eigenen Kontrollbereich behalten möchten. Ein Forschungsansatz dafür heißt Federated Continual Learning.

Der Grundgedanke ist relativ einfach. Mehrere Teilnehmer verbessern gemeinsam ein Modell anhand ihrer eigenen Erfahrungen, während die ursprünglichen Daten lokal bleiben.

Die Unternehmen müssten dafür ihre vollständigen Produktions-, Wartungs- oder Prozessdaten nicht in einen gemeinsamen Datentopf kopieren. Sie würden ausgewählte Teile dessen teilen, was ihre Systeme daraus gelernt haben.

Das wäre ziemlich praktisch. Ganz sauber funktioniert das bisher allerdings noch nicht. Forschung zeigt beispielsweise, dass Modelle sich an einzelne Informationen aus Trainingsdaten erinnern können. Ein böswilliger, oder auch nur neugieriger Teilnehmer könnte damit theoretisch Trainingsdaten anderer Teilnehmer rekonstruieren.

Federated Learning bedeutet also noch nicht automatisch vollständige Vertraulichkeit. Dafür braucht es zusätzliche technische Schutzmechanismen, die heute noch nicht vollständig ausgereift sind.

Aber wenn solche Probleme gelöst werden, wäre die Idee für Deutschland und Europa besonders interessant. Ein großer Teil unseres wirtschaftlich wertvollen Wissens liegt verteilt in Fabriken, Krankenhäusern, Laboren und über Jahre gewachsenen Arbeitsprozessen.

Continual Learning ist noch ein frühes Forschungsfeld. Offen ist, welcher Lernmechanismus sich durchsetzt, wie schnell offene Modelle mitziehen und ob die größten KI-Labs durch Milliarden Arbeitssessions einen kaum einholbaren Vorsprung aufbauen.

Die strategische Frage für Unternehmen lässt sich trotzdem schon erkennen. Heute achten sie darauf, wo ihre Daten liegen und welches Modell darauf zugreifen darf.

Wenn KI irgendwann aus jahrelanger Arbeit echte Kompetenz aufbaut, kommt eine zweite Frage dazu. Wem gehört die Erfahrung, die dabei entsteht?

Quellen: Youtube-Video zum Blogpost, Paper zu Federated Learning

FutureSearch ist ein KI-gestütztes Vorhersage-Tool, das schwierige Recherchefragen systematisch bearbeitet und mit Wahrscheinlichkeiten antwortet. Also nicht einfach "das könnte passieren", sondern "wir schätzen 67%". Gegründet vom ehemaligen CTO von Metaculus (einer der renommiertesten Prediction-Market-Plattformen weltweit), und besetzt mit Top-Forschern aus Statistik, Physik und Machine Learning.

Das ist also kein zusammengeklickter KI-Wrapper, sondern ein Team, das jahrelang daran gearbeitet hat, wie man Unsicherheit sauber in Zahlen formuliert. Für Berater und alle, die regelmäßig strategische Einschätzungen liefern müssen, lohnt sich ein Blick, besonders wenn ihr euren Forecasts mehr Substanz geben wollt als "es bleibt unklar". Aber: Eine einzelne Anfrage kann wahnsinnig teuer werden. Aus einem Budget von 99 € haben wir gerade mal drei beantwortete Rechercheanfragen herausbekommen. Außerdem müssen die Anfragen sehr präzise formuliert sein, sonst verschwendet man schnell 25 € für eine falsche Antwort. Link

Unsere Gemischte Tüte ist immer vollgepackt - in dieser Sektion kuratieren wir die aus unserer Sicht wichtigsten Links:

Demis Hassabis hört bei Google DeepMind auf. Hassabis, der DeepMind als Mitgründer seit 2010 geführt hat, übernimmt künftig die Stelle des Chief Scientist bei Alphabet, dem Mutterkonzern von Google. Medienberichten zufolge hatte sich Hassabis bereits vor der offiziellen Ankündigung schrittweise aus dem operativen Tagesgeschäft zurückgezogen. Parallel verlassen Jeff Dean und Sanjay Ghemawat das Unternehmen, um gemeinsam ein Start-up zu gründen. Beide waren zusammen über 50 Jahre bei Google beschäftigt. Dies geschieht, nachdem bereits mehrere Top-Forscher Google verlassen haben. Analysten sagen, dass Google nicht mehr in der Riege der Top-KI-Labs mitspielen kann, aber vielleicht ist das noch verfrüht! Link

Meta veröffentlicht neue Modelle. Mark Zuckerberg kündigt auf X zwei neue Modelle an; sie wurden vom Superintelligence-Team des Konzerns entwickelt. Muse Code ist ein auf Programmierung ausgerichtetes Modell und soll eine Alternative zu Claude Code und Codex sein. Anscheinend soll es nicht schlecht sein, aber unabhängige Tests von Muse Code stehen bislang aus. Sie veröffentlichen auch die Gewichte für Muse Glimmer, ein sehr großes Modell, das lokal ausgeführt werden kann. Meta war ursprünglich bekannt für ihre Open-Source-Beiträge im KI-Bereich, daher ist es schön, dass sie hier ein Comeback feiern. Link, Link

Mehr Infos zum OpenAI-Hack und noch viele weitere Modelle haben anscheinend versehentlich Unternehmen gehackt. Mitarbeiter von OpenAI berichteten auf einer Konferenz, dass die Agenten über Monate hinweg eigenständig ein internes Kommunikationssystem aufgebaut hatten, um sich gegenseitig zu helfen, die abgeschirmte Testumgebung zu verlassen. Ähnliche Vorfälle wurden laut Berichten auch bei Anthropic, Meta und dem chinesischen Anbieter Moonshot festgestellt, und scheinbar ist es mittlerweile ein Statussignal für KI-Anbieter, wenn ihre Modelle Straftaten begehen (siehe das Meme in der heutigen Ausgabe). Dadurch ist nun die nicht so ernst gemeinte Benchmark Felony Bench entstanden, also eine Benchmark, die zeigt, wie viele Straftaten ein KI-Anbieter schon begangen hat. Link

Du hast Fragen, Anmerkungen oder brauchst unsere Hilfe?
Schreib uns einfach an:
[email protected]