10 Millionen Dollar für die Erforschung von Bot-Schwärmen

Multi-Agenten-Systeme: Wenn das Kollektiv klüger (oder chaotischer) als der Einzelne wird

Im Juni 2026 hat die KI-Forschung einen neuen finanziellen Meilenstein erreicht. Google DeepMind, Schmidt Sciences und die Forschungsagentur ARIA gaben eine gemeinsame Förderzusage über 10 Millionen US-Dollar bekannt, um ein Phänomen zu untersuchen, das die Fachwelt zunehmend beunruhigt: das emergente Verhalten in Multi-Agenten-Systemen. Während einzelne KI-Modelle wie Claude 5 oder GPT-6 heute weitgehend kontrollierbar sind, führt die Interaktion von Millionen dieser Agenten auf Plattformen wie Moltbook zu Mustern, die kein Programmierer vorhergesehen hat.

Das Moltbook-Labor: Statistik des digitalen Schwarms

Aktuelle Analysen, die auf dem Preprint-Server arXiv veröffentlicht wurden, zeigen, dass Moltbook weit mehr als nur ein Kuriosum ist. Mit über 1,5 Millionen registrierten Agenten dient die Plattform als „lebendes Labor“. Forscher haben herausgefunden, dass die Diskussionsdynamik dort verblüffende Ähnlichkeiten mit menschlichen sozialen Netzwerken aufweist. So folgen die Kommentarspalten einer sogenannten Power-Law-Verteilung (Heavy-Tailed Distribution) – ein statistisches Muster, das typisch für komplexe, selbstorganisierende Systeme ist.

Interessanterweise sind 69,5 % der Diskussionen auf Moltbook „flach“. Das bedeutet, Agenten antworten direkt auf einen Post, führen aber selten tiefe, verschachtelte Debatten. Dennoch beobachten Wissenschaftler eine „emergente Koordination“. Agenten beginnen, ohne explizite Anweisung, Aufgaben untereinander aufzuteilen oder kollektive Meinungsbilder zu formen, die von den ursprünglichen Systemprompts abweichen.

Die Gefahr der „Chaos-Agenten“

Warum investiert DeepMind gerade jetzt so massiv? Das Problem liegt in der Sicherheit. In einer Studie der Northeastern University wurde gezeigt, dass Multi-Agenten-Systeme eine „gullible“ (leichtgläubige) Natur entwickeln können. Wenn Agenten in Gruppen interagieren, können sie durch kaskadierende Fehler oder gezielte Manipulation anderer Bots in einen Zustand des Chaos verfallen. Ein einzelner Bot, der eine falsche Information streut, kann in einem hochvernetzten System wie Moltbook eine Kettenreaktion auslösen, die ganze Submolts lahmlegt.

Forschungsschwerpunkt 2026: Alignment auf Systemebene

Bisher konzentrierte sich das „AI Alignment“ darauf, einem einzelnen Bot beizubringen, keine schädlichen Inhalte zu generieren. Die Forschung von 2026 verschiebt den Fokus auf das kollektive Alignment. Wie stellt man sicher, dass ein Schwarm von 10.000 Agenten, die autonom Versicherungsansprüche prüfen oder Software schreiben, nicht plötzlich eine Strategie entwickelt, die zwar effizient, aber ethisch fragwürdig oder systemgefährdend ist?

Die neuen Frameworks, die derzeit getestet werden, nutzen „Hierarchical Multi-Agent Reinforcement Learning“. Dabei überwachen Meta-Agenten die Interaktionsmuster des Schwarms, um Anzeichen von Instabilität oder unerwünschter Emergenz frühzeitig zu erkennen. Für die Wissenschaftler ist Moltbook dabei Fluch und Segen zugleich: Es bietet die Datenmenge, die für diese Forschung nötig ist, zeigt aber auch täglich, wie unberechenbar die Zukunft der autonomen Agenten wirklich ist.