Wird Superintelligenz verteilt — oder verwaltet?

Der zentrale Hebel sei nicht Effizienz, sondern Invention Superpower: Während ein Mensch nur begrenzt viele Fragen stellen kann, sei das Potenzial der KI, neues Wissen zu generieren, praktisch unbegrenzt.

Als Beispiele nennt das Manifest wissenschaftliche Modelle, die „virtuelle Zellen" simulieren, um Krankheiten frühzeitig zu erkennen, sowie neue Materialstrukturen für Hardware.

Zuckerberg schreibt wörtlich, es gebe „keine einzelne wohlwollende Superintelligenz" — jede zentral gesteuerte KI würde zwangsläufig die Werte ihrer Schöpfer über die aller anderen stellen.

Als Gegenmodell schlägt er unabhängige Aufsichtsgremien vor, etwa ein Board, das über Sicherheitskriterien für Modell-Releases entscheidet.

Kritischer Einwand: Kommentatoren wie Ben Goertzel merken an, dass diese „Verteilung" faktisch weiter durch ein einzelnes, werbefinanziertes Unternehmen mit geschlossenem Quellcode läuft — ein Widerspruch zur eigenen Dezentralisierungs-Rhetorik.

Hat nur eine Prozesspartei Zugang zu einem superintelligenten Anwalt, entsteht keine Gerechtigkeit, sondern ein Machtgefälle. Erst wenn beide Seiten dieselben Werkzeuge haben, wird das Spielfeld wieder eben.

Dasselbe Prinzip überträgt das Manifest auf Cybersicherheit: Verteidiger bräuchten Zugang zu ebenso starken oder stärkeren Werkzeugen als Angreifer.

Damit ein persönlicher Agent Gesundheit, Finanzen und private Gedanken verwalten kann, brauche es Ende-zu-Ende-Verschlüsselung, die selbst Meta den Zugriff auf diese Daten verwehrt — der „Fully Private Mode".

Einordnung: Ob und wie dieser Modus technisch umgesetzt wird, ist im Manifest selbst nicht spezifiziert. Es bleibt eine Ankündigung, keine veröffentlichte Architektur.

Wenn KI die Kosten für Marktforschung, Coding und Design gegen null senkt, verliert Kapital seine Funktion als Eintrittsbarriere. Eine einzelne Person mit starker Vision könnte so ein Unternehmen von globaler Bedeutung führen.

Begleitend nennt das Manifest soziale Programme wie den „Future Is For Everyone Fund" (1 Milliarde US-Dollar) für Gemeinden in der Nähe von Meta-Rechenzentren.