In einer Zeit rasanter Fortschritte in der künstlichen Intelligenz hat OpenAI, eines der führenden Forschungsunternehmen, seine Vision für die Entwicklung und Implementierung von künstlicher genereller Intelligenz (AGI) klar definiert. Diese zukunftsweisende Technologie, die das Potenzial hat, intelligenter als der Mensch zu sein, soll laut OpenAI zum Wohl der gesamten Menschheit eingesetzt werden.
Sam Altman, der visionäre Kopf hinter OpenAI, hebt hervor, dass AGI sowohl unglaubliche Chancen bietet als auch ernsthafte Risiken mit sich bringt. OpenAIs Ziel ist es, AGI als eine Kraft zu nutzen, die die Menschheit unterstützt, um ihr volles Potenzial im Universum zu entfalten. Es geht darum, das Gute zu maximieren und das Schlechte zu minimieren. Obwohl die Zukunft keine uneingeschränkte Utopie verspricht, soll AGI ein Verstärker menschlicher Kapazitäten sein.
OpenAI befürwortet einen sorgfältigen, schrittweisen Übergang zu AGI, anstatt eines abrupten Wandels. Das Unternehmen plant, seine Systeme zunehmend in realen Szenarien einzusetzen, um Erfahrungen zu sammeln und die Technologie verantwortungsbewusst zu steuern. Diese methodische Einführung gibt Einzelpersonen, Politikern und Institutionen die notwendige Zeit zur Anpassung und ermöglicht es der Gesellschaft und der künstlichen Intelligenz, sich gemeinsam weiterzuentwickeln.
Mit der Annäherung an AGI wächst auch die Vorsicht bei der Entwicklung und Implementierung der Modelle. OpenAI konzentriert sich darauf, zunehmend ausgerichtete und steuerbare Modelle zu schaffen. Die Gesellschaft soll über breite Anwendungsrichtlinien entscheiden, innerhalb derer Einzelpersonen erheblichen Spielraum haben sollten. Langfristig hofft OpenAI, dass globale Institutionen sich auf diese Rahmenbedingungen einigen können.
OpenAI setzt sich für eine weltweite Diskussion über die Steuerung dieser Systeme, die gerechte Verteilung ihrer Vorteile und den fairen Zugang zu diesen Technologien ein. Die Unternehmensstruktur wurde so angepasst, dass die Anreize mit einem positiven Ergebnis übereinstimmen. Dies umfasst eine Klausel in der Unternehmenscharta, die Unterstützung anderer Organisationen in der Sicherheitsentwicklung fördert, statt in den späten Phasen der AGI-Entwicklung mit ihnen zu konkurrieren.
Das Unternehmen betont die Wichtigkeit unabhängiger Überprüfungen neuer Systeme vor deren Freigabe. Diese Prüfungen könnten zukünftig auch vor Beginn von Trainingsläufen erforderlich sein, und für die fortschrittlichsten Technologien könnte eine Begrenzung des Wachstums der Rechenleistung, die zur Erstellung neuer Modelle verwendet wird, beschlossen werden.
Die ersten Modelle der AGI markieren lediglich einen Punkt auf dem Kontinuum der Intelligenz. OpenAI nimmt an, dass der Fortschritt von dort aus weitergehen und möglicherweise das Tempo der letzten Dekade über einen langen Zeitraum hinweg aufrechterhalten wird. Dies könnte dazu führen, dass sich die Welt grundlegend von ihrem heutigen Zustand unterscheidet und die damit verbundenen Risiken enorm sein könnten. Ein schlecht ausgerichtetes superintelligentes AGI könnte schwerwiegenden Schaden anrichten; ebenso könnte ein autokratisches Regime mit einem entscheidenden Vorsprung in Superintelligenz.
Der Übergang zu einer Welt mit Superintelligenz könnte das wichtigste, hoffnungsvollste und zugleich beängstigendste Projekt in der Geschichte der Menschheit darstellen. OpenAI strebt danach, zu einer Welt beizutragen, in der die Menschheit in einem Ausmaß gedeiht, das heute kaum vorstellbar ist.
Beitragsbild: DALL-E3
