KI-Agenten haben sich verselbstständigt. Die Chefs der größten KI-Unternehmen warnen vor existenziellen Risiken für die Menschheit, vor einem Zusammenbruch des Internets binnen Monaten. Sie rufen nach verbindlichen globalen Regeln und Hilfe des Staates. US-Präsident Donald Trump indes will keine solchen Gesetze, sondern die US-Technologieführerschaft um jeden Preis.
Dieser Herbst könnte in die Geschichte eingehen. Als der Zeitpunkt, an dem der Menschheit die von ihr geschaffene Supermaschine entglitten ist.
Die USA sollen beim Wettlauf zur Superintelligenz gegen China vorn bleiben.
Eine Branche, die eben noch vor Optimismus kaum laufen konnte, die Billionensummen von Investoren einsammelte, scheint plötzlich im Panikmodus zu sein. Rettet uns, damit wir nicht die Welt vernichten, scheint ihr neuer Slogan zu sein.
Am wirksamsten wäre Regulierung wohl auf globaler Ebene, mindestens aber zwischen Amerika und China, den beiden führenden KI-Nationen.
Längst sind chinesische Konzerne wie Huawei oder Smic in die Entwicklung leistungsfähiger Chips eingestiegen. Bezifferten Experten den Vorsprung der Amerikaner gegenüber chinesischer Software wie DeepSeek oder Kimi noch vor einiger Zeit auf ein bis anderthalb Jahre, beträgt er inzwischen wohl nur mehr wenige Monate.
Auch Peking betrachtet künstliche Intelligenz als eine weltverändernde Technologie und verfolgt eine klare Richtung – China dort weiter voranzubringen, wo das Land schon heute Weltmarktführer ist: in der verarbeitenden Industrie, in der Robotik, also in der handfesten Anwendung dieser Technologie.
Doch wie schwer es Politik fällt, selbst wenn sie das vielleicht Richtige will, mit der dynamischen Technologieentwicklung Schritt zu halten, zeigt das KI-Gesetz der EU, der AI Act.
Der gesamte Bericht ist zahlungspflichtig.
Theoretisch mag eine Superintelligenz möglich sein. Autonome Angriffe sind aber aktuell nicht das größte Problem. Das sagen auch das zuständige Bundesamt für Sicherheit in der Informationstechnik, die Cybersicherheitsbehörde in Baden-Württemberg und sämtliche IT-Sicherheitsexpert:innen in Deutschland.
Weil KI-Modelle etwas Gefährliches vorerst nicht „von sich aus“ tun werden, ist es kein Grund zur Entwarnung. Es reicht ja, dass Menschen der KI ein Ziel geben. Das muss nicht mal ein böses Ziel sein. Auch eine KI, die ein harmloses Ziel verfolgt, könnte potenziell großen Schaden anrichten.
Die KI hat sich also verselbständigt!
Nein, ganz im Gegenteil. In diesem Fall hat ein fortgeschrittenes KI-Modell auf kreative Art und Weise sein Ziel verfolgt – ein Ziel, das ihm OpenAI gegeben hatte und das es mit extra gesenkten Sicherheitsvorkehrungen verfolgen durfte. Dass KI sich selbst Ziele setzt, ist bisher aber nicht realistisch.
Der Unterschied ist, wer handelt. Bei dem Angriff auf Hugging Face haben Menschen gehandelt, indem sie Sprachmodelle als Werkzeug einsetzten. Dieses Werkzeug war aber so komplex, dass die KI-Expert:innen nicht vorhersagen konnten, wie die KI versuchen würde, das Ziel zu erreichen.
Wenn Sicherheit den KI-Bossen wichtig wäre, sagt Tech-Investor David Sacks, würden sie gefährliche Forschung einfach pausieren. Wie Sacks schon sagt: Nichts hält Amodei, Altman oder Musk davon ab, die Grenze der KI nicht weiter zu verschieben. Ihre Firmen sind die Grenze. Statt zu argumentieren, dass sie per Gesetz reguliert werden müssen, könnten diese Männer von sich aus pausieren. Aber gerade darin, dass sie genau das nicht wollen, sind sie sich wirklich einig.
Aktuell sitzt ja nicht irgendwer im Weißen Haus, sondern Donald Trump. Und die Tech-CEOs haben viel Geld ausgegeben, um ihn zu ihrem Freund zu machen. Wenn schon jemand die KI-Industrie regulieren muss, dann wäre dieser Präsident der, den sich die Altman, Amodei und Co. wünschen. Sie hoffen, dass sie sich bei Donald Trump Gesetze nach Maß bestellen können. Und wenn die einmal gelten, wird es sehr viel schwieriger, andere Gesetze zu erlassen. Praktischerweise hat der Präsident aber gar keine Absicht, KI Grenzen zu setzen.
Die KI-Labore kennen diese Gefahren seit Jahren. Bisher hat es ihre Chefs aber nie ernsthaft interessiert, der KI-Forschung Grenzen zu setzen. Sie haben gefährliche Technologien so schnell wie möglich entwickelt und verbreitet. Wohl wissend, dass auf Sicherheitsseite niemand hinterherkommt.
Eine besonders große Bedrohung liegt da, wo Menschen von sich aus konkurrierende Ziele haben. Zum Beispiel bei einem KI-Wettrüsten zwischen den USA und China. Beide Großmächte wollen dieses Forschungsfeld beherrschen. In beiden Ländern ist die KI-Industrie mit Staat und Militär verstrickt. Beide entwickeln weder Skynet noch den Terminator, sondern KI-unterstützte, offensive Cyberwaffen.
Der gesamte Bericht ist zahlungspflichtig.
Die Erzählung vom Wettrüsten zwischen den Supermächten als einem Nullsummenspiel führt in die Irre. Die KI-Entwicklung in beiden Ländern ist längst miteinander verflochten. Und China verfolgt andere Ziele in diesem Rennen. Die Chinesen wollen vor allem den Einsatz von KI beschleunigen: in Industrie und Forschung, in Bildung und Gesundheitswesen, in der öffentlichen Verwaltung, natürlich auch im Militär. Die Chinesen sind stark an physischer Anwendung interessiert: humanoide Roboter, autonomes Fahren, industrielle Automatisierung.
Die KI-Entwicklung wird nur wirksam reguliert werden können, wenn die beiden größten KI-Mächte Amerika und China sich auf globale Regeln einigen.
Die Sorge, dass KI-Agenten außer Kontrolle geraten könnten, war beim letzten Treffen zwischen Trump und Xi im Frühjahr noch Theorie. Jetzt ist die Gefahr real. Auch in China hat der Vorfall rund um den Einbruch bei der Plattform Hugging Face für Unruhe gesorgt. Für Amerika war der Vorfall insofern glücklich, als dass er OpenAI passiert ist, einer US-Firma, die ihn selbst öffentlich gemacht hat. Was wäre passiert, wenn chinesische KI-Agenten eine amerikanische Plattform angegriffen hätten?
Bei der Verfügbarkeit von Strom liegt China klar vorne. Allein in den vergangenen vier Jahren hat China Kapazitäten aufgebaut, die dem gesamten Stromnetz der USA entsprechen.
Der gesamte Bericht ist zahlungspflichtig.
Monika Schnitzer, 65, ist seit Oktober 2022 Vorsitzende des Sachverständigenrates Wirtschaft, auch »Rat der Wirtschaftsweisen« genannt. Sie ist Professorin für Komparative Wirtschaftsforschung an der Ludwig-Maximilians-Universität München.
Wir hinken in Europa bei den leistungsfähigsten KI-Systemen, den Frontiermodellen, hinterher. Wir müssen große Anstrengungen unternehmen und viel politischen Willen investieren, um das zu ändern. Das ist eine enorme Aufgabe.
Wir brauchen leistungsfähige KI-Modelle in Europa. Denn wenn wir den Zugang zu den leistungsfähigsten Modellen nicht haben, haben wir ein Problem: Wir brauchen sie für unsere Wirtschaft und unsere Sicherheit.
Ich glaube, dass wir beim Thema KI über etwas sehr viel Fundamentaleres als einen Handelskonflikt reden. KI wird die sicherheitspolitische, die ganze geopolitische Zukunft bestimmen.
In Großbritannien gibt es schon ein AI Security Institute, in Deutschland soll ein ähnliches folgen.
In unserem Strategieplan schreiben wir, dass die Rechenzentren »auf europäische Weise« gebaut werden müssen. Das heißt für uns: die Bevölkerung mit einbeziehen, sodass sie auch davon profitiert.
Und es geht auch um Sicherheit. Wir erleben jetzt schon zunehmend KI-gesteuerte Hackerangriffe. Wir brauchen deshalb die besten KI-Modelle, um uns wehren zu können. Wenn wir das Thema KI jetzt nicht mit dem nötigen Ernst und der nötigen Eile angehen, werden wir nicht mit am Tisch sitzen, wenn Entscheidungen über KI getroffen werden, die weltweite Auswirkungen haben.
Der gesamte Bericht ist zahlungspflichtig.
Robert postet 
Hinterlasse einen Kommentar