Microsoft-Chef Satya Nadella befürwortet Verlangsamung der KI-Entwicklung, während Peking Forderungen nach einer Eindämmung der chinesischen KI ablehnt.

Nadella erklärte, die Entwicklung immer leistungsfähigerer Systeme künstlicher Intelligenz müsse weiterhin auf die menschliche Steuerung ausgerichtet sein, wobei gleichzeitig sichergestellt werden müsse, dass die Vorteile der Technologie breit zugänglich seien. Seine Äußerungen erfolgten kurz nachdem Dario Amodei, CEO von Anthropic , eine behutsamere Entwicklung fortschrittlicher künstlicher Intelligenz gefordert und eine stärkere internationale Koordination angemahnt hatte.

Gleichzeitig wies Peking Amodeis Forderung nach fortgesetzten Beschränkungen des Zugangs Chinas zu fortschrittlichen KI-Chips und Halbleiteranlagen zurück. Chinesische Beamte argumentierten, dass Konfrontation und Wettbewerb zwischen Großmächten die Bemühungen um eine globale KI-Governance untergraben könnten.

Die gegensätzlichen Positionen verdeutlichen eine wachsende Kluft in der Frage, wie Regierungen und Technologieunternehmen die Sicherheit von KI mit dem Wettlauf um die technologische Führungsrolle in Einklang bringen sollen.

Satya Nadella plädiert für einen maßvollen Ansatz bei der KI-Entwicklung

In einem Beitrag auf X erklärte Nadella, dass jedes Streben nach Superintelligenz auf dem Prinzip beruhen sollte, dass künstliche Intelligenz der Menschheit nützen und unter menschlicher Kontrolle bleiben muss.

„Jedes Streben nach Superintelligenz muss auf dem Grundprinzip beruhen, dass KI hilfreich und kontrollierbar bleibt“, schrieb Nadella.

Nadella plädiert für eine vom Menschen gesteuerte KI, die der Gesellschaft nützt und gleichzeitig sicherstellt, dass ihre Vorteile durch proprietäre und Open-Source-Modelle breit zugänglich sind. Quelle: Satya Nadella via X

Er argumentierte außerdem, dass eine Verlangsamung bestimmter Aspekte der Entwicklung künstlicher Intelligenz nicht auf Kosten eines breiteren Zugangs zu dieser Technologie gehen dürfe. Nadella forderte, dass sowohl proprietäre als auch Open-Source-KI-Modelle Teil des umfassenderen Ökosystems bleiben sollten, da ihre Vorteile Ländern, Gemeinschaften und Unternehmen weltweit zugutekommen müssten.

Nadellas Position ist daher differenzierter als ein pauschaler Aufruf zum Stopp der KI-Entwicklung. Er betonte ein überlegtes Tempo und stärkere Schutzmaßnahmen, plädierte aber gleichzeitig für eine breitere Anwendung und mehr Wettbewerb im gesamten Spektrum der künstlichen Intelligenz.

Der Microsoft-CEO betonte außerdem, dass Unternehmen die Kontrolle über ihr eigenes Wissen und ihre KI-Systeme behalten sollten, anstatt sich zu sehr von einem einzigen Modellanbieter abhängig zu machen. Er sagte, Unternehmen sollten die Möglichkeit haben, kontinuierliche Lernsysteme auf Basis ihres eigenen Wissens und ihrer eigenen Modelle zu entwickeln.

„Wir begrüßen die Forschung, den Fokus und das überlegte Tempo, die notwendig sind, um die richtige Abstimmung zu erreichen“, sagte Nadella und wies gleichzeitig auf Mechanismen wie eingebettete Evaluatoren als mögliche Wege hin, um die Verpflichtungen zur KI-Sicherheit besser messbar zu machen.

Die Kommentare fallen in eine breitere Branchendiskussion, die durch Amodeis Essay „ Wir müssen die Grenzen mitgestalten“ vom September angestoßen wurde . Der CEO von Anthropic argumentierte, dass die KI-Fähigkeiten so rasant fortschreiten, dass zusätzliche Zeit für Sicherheits- und Abstimmungsarbeiten erforderlich sei. Er schlug unabhängige Gutachter, die Koordination zwischen Unternehmen in demokratischen Ländern und schließlich internationale Zusammenarbeit vor.

Amodei wies insbesondere auf die Möglichkeit der rekursiven Selbstverbesserung hin, bei der KI-Systeme zunehmend zur Entwicklung leistungsfähigerer Systeme beitragen. Er argumentierte, dass dies den Fortschritt so beschleunigen könnte, dass Forscher und Regulierungsbehörden die daraus resultierenden Risiken nicht mehr angemessen bewerten könnten.

Sein Vorschlag sah keinen sofortigen Stopp der Forschung im Bereich der künstlichen Intelligenz vor. Stattdessen beschrieb Amodei das Konzept der „Anpassung“ als eine Möglichkeit, sicherzustellen, dass Sicherheitsmaßnahmen und unabhängige Evaluierungen mit den wachsenden Fähigkeiten Schritt halten.

Peking wehrt sich gegen die Forderung des CEOs nach einer Eindämmung der chinesischen KI.

Peking vertritt eine andere Position in der Frage der Verlangsamung der KI-Entwicklung, insbesondere dort, wo sich das Thema mit Chinas technologischem Wettbewerb mit den Vereinigten Staaten überschneidet.

Das chinesische Außenministerium reagierte auf Amodeis Argument, Washington solle die Beschränkungen für den Import fortschrittlicher KI-Chips und Halbleiterfertigungsanlagen nach China aufrechterhalten. Amodei erklärte, die Wahrung der US-Führungsposition sei wichtig, da er eine chinesische Führungsrolle im Bereich der künstlichen Intelligenz als ernsthafte nationale Sicherheitsbedrohung ansehe.

Guo Jiakun forderte eine offene und inklusive globale Zusammenarbeit im Bereich der KI und warnte davor, dass Konfrontations- und Bedrohungsnarrative die Bemühungen zum Wohle der Menschheit untergraben könnten. Quelle: Global Times via X

Der Sprecher des Außenministeriums, Guo Jiakun, rief die Länder dazu auf, stattdessen eine breitere internationale Zusammenarbeit anzustreben. Er warnte davor, dass „Angstmacherei, Konfrontation und ein ruinöser Wettbewerb“ die globale Steuerung der künstlichen Intelligenz stören und niemandem nützen würden.

Die Reaktion spiegelt die umfassenderen geopolitischen Spannungen im Zusammenhang mit KI-Chips, Modellentwicklung und dem Zugang zu Recheninfrastruktur wider. Washington hat Exportkontrollen für hochentwickelte Halbleiter und verwandte Technologien eingesetzt, um Chinas Zugang zu den leistungsstärksten KI-Rechensystemen einzuschränken.

Amodei argumentierte, dass solche Beschränkungen mit einer globalen Strategie für die Sicherheit künstlicher Intelligenz vereinbar seien. In seinem Vorschlag führte er aus, dass demokratische Länder einen ausreichenden technologischen Vorsprung bewahren sollten, um Raum für eine sicherere Entwicklung zu schaffen, und gleichzeitig begrenzte Formen der Zusammenarbeit mit China anstreben sollten.

Er räumte ein, dass globale KI-Abkommen schwierig zu realisieren seien, da keine der beiden Seiten ohne Weiteres überprüfen könne, ob die andere die Vereinbarungen einhalte. Sein Vorschlag reichte daher von eng gefassten Abkommen über besonders gefährliche Anwendungen bis hin zu ambitionierteren Regelungen, die letztendlich das Tempo des Fortschritts künstlicher Intelligenz begrenzen könnten.

China hat seinerseits die internationale Zusammenarbeit im Bereich der künstlichen Intelligenz weiter vorangetrieben und sich dabei als aktiver Akteur in der Entwicklung von Open-Source-KI positioniert. Chinesische Unternehmen haben Modelle entwickelt, die in verschiedenen Bereichen mit US-Systemen konkurrieren und oft zu geringeren Kosten angeboten werden können, was den Wettbewerb zwischen den beiden Ländern weiter verschärft.

Die künstliche Intelligenz Die Debatte um die Konjunkturabschwächung legt die Kluft zwischen den USA und China offen.

Die Meinungsverschiedenheit entsteht zu einem Zeitpunkt, an dem die Entwicklung von KI zunehmend mit nationaler Sicherheit und Wirtschaftspolitik verknüpft wird.

US-Präsident Donald Trump hat Forderungen nach einer Verlangsamung des Wettlaufs um künstliche Intelligenz zurückgewiesen und argumentiert, dass die Aufrechterhaltung des amerikanischen Vorsprungs gegenüber China von strategischer Bedeutung sei. Trump sagte: „Wer im Bereich KI gewinnt, gewinnt“, und unterstrich damit den Fokus seiner Regierung auf den technologischen Wettbewerb.

Globale KI-Aktien gaben am Montag nach, nachdem Anthropic-CEO Dario Amodei ein langsameres Wachstum der KI-Fähigkeiten gefordert hatte. Auch Sam Altman und Elon Musk sprachen sich für ein gemäßigteres Tempo aus. Quelle: CNBC via X

Diese Position steht im Gegensatz zu dem vorsichtigeren Ansatz, der derzeit von mehreren führenden Köpfen der KI-Branche diskutiert wird. Amodei hat stärkere Sicherheitsmechanismen gefordert, während OpenAI-CEO Sam Altman und andere Persönlichkeiten aus der Technologiebranche sich für eine stärkere Überwachung des Entwicklungstempos fortschrittlicher künstlicher Intelligenz ausgesprochen haben.

Nadellas Intervention bringt eine wichtige Mittelposition in die Debatte ein. Seine Äußerungen befürworten ein überlegtes Entwicklungstempo und menschliche Aufsicht, ohne jedoch einen generellen Stopp von KI-Innovationen zu fordern. Er betonte zudem Wettbewerb, Zugänglichkeit und die Möglichkeit für Unternehmen, die Kontrolle über ihre eigenen KI-Systeme zu behalten.

Das Thema dürfte weiterhin im Fokus stehen, da Washington und Peking weitere Gespräche über die Regulierung künstlicher Intelligenz vorbereiten. Trump und der chinesische Präsident Xi Jinping werden voraussichtlich bei einem geplanten Treffen am 24. September über die Regulierung künstlicher Intelligenz sprechen und die Technologie damit in den Mittelpunkt der umfassenderen Beziehungen zwischen den USA und China rücken.

In der KI-Branche geht es zunehmend nicht mehr um die Frage , ob die Entwicklung schnell oder langsam erfolgen sollte. Die dringlichere Frage ist, wie Regierungen und Unternehmen den technologischen Fortschritt aufrechterhalten und gleichzeitig Systeme entwickeln können, die Sicherheitsrisiken bewerten, die menschliche Kontrolle schützen und die Folgen zunehmend autonomer künstlicher Intelligenz begrenzen.

Nadellas Äußerungen deuten darauf hin, dass der sich abzeichnende Branchenkonsens möglicherweise nicht in einer einfachen Wahl zwischen uneingeschränkter Beschleunigung und einem vollständigen Stopp der KI-Entwicklung besteht. Vielmehr konzentriert sich die Debatte zunehmend darauf, ob die Spitzentechnologie der KI in einem Tempo voranschreiten kann, das es ermöglicht, dass Sicherheitsforschung, unabhängige Evaluierung und internationale Regulierung Schritt halten können.