Anthropic-CEO Dario Amodei hat in einem Blogbeitrag einen Vorschlag für eine kontrollierte Verlangsamung aktueller KI-Entwicklung veröffentlicht. In seinem Statement für das Science Media Center erläutert Prof. Dr. Matthias Kettemann, der Vorschlag sei ernster zu nehmen als frühere „Pause“-Appelle, weil er nicht vage nach einem Stopp ruft.
Man sollte den Vorschlag, so Kettemann, allerdings auch kritisch lesen, denn: „Wir haben hier eine Firma, deren Geschäftsmodell von einer Verlangsamung nicht wirklich bedroht wird und die zugleich Exportkontrollen gegen chinesische Konkurrenz fordert. Die Prognose, ein Agenten-Schwarm könne in sechs bis zwölf Monaten ‚das gesamte Internet übernehmen‘, ist unbelegt und unbelegbar.“
Das komplette Statement von Matthias Kettemann – und anderen Wissenschaftler*innen – ist auf der Website des Science Media Centers abrufbar.
Zum Hintergrund
Nachdem mehrere sicherheitsrelevante Vorfälle durch autonome KI-Systeme unzureichende Sicherheitsvorkehrungen offenbarten, forderte Dario Amodei, CEO von Anthropic – dem Unternehmen hinter dem Chatbot Claude –, branchenweit eine bessere Kontrolle und eine verlangsamte Entwicklung leistungsstarker KI-Modelle. Die geforderten Maßnahmen sollen Anbietern Zeit geben, diese zu etablieren. Andere große US-amerikanische KI-Anbieter wie OpenAI oder Google stimmten Amodei in vielen Punkten zu.
Das Science Media Center hat Wissenschaftler*innen um eine Einordnung der aktuellen Situation und mögliche künftige Risiken gebeten.