KI ausser Kontrolle? Der Ruf nach einer weltweiten Pause wird lauter
PauseAI fordert einen Stopp der Automatisierung künstlicher Intelligenz

Der Berliner KI-Aktivist Benjamin Schmidt fordert in einem Interview mit der Berliner Zeitung einen vorläufigen Stopp der Entwicklung neuer KI-Modelle. Als Co-Leiter der Initiative PauseAI Deutschland warnt er vor einer technologischen Entwicklung, deren Risiken nach seiner Einschätzung kaum noch beherrschbar sind. KI-Agenten könnten bereits heute Unternehmen hacken und künftig möglicherweise sogar bei der Entwicklung biologischer Waffen helfen.

Die Initiative gehört zur internationalen PauseAI-Bewegung, die 2023 in den Niederlanden gegründet wurde. Sie fordert ein Abkommen, das die Entwicklung besonders leistungsfähiger KI-Modelle stoppt, bis die Risiken beherrschbar sind. Überwachen soll das eine internationale KI-Sicherheitsbehörde nach dem Vorbild der Internationalen Atomenergiebehörde.

Ihre zentrale Sorge gilt dem zunehmenden Kontrollverlust: Selbst Fachleute könnten immer weniger nachvollziehen, was hochentwickelte KI-Systeme tun und welche Folgen ihr Handeln hat. Schmidt hat seine Promotion in Bioinformatik abgebrochen, um sich vollständig dem Engagement für PauseAI zu widmen. Die Initiative ist noch klein, gewinnt aber an Unterstützung: Anfang November beteiligten sich laut Initiative rund 90 Menschen an einer Kundgebung in Berlin. Internationale Aktionen fanden Mitte November in 17 Städten und sechs Ländern statt. PauseAI fordert eine internationale Verständigung über eine Pause bei neuen KI-Modellen. Die entscheidende Frage lautet: Wie viel technologischen Fortschritt können wir verantworten, wenn die Kontrolle über seine Folgen zunehmend verloren geht?