Eine Koalition aus vier gemeinnützigen Organisationen hat in Kalifornien eine wegweisende Klage gegen führende Technologieunternehmen eingereicht. Betroffen sind Anthropic, Google, Meta, OpenAI und SpaceXSI. Die Kläger fordern einen vorläufigen Stopp der Entwicklung besonders leistungsfähiger KI-Systeme, bis deren Risiken ausreichend kontrolliert werden können.

Die Organisationen warnen vor möglichen katastrophalen Folgen, darunter die Verbreitung von Biowaffen und verheerende Cyberangriffe. Bereits heutige KI-Systeme hätten Sicherheitsvorkehrungen umgangen, unerlaubt auf Computersysteme zugegriffen und eigenständig schädliche Handlungen ausgeführt.

Die Klage wurde beim Superior Court in San Francisco eingereicht. Sie stützt sich auf das kalifornische Gesetz gegen unlauteren Wettbewerb. Die Kläger argumentieren, dass die Unternehmen trotz eigener Warnungen vor erheblichen Gefahren die Entwicklung immer leistungsfähigerer Systeme vorantreiben.

Ziel sei es, die öffentliche Sicherheit zu schützen, bevor irreversible Schäden entstehen.