Wichtige Informationen
Ein vertraulicher Entwurf eines KI-Sicherheitsgesetzes von Anthropic wurde US-Gesetzgebern vorgelegt.
Berichten zufolge schlägt der Vorschlag vor, dass staatliches Eingreifen nur dann erfolgen sollte, wenn ein KI-Modell ein vorhersehbares, unmittelbar bevorstehendes Risiko darstellt, Schäden in Höhe von über 1 Milliarde US-Dollar zu verursachen oder zum Tod oder zur schweren Verletzung von mehr als 50 Personen zu führen. Der Entwurf spezifiziert, dass diese hohen Schwellenwerte speziell für Risiken gelten, die von Cyberangriffen, der Entwicklung biologischer Waffen oder Fällen ausgehen, in denen ein Modell die internen Kontrollen seines Entwicklers erfolgreich umgeht.
Ein Sprecher von Anthropic erklärte, dass diese Maßnahmen mit dem Advanced AI Framework des Unternehmens übereinstimmen, das sie seit Juni bei staatlichen und föderalen Beamten bewerben. Das Unternehmen bezeichnet diese als vernünftige Richtlinien, die der Kongress verabschieden sollte.
Kritiker argumentieren, dass solche Vorschriften es Technologieunternehmen ermöglichen könnten, konform zu erscheinen, während sie den Betrieb effektiv nur zu ihren eigenen Bedingungen einschränken. Einige Beobachter deuten darauf hin, dass diese Vorschläge die Angst vor katastrophalen Ergebnissen nutzen, um eine Selbstregulierung zu erleichtern, wobei bestehende Schäden durch aktuelle KI-Technologien möglicherweise ignoriert werden.
