Anthropic hat offiziell die Einführung der Enterprise Frontier Safeguards (EFS) angekündigt, eine Lösung, die Datenschutz durch Zero Data Retention (ZDR) und fortschrittliche Missbrauchserkennung kombiniert. EFS funktioniert, indem Daten in einer von den Kunden kontrollierten Cloud-Infrastruktur gespeichert werden, anstatt von Anthropic kontrolliert zu werden. EFS wird schrittweise an die Kunden ausgegeben, mit dem Ziel, im späteren Herbst zu beginnen. Um einen reibungslosen Übergang zu gewährleisten, erhalten berechtigte Kunden vor der Bereitstellung von EFS Unterstützung für ZDR in Fable 5 und Fable 5.1.
EFS ist auf die Bedürfnisse der Kunden ausgelegt
Anthropic erklärt, dass EFS in enger Zusammenarbeit mit über 100 Kunden aus den Bereichen Finanzdienstleistungen, Gesundheitswesen, Fertigung, Telekommunikation, Recht, Einzelhandel und öffentlicher Sektor entwickelt wurde und gemeinsam mit Cloud-Partnern wie Amazon Web Services, Google Cloud und Microsoft Azure entworfen wurde.
Lösung für die Herausforderungen der Frontline-Sicherheit
Laut einer offiziellen Erklärung gibt es mit der signifikanten Steigerung der Intelligenz und Autonomie von Mythos-Klasse-Modellen (wie Claude Fable 5.1) potenzielle Risiken für Missbrauch und unangemessenes Verhalten. Anthropic weist darauf hin, dass in den letzten Monaten substantielle Beweise für den Missbrauch von KI-Modellen beobachtet wurden, einschließlich Betrug und komplexer Cyberangriffe, die den Diebstahl oder die missbräuchliche Verwendung von Unternehmensanmeldeinformationen betreffen können, was ohne Überwachung des Datenverkehrs und der Erkennung von Anomalien schwer zu erkennen ist.
„Effektive Erkennung erfordert die Speicherung von Daten über einen sinnvollen Zeitraum, um über Zeit und Konten hinweg zu korrelieren.“
Anthropic
Deshalb führt Anthropic in Fable 5 eine 30-tägige Datenaufbewahrungspolitik ein, die nicht aus dem Wunsch resultiert, Unternehmensdaten zu trainieren, da Anthropic Unternehmensdaten niemals ohne ausdrückliche Genehmigung zum Training verwendet hat und dies auch in Zukunft nicht tun wird.
Kunden kontrollieren die Datenspeicherung und -verwaltung
In EFS können Kunden die Speicherung und Verwaltung ihrer Daten kontrollieren. Kunden möchten in der Lage sein, Daten in der von ihnen kontrollierten Infrastruktur zu speichern und ihre eigenen Verschlüsselungsschlüssel, Zugriffsrichtlinien und Audit-Protokolle zu verwenden. Die für die Überwachung verwendeten Aktivitätsdaten können im Cloud-Konto des Kunden gespeichert werden, beispielsweise in Amazon S3, Azure Blob Storage oder Google Cloud Storage.
„Die automatische Sicherheitsüberwachung von EFS erfordert keine manuelle Überprüfung durch Anthropic.“
Anthropic
Kunden möchten Schutz vor Cyberangriffen erhalten und erkennen, dass solche Angriffe, wenn sie über mehrere Sitzungen und Konten hinweg durchgeführt werden, sehr schwer zu erkennen sind. Das automatische System von EFS analysiert rollierende Datenverkehrsfenster, um Signale für schwerwiegenden Missbrauch zu erkennen, einschließlich Versuche, aggressive Netzwerke oder biologische Fähigkeiten zu entwickeln, sowie Anzeichen von gestohlenen oder geleakten Anmeldeinformationen. Diese Warnungen werden direkt an die Kunden gesendet, die von ihrem Team bearbeitet werden, ohne dass eine manuelle Überprüfung durch Anthropic-Mitarbeiter erforderlich ist.
EFS Einführungsplan
Die Enterprise Frontier Safeguards werden schrittweise an die Kunden ausgegeben, mit dem Ziel, im Herbst umfassend verfügbar zu sein. Wenn Kunden Zugang zu EFS beantragen möchten, sollten sie das entsprechende Formular ausfüllen. Anthropic betont, dass die Nutzung von EFS das Verhalten des Modells, die API-Preise oder die Ratenbeschränkungen nicht ändern wird und keine zusätzlichen Kosten für die Kunden anfallen.
Quellen: Offizielle Ankündigung von Anthropic