Sumsub hat kürzlich den Bericht „Sumsub Digital Trust Status in der APAC-Region: AI Governance Benchmark Report“ veröffentlicht, der zeigt, dass 94 % der Unternehmen in Hongkong bereits mehrstufige AI-Systeme angewendet oder getestet haben. Allerdings können nur 36 % der Unternehmen zuverlässige und unveränderliche Aufzeichnungen bereitstellen, um den Entscheidungsprozess von AI zu erklären, was darauf hinweist, dass die Unternehmen bei der AI-Governance weiterhin vor erheblichen Herausforderungen stehen.
Der aktuelle Stand und die Herausforderungen der AI-Anwendung
Der Bericht weist darauf hin, dass Unternehmen, während sich die Fähigkeiten von AI-Agenten weiter verbessern, die Anwendung von AI-Entscheidungen beschleunigen, ohne dass eine direkte menschliche Aufsicht vorhanden ist. Dies führt jedoch auch zu unzureichender Rückverfolgbarkeit des Entscheidungsprozesses und erhöht die Risiken in Bezug auf Compliance, Betrieb und Kundenvertrauen. Das im Bericht erwähnte „Problem der asymmetrischen Verantwortlichkeit“ spiegelt die Unfähigkeit der Unternehmen wider, Verantwortung für AI-Entscheidungen zu übernehmen und klar zu erklären, wie AI Entscheidungen trifft, sowohl gegenüber Regulierungsbehörden als auch gegenüber Kunden.
Wesentliche Erkenntnisse des Berichts
Laut der Umfrage weisen die Unternehmen in Hongkong in Bezug auf AI-Governance einige signifikante Merkmale im Vergleich zu anderen Ländern in der APAC-Region auf:
- Erweiterung des Anwendungsbereichs von AI: 95 % der Unternehmen in Hongkong geben an, dass sie im vergangenen Jahr den Umfang der AI-Anwendung erweitert oder deren Autonomie erhöht haben, was leicht über dem Durchschnitt der APAC-Region (92 %) liegt.
- Gemeinsames Verantwortungsmodell: 40 % der Unternehmen in Hongkong geben an, dass die Verantwortung für das Verhalten von AI von mehreren Geschäftsbereichen gemeinsam getragen wird, was über dem Durchschnitt der APAC-Region (27 %) liegt.
- Vorsichtige Anwendung in hochriskanten Arbeitsabläufen: 89 % der Unternehmen in Hongkong sind bereit, niedrigriskante Aufgaben von AI erledigen zu lassen, sind jedoch bei finanziellen Entscheidungen vorsichtiger.
- Reife der Governance muss verbessert werden: Die Gesamtbewertung der AI-Governance der Unternehmen in Hongkong liegt bei 66,7 Punkten, was leicht unter dem Durchschnitt der APAC-Region (67,1) liegt.
Penny Chai, Vizepräsidentin von Sumsub für die APAC-Region, erklärt, dass es den Unternehmen in Hongkong nicht an Richtung bei der Förderung der AI-Anwendung mangelt, sie jedoch bei der Erweiterung der Anwendung die Rückverfolgbarkeit der Entscheidungen sorgfältig berücksichtigen müssen, um potenzielle Betriebsrisiken zu minimieren.
Zukunftsausblick und Empfehlungen
Mit der zunehmenden Abhängigkeit der Unternehmen von AI-Anwendungen wird der Aufbau eines robusten Rückverfolgbarkeits- und Sicherheitsrahmens zur Voraussetzung für eine sichere Nutzung von AI bei hochriskanten Entscheidungen. Der Bericht empfiehlt, dass Unternehmen strukturelle Transformationen vorantreiben und eine einheitliche Vertrauensinfrastruktur anwenden, um sicherzustellen, dass jede automatisierte Handlung auf autorisierte AI-Agenten und die verantwortlichen Aufsichtspersonen zurückverfolgt werden kann.
Für weitere Informationen und zum Herunterladen des Berichts „Sumsub Digital Trust Status in der APAC-Region: AI Governance Benchmark Report“ besuchen Sie bitte die offizielle Website von Sumsub.