I. Starten von AI Verify
Auf der Jahrestagung des Weltwirtschaftsforums, die im Mai dieses Jahres (2022) in Davos stattfand, kündigte die Ministerin für Kommunikation und Information Josephine Teo (Minister Teo) die Einführung von AI Verify in Singapur an, dem weltweit ersten Framework und Toolkit für KI-Governance-Tests. um Unternehmen eine Möglichkeit zu bieten, die Sicherheit und Zuverlässigkeit ihrer Produkte und Dienstleistungen im Bereich der künstlichen Intelligenz (KI) zu messen und nachzuweisen.
Die Einführung von AI Verify in Singapur folgt auf die Einführung des Model AI Governance Framework im Jahr 2020 und der National AI Strategy im Jahr 2019. AI Verify will die Transparenz über die Nutzung von KI zwischen Unternehmen und ihren Stakeholdern durch selbst durchgeführte technische Tests und Prozesse fördern Überprüfung. AI Verify wurde von der Infocomm Media Development Authority und der Personal Data Protection Commission entwickelt und stellt Singapur an die Spitze des internationalen Diskurses über den ethischen Einsatz von KI.
AI Verify wurde als Minimum Viable Product (MVP) eingeführt, das weiterentwickelt wird. Organisationen können an der Pilotierung des MVP teilnehmen, wo sie frühzeitig Zugriff auf das MVP erhalten und es verwenden können, um Selbsttests an ihren KI-Systemen und -Modellen durchzuführen. Es hilft auch bei der Gestaltung eines international anwendbaren MVP, um die Anforderungen der Branche widerzuspiegeln und internationale Standards zu entwickeln.
II. KI-Governance-Testrahmen und Toolkit
Produkte und Dienstleistungen nutzen zunehmend KI, um eine stärkere Personalisierung zu bieten und autonome Vorhersagen zu treffen. Es besteht ein starker öffentlicher Wunsch, dass KI-Systeme fair, erklärbar und sicher sind und dass Unternehmen, die KI verwenden, transparent und rechenschaftspflichtig sind.
Das MVP beinhaltet ein „Testing Framework“ und eine „Toolbox“. Sie ermöglichen es Entwicklern, die behauptete Leistung ihrer KI-Systeme anhand standardisierter Tests zu authentifizieren. Das MVP setzt jedoch keine ethischen Standards, sondern bietet Entwicklern und Eigentümern von KI-Systemen ein Mittel, um ihre Behauptungen über die Leistung ihrer KI-Systeme gegenüber ethischen Grundsätzen der KI offenzulegen und zu demonstrieren.
A. Das Test-Framework
Der Testrahmen befasst sich mit fünf (5) Hauptproblembereichen für KI-Systeme (die 5 Säulen), das 11 internationale ethische Grundsätze in der KI abdeckt (the KI-Ethikprinzipien).
Die 5 Säulen sind:
- Transparenz über den Einsatz von KI und KI-Systemen;
- verstehen, wie ein KI-Modell zu einer Entscheidung gelangt;
- Gewährleistung der Sicherheit und Belastbarkeit von KI-Systemen;
- Gewährleistung von Fairness und Freiheit von unbeabsichtigter Diskriminierung durch KI; und
- Gewährleistung einer ordnungsgemäßen Verwaltung und Überwachung von KI-Systemen.
Die ethischen Grundsätze der KI sind:
- Transparenz;
- Erklärbarkeit;
- Wiederholbarkeit oder Reproduzierbarkeit;
- Sicherheit;
- Sicherheit;
- Robustheit;
- Gerechtigkeit;
- Datenamt;
- Verantwortung;
- Menschliche Vertretung und Aufsicht; und
- Integratives Wachstum, gesellschaftliches und ökologisches Wohlergehen.
Das Testing Framework definiert die ethischen Prinzipien der KI und weist jedem Prinzip eine Reihe überprüfbarer Kriterien zu. Das Testframework stellt Testprozesse bereit, die durchführbare Schritte sind, um zu überprüfen, ob jedes testbare Kriterium erfüllt wurde. Das Testframework definiert auch wohldefinierte Parameter für die zu messenden Metriken und Schwellenwerte, die akzeptable Werte oder Benchmarks für die ausgewählten Metriken definieren.
B. Der Werkzeugkasten
Das Toolkit umfasst technische Tests auf Fairness, Erklärbarkeit und Robustheit. Es bietet eine Benutzeroberfläche, um Benutzer durch den Testprozess zu führen, unterstützt einige binäre Klassifizierungs- und Regressionsmodelle und erstellt einen zusammenfassenden Bericht, der Entwicklern und Systembesitzern hilft, Testergebnisse zu interpretieren. Es ist in einem Docker-Container verpackt, um es einfach in der Umgebung des Benutzers bereitzustellen.
III. Die Entwicklung internationaler Standards zur KI-Governance
AWS, DBS Bank, Google, Meta, Microsoft, Singapore Airlines, NCS, Standard Chartered Bank, UCARE.AI und X0PA.AI haben das MVP getestet und/oder Feedback dazu gegeben. In Zukunft will Singapur mit Eigentümern oder Entwicklern von KI-Systemen auf der ganzen Welt zusammenarbeiten, um Branchen-Benchmarks für die Entwicklung internationaler Standards zur KI-Governance zu sammeln und zu etablieren. Für die Interoperabilität von KI-Governance-Frameworks und die Entwicklung internationaler KI-Standards hat Singapur an ISO/IEC JTC1/SC 42 zu KI teilgenommen und arbeitet mit dem US-Handelsministerium und anderen gleichgesinnten Ländern und Partnern zusammen.
IV. Abschließende Gedanken
Die Entwicklungen im digitalen Raum ändern sich rasant und die Regulierung muss Schritt halten können; Die Regelsetzung erfordert wiederum eine dynamische und kooperative Beteiligung von politischen Entscheidungsträgern und Technologieführern mit dem ultimativen Ziel, die Nutzung neuer Technologien zu ermöglichen und gleichzeitig die damit verbundenen Risiken abzuwehren.
Dentons Rodyk dankt Tan Wei En, Praktikant in der Praxis, für seine Beiträge zu diesem Artikel.