42001-15 Daten für KI-Systeme

Für: V, IA
Quelle: ISO/IEC 42001:2023(en), Englisch. A.7, B.7, Begriff 3.25

Das Maßnahmenziel A.7 lautet, sicherzustellen, dass die Organisation Rolle und Auswirkungen von Daten in KI-Systemen versteht, bei Anwendung und Entwicklung, Bereitstellung oder Nutzung über die Lebenszyklen. Fünf Referenzmaßnahmen, soweit nach 6.1.3 notwendig.

A.7.2: Datenmanagementprozesse in Bezug auf die Entwicklung von KI-Systemen definieren, dokumentieren und umsetzen.

A.7.3: Einzelheiten über Beschaffung und Auswahl der in KI-Systemen verwendeten Daten bestimmen und dokumentieren.

A.7.4: Anforderungen an die Datenqualität definieren und dokumentieren und sicherstellen, dass Daten, die zur Entwicklung und zum Betrieb des KI-Systems verwendet werden, diese Anforderungen erfüllen. Datenqualität ist nach 3.25 die Eigenschaft, dass Daten die Datenanforderungen der Organisation für einen bestimmten Kontext erfüllen. Die Quelle der Definition ist ISO/IEC 5259-1, zum Zeitpunkt der Veröffentlichung in Vorbereitung.

A.7.5: einen Prozess definieren und dokumentieren, um die Herkunft der in den KI-Systemen verwendeten Daten über die Lebenszyklen der Daten und des KI-Systems aufzuzeichnen.

A.7.6: Kriterien für die Auswahl von Datenaufbereitungen und die zu verwendenden Aufbereitungsmethoden definieren und dokumentieren.

B.7 formuliert A.7.2 bis A.7.5 mit „should“. B.7.6 behält im Kasten „Control“ das „shall“ des Tabellentextes. Die Anleitung darunter sagt zusätzlich, die Organisation sollte für eine gegebene KI-Aufgabe ihre Kriterien und die konkret verwendeten Methoden dokumentieren. „Should“. Die Anforderung bleibt A.7.6.

B.7.2 nennt Themen, die Datenmanagement einschließen kann: Privatsphäre und Security, Bedrohungen aus datenabhängiger Entwicklung, Transparenz und Erklärbarkeit einschließlich Herkunft und der Fähigkeit zu erläutern, wie Daten eine Ausgabe bestimmen, wenn das System Transparenz und Erklärbarkeit verlangt, Repräsentativität der Trainingsdaten gegenüber der betrieblichen Domäne, Genauigkeit und Integrität. ISO/IEC 22989 wird genannt und nicht nacherzählt.

B.7.3 nennt mögliche Einzelheiten der Beschaffung, darunter Kategorien, Menge, Quellen, Merkmale der Quelle, Demografie und mögliche Verzerrung, frühere Behandlung, Rechte an Daten als Beispiel personenbezogene Daten und Urheberrecht, Metadaten und Herkunft. ISO/IEC 19944-1 kann zur Dokumentation genutzt werden. „Can“.

B.7.4 verweist auf die Definition der Datenqualität in ISO/IEC 25024 und sagt, bei überwachtem oder halbüberwachtem Lernen sei es wichtig, dass die Qualität von Trainings-, Validierungs-, Test- und Produktionsdaten definiert, gemessen und soweit möglich verbessert wird. Die Organisation sollte sicherstellen, dass die Daten für den beabsichtigten Zweck geeignet sind, und die Wirkung von Verzerrung auf Leistung und Fairness bedenken. ISO/IEC TR 24027 und die Reihe ISO/IEC 5259 werden genannt und nicht nacherzählt. Die Anforderung, soweit notwendig, bleibt A.7.4: Anforderungen definieren und dokumentieren und sicherstellen, dass die verwendeten Daten sie erfüllen.

B.7.5 zitiert ISO 8000-2 dazu, was eine Aufzeichnung der Herkunft einschließen kann, und sagt, Organisationen sollten erwägen, ob Maßnahmen zur Prüfung der Herkunft nötig sind. ISO 8000-2 liegt nicht vor.

B.7.6 nennt übliche Aufbereitungsmethoden, darunter statistische Erkundung, Bereinigung, Imputation, Normierung, Skalierung, Kennzeichnung und Kodierung. Das sind Beispiele. Die Anmerkung verweist auf die Reihe ISO/IEC 5259 und auf ISO/IEC 23053.

Nicht in diesem Text: ein Datenblatt als Formular, eine statistische Methode als Pflicht, und der Inhalt der Reihe ISO/IEC 5259, von ISO/IEC 25024, ISO 8000-2 und ISO/IEC TR 24027. Urheberrecht und Datenschutz werden nicht aus den Beispielen in B.7.3 zu einem eigenen Rechtsartikel.