Praktiken f¨¹r verantwortungsvolle KI
Vertrauen st?rken durch verantwortungsbewusste Entwicklung von KI-L?sungen
Wir entwickeln KI-Features auf verantwortungsvolle Weise und bieten unseren Kunden die Tools und Funktionen, die sie f¨¹r die Einf¨¹hrung, Konfiguration und Anwendung von KI zum Erreichen Ihrer Ziele ben?tigen.
Verantwortungsvolle KI bei Â鶹´«Ã½
Â鶹´«Ã½ ist ein Branchenf¨¹hrer bei Governance f¨¹r verantwortungsvolle KI (Responsible AI Governance, RAI)?¨C und wir wollen KI nach ethischen Prinzipien entwickeln und einsetzen. Deshalb bewerten und managen wir die Risiken der KI sorgf?ltig. Unser Team arbeitet mit allen Bereichen von Â鶹´«Ã½ zusammen, um zu gew?hrleisten, dass unsere KI Menschenrechte und Sicherheit wahrt und der Gesellschaft durch die Implementierung eines verantwortungsvollen Ansatzes einen echten Nutzen bietet.
Durch die proaktive Partnerschaft mit Coalfire, einem f¨¹hrenden Unternehmen f¨¹r Cybersicherheit, sind wir in der Lage, unsere anhand des NIST AI Risk Management Framework zu evaluieren. Au?erdem haben wir unser Programm von Schellman nach ISO 42001 zertifizieren lassen. Diese unabh?ngigen Evaluierungen validieren unsere Einhaltung der h?chsten Standards f¨¹r verantwortungsvolle KI, einschlie?lich Kontrollmechanismen f¨¹r KI-Sicherheit und Datenschutz.
Zuverl?ssige Risikobewertung
Je nach KI unterscheiden sich die Risiken in Bezug auf die Rechte und Sicherheit der Menschen. Unser erster Schritt ist stets eine sorgf?ltige Risikobewertung. Auf diese Weise k?nnen wir uns auf potenziell problematische Bereiche konzentrieren und gew?hrleisten, dass unsere gesamte KI?¨C ob f¨¹r Kunden oder unser eigenes Team?¨C verantwortungsvoll und nach ethischen Gesichtspunkten unbedenklich ist.
Es sind mehrere Kontrollpunkte vorgesehen und wir pr¨¹fen unsere KI-Anwendungsf?lle mindestens zwei Mal: einmal w?hrend der Entwicklung und dann noch einmal vor dem Einsatz. So k?nnen wir potenzielle Probleme fr¨¹hzeitig erkennen. Anschlie?end erstellen wir detaillierte Pl?ne, um diese Bedenken auszur?umen, sei es in der Entwicklungsphase oder beim Einsatz von KI.
?
So evaluieren wir Risiken
Die Einstufung erfolgt anhand von Faktoren wie die F?higkeit des Produkts, Vorhersagen oder Kategorisierungen zu einzelnen Mitarbeitern zu treffen. Neben weiteren Aspekten bez¨¹glich der Merkmale oder des Kontexts der verwendeten KI spielt auch eine Rolle, welche direkten oder indirekten Auswirkungen das Produkt auf die wirtschaftlichen Chancen hat. Wir ber¨¹cksichtigen bei dieser Evaluierung auch ?verbotene Risiken¡°, um Anwendungsf?lle zu identifizieren, die aufgrund eines potenziellen Schadens f¨¹r Menschen oder der Gef?hrdung grundlegender Menschenrechte aus unserer genehmigten Governance-Struktur herausfallen.
Jeder Risikostufe ist eine bestimmte Reihe von Protokollen oder Standards zugeordnet, um diese Risiken zu minimieren. KI-Features mit h?herem Risiko unterliegen strengeren Anforderungen und erfordern eine gr??ere Anzahl von Protokollen. Auf diese Weise wird sichergestellt, dass der Grad der ?berwachung in einem angemessenen Verh?ltnis zu den potenziellen Risiken bei der Nutzung des Produkts stehen.
Ganz gleich, ob wir die KI entwickeln oder anwenden: unsere Evaluierungen sind optimal darauf abgestimmt. Auf diese Weise k?nnen wir vorausschauend handeln, potenzielle Probleme fr¨¹hzeitig aufsp¨¹ren und gew?hrleisten, dass unsere KI sicher und verantwortungsbewusst entwickelt und eingesetzt wird. Dar¨¹ber hinaus definieren unsere internen Richtlinien verbotene KI-Anwendungsf?lle, Rollen und Verantwortlichkeiten und legen den spezifischen Zeitplan und die Anforderungen f¨¹r die Durchf¨¹hrung der RAI-Risikoevaluierung fest.
Unser Engagement f¨¹r verantwortungsvolle KI
Der verantwortungsbewusste Einsatz von KI ist ein kontinuierlicher Prozess. Wir beobachten laufend neue regulatorische Trends, gesellschaftliche Erwartungen und Best Practice-Frameworks. Unser Team entwickelt seine Praktiken und Programme aktiv weiter, damit unser Ansatz zur Entwicklung und Implementierung von KI fair, zuverl?ssig und ethisch vertretbar bleibt und den h?chsten Standards f¨¹r verantwortungsvolle KI entspricht.?
Wir orientieren uns an KI-Governance-Frameworks wie dem NIST AI Risk Management Framework (AI RMF). Dar¨¹ber hinaus bewerten wir laufend aktuelle und in Entwicklung befindliche Vorschriften im Hinblick auf unser RAI-Programm und unsere Praktiken, einschlie?lich des KI-Gesetzes der EU, des KI-Gesetzes von Colorado und anderer aktueller Vorschriften und Frameworks auf lokaler, nationaler und internationaler Ebene.?
Bei Â鶹´«Ã½ legen wir gro?en Wert auf Transparenz, d.?h. auf die Bereitstellung klarer Informationen, die die Entscheidungsfindung unterst¨¹tzen. Im Folgenden beschreiben wir die wichtigsten KI-Protokolle, die wir f¨¹r eine risikobasierte Governance in unseren KI-Lebenszyklus aufgenommen haben und die wir je nach Risikostufe des Anwendungsfalls (siehe oben) mit unseren zust?ndigen Teams f¨¹r die Entwicklung und den Einsatz von KI teilen.
KI-Verantwortung
Risikoidentifizierung
Beschreibung f¨¹r Entwicklung
Ermitteln und bewerten Sie proaktiv und umfassend die Risikostufe des Produkts oder Features.
?
Dies schlie?t ethische, soziale und technische Risiken ein, die mit dem jeweiligen Anwendungsfall und den Eigenschaften des KI-Features verbunden sind. So k?nnen wir potenzielle nachgelagerte Auswirkungen in der Produktionsumgebung minimieren, bevor sie Schaden anrichten.
?
Wir tun dies nicht nur, um die potenziellen negativen Auswirkungen zu verstehen. Wichtig sind f¨¹r uns auch die m?glichen Vorteile, die sich idealerweise ergeben k?nnen, sowie die sichere Bereitstellung der Features zu diesem Zweck.
Beschreibung f¨¹r Einsatz?
?hnlich wie bei Entwicklung
Rollen und Verantwortlichkeiten
Beschreibung f¨¹r Entwicklung
Sie sollten die Rollen und Zust?ndigkeiten der verschiedenen Teams, die an der Entwicklung von KI-Features beteiligt sind, klar definieren. Dies k?nnen Teams der Bereiche Produkt und Technologie, ML Engineering, Legal und Compliance, Datenschutz und andere sein. So werden w?hrend des gesamten KI-Entwicklungslebenszyklus Verantwortlichkeit, Zusammenarbeit und Diversit?t im Hinblick auf den Input gew?hrleistet.
?
Zus?tzlich entsteht ein organisch wachsendes Netzwerk von Experten, die neuen Teams f¨¹r Fragen und Support zur Governance-Struktur zur Verf¨¹gung stehen.
?
Und schlie?lich wird ein strukturierter Beitrag zum RAI-Governance-Framework erm?glicht, wenn neue Grenzf?lle identifiziert werden und wenn sich das Gesch?ft verlagert, ver?ndert und w?chst.
?
Beschreibung f¨¹r Einsatz
?hnlich wie bei Entwicklung
Nutzennachweis
Beschreibung f¨¹r Entwicklung
Sammeln und dokumentieren Sie Informationen, die den Nutzen des KI-Features belegen. Daraus sollte hervorgehen, wie das Feature den beabsichtigten Zweck erf¨¹llt und wie Anwender davon profitieren.
?
Oder anders ausgedr¨¹ckt: Liefert die KI-Funktion einen sinnvollen Mehrwert f¨¹r die Anwender?
?
Beschreibung f¨¹r Einsatz
?hnlich wie bei Entwicklung
Transparenz und Erkl?rbarkeit
Erkl?rbarkeit.
Beschreibung f¨¹r Entwicklung
Stellen Sie erkl?rendes Material dazu bereit, wie das KI-Feature funktioniert und wie seine Ergebnisse abgeleitet werden. Dies k?nnen Kundendokumentationen wie KI-Faktenbl?tter, Beschreibungen von Benutzeroberfl?chen sowie andere Methoden sein, die die Transparenz f?rdern und Einblicke liefern, welche Daten f¨¹r die Generierung der Ergebnisse verwendet werden.
?
Beschreibung f¨¹r Einsatz
?hnlich wie bei Entwicklung
Interpretierbarkeit
Beschreibung f¨¹r Entwicklung
Achten Sie darauf, die Ergebnisse der KI-Features f¨¹r Kunden und Anwender m?glichst verst?ndlich und klar zu gestalten.
?
Stellen Sie detaillierte Erl?uterungen und unterst¨¹tzende Materialien in KI-Faktenbl?ttern bereit, um Kunden und Endanwendern die Bedeutung und die Auswirkungen der KI-Ergebnisse im Kontext der jeweiligen Anwendungsf?lle zu verdeutlichen.
?
Beschreibung f¨¹r Einsatz
?hnlich wie bei Entwicklung
Hinweise
Beschreibung f¨¹r Entwicklung
Entwickeln Sie das KI-Feature mit klaren und leicht zug?nglichen Hinweisen, die die Endanwender dar¨¹ber informieren, dass sie mit einer KI-L?sung kommunizieren.?
?
Stellen Sie Orientierungshilfen und eine Standardsprache bereit, mit der Kunden die Art der Daten beschreiben k?nnen, die von dem KI-Feature verarbeitet werden.?
?
Der Hinweis kann entweder in Textform oder als Grafik angezeigt werden und muss deutlich machen, dass das Feature KI verwendet und dies bei den Ergebnisse zu ber¨¹cksichtigen ist.??
?
Beschreibung f¨¹r Einsatz
?hnlich wie bei Entwicklung
Menschenzentriertes Design und menschliche Kontrolle
Human-in-the-Loop-Ansatz:
Beschreibung f¨¹r Entwicklung
Achten Sie bei der Entwicklung des KI-Features darauf, dass Kontrolle durch den Menschen m?glich ist. Wir stellen unseren Kunden eine Dokumentation zur Verf¨¹gung, in der wir erkl?ren, dass die Ergebnisse des KI-Features menschliche Entscheidungen unterst¨¹tzen?¨C nicht ersetzen?¨C sollen.?
?
Das Feature sollte auch eine praktische Benutzererfahrung bieten, bei der Menschen die finalen Entscheidung treffen, ob die Ergebnisse des Features akzeptiert oder angepasst werden?¨C untermauert durch Standards f¨¹r die Erkl?rbarkeit der Ergebnisse.
?
Beschreibung f¨¹r Einsatz
?hnlich wie bei Entwicklung
Alternative Verfahren
Beschreibung f¨¹r Entwicklung
Achten Sie bei der Entwicklung des KI-Features darauf, dass gegebenenfalls alternative Datenverarbeitungsprozesse, wie z.?B. menschliche Pr¨¹fung, zus?tzlich zur Standardverarbeitung des KI Features m?glich sind. Stellen Sie klare Anweisungen und Dokumentationen f¨¹r die Kunden bereit, die die Implementierung dieser alternativen Verfahren erl?utern.
?
Beschreibung f¨¹r Einsatz
Sorgen Sie daf¨¹r, dass betroffene Personen?¨C sei es ¨¹ber die Benutzeroberfl?che oder andere Kommunikationswege?¨C die M?glichkeit haben, Alternativen zur KI-gest¨¹tzten Datenverarbeitung und zu individualisierten Ergebnissen zu fordern, beispielsweise eine menschliche statt einer rein maschinellen Pr¨¹fung.
Inklusivit?t
Beschreibung f¨¹r Entwicklung
Die KI-Funktion wird unter dem Aspekt der Inklusion entwickelt, um sicherzustellen, dass sie f¨¹r unterschiedliche Endanwender barrierefrei zug?nglich und einsetzbar ist. Ber¨¹cksichtigen Sie Faktoren wie Sprache, Kultur, Behindertenstatus und andere potenzielle Hindernisse f¨¹r den Zugang und die Anwendung. Die Qualit?t der Benutzererfahrung sollte unabh?ngig von den F?higkeiten und/oder Vorlieben der Anwender nicht beeintr?chtigt werden.??
?
Beschreibung f¨¹r Einsatz
Stellen Sie sicher, dass die KI-L?sung innerhalb ihrer Bedienoberfl?che angemessene Optionen bietet. Zugang und Nutzung sollen unterschiedlichen Endanwendern gem?? Chancengleichheit m?glich sein.
Integrierte Exporte
Beschreibung f¨¹r Entwicklung
Stellen Sie den Kunden Zugriffsoptionen f¨¹r relevante, aus dem KI-Feature exportierte Daten bereit. Dies erm?glicht es den Kunden, gemeinsam mit ihren eigenen Experten Monitoring und Tests durchzuf¨¹hren, um Transparenz und Kontrolle zu f?rdern.??
?
Beschreibung f¨¹r Einsatz
Stellen Sie sicher, dass das Team ausreichende Anweisungen erh?lt, um das Produkt f¨¹r die Verwendung zu konfigurieren. Geben Sie dazu Optionen f¨¹r den Zugriff auf und den Export von Ausgabedaten der KI-L?sung an, die f¨¹r Performance-Tests der KI-L?sung erforderlich sind.
Konfigurierbarkeit.
Beschreibung f¨¹r Entwicklung
Achten Sie bei der Entwicklung des KI-Features auf Konfigurierbarkeit, sodass die Kunden dessen Funktionalit?t an ihre spezifischen Bed¨¹rfnisse und Pr?ferenzen anpassen k?nnen. Stellen Sie eine leicht verst?ndliche Dokumentation und Tools zur Unterst¨¹tzung der Kunden bei Konfigurationsentscheidungen bereit. Dies entspricht der Leitlinie fr¨¹herer Protokolle, die den Menschen in den Mittelpunkt aller Entscheidungen stellen, einschlie?lich der Entscheidung, wie sie mit den Features der Â鶹´«Ã½ KI-Plattform interagieren.
?
Beschreibung f¨¹r Einsatz
Konfigurieren Sie die KI-L?sung entsprechend dem jeweils lokalen Anwendungsfall oder den Anwendungsf?llen.
Tests und Monitoring
Fairness-Tests
Beschreibung f¨¹r Entwicklung
F¨¹hren Sie Fairness-Tests f¨¹r das KI-Feature durch. F¨¹r Entwicklungszwecke kann dies je nach Verf¨¹gbarkeit anhand von synthetischen Daten oder aggregierten Beispielergebnissen geschehen. Analysieren Sie die Ergebnisse auf m?gliche Verzerrungen und dokumentieren Sie die Erkenntnisse und L?sungsstrategien. In unseren Factsheets zu KI-Features f¨¹gen wir gegebenenfalls eine Erl?uterung und ?bersicht der Fairness-Tests auf Entwicklerseite hinzu.
?
Beschreibung f¨¹r Einsatz
F¨¹r die Implementierung sollten Sie, sofern verf¨¹gbar, echte Feature-Ergebnisse verwenden.
Wirksamkeit
Beschreibung f¨¹r Entwicklung
Testen Sie das KI-Feature sorgf?ltig, um zu gew?hrleisten, dass seine Ergebnisse dem Zweck und der Qualit?t des Anwendungsfalls entsprechen und zuverl?ssig sind. Dokumentieren Sie die Testmethoden und Ergebnisse und weisen Sie die F?higkeit der KI nach, korrekte Ergebnisse zu liefern.??
?
Beschreibung f¨¹r Einsatz
?hnlich wie bei Entwicklung
Robustheit
Beschreibung f¨¹r Entwicklung
Testen Sie die F?higkeit des KI-Features, unter verschiedenen Bedingungen gleichbleibende Performance zu liefern, z. B. bei unterschiedlichen Eingabedaten, Benutzereinstellungen und Populationen. Dokumentieren Sie die Testverfahren und -ergebnisse und weisen Sie nach, dass die KI in der Lage ist, ihre Performance in verschiedenen Szenarien aufrechtzuerhalten.
?
Beschreibung f¨¹r Einsatz
?hnlich wie bei Entwicklung
Geplante Tests
Beschreibung f¨¹r Entwicklung
Entwickeln und verwalten Sie einen regelm??igen Zeitplan f¨¹r Performance-Tests und -Monitoring des KI-Features, z.?B. zu Genauigkeit, Robustheit, Nutzen und Fairness. Definieren, implementieren und dokumentieren Sie Testintervall und -verfahren.
?
Beschreibung f¨¹r Einsatz
?hnlich wie bei Entwicklung
Standards f¨¹r Verwaltung
Beschreibung f¨¹r Entwicklung
Legen Sie eindeutige Standards und Verfahren f¨¹r die laufende Verwaltung und Aktualisierung des KI-Features und der zugrunde liegenden ML-Modelle fest. Definieren Sie die Kriterien daf¨¹r, wann Updates notwendig sind und wie sie implementiert und kommuniziert werden.
?
Beschreibung f¨¹r Einsatz
Dokumentieren Sie Standards, anhand derer Sie bestimmen k?nnen, wann und ob die KI-L?sung oder ihre Konfiguration aktualisiert und/oder neu evaluiert werden sollte.
Datenschutz und Sicherheit
Datenqualit?t
Beschreibung f¨¹r Entwicklung
Stellen Sie sicher, dass die Daten, die f¨¹r die Entwicklung des KI-Features verwendet werden, von hoher Qualit?t, f¨¹r den beabsichtigten Anwendungsfall oder die Anwendungsf?lle geeignet und f¨¹r die relevanten Populationen repr?sentativ sind. Unterstreichen Sie diese Anforderung durch transparente Dokumentationspraktiken, wie z. B. unsere Factsheets zu KI-Features.
?
Beschreibung f¨¹r Einsatz
?hnlich wie bei Entwicklung
¸é¨¹³¦°ì±¹±ð°ù´Ú´Ç±ô²µ²ú²¹°ù°ì±ð¾±³Ù
Beschreibung f¨¹r Entwicklung
Achten Sie bei der Entwicklung des KI-Features darauf, dass es Funktionen f¨¹r Monitoring und ¸é¨¹³¦°ì±¹±ð°ù´Ú´Ç±ô²µ²ú²¹°ù°ì±ð¾±³Ù unterst¨¹tzt.
?
Beschreibung f¨¹r Einsatz
Sorgen Sie daf¨¹r, dass ein Mechanismus vorhanden ist, der die ?berwachung und ¸é¨¹³¦°ì±¹±ð°ù´Ú´Ç±ô²µ²ú²¹°ù°ì±ð¾±³Ù der L?sung unterst¨¹tzt.
Standortausschluss
Beschreibung f¨¹r Entwicklung
Bieten Sie den Kunden die M?glichkeit, die geografische Verf¨¹gbarkeit des KI-Features zu steuern. So k?nnen Kunden die Verf¨¹gbarkeit des KI-Features in verschiedenen Regionen managen und dabei lokale Gesetze und Vorschriften einhalten.
?
Beschreibung f¨¹r Einsatz
?hnlich wie bei Entwicklung
Aktualisierung und R¨¹cknahme
Beschreibung f¨¹r Entwicklung
Entwickeln Sie einen umfassenden Change Management-Plan f¨¹r Updates des KI-Features und der zugrunde liegenden ML-Modelle. Dieser Plan sollte Kommunikationsprotokolle enthalten, um Kunden ¨¹ber Updates und m?gliche Auswirkungen auf die Verwendung des Features zu informieren.
?
Beschreibung f¨¹r Einsatz
Entwickeln und dokumentieren Sie einen spezifischen Change Management-Plan f¨¹r Updates der KI-L?sung oder deren Konfiguration.
Wirksamkeitsmanagement
Beschreibung f¨¹r Entwicklung
Entwickeln Sie das KI-Feature mit Schutzmechanismen, um potenzielle Schwachstellen und Risiken in Bezug auf seine Wirksamkeit zu minimieren. Dazu geh?rt auch der Schutz vor feindlichen Angriffen, dem absichtlichen Einspeisen manipulierter Daten und anderen Versuchen, die KI-L?sung zu missbrauchen oder zu untergraben.
?
Beschreibung f¨¹r Einsatz
Sorgen Sie daf¨¹r, dass Schwachstellen durch menschliche Fehler von Endanwendern und feindliche Akteure, die die KI-L?sung oder unser geistiges Eigentum manipulieren oder gef?hrden wollen, identifiziert, minimiert und beseitigt werden.