Welche Ansätze haben Sie verwendet, um Verzerrungen und unterschiedliche Auswirkungen bei der Modellauswahl zu reduzieren?
Der Genesys-Ansatz zum Umgang mit KI-Voreingenommenheit und Modellauswirkungen konzentriert sich hauptsächlich auf:
- Bewertung und Kuratierung der Modell-Eingabedaten, um sicherzustellen, dass die Modelle keine sensiblen Merkmale enthalten.
- Die Modellüberwachung verfolgt verschiedene Modellmetriken, um Datendrift und Konzeptdrift zu vermeiden.
- Modellkarten und Datensatzkarten dokumentieren verschiedene Eigenschaften von KI-Modellen und Trainingsdatensätzen in einem standardisierten Format. Diese Funktionen beziehen sich auch auf die Erkennung von Voreingenommenheit.