Wie sieht Ihr Unternehmensführungsprozess und Ihr Rahmen für die Risikobewertung von KI- und ML-Technologien aus?

Die Governance-Prozesse von Genesys sind eng mit den Entwicklungsprozessen verknüpft. Als Teil dieser Prozesse integriert Genesys Mechanismen wie Datenschutz-Folgenabschätzungen, Sicherheits- und Compliance-Überprüfungen sowie risikoorientierte Überprüfungen von KI-Modellen. Diese Überprüfungen finden in verschiedenen Phasen des Software-Lebenszyklus statt, um eine verantwortungsvolle KI-Entwicklung und Risikominderung zu fördern.

Das Trainieren des Genesys Cloud-Modells und die Inferenzpipeline, einschließlich Metriken, Sampling und Validierung, folgen dem standardmäßigen Überprüfungsprozess, der für die gesamte Genesys Cloud-Software gilt. Die erste Überprüfungsrunde findet während der Entwurfsphase als Teil des Software-Design-Lebenszyklus statt, in der KI-Architekten und Datenwissenschaftler den Entwurf prüfen und genehmigen, neben Datenschutz- und Sicherheitsüberprüfungen. Die zweite Phase der Überprüfungen erfolgt in der Entwicklungsphase, in der der gesamte Modelltrainings- und Inferenzcode vor der Zusammenführung und Bereitstellung einer Peer-Review unterzogen wird. Diese Phase umfasst häufig Benchmarks und zusätzliche modellspezifische Tests.

Darüber hinaus hält das Genesys AI Ethics Committee, das sich über verschiedene Funktionen wie Datenschutz, Sicherheit, Architektur, Produkt und KI erstreckt, regelmäßige vierteljährliche Sitzungen ab, um unsere Produkte und Prozesse aus ethischer und Governance-Perspektive zu bewerten.

Dieses umfassende Governance-Framework trägt dazu bei, sicherzustellen, dass die von Genesys eingesetzten Technologien für künstliche Intelligenz und maschinelles Lernen den höchsten Standards hinsichtlich Sicherheit, Datenschutz und ethischer Aspekte entsprechen.