Was ist verantwortungsvolle KI?

Entdecken Sie die Grundsätze und ethischen Rahmenbedingungen einer verantwortungsvollen KI - und wie Medallia seine KI-Technologie steuert.

Künstliche Intelligenz (KI) verspricht, die Arbeitswelt zu revolutionieren. Dennoch stehen viele Menschen ihrer steigenden Popularität skeptisch gegenüber. Bedenken über die Verdrängung von Arbeitsplätzen, Datenschutzverletzungen und ethische Risiken sind in Diskussionen über KI allgegenwärtig. Doch die Angst vor der zunehmenden Automatisierung ist nicht neu - egal, ob Sie ein Textildesigner aus dem Jahr 1800 sind, der auf einen automatisierten Webstuhl schaut, oder ein moderner Backend-Entwickler, der ChatGPT betrachtet. 

Da wir den Wert und die Risiken von KI kennen, haben wir uns bei Medallia stets darum bemüht, eine verantwortungsvolle KI zu entwickeln, die den Menschen nicht aus den Augen verliert und seine täglichen Arbeitsabläufe verbessert.

Was also ist verantwortungsvolle KI? Verantwortungsbewusste KI ist ein Ansatz für künstliche Intelligenz, der sicherstellt, dass KI-gestützte Funktionen so entwickelt, getestet und gewartet werden, dass Vorurteile, Diskriminierung und Verletzungen der Privatsphäre vermieden werden und gleichzeitig Verantwortlichkeit und Transparenz gefördert werden.

Und wie sollten Sie verantwortungsvolle KI implementieren? Beginnen wir mit einigen Grundsätzen für die Entwicklung verantwortungsvoller KI, die unserer Meinung nach jedes Unternehmen befolgen sollte.

Die wichtigsten Grundsätze der verantwortungsvollen KI

Transparenz

KI-Systeme sollten leicht verständlich sein - das heißt, dass alle Nutzer die Prozesse und Ergebnisse nachvollziehen können. Dazu gehört, dass besonders deutlich wird, wie Daten gesammelt, Entscheidungen getroffen und Modelle trainiert werden.

Rechenschaftspflicht

Organisationen - und die für die KI-Entwicklung zuständigen Teams - müssen für das Verhalten und die Ergebnisse des Systems verantwortlich sein. Wenn KI das Potenzial hat, Schaden anzurichten oder andere Probleme zu verursachen, sollten Mechanismen vorhanden sein, um die Situation anzugehen, so dass immer jemand zur Verantwortung gezogen werden kann.

Datenschutz und Sicherheit

Datenschutz und Sicherheit sind wesentliche Säulen einer verantwortungsvollen KI. Sensible Informationen sollten geschützt werden, indem sichergestellt wird, dass KI-Systeme und die sie betreuenden Unternehmen durch robuste, konsequente Schwachstellentests gegen Verletzungen und Angriffe gewappnet sind.

Ethische Datenverwendung

Um sicherzustellen, dass Daten auf ethische Weise genutzt und gesammelt werden und dass KI nicht mit Voreingenommenheit und Diskriminierung trainiert wird, müssen Unternehmen eine vielfältige Datenerfassung implementieren, faire Modelle für maschinelles Lernen entwickeln, Daten nachbearbeiten, um Voreingenommenheit zu beseitigen, KI-Modelle mit menschlicher Überprüfung und Aufsicht überwachen und testen und ihre KI-Systeme kontinuierlich überwachen und prüfen. Unternehmen sollten eine Reihe von ethischen und rechtlichen Richtlinien erstellen, an denen Modelle und Datennutzung gemessen werden. 

Die Bedeutung von KI-Governance für verantwortungsvolle KI

Unternehmen müssen einen robusten KI-Moderations- und Sicherheitsprozess beaufsichtigen, um eine wirklich verantwortungsvolle KI zu etablieren. Dieser muss für alle aktuellen und zukünftigen Technologien gelten, Gesetzesverstöße verbieten und andere strenge Regeln und Vorschriften einhalten.

Ihr Unternehmen sollte Teams und Rollen definieren, die sich um Ihre eigenen KI-Governance-Prozesse kümmern, um sicherzustellen, dass Sie verantwortungsvolle KI verwenden und aufbauen, insbesondere da KI in den Vordergrund der Gespräche über Datenschutz und Sicherheit rückt. Das sollten auch Ihre Anbieter tun!

Das Aufnahmeverfahren von Medalliafolgt beispielsweise den nachstehenden Leitlinien:

1. Dokumentation: Der neue KI-Anwendungsfall wird beschrieben, einschließlich der Funktionen, des Zwecks und der Schulung.
2. Risikomanagement: Alle vorhersehbaren Risiken werden gekennzeichnet, einschließlich des potenziellen Missbrauchs des KI-Systems.
3. Einhaltung der Vorschriften: Die ethische und legale Nutzung der Daten und die Einhaltung der geltenden Verpflichtungen sind gewährleistet.
4. Sicherheit, Moderation, Ethik: Globale Experten helfen dabei, robuste Sicherheitsvorkehrungen zu schaffen, wobei der Schwerpunkt auf menschenzentrierter KI liegt, um Voreingenommenheit weiter abzuschwächen.

KI-Governance: Wie Medallia sich mit verantwortungsvoller KI befasst

MedalliaExterner AI-Beirat

Unser Beirat ist ein bunt gemischtes Kollektiv, das in den Bereichen KI-Politik, -Regulierung und -Technologien eine Vorreiterrolle einnimmt, um sichere und faire KI-Lösungen zu fördern. 

Der KI-Beirat setzt sich aus zehn Vertretern von Kunden und Partnern zusammen, die aus allen von uns bedienten Anwendungsbereichen kommen. Die Mitglieder sind erfahrene Experten, die für Medallia und die breitere Erfahrungsmanagement-Community Beiträge zu KI-Datenschutz, Ethik und Sicherheit liefern. Das Board konzentriert sich auf eine vielfältige Repräsentation über alle Märkte hinweg, mit einem Schwerpunkt auf Unternehmen und kleinen bis mittleren Unternehmen weltweit. 

"Für uns ist es wichtig, dass im KI-Beirat Menschen mit unterschiedlichem Hintergrund vertreten sind", sagt Rahul Kamdar, SVP of Product Management bei Medallia. "Wir hoffen, dass wir durch das Einbringen unterschiedlicher Sichtweisen und einzigartiger Beiträge komplexe Probleme verstehen und lösen, Vorurteile vermeiden und ethische Fragen angehen können, um KI-Lösungen zu entwickeln, die wirklich allen zugutekommen."

MedalliaInterner AI-Moderationsrat

Der interne KI-Moderationsrat ist ein Team aus verschiedenen Fachleuten, die ein breites Spektrum von KI-Fachwissen abdecken, von der Rechtsabteilung bis zur Datenerfassung. Das Team bearbeitet interne Medallia Anfragen zu unseren Governance-Prozessen. Es hält sich auf dem Laufenden über neue und dringende Fragen der KI-Regulierung, Ethik und alles andere, was für die Entwicklung von KI relevant ist, die gleichzeitig menschenzentriert und verantwortungsbewusst ist und einen Mehrwert für unsere Kunden schaffen kann. 

Bei Medallia ist der Moderationsrat ein wichtiger Bestandteil unseres KI-Entwicklungsprozesses, der Modelle anhand unserer verantwortungsvollen KI-Grundsätze und der einschlägigen rechtlichen Anforderungen prüft. Gemeinsam sind unsere Experten in der Lage, einen spürbaren Einfluss auf das Wachstum unserer KI in einer sich verändernden Welt zu nehmen. Der KI-Moderationsrat hat eine schwierige Aufgabe, aber es ist eine, die jedes Unternehmen ernsthaft in Erwägung ziehen sollte, ein eigenes internes Team zu gründen, um sie zu bewältigen. 

Verantwortungsvolle KI im modernen Zeitalter

Verantwortungsvolle KI umfasst Grundsätze wie Transparenz, Verantwortlichkeit, Datenschutz und Sicherheit, die für eine ethische KI-Entwicklung unerlässlich sind. 

Diese Grundsätze sind wichtig. MedalliaDer Ansatz von für verantwortungsvolle KI umfasst einen robusten Governance-Rahmen, der sich auf Dokumentation, Risikomanagement und Compliance konzentriert, sowie ein vielfältiges KI-Beratungsgremium, das unterschiedliche Perspektiven einbringt, um Vorurteile und ethische Fragen zu berücksichtigen. Durch die Einhaltung dieser Grundsätze stellt Medallia sicher, dass alle KI-Lösungen sicher und gerecht sind.

Medallia hat KI seit über 15 Jahren tief in den Kern unserer Plattform integriert, beginnend mit der Veröffentlichung unserer branchenführenden Textanalyse im Jahr 2008. Unsere KI ist ein wesentliches Unterscheidungsmerkmal, das es uns ermöglicht, hochwertige CX- und EX-Einsichten in den größten Unternehmen der Welt zu skalieren und zu demokratisieren.

Wenn Sie mehr über den Ansatz von Medalliaim Bereich KI erfahren möchten, besuchen Sie unsere Seite zur KI-Führung.