Ist KI klinisch?

Künstliche Intelligenz gilt in der öffentlichen Wahrnehmung häufig als exakt und unbestechlich, aber gleichzeitig auch als kalt und unpersönlich. So wie klinisch sterile Räume zwar als beruhigend sicher, aber wenig einladend gelten. Doch dieses Urteil greift zu kurz. 

Von Dr. Kay Knoche*

So wie natürliche Intelligenz durch ethische und empathische Qualitäten ergänzt und veredelt wird, so sind auch bei KI-Anwendungen die rein analytischen Funktionen ein wichtiger, aber nicht alleiniger Teil der Funktionalität. Bei all den Umsatzsteigerungen, Effizienzgewinnen oder Steigerungen der Kundenzufriedenheit, die mit dem Einsatz von KI-Technologien wie Deep Learning, Algorithmic Decision Management oder Natural Language Processing verbunden sind, darf ein wichtiger Punkt nicht übersehen werden: Firmen und Organisationen sind für die dadurch verursachten Folgen und Konsequenzen verantwortlich. Und die dahinterstehenden potenziellen Risiken können im schlimmsten Fall die Existenz gefährden, wenn etwa Kundenvertrauen verloren geht, Lieferketten brechen oder der Wert der Marke erodiert.

Schon allein daraus resultiert die Notwendigkeit zu einem sorgfältigen, verantwortungsbewussten Umgang mit KI-Anwendungen. Aber über diese unternehmensinterne, den eigenen KPIs verpflichtete Sicht hinaus besteht eine übergeordnete, generelle ethische Verantwortung für den Einsatz von Künstlicher Intelligenz. Sie orientiert sich im Idealfall an den Verhaltenscodizes, dem Richtlinien-Management und den Compliance-Regeln, die sich Unternehmen bereits gegeben haben. In einem entsprechenden Rahmenwerk zur KI-Compliance müssen vor allem vier kritische Elemente definiert werden:

  1. Empathie
    Per Definition ist Empathie das Einfühlungsvermögen in die Gefühls- und Gedankenwelt anderer Personen – und deren Einbeziehung in das eigene Handeln. Im Kontext der Kundenbeziehungen bedeutet das, sämtliche Interaktionen aus der „Customer first“-Perspektive zu führen. Aber wie so häufig reicht die gute Absicht allein nicht aus, die Tücken liegen in der operativen Umsetzung. Um Kundenwünsche richtig antizipieren zu können, bedarf es der technologischen Unterstützung. Und die muss in Echtzeit verfügbar sein, um hinreichend aktuelle Daten und Informationen darüber vorliegen zu haben, was er in welchem Kontext gerade benötigt und wie am besten mit ihm kommuniziert werden sollte. Dabei geht es nicht um die Programmierung von „Empathie-Algorithmen“ innerhalb von KI-Anwendungen, sondern um die Einbindung sozialer Normen, Werte und Regularien.
  2. Transparenz
    Es ist eine der vornehmsten Aufgaben von KI, einen tieferen Einblick in die Kundenwünsche zu gewähren und daraus entsprechend individualisierte, feinabgestimmte persönliche Angebote zu generieren. Dabei sind allerdings die Vorgaben zu beachten und umzusetzen, die durch Regularien wie DSGVO definiert sind. Danach müssen die Grundlagen für bestimmte Entscheidungen im Kundenkontext jederzeit offengelegt werden können. Andernfalls drohen empfindliche Strafen. Deshalb ist die Transparenz AI-gestützter Workflows so wichtig. AI darf nicht als „Black Box“ eingesetzt werden, um die Entscheidungsgrundlagen, etwa für Rabatte oder Kreditlimits, jederzeit nachvollziehbar machen zu können.
  3. Fairness
    KI-Anwendungen sind lernfähig und selbstoptimierend. Diskriminierungen aufgrund ethnischer, sozialer, religiöser oder sonstiger Merkmale müssen dabei unbedingt vermieden werden. Unternehmen dürfen sich nicht dem Vorwurf aussetzen, bestimmte Personen oder Gruppen zu bevorzugen oder zu benachteiligen. Andernfalls drohen auch hier drastische Konsequenzen. Deshalb gehört eine ständige Prüfung der Algorithmen auf gerechte und gleiche Behandlung aller Kunden zum Pflichtprogramm beim KI-Einsatz.
  4. Verantwortlichkeit
    Vertrauen ist ein kostbares Gut und muss hart erarbeitet werden. Künstliche Intelligenz kann dabei helfen, durch gezielte Einbindung der eigenen Mitarbeiter mehr Kundenvertrauen zu schaffen. Die Aufklärung über relevante Regelwerke, ethische Vorgaben und vorbildliche Präzedenzfälle vermindert das Risiko von Fehlern in der Kundenkommunikation, die dem Ansehen, der Reputation und letztlich dem Wert des Unternehmens schaden könnten.

Der verantwortungsvolle Einsatz von KI-Anwendungen ist eine Barriere gegen Entscheidungen, die Kunden oder Kundengruppen benachteiligen, stigmatisieren oder diskriminieren könnten. Dadurch wird mittel- und langfristig das Kundenvertrauen gestärkt, die Erreichung der internen KPIs gefördert und die Risiken von negativen Konsequenzen fehlerhaften Verhaltens in der Kundenkommunikation werden minimiert. Zur Unterstützung stehen entsprechende Werkzeuge bereit, die ihrerseits KI zur Optimierung nutzen, um empathische, transparente und faire Kundenkommunikation im Unternehmensalltag praktikabel und effizient zu machen.

*Dr. Kay Knoche ist Solution Consultant Next Best Action Marketing bei Pegasystems

Weitere Informationen unter:
www.pega.com/de

0 Kommentare

Hinterlasse ein Kommentar

An der Diskussion beteiligen?
Hinterlasse uns deinen Kommentar!

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.