Artificial Intelligence im Griff – volle Kontrolle mit AI Spurhalteassistenten

Meistern Sie die Herausforderungen im Zusammenhang mit AI

Datum

05.05.2022

Dieser Beitrag wurde verfasst von:

Zweifellos: Artificial Intelligence (AI) bietet Unternehmen aller Branchen vielfältige Chancen und Anwendungsmöglichkeiten. Für eine gewinnbringende Nutzung ist es allerdings kritisch, die Kontrolle über die AI zu wahren und sie in der Spur zu halten. Ohne entsprechenden Spurhalteassistenten ergibt sich schnell folgendes Bild: Die AI macht sich (im negativen Sinne) selbstständig, Zusammenhänge und daraus resultierende Entscheidungen lassen sich nicht mehr nachvollziehen – das oft mit ungewünschten Folgen.

Um die fachlichen und technischen Herausforderungen von AI soll es in diesem Blogbeitrag gehen. Zudem möchte ich Ihnen einen Lösungsansatz vorstellen, mit dem Sie diesen Herausforderungen potenziell begegnen können.

Inhalt

AI als vereinfachte Bezeichnung

Zunächst eine Vereinbarung zur Vereinfachung: Mir ist wohl bewusst, wie unterschiedlich die Begriffe „Data Science“, „KI“, „AI“ oder „ML“ genutzt werden und dass es professionelle Erklärungen zu den Unterschieden gibt. Derzeit scheint sich die Abkürzung „AI“ – nicht unbedingt fachlich begründet, sondern eher von den Herstellern getrieben – durchzusetzen. Im Folgenden möge man mir verzeihen, wenn ich „AI“ verwende, es dient rein der Vereinfachung.

Verfolgt man die Nachrichten rund um die Entwicklung von AI, ergibt sich ein absolut heterogenes Bild, das sich mit meinen Erfahrungen aus meiner täglichen Arbeit deckt: Die Nutzung von AI, insbesondere konkret bei der Unterstützung realer Geschäftsprozesse im Unternehmen, deckt ein breites Spektrum von fast schon traditionellen Business Analytics / Intelligence Themen über Statistik bis hin zu echtem „Machine Learning“ ab, bei dem die Maschine einigermaßen autark Entscheidungen fällt oder zumindest vorschlägt.

Chancen in der Nutzung von AI

Welchen Einsatzzweck oder Nutzen hat AI? Bekomme ich von Geschäftspartnern diese Frage gestellt, so kann ich meist nur antworten: „Kommt drauf an“. Ohne Zweifel kann AI in jedem Business einen Mehrwert generieren, aber durch die fachliche und technische Abhängigkeit lässt sich die Mehrwertdiskussion nur selten im Vorfeld abschließend führen.

Ein Mittel der Wahl: mit sogenannten „Proof-of-Value“ Workshops lässt sich, vor der eigentlichen Projektinvestition, der Mehrwert in einem vorgeschalteten Workshop anhand belastbarer Information bewerten. So werden echte Daten mit pragmatischen Prozessen, in einer abgeschotteten vordefinierten Umgebung mit erfahrenen Kollegen (Data Engineers, Data Scientists und Analytics Architekten) aufbereitet, analysiert, bewertet und schließlich erste Modelle gerechnet, die Aussagen bezüglich eines Use Cases zulassen. Beispiele: Bessere Response Rate im Marketing, Erkennung von Ausschuss in der Produktion, Vorbestimmung von Zahlungsverhalten im Controlling oder Vorhersage von Schadenshäufigkeiten in der KfZ-Versicherung.

Herausforderungen beim Einsatz

Die Beispiele von AI sind vielfältig, besonders, wenn der eigentliche Prozess der Analyse so gut und verlässlich ist, dass automatisierte Prozesse denk- und machbar werden, die direkt in den operativen Prozess eingreifen: In der Produktion wird ein Schlechtteil zur weiteren Kontrolle aussortiert oder in der Versicherung ein Vertrag entsprechend gewertet.

Technische Herausforderung

Die technische Herausforderung, aus einer isolierten, statistischen Analyse einen operativen AI-Prozess zu entwickeln, begegnen wir mit analytischen Plattformen, deren Berechtigung in der Bereitstellung dieser umfangreichen Fähigkeit liegt: Von der nachvollziehbaren, sicheren Integration verschiedener Datenquellen über Entwicklungsumgebungen für AI bis hin zum automatischen Deployment und Bereitstellung von AI-Services zur Integration in den operativen Prozess.

Doch der automatisierte Prozess birgt weitere Unsicherheiten. Wurde im ersten Ansatz noch mit gänzlich nicht-optimierten Daten der Einfluss auf Ausschuss in der Produktion bestimmt, so wird die Optimierung des Prozesses unmittelbar auch die Datenbasis verändern! War zuerst im Produktionsprozess die Fülltemperatur für den Ausschuss verantwortlich, welcher Parameter wird es sein, nachdem diese optimiert wurde? Zwangsläufig wird sich das entwickelte Data Science Modell ändern müssen, um die neue Datenlage zu berücksichtigen. Wer wird das Modell in der Spur halten?

Fachliche Herausforderung

AI ist, wie bereits erläutert, hochgradig fachlich getrieben und muss daher auch fachlich bewertet werden. Ob Schlechtteile Schlechtteile sind, muss die Qualitätskontrolle entscheiden, ebenso über deren Wert bzw. wie und ob eine AI in den Prozess eingreifen darf. Dem Werkstück wird es letztlich egal sein.

Viel komplizierter wird es jedoch, wenn Menschen im Spiel sind, über die die AI urteilt. Es mag als gerecht empfunden werden, wenn Verursacher von hohen Schäden eine höhere Prämie zahlen. Es mag auch fachlich richtig und gewollt sein. Was aber niemals sein darf: Wir dürfen nicht die Kontrolle darüber verlieren, wie die KI urteilt.

Mit AI und Data Science wertvolle Informationen erkennen

Extrahieren Sie mit AI und Data Science versteckte, wertvolle Informationen aus großen Datenmengen, um so künftig datenbasierte Entscheidungen treffen zu können. Wir unterstützen Sie dabei!

Unsere Leistungen im Bereich AI & Data Science

AI muss in der Spur bleiben

Die Transparenz und Nachvollziehbarkeit von AI ist die größte Herausforderung für die Nutzung von AI. Im Zusammenhang mit fairer Beurteilung von Menschen oder menschlichem Verhalten sowieso. Im Zusammenhang mit anderen Daten würden wir konsequenterweise in absehbarer Zeit komplett den Durchblick über Zusammenhänge in den Daten verlieren, wenn wir der AI allein das Feld überließen.

Nicht ohne Grund beschäftigen sich auf höchster Ebene Experten und Politiker mit der Nutzung von AI, wie z. B. die EU mit dem neuen Rechtsrahmen für KI im April 2021.

AI Spurhalteassistent: Ein Ansatz

Es gibt einige technische Ideen, um AI in der Spur zu halten bzw. zu überwachen. Wie angedeutet, gibt es technische und fachliche Aspekte, die der Spurhalteassistent beachten muss!

Technische Aspekte können zum einen die Güte des Modells sein, die sich zwingend aus sich ändernden Datenbeständen bestimmt oder zum anderen ein einfacher „Drift“ des Modells, der sich konzeptionell ergibt.
Fachliche Aspekte werden kaum automatisch erkannt, weil die wenigsten Systeme von sich aus „fair“ sind. Der Mensch muss eingreifen, gewolltes Verhalten bzw. eine Kontrollgruppe definieren, um die AI gegen dieses zu messen.

Ein Beispiel für die technische Umsetzung zur Erkennung dieser Aspekte hat IBM einerseits „Stand-Alone“, anderseits als Bestandteil in seine analytische Plattform „Cloud Pak for Data“ integriert: Watson OpenScale.

AI im Griff mit Watson Open Scale

Oberfläche von Watson OpenScale

In Watson OpenScale werden AI Modelle aus verschiedenen Quellen (innerhalb der IBM Infrastruktur, aber auch z. B. Microsoft Azure ML Studio und weitere) überwacht und die Ergebnisse einem Nutzer in einem übersichtlichen Dashboard dargestellt bzw. per Alarm aktiv gepusht.

Modelle für die automatische Erkennung von Qualität und Drift sind in der Lösung bereits enthalten und müssen nur konfiguriert werden. Für die Erkennung von Fairness muss zunächst „Fairness“ in OpenScale definiert werden. Beliebige Definitionen und Kontroll- vs. Vergleichsgruppen sind möglich.

Watson OpenScale integriert sich komplett in die IBM analytische Plattform „Cloud Pak for Data“ und komplettiert damit den Plattform-Ansatz:

kommend von der Anbindung beliebiger Datenquellen
Bereitstellung von vertrauenswürdigen, dokumentierten Datenbeständen
Erstellung von AI-Modellen, manuell oder mit AI-Unterstützung
Deployment der AI-Modelle zur Nutzung in operativen Prozessen
Überwachung der Modelle in OpenScale

Umfangreiche Informationen zu Watson OpenScale finden Sie auf der Website der IBM.

Fazit: Behalten Sie die Kontrolle über Ihre AI!

Es bleibt festzuhalten: Um Mehrwert aus einer AI zu schöpfen, muss neben der ordungsgemäßen Einführung auch langfristig die Kontrolle über die Lösung gewahrt werden. Ein Spurhalteassistent und Software wie Watson OpenScale unterstützen Sie dabei, entsprechende Herausforderungen zu meistern und Ihre AI in Griff zu behalten. Weitere Informationen zum Thema Artificial Intelligence und Data Science finden Sie auf unseren Kompetenzseiten.

Über den Autor: Marc Bastien

Marc Bastien ist als Analytics Architect bei der TIMETOACT sowohl mit architekturellen Fragestellungen als auch mit deren Umsetzung beschäftigt. In mehr als 25 Jahren beruflicher Tätigkeit ist er stets dem Thema Analytics treu geblieben, zuerst beim Anwender, dann bei Anbietern und schließlich als Berater. Fachliche analytische Kundensituationen und die resultierenden Lösungen reizen ihn besonders. Sein Motto: „Steht doch alles in den Daten, muss man doch nur nutzen!“.

Marc Bastien

Software ArchitectTIMETOACT Software & Consulting GmbHKontakt