Vertrauenswürdige künstliche Intelligenz (Trustworthy Artificial Intelligence)

Verfahren der künstlichen Intelligenz (KI) kommen hauptsächlich zur Lösung hochkomplexer Aufgaben zum Einsatz, wie beispielsweise zum Verarbeiten natürlicher Sprache oder zur Klassifikation von Objekten in Bildern. Durch sie lassen sich nicht nur wesentlich höhere Automatisierungsgrade erreichen, sondern auch gänzlich neue Anwendungsfelder erschließen.

Der Begriff künstliche Intelligenz wird heute hauptsächlich im Kontext des maschinellen Lernens verwendet, wie beispielsweise in Neuronalen Netzen, Entscheidungsbäumen oder Support Vector Machines, schließt aber auch eine Vielzahl anderer Anwendungen wie Expertensysteme oder Wissensgraphen ein.

Eine gemeinsame Eigenschaft all dieser Verfahren ist die Fähigkeit, Probleme zu lösen, indem sie Konzepte nachbilden, die allgemein mit intelligentem Verhalten verbunden sind. Durch den Einsatz künstlicher Intelligenz können somit Konzepte wie lernen, planen, wahrnehmen, kommunizieren und kooperieren auf technische Systeme übertragen werden. Diese Fähigkeiten ermöglichen vollkommen neue intelligente Systeme und Anwendungen, daher sieht man künstliche Intelligenz oft als die Schlüsseltechnologie der Zukunft an.

Auf künstlicher Intelligenz basierende Schutz- und Steuereinrichtungen ermöglichen bereits heute nicht nur vollautomatisierte Fahrzeuge oder Roboter, sondern auch die Vermeidung von Unfällen durch Assistenzsysteme, die Gefahrensituationen erkennen.

Der Einsatz von Systemen, insbesondere von Maschinen, die auf Verfahren der KI basieren, verändert jedoch auch die physische und psychische Belastung von Beschäftigten. Um auszuschließen, dass vom Einsatz dieser Technologie neue Gefährdungen ausgehen oder um diese zu vermindern, ist eine vertrauenswürdige KI (engl.: Trustworthy Artificial Intelligence) erforderlich.

Der Begriff der Vertrauenswürdigkeit geht dabei weit über den der Sicherheit hinaus und schließt auch folgende grundlegenden Eigenschaften mit ein:

• Zuverlässigkeit
  Das System oder die Anwendung muss unter allen zu erwartenden Umgebungsbedingungen die korrekte Funktion aufrechterhalten.
• Robustheit
  Das System oder die Anwendung darf unter dem Einfluss von Bias (externen und internen Störungen und Verzerrungen) oder Systemfehlern nicht seine Funktionsfähigkeit verlieren oder in einen gefährlichen Zustand übergehen.
• Widerstandsfähigkeit
  Das System oder die Anwendung muss gegen Angriffe von außen geschützt sein.
• Transparenz
  Die Handlungen und Ergebnisse des Systems oder der Anwendung müssen transparent, verständlich und nachvollziehbar sein.
• Vorhersehbarkeit
  Die Handlungen intelligenter Systeme, die mit Menschen interagieren oder kooperieren, müssen vorhersehbar sein.
• Datensicherheit
  Die Daten sowie Privatsphäre aller Akteure müssen in jeder Lebenszyklusphase geschützt sein.
• Sicherheit gegenüber Missbrauch und Fehlanwendungen
  Das System oder die Anwendung müssen vor vorhersehbarem Missbrauch oder einer Fehlanwendung durch Bedienpersonen geschützt werden.

Die rasante Entwicklung moderner Verfahren der künstlichen Intelligenz, allen voran des Deep Learnings, bringen es jedoch mit sich, dass noch weitgehend offen ist, wie genau diese Eigenschaften in einem vertrauenswürdigen KI-System realisiert werden können.

Das Institut für Arbeitsschutz der Deutschen Gesetzlichen Unfallversicherung (IFA) arbeitet daher an Konzepten, um nicht nur die Sicherheit und Gesundheit bei der Arbeit beim Einsatz solcher Technologien zu erhalten, sondern auch durch deren Einsatz zu fördern.

Hierzu finden unter anderem folgende Aktivitäten statt:

• Forschung an Konzepten vertrauenswürdiger KI
• Beratung zur Entwicklung sicherer KI-Systeme und Anwendungen
• Beratung zur Entwicklung KI-basierter Assistenzsysteme
• Mitarbeit an nationalen und internationalen Normen und Standards