Green and Trustworthy AI

In den letzten Jahren ist künstliche Intelligenz in aller Munde. Autonomes Fahren, Bilderkennung und Robotik sind nur ein paar der Anwendungsbereiche, in denen immer öfter der Begriff Künstliche Intelligenz oder auch Maschinelles Lernen zu hören ist. Mit Hilfe von AI (artificial intelligence) werden Straßenschilder und Gesichter erkannt, Bewegungsabläufe in komplexen Situationen oder Strategien im Spiel GO gelernt. In der aktuellen Forschung in diesen Bereichen wird das primäre Augenmerk auf "Genauigkeit" gelegt. Die Qualität einer AI wird sehr stark daran gemessen, wie gut sie zum Beispiel Hunde und Katzen unterscheiden kann. Eine gute Genauigkeit wird aktuell häufig durch Aufwendung großer Rechenleistung zusammen mit entsprechenden Datenbeständen erreicht. Dies bringt zwei gravierende Probleme mit sich. Es wird immer schwieriger mit üblichen Ressourcen, wie einer einzelnen Workstation an der Entwicklung teilhaben zu können, wodurch sich die Forschung auf einige wenige Big Player mit großem Budget konzentiert. Außerdem werden große Mengen Energie eingesetzt und CO₂ erzeugt um „state-of-the-art“ künstliche Intelligenz zu trainieren. Informations- und Kommunikationstechnologie hat mittlerweile einen Anteil von 3.5% am weltweiten CO₂-Ausstoß und bereits das Training eines einzelnen Modells kann 1t und mehr CO₂ erzeugen. Diesem auch Red AI genannten Trend steht die Green AI gegenüber. Green AI bedeutet auch Faktoren, wie die Rechenzeit und Effizienz bei der Bewertung von künstlicher Intelligenz stärker zu berücksichtigen. Dadurch werden Methoden gefördert, die Nachhaltigkeitsaspekte berücksichtigen und umweltschonend agieren. Künstliche Intelligenz, die auch von KMU oder kleineren Forschungsgruppen auch ohne große Rechenzentren trainiert und eingesetzt werden kann, könnte die Folge sein. Green AI ist ein Vorstoß, die Effizienz als einen Faktor bei der Beurteilung von Methoden des maschinellen Lernens zu berücksichtigen und damit Ansätze zu fördern, die nicht ausschließlich auf Genauigkeit optimiert sind, sondern auch den Ressourcenverbrauch und die nachhaltige Nutzung eines Modells mit abwägen.

Aus technologischer Sicht hat die künstliche Intelligenz in den vergangenen Jahren einen enormen Fortschritt gemacht - immer komplexere Daten und Anwendungen lassen sich mit Modellen vorhersagen und unterstützen. Dies ermöglicht eine immer weiterführende automatisierte Entscheidungsfindung und stark optimierte Entscheidungen in vielen Bereichen. Die Versuchung ist groß, immer mehr Entscheidungen in die Hände von datenbasierten Modellen zu legen.

Die Entwicklung auf nicht-AI Seite - also vornehmlich in den eigentlichen Anwendungen - geht allerdings deutlich langsamer voran und das Outsourcing von Entscheidungen wirft eine Reihe von Fragen auf, die sich unsere Gesellschaft sowohl unter sozialen als auch unter wirtschaftlichen Aspekten stellen muss:

  - Können wir die Entscheidungen der AI Modelle nachvollziehen? (Transparenz)
  - Führen die AI Ergebnisse zu gesamtheitlich besseren Ergebnissen? (Kontext)
  - Entspricht die Grundlage (Daten) der AI Entscheidungen den tatsächlichen Begebenheiten? (Datenqualität)
  - Sind die AI Entscheidungen fair? (Unvoreingenommenheit)
  - Wer übernimmt die Verantwortung von AI Entscheidungen? (Rechtssicherheit)

Es geht in der Weiterentwicklung von AI nun auch darum, nicht nur die technischen Methoden, sondern auch die Transparenz und Akzeptanz von AI zu etablieren. Die genannten Aspekte werden entlang der gesamten Bearbeitungskette von AI Prozessen (Datenaufzeichnung, Datenvorverabeitung, Modellbildung, Anwendung) beeinflusst. Daher geht die Entwicklung einer Trustworthy AI sowohl mit der Weiterentwicklung technologischer Modelle aber eben auch der Etablierung struktureller und organisatorischer Prozesse einher.