Bodenseegespräche : Initiative für vertrauenswürdige KI in Unternehmen

Die von der GMAR (Österreichische Gesellschaft für Mess-, Automatisierungs- und Robotertechnik) organisierten Bodenseegespräche zum Thema Produktions- und Fertigungsprozesse ermöglichten einen branchen- und grenzübergreifenden Austausch der Robotik- und Automatisierungsszene. Dieses Setting nutzte die Plattform Industrie 4.0 Österreich – gemeinsam mit der aws – und organisierte eine praxisorientierte Session zum Thema vertrauenswürdige KI mit Experten aus Österreich, Deutschland und der Schweiz.

Gestartet wurde die Session von Martina Paul (Vorsitzende der KI-Arbeitsgruppe bei Austrian Standards) mit einer Keynote über KI-Standardisierung – dabei unterstrich die KI-Expertin, was Unternehmen hinsichtlich AI-Act und anderer Entwicklungen erwarten können. Danach präsentierte Tributech Solutions-CEO Thomas Plank die Verbindung zwischen vertrauenswürdiger KI und vertrauenswürdigen Daten. Er ging darauf ein, wie durch geeignete Sicherheitsmaßnahmen „Data Poisoning“ und manipulierte Daten bei Machine Learning verhindert werden können.

Im Anschluss präsentierte Florentin Marty (Department Head „Measure and Decide“ bei Supercomputing Systems) ein KI-Projekt mit den Schweizerischen Bundesbahnen zur Schienenüberwachung – im Safety-Bereich ist Vertrauen ein Schlüsselelement. Zum Abschluss stellte Patrick Rockenschaub, der am Fraunhofer-Institut für Kognitive Systeme zu Trustworthy AI forscht, ein Projekt zu medizinischer KI vor – unter anderem ging es darum, wie mögliche Komplikationen auf Intensivstationen vorhergesagt werden können – und um die Parallelen solcher Anwendungsfälle zur Produktion.

Bereits heute spielt künstliche Intelligenz in der heimischen Wirtschaft eine immer bedeutendere Rolle: Bereits 8 Prozent der österreichischen Betriebe setzen KI-Tools in unterschiedlichen Anwendungsfeldern ein – 2018 lag dieser Wert bei lediglich 3 Prozent, bis 2025 plant ein Viertel der Unternehmen KI einzusetzen. Im Praxiseinsatz müssen KI-Lösungen deshalb sicher und verlässlich sein, um den Betrieb und die Mitarbeitenden in der Produktion effektiv zu unterstützen – dazu müssen Entscheidungen und Empfehlungen nachvollziehbar sein. Deshalb braucht es (internationale) Standards, die dahinterliegende Daten und Algorithmen erklärbar machen. 3 Kriterien sind laut Florentin Marty notwendig, um das Vertrauen in KI zu stärken:

• Die KI muss entsprechend trainiert werden, um zu wissen, wofür sie eingesetzt wird und welche Prüfungsfaktoren es gibt.
• KI-Systeme müssen transparent sein und kommunizieren, wenn es Unsicherheiten gibt bzw. erklären, wie es zu Entscheidungen kommt.
• Außerdem muss das Risiko minimiert werden, indem sämtliche Szenarien überlegt und diesbezügliche Vorgangsweisen definiert werden.

„KI-Lösungen gewinnen in der Produktion immer größere Relevanz; manchmal sind Unternehmen hier noch zögerlich, vor allem aufgrund von Sicherheitsbedenken. Mit unserer Session bei den Bodenseegesprächen wollten wir deshalb praxisnah aufzeigen, wie vertrauenswürdige KI in den unterschiedlichsten Feldern angewendet werden kann“, zieht Plattform Industrie 4.0 Österreich-Geschäftsführer Roland Sommer eine positive Bilanz.