Worum geht es?

Künstliche Intelligenz (KI) hält Einzug in die Alltags- und auch Geschäftsrealität. Auch wenn derzeit die Nutzung durch Unternehmen in Deutschland noch gering ist (13 % laut Ifo-Institut, August 2023), so ist mit einem stetigen Zuwachs zu rechnen. Die Verarbeitung der von Anwendern eingegebenen Daten erfolgt bei KI-Lösungen regelmäßig in Internet-basierten Plattformen unterschiedlicher Anbieter, Hersteller und Provider. Welche Anforderungen müssen erfüllt sein, damit Anwender den KI-Herstellern und KI-Lösungen vertrauen können?

Das Gelsenkirchener Institut für Internet-Sicherheit - if(is) untersucht diese Frage in einer aktuellen Studie. Das Projekt wird vom Bundesministerium für Digitales und Verkehr (BMDV) gefördert. Wesentlicher Teil des Projekts ist die Kooperation mit Fach- und Branchenverbänden. Der VAF beteiligt sich hier als Assoziierter Partner und hat diesen August den LoI mit dem Forschungsinstitut unter Leitung von Professor Dr. Norbert Pohlmann unterzeichnet. Wesentlicher Inhalt ist die Mitwirkung des VAF im Expertendialog und die Förderung durch Information und Kommunikation zu den Studienvorhaben bzw. -inahlten.

EU-Regulierung zu KI

Bereits im April 2021 hatte die EU-Kommission den ersten Vorschlag für einen EU-Rechtsrahmen für Künstliche Intelligenz veröffentlicht. Am 14. Juni 2023 hat sich das EU-Parlament auf gemeinsame Positionen dazu verständigt und nun laufen in den Parlamenten der EU-Nationalstaaten die Diskussionen zur Umsetzung in nationales Recht. Zu den wesentlichen Ansätzen der Regulierung gehören die risikobasierte Bewertung von KI-Anwendungen und Transparanzanforderungen an KI-Lösungen. Das Projekt TrutsKI des If(is) untersucht vor dem Hintergrund Vertrauens-Anforderungen von Anwendern. Dies soll zur Entwicklung einer zentralen Plattform beitragen, über die KI-Anbieter zu den erwarteten gesetzlichen Nachweis- und Trans­pa­rarenz­an­forde­rungen die relevanten Angaben bereitstellen können.

„Ziel des Vorhabens ist es, eine umfassende Vertrauenswürdigkeits-Plattform zu etablieren, die alle notwendigen Aspekte berücksichtigt sowie die gebotenen Erfordernisse erfüllt, damit Anwenderunternehmen Vertrauen in Herstellerunternehmen sowie in deren KI-Lösungen oder Datenräume aufbauen können.“

Prof. Dr. Norbert Pohlmann, Leiter Institut für Internetsicherheit if(is)

VAF-Position

Noch ist die KI-Nutzung in Unternehmen in Deutschland gering. Vieles spricht dafür, dass sich dies ändern wird. Die Entwicklung von Anwendungen mit generativer KI in der Unternehmenskommunikation und ebenso Mashine Learning in Bezug auf ITK-Infrastrukturen (z. B. Code-Implementierung, Maintenance) wird auch das Geschäft der ITK-Systemhäuser im VAF und deren Kunden  betreffen – Chancen und Risiken sowie Anforderungen müssen darum ausgelotet werden.

Eine harmonisierte und ethisch getragenen Regulierung durch die geplante KI-Gesetzgebung wird vom VAF dem Grundsatz nach begrüßt. Der Ansatz der Risikobewertung und Klassifizierung von KI-Anwendungen ist sinnvoll, um sachgerecht differenziert Geschäftsmodelle zu ermöglichen. Der vertrauenswürdige Umgang mit Anwenderdaten im KI-Datenraum ist eine Grundvoraussetzung für jegliche wirtschaftliche Nutzbarkeit durch Unternehmen und das Entstehen neuer Geschäftsmodelle. Der VAF unterstützt darum das Forschungsprojekt TrustKI des if(is).