„Ingenieure und Ingenieurinnen tragen Mitverantwortung bei Entscheidungen von KI-Systemen“

Die EU hat am 21. Mai endgültig das Gesetz zu Künstlicher Intelligenz, kurz KI, verabschiedet („AI-Act“). Damit haben die EU-Staaten erstmals Regeln zur Nutzung von KI festgelegt. Die COMPUTER SPEZIAL hatte unlängst über erste Einigungen berichtet. Es ist das erste Gesetz dieser Art weltweit und kann einen globalen Standard für die Regulierung von KI setzen, heißt es vom Verein Deutscher Ingenieure (VDI). Ein zentraler Punkt des Gesetzes sieht vor, dass KI-Systeme möglichst transparent, nachvollziehbar und nicht diskriminierend sind.

Die EU-Staaten haben schärfere Regeln für KI in der Europäischen Union beschlossen.
Bild: Clipdealer

Ein wichtiger Aspekt dabei ist, dass die KI-Systeme von Menschen überwacht werden - nicht von technischen Systemen. Damit soll die endgültige Entscheidung und Verantwortung in Menschenhand bleiben. „Wir müssen die Gesamtsysteme betrachten, in denen KI genutzt wird“, sagt Dieter Westerkamp, Bereichsleiter Technik und Gesellschaft im VDI. „Daher haben wir in unseren Ethischen Grundsätzen formuliert, dass Ingenieurinnen und Ingenieure gewährleisten, dass Entscheidungen von KI-Systemen stets nachvollziehbar und plausibel sind. Sie haben darüber hinaus eine Mitverantwortung für die systemischen Wirkungen – nicht nur des entwickelten Teilsystems selbst, sondern auch für dessen Auswirkungen in einem Gesamtsystem bzw. Netzwerk.“

Ethische Grundsätze beachten

In seinen „Ethischen Grundsätzen des Ingenieurberufs“ aus dem Jahr 2021 stellt der VDI fest: „Ingenieurinnen und Ingenieure sind sich darüber bewusst, dass bei der Delegation operativer und strategischer Unterstützungs- und Entscheidungsleistungen an autonome KI-basierte Systeme die Verantwortung letztlich beim Menschen verbleiben muss.“ Der VDI hatte das Aufkommen der breiten KI-Nutzung und autonomer Systeme zum Anlass genommen, seine Ethische Grundsätze daraufhin zu überarbeiten und zu ergänzen. Eine weitere technische Standardisierung für KI ist notwendig.

Unabhängig davon sieht der VDI die großen Chancen, die Technologien auf der Basis von KI bieten. Es sollen zukünftig auch weiterhin auf dem Weltmarkt wettbewerbsfähige Produkte und Dienstleistungen mit integrierter KI angeboten werden können. "Gut ist, dass wir in Deutschland im Hinblick auf die Anzahl von Patenten aktuell weltweit auf dem zweiten Platz liegen. Nun gilt es, auf dieser Basis geeignete Produkte und Dienstleistungen zu entwickeln, die das KI-Gesetz erfüllen", sagt Westerkamp.