Foto von Kelly Sikkema auf Unsplash
Die Durchführung von eMarketShield involviert aufgrund des Einsatzes von KI-Systemen und der Verarbeitung potenziell personenbezogener Online-Daten eine Reihe ethischer und rechtlicher Risiken, die das Projektteam seit Beginn des Forschungsprojektes aktiv evaluiert. Die Nutzung von Künstlicher Intelligenz (KI) in Form von Large Language Models (LLMs) sowie KI-gestützter Verfahren wie dem Crawling, Scraping und Scoring zur Marktüberwachung berührt sensible Fragen zu digitaler Souveränität, Sicherheit und zum Datenschutz, derer sich das Projektteam kontinuierlich annimmt.
Um unseren Ansprüchen an diese sensiblen Fragen gerecht zu werden, wurden von zwei Projektpartnern – dem Linzer Institut für qualitative Analysen (LIquA) und dem Research Institute - Digital Human Rights Center – ethische und rechtliche Rahmenbedingungen ausgearbeitet. Die Rahmenbedingungen bieten einen Leitfaden für die ethischen und rechtlichen Anforderungen in eMarketShield und eine Arbeitsgrundlage in welcher Form diese operativ im Projekt sichergestellt werden können. Sie dienen zum einen der Einhaltung aktueller rechtlicher Vorgaben (z. B. AI Act, DSGVO) und zum anderen der Berücksichtigung fundamentaler Werte (z. B. Schadenverhütung, Autonomie, Fairness).
Ethische Rahmenbedingungen
Die ethischen Rahmenbedingungen für den Einsatz von KI in der Marktüberwachung stützen sich auf zentrale internationale, europäische und nationale Leitlinien, die den verantwortungsvollen und menschenzentrierten Umgang mit KI-Systemen sicherstellen sollen.
- Empfehlung zu Künstlicher Intelligenz des Ministerrats der OSZE in Europa (2019/2023/2024)
- UNESCO-Empfehlung zur Ethik von Künstlicher Intelligenz (2021)
- Europarat-Rahmenübereinkommen über Künstliche Intelligenz und Menschenrechte, Demokratie, Rechtsstaatlichkeit (2024)
- Ethik-Leitlinien für eine vertrauenswürdige KI der Europäischen Kommission (2018/2020)
- Österreichische Strategie der Bundesregierung für Künstliche Intelligenz (2021)
- Leitfaden Digitale Verwaltung: KI, Ethik und Recht (2023)
Diese Rahmenwerke formulieren grundlegende ethische Prinzipien für die Entwicklung, Gestaltung und Nutzung von KI-Systemen und geben konkrete Handlungsempfehlungen, um einen verantwortungsvollen, transparenten und ethisch vertretbaren Einsatz von eMarketShield in der österreichischen Marktüberwachung zu gewährleisten. Dies umfasst insbesondere Prinzipien wie Rechtmäßigkeit, Autonomie, Robustheit, Transparenz, Fairness, Nichtdiskriminierung, Datenschutz, Sicherheit, Verantwortung, Rechenschaftspflicht und Nachvollziehbarkeit.
Konkrete Orientierung für die Umsetzung bietet der Leitfaden Digitale Verwaltung: KI, Ethik und Recht, der spezifisch auf den öffentlichen Sektor zugeschnitten ist. Mit der Checkliste für ethische KI in der Verwaltung und dem Kriterien- und Maßnahmenkatalog (EKIV) stehen praxisnahe Werkzeuge zur Verfügung, die auch in der ethischen Evaluierung von eMarketShield eingesetzt werden.
Rechtliche Rahmenbedingungen
Für die Inbetriebnahme und Nutzung von KI-Systemen in der EU sind gewisse Anforderungen des AI Acts zu beachten. Diese Anforderungen variieren je nach Risikoeinstufung des KI-Systems. Beim Einsatz von KI bei eMarketShield ist dementsprechend eine Risikoeinstufung nach dem AI Act vorzunehmen. Daraus leiten sich die konkreten rechtlichen Anforderungen für das Projekt ab. Je nach Risikoklasse ergeben sich unterschiedliche Dokumentations-, Melde- und Bewertungspflichten für das KI-System.
Für die Risikoeinstufung des KI-Systems wurde im Zuge der Evaluierung eine Orientierungshilfe erstellt, nach welchen Gesichtspunkten die geplanten KI-Verfahren für eMarketShield gemäß dem AI Act in Risikoklassen einzustufen sind. Die Risikoklassen werden je nach Risikoeinschätzung anhand von User Stories sowie unter Rekurs auf spezielle Evaluierungsinstrumente vorgenommen. Zudem finden spezielle Prüfungen hinsichtlich Einhaltung der Datenschutz-Grundverordnung (DSGVO) statt.
Ethische & rechtliche Evaluierung
Um einen ethisch und rechtlich verantwortbaren Einsatz von KI in eMarketShield zu ermöglichen, wird der im Projekt entwickelte Ansatz sowie das prototyphafte System im Rahmen einer Evaluierung überprüft. Diese Evaluierung soll dem Bedarfsträger Rückschlüsse darüber ermöglichen, was für einen zukünftigen routinemäßigen Einsatz legistisch zu beachten ist. Die Evaluierung erfolgt mehrstufig. Zunächst werden potenzielle ethische und rechtliche Risiken der einzelnen User Stories analysiert und Mitigationsansätze formuliert, anschließend werden Evaluierungsinstrumente wie die Checkliste für ethische KI in der Verwaltung, der Kriterien- und Maßnahmenkatalog für ethische KI in der Verwaltung (EKIV) oder die Assessment List for Trustworthy AI (ALTAI) eingesetzt. Diese systematische Herangehensweise gewährleistet eine umfassende Überprüfung von eMarketShield hinsichtlich der Konformität mit ethischen Prinzipien und rechtlichen Anforderungen.