EU Regelwerk für KI - KI Journal Club

Während wir noch auf den Sommer warten, ist im Bereich KI wieder viel passiert, wovon wir in der Mai Ausgabe unserer KI und Forschungs-Serie berichten wollen. Die EU hat ein Regelwerk für KI definiert, dass KI in Europa in gesicherte und geordnete Bahnen lenken soll. Dazu werfen wir noch ein spannendes Paper zur Reduzierung von veralteten Informationen im Netz in den Ring. Wer sich für aktuelle Arbeiten im Bereich NLP interessiert, dem sei der NLP-Index nahegelegt. Wer dann seine KI-Modelle verfügbar machen will, sollte einen Blick auf ONNX 1.9 werfen.

Die EU hat ein Proposal for a Regulation laying down harmonised rules on artificial intelligence (kurz Artificial Intelligence Act) veröffentlicht. Das Proposal ist eines der umfangreichsten Regelwerke für KI weltweit. Ziel ist es sicherzustellen, daß KI Entwicklungen sicher sind und bestehendes Recht auf Grundrechte und Werte der Union respektieren. Dabei hat sich die EU für ein Modell entschieden, das KI Entwicklungen in ein Risikomodell einordnet. Je nach Stufe sind dann bestimmte KI Anwendungen gänzlich verboten oder unterliegen bestimmten Regeln. Die Risikostufen sind dabei:

• Minimales Risiko: Zum Beispiel Spamfilter und KI in Computerspielen

• Geringes Risiko: Darunter fallen Chatbots und es gibt eine Transparenzpflicht, d.h. der Nutzer muss wissen, das er mit einer KI interagiert

• Hohes Risiko: Dazu gehört KI, die z.B. über Bankdarlehens entscheidet, oder automatisierte Prüfungsbewertungen, also KI, die direkt in das Leben der Menschen eingreift. Hier müssen dann Anforderungen wie Robustheit oder Sicherheit gewährleistet sein.

• Unannehmbares Risiko: KI aus dieser Kategorie ist verboten. Darunter fällt sowas wie Social Scoring Software.

Der KI Bundesverband, deren Mitglied unsere Muttergesellschaft die Neofonie ist, hat dazu auch zu dem EU Proposal ein sehr gutes Stellungspapier veröffentlicht, das zum einen die Punkte des EU nochmal kurz zusammengefasst und die Forderungen des Bundesverbandes an die EU definiert. In kurz:

• Eine KI-Regulierung kann Unternehmen bei der Schaffung von KI-Produkten unterstützen, die europäische Werte durch ihr Design einbeziehen und der Innovation eine Richtung geben.

• Da es jedoch in der Natur der KI-Technologie liegt, sich ständig weiterzuentwickeln, ist es unerlässlich, dass die jeweilige KI-Regulierung Innovationen und Weiterentwicklungen zulässt. 

• Ein europäischer KI-Regulierungsrahmen muss sich auf neue Anwendungsbereiche konzentrieren, die eindeutig potenzielle Risiken für Mensch, Gesellschaft und Umwelt bergen. Dieser Rahmen muss ein sicheres, stabiles und wettbewerbsfähiges Umfeld für die Forschung und Entwicklung von KI-Anwendungen ermöglichen, damit diese Innovation und Wirtschaftswachstum in Europa vorantreiben kann.

Wir wissen alle, dass das Internet voller veralteter Informationen ist. Auch Quellen wie Wikipedia können nicht immer alle aktuellen Information direkt nachpflegen. Da aber auf diesen Informationen KI-Modelle, zum Beispiel Language Models wie GPT-3, trainiert werden, sind diese Informationen schädlich. In einem neuen Forschungsbeitrag des MIT, der auf NAACL Conference on Computational Linguistics im Juni präsentiert wird, beschreiben Forscher Ansätze, die darauf abzielen, die Menge falscher oder veralteter Informationen im Internet zu reduzieren und außerdem Deep-Learning-Modelle zu erstellen, die sich dynamisch an aktuelle Änderungen anpassen.

Natural Language Processing ist ein spannendes, hochdynamisches Forschungsfeld. Dadurch ist es aber nicht immer einfach, den aktuellen Stand der Technik im Blick zu halten. Deswegen hat Ricky Costa, CEO von Quantum Stat, den NLP- Index ins Leben gerufen, der einen Überblick über aktuelle Paper gibt.

ONNX ist ein offenes Format zur Repräsentation von Deep-Learning-Modellen und erlaubt den Austausch zwischen verschiedenen DL-Frameworks. In der gerade erschienen Version 1.9 werden jetzt auch MobileNetV3 und YOLOv5 unterstützt.

Datum: 31.05.2021