EU Regelwerk für KI - KI Journal Club

Während wir noch auf den Sommer warten, ist im Bereich der Künstlichen Intelligenz viel passiert. In der Mai-Ausgabe berichten wir über das neue EU Regelwerk für KI, das Entwicklungen in Europa in geordnete Bahnen lenken soll. Neben dem AI Act werfen wir einen Blick auf neue Forschung zur Datenaktualität und den praktischen NLP-Index.

Die EU hat mit dem AI Act eines der weltweit umfangreichsten Regelwerke vorgelegt. Dieses EU Regelwerk für KI nutzt ein Risikomodell, um Anwendungen in Stufen einzuteilen – von minimalem Risiko (Spamfilter) bis hin zu unannehmbarem Risiko (Social Scoring). Dabei hat sich die EU für ein Modell entschieden, das KI Entwicklungen in ein Risikomodell einordnet. Je nach Stufe sind dann bestimmte KI Anwendungen gänzlich verboten oder unterliegen bestimmten Regeln. Die Risikostufen sind dabei:

• Minimales Risiko: Zum Beispiel Spamfilter und KI in Computerspielen
• Geringes Risiko: Darunter fallen Chatbots und es gibt eine Transparenzpflicht, d.h. der Nutzer muss wissen, das er mit einer KI interagiert
• Hohes Risiko: Dazu gehört KI, die z.B. über Bankdarlehens entscheidet, oder automatisierte Prüfungsbewertungen, also KI, die direkt in das Leben der Menschen eingreift. Hier müssen dann Anforderungen wie Robustheit oder Sicherheit gewährleistet sein.
• Unannehmbares Risiko: KI aus dieser Kategorie ist verboten. Darunter fällt sowas wie Social Scoring Software.

Der KI Bundesverband, deren Mitglied unsere Muttergesellschaft die Neofonie ist, hat dazu auch zu dem EU Proposal ein sehr gutes Stellungspapier veröffentlicht, das zum einen die Punkte des EU nochmal kurz zusammengefasst und die Forderungen des Bundesverbandes an die EU definiert. In kurz:

• Eine KI-Regulierung kann Unternehmen bei der Schaffung von KI-Produkten unterstützen, die europäische Werte durch ihr Design einbeziehen und der Innovation eine Richtung geben.
• Da es jedoch in der Natur der KI-Technologie liegt, sich ständig weiterzuentwickeln, ist es unerlässlich, dass die jeweilige KI-Regulierung Innovationen und Weiterentwicklungen zulässt. 
• Ein europäischer KI-Regulierungsrahmen muss sich auf neue Anwendungsbereiche konzentrieren, die eindeutig potenzielle Risiken für Mensch, Gesellschaft und Umwelt bergen. Dieser Rahmen muss ein sicheres, stabiles und wettbewerbsfähiges Umfeld für die Forschung und Entwicklung von KI-Anwendungen ermöglichen, damit diese Innovation und Wirtschaftswachstum in Europa vorantreiben kann.

Wir wissen alle, dass das Internet voller veralteter Informationen ist. Auch Quellen wie Wikipedia können nicht immer alle aktuellen Information direkt nachpflegen. Da aber auf diesen Informationen KI-Modelle, zum Beispiel Language Models wie GPT-3, trainiert werden, sind diese Informationen schädlich. In einem neuen Forschungsbeitrag des MIT, der auf NAACL Conference on Computational Linguistics im Juni präsentiert wird, beschreiben Forscher Ansätze, die darauf abzielen, die Menge falscher oder veralteter Informationen im Internet zu reduzieren und außerdem Deep-Learning-Modelle zu erstellen, die sich dynamisch an aktuelle Änderungen anpassen.

Natural Language Processing ist ein spannendes, hochdynamisches Forschungsfeld. Dadurch ist es aber nicht immer einfach, den aktuellen Stand der Technik im Blick zu halten. Deswegen hat Ricky Costa, CEO von Quantum Stat, den NLP- Index ins Leben gerufen, der einen Überblick über aktuelle Paper gibt.

ONNX ist ein offenes Format zur Repräsentation von Deep-Learning-Modellen und erlaubt den Austausch zwischen verschiedenen DL-Frameworks. In der gerade erschienen Version 1.9 werden jetzt auch MobileNetV3 und YOLOv5 unterstützt.

Dass KI-Modelle wie GPT-3 oft auf veralteten Daten basieren, ist ein Problem, das Forscher des MIT nun angehen. Wer tiefer in die technologischen Grundlagen eintauchen möchte, findet in unserem Guide zum Natural Language Processing (NLP) weitere Infos. Wir unterstützen Unternehmen zudem mit unserer KI Beratung dabei, konform mit dem neuen EU-Recht zu agieren.

Datum: 31.05.2021