KI und Forschung - 03 | 22: Bias und KI

Ein Viertel des Jahres 2022 liegt hinter uns und wir haben bereits einige spannende neue Entwicklungen im Bereich KI sehen können. Mit You.com ist eine Suchmaschine an den Start gegangen, die in Konkurrenz zu Google nicht einfach nur eine Liste von Links zeigen will, sondern unter anderem Zusammenfassungen der Ergebnisse liefert. Mit Inflection.ai wurde von den Reid Hoffman (Mitgründer LinkedIn) und Mustafa Suleyman (Mitgründer DeepMind) ein Unternehmen gegründet, dass die Interaktion von Mensch und Maschine verbessern will. Beide Unternehmen wollen KI nutzen, um Verbesserungen für den Nutzer zu erreichen. Aber gerade Themen wie Bias, über das wir schon öfter berichtet haben, bergen auch Risiken beim Einsatz.

Predictive Policing

Predictive Policing, also grob das Analysieren von Daten aus der Vergangenheit, um mittels KI das Kriminalitätsgeschehens in der Zukunft vorherzusagen, ist schon länger ein Thema. Gerade in den USA wurde das Thema bereits kontrovers diskutiert, da Bias gerade in Polizeidaten ein großes Problem darstellen. 

Europol sieht aber ein große Potential im Predictive Policing, ist sich aber auch der Probleme bewusst. Deswegen soll gerade das Thema der Rechenschaft bei Fehlentscheidungen angegangen werden. Dazu wird im Projekt Accountability Principles for Artificial Intelligence (AP4AI) Europol in Kooperation mit dem Centre of Excellence in Terrorism, Resilience, Intelligence and Organised Crime Research (CENTRIC) und dem Europol Innovation Lab ein AI Accountability Framework erarbeitet.
Es gibt aber bereits Widerstand von einem Zusammenschluß von über 40 Organisationen, die die EU auffordern, KI-Systeme zur Vorhersage und Profilerstellung in der Strafverfolgung und Strafjustiz im Artificial Intelligence Act der EU zu verbieten.

Accountability

Wir bleiben grob beim Thema Accountability/Rechenschaftspflicht bei KI-Systemen. Weight Watchers wurde von der FTC dazu aufgefordert, nicht nur illegal erhobene Nutzerdaten zu löschen, sondern auch die damit trainierten KI-Modelle. Das ist in seiner Konsequenz eine richtige Entscheidung und sollte auch in Europa zu einer gängigen Praxis werden.

Lieferketten und GPU-Power

Grafikkarten (GPU), und auch fast alle weiteren Hardwarekomponenten, haben sich in den letzten zwei Jahren stark verteuert. Das liegt unter anderem immer noch schwierigen Lieferketten, die zu Produktionsausfällen und Lieferproblemen führen. Um diese Lieferkette soll es hier aber nicht gehen, sondern um das Gesundheitswesen. In dem interessanten Artikel auf Heise wird diskutiert wie KI-gestützte Werkzeuge für das Supply-Chain-Management Menschen einen besseren Zugang zu Gesundheitstests und Behandlungen ermöglichen.

Für die Leser, die ein gesteigertes Interesse an GPUs im Einsatz für KI haben: Nivida hat auf seiner diesjährigen GTC 22, Nvidias Entwicklerkonferenz, eine neue GPU (H100) und ein neues KI-Serversystem mit der DGX H100 vorgestellt.

Autor

Dr. Till Plumbaum

Till Plumbaum verantwortet als COO die Bereiche KI, maschinelles Lernen, natürliche Sprachverarbeitung (NLP), Personalisierung, Empfehlungssysteme, Suche und Information Retrieval.