Wo steht die Technologie heute – wie sind aktuelle Fortschritte in der KI in den Bereichen Informatik, Mathematik und Computertechnik zu bewerten? In dieser Ausgabe des Journal Clubs thematisieren wir neben technologischen Meilensteinen auch die drängenden Fragen der Ethik.
Fortschritte in der KI, Informatik, Mathematik und Computertechnik
Zum Abschluss des “Heidelberg Laureate Forum 2021” wurde nochmal eine prestigeträchtige Gruppe von Preisträgern zusammengestellt, um über die „Fortschritte in der Informatik, Mathematik und Computertechnik“ (“Advances in Computer Science, Mathematics and Computing”) zu diskutieren. Zu den Teilnehmern gehörten Vint Cerf (Turing-Preis 2004), Yoshua Bengio (Turing-Preis 2018), Alessio Figalli (Fields-Medaille 2018), Yann LeCun (Turing-Preis 2018) und Avi Wigderson (Nevanlinna-Preis 1994 und Abel-Preis 2021). Da mit Yann LeCun und Yoshua Bengio zwei der “Väter” des Deep Learnings anwesend waren, war das Thema stark fokussiert auf KI. Nachdem man sich mit den Teilnehmern durch eine technisch schwierige Anfangsphase gekämpft hatte, nahm die Diskussion dann aber schnell an Fahrt auf. Es wurde klargestellt, dass die KI noch keine immanente Gefahr für die Menschheit darstellt, aber gerade automome Waffensystem eine ungute Entwicklung sind (Bengio). Es gibt aber auch mehrere positive Beispiele, wie Assistenzsysteme im Auto, wo KI einen großen Sicherheitsgewinn darstellt (LeCun). Dazu schaffen es auch Alessio Figalli und Avi Wigderson immer wieder spannende Einblicke in die KI im Umfeld von Algorithmik und Mathematik zu geben, mit Fragen, wie hier KI helfen kann, Probleme zu lösen und ob das nicht negative Auswirkungen auf das menschliche Lernen hat. Auch interessant ist, das Yann LeCun und Yoshua Bengio inzwischen beide der Meinung sind, dass die aktuellen Ansätze im Deep Learning nicht alleine alle KI-Probleme lösen können. Die volle Diskussion findet man hier.
GPT-3 Club ohne Warteschlange
Laut dem Blogpost des OpenAI Teams ist die API von GPT-3 jetzt frei verfügbar für Entwickler in einer umfangreichen Anzahl von Ländern (die vollständige Liste findet man hier). Möglich wurde das laut Post durch eine Vielzahl weiterer “Safeguards”, die ein Missbrauch verhindern sollen. Mehr dazu direkt im Post. Die Sicherheitsmaßnahmen betreffen allerdings nur den Missbrauch mit GPT-3. Fehler und Bias, der in GPT-3 auch mittrainiert ist, wird dadurch nicht verhindert.
KI-Ethik
Die freie Verfügbarkeit der GPT-3 API markiert einen weiteren Punkt bei den Fortschritten in der KI, bringt aber auch neue Herausforderungen für die Sicherheit mit sich. Parallel dazu hat die UNESCO zehn Prinzipien für eine verantwortungsvolle Entwicklung verabschiedet.
- Proportionality and Do No Harm Safety and security
- Fairness and non-discrimination
- Sustainability
- Right to Privacy,and Data Protection
- Human oversight and determination
- Transparency and explainability
- Responsibility and accountability
- Awareness and literacy
Multi-stakeholder and adaptive governance and collaboration
Dabei werden auch KI-Systeme ausgeschlossen, wie das in China getestet Socialscoring. Interessanterweise gehört China, im Gegensatz zu den USA, zu den unterzeichnende Nationen.
Wenn du mehr über unsere methodische Herangehensweise erfahren möchtest, schau dir unsere Seite zur KI Beratung.
Datum: 30.11.2021
Autor
