Thema des Softwareprojektes im WS23/24: Entwicklung eines hybriden neuronal-symbolischen KI-Systems zur Verbesserung der Sicherheit und Robustheit von Modellen des maschinellen Lernens

Jüngste Fortschritte im maschinellen Lernen bringen menschenähnliche Intelligenz in alltägliche Aufgaben. Allerdings sind die auf riesigen Datenmengen trainierten KI-Modelle für Menschen oft unverständlich, was Sicherheitsbedenken und Fragen, z.B. zur Einhaltung gesellschaftlicher und juristischer Normen, aufwirft. Daher ist es entscheidend, Künstliche Intelligenz (KI) so zu gestalten, dass sie für Menschen verständlich ist und menschliche Erfahrungen und Wissen in symbolischer / semantischer Form als „KI Wissen“ [1] berücksichtigt.

In diesem Softwareprojekt planen wir, verschiedene neuro-symbolische KI-Methoden, d.h. die Kombination aus sub-symbolischen / neuronalen Machine Learning und symbolischen / semantischen KI-Methoden zu untersuchen. So können z.B. logische Einschränkungen in das Design und Training von neuronalen Netzwerken integriert oder auch die Fähigkeiten von großen Sprachmodellen zur Wissensrepräsentation und -schlussfolgerungen genutzt werden. Das allgemeine Ziel dieses Projekts ist es, die Robustheit und Sicherheit von maschinellen Lernmodellen durch die Nutzung von semantischen KI Wissen und neuro-symbolischer Integration zu verbessern, indem die Vorteile der symbolischen / semantischen KI genutzt werden. Die Leistung dieses im Projekt entwickelten hybriden KI-Systems wird anhand öffentlich zugänglicher Datensätze, wie z.B. ROAD-R [2] und unseren eigenen simulierten Daten bewertet.

Links:

[1] KI Wissen Projekt: https://www.kiwissen.de/de/

[2] ROAD-R Wettbewerb: https://sites.google.com/view/road-r/home

 

Projektziele:

-          Gewinnung von Perspektiven und praktischer Erfahrung in Teamarbeit für iterative und agile Softwareentwicklung und vertiefte Kenntnisse in neuro-symbolischer KI (semantische KI + sub-symbolische KI / Deep Learning).

-          Sammlung von Hands-on-Erfahrungen mit bestehenden Tools für die Softwareentwicklung, wie Jira (Projektmanagement), Slurm (Cluster-Management), Git und Docker.

-          Entwurf und Implementierung eines hybriden neuronalen-symbolischen KI-Systems zur Verbesserung von maschinellen Lernsystemen.

-          Validierung und Bewertung Ihres Modells anhand vordefinierter Metriken.

-          Dokumentation und Präsentation Ihrer experimentellen Ergebnisse.