Absicherung von KI-basierten Systemen
Das safeAI-Team der IABG entwickelt Lösungen für die Bewertung der Sicherheit und Robustheit von KI, insbesondere von Algorithmen mit Schwerpunkt auf Computer-Vision.
Wir kombinieren die langjährige Erfahrung der IABG auf den Gebieten Test-, Analyse- und Zertifizierungsprozesse mit aktueller akademischer Forschung. Dabei berücksichtigen wir die neuesten Erkenntnisse aus KI-Normungsgremien der DIN und ISO/IEC.
Die von unserem Team entwickelte Software bietet ein Framework zur Absicherung autonomer Systeme.
Elemente der KI-Sicherheit
Compliance
Bei der Entwicklung des safeAI Safety-Frameworks berücksichtigen wir aktuelle Aktivitäten von KI-Standardisierungs- und Normungsgremien.
Robustheit
Die safeAI-Toolbox hilft Ihnen dabei, die aktuellen Anforderungen an die Robustheit von KI zu erfüllen.
Daten
Die Daten werden in unserer Simulation automatisch erfasst, gelabeled und augmentiert.
Runtime Assurance
Die Simulation bezieht das Konzept der Runtime Assurance mit ein.
Deployment
Die Einbeziehung von Machine Learning Workflows erhöht die Effizienz und die Reproduzierbarkeit von Ergebnissen.
Monitoring
Mit dem Safety-Dashboard gewinnen Sie aussagekräftige Einblicke in die Leistungsfähigkeit Ihres Algorithmus.
Unsere Softwarelösungen
Simulationsumgebung
Unsere Simulationsumgebung, basierend auf der Unreal Engine und AirSim, schafft eine fotorealistische virtuelle Welt und unterstützt dabei alle gängigen Sensortypen.
Safety Dashboard
Passen Sie die Simulationsparameter manuell an oder holen Sie von unserer Software Vorschläge zur Verbesserung Ihres Algorithmus ein.
Quantifizierung von Unsicherheiten (Uncertainty Quantification)
Die ständige und präzise Quantifizierung von Unsicherheiten erlaubt die rasche Identifizierung unzuverlässiger Ergebnisse und trägt so zu einer sichereren Entscheidungsfindung bei.
Anwendungsbereiche
Urban Air Mobility
Unsere Software ermöglicht den sicheren Einsatz von autonomen Luftfahrzeugen und Flugtaxis
Autonomous Driving
Wir prüfen und bewerten KI-Modelle, um mögliche Schwachstellen von autonomen Fahrzeugen zu erkennen und zu reduzieren.
Healthcare
SafeAI führt zu transparenten KI-basierten Entscheidungen in der medizinischen Bildgebung.