safeAI

Wie sicher ist sich die künstliche Intelligenz?

Absicherung von KI-basierten Systemen

Das safeAI-Team der IABG entwickelt Lösungen für die Bewertung der Sicherheit und Robustheit von KI, insbesondere von Algorithmen mit Schwerpunkt auf Computer-Vision.

Wir kombinieren die langjährige Erfahrung der IABG auf den Gebieten Test-, Analyse- und Zertifizierungsprozesse mit aktueller akademischer Forschung. Dabei berücksichtigen wir die neuesten Erkenntnisse aus  KI-Normungsgremien der DIN und ISO/IEC.

Die von unserem Team entwickelte Software bietet ein Framework zur Absicherung autonomer Systeme.

 

 

Elemente der KI-Sicherheit

Compliance

Bei der Entwicklung des safeAI Safety-Frameworks berücksichtigen wir aktuelle Aktivitäten von KI-Standardisierungs- und Normungsgremien.

Robustheit

Die safeAI-Toolbox hilft Ihnen dabei, die aktuellen Anforderungen an die Robustheit von KI zu erfüllen.

Daten

Die Daten werden in unserer Simulation automatisch erfasst, gelabeled und augmentiert.
 

Runtime Assurance

Die Simulation bezieht das Konzept der Runtime Assurance mit ein.
 

Deployment

Die Einbeziehung von Machine Learning Workflows erhöht die Effizienz und die Reproduzierbarkeit von Ergebnissen.

Monitoring

Mit dem Safety-Dashboard gewinnen Sie aussagekräftige Einblicke in die Leistungsfähigkeit Ihres Algorithmus.

 

Unsere Softwarelösungen

Simulationsumgebung

Unsere Simulationsumgebung, basierend auf der Unreal Engine und AirSim, schafft eine fotorealistische virtuelle Welt und unterstützt dabei alle gängigen Sensortypen.

 

Safety Dashboard

Passen Sie die Simulationsparameter manuell an oder holen Sie von unserer Software Vorschläge zur Verbesserung Ihres Algorithmus ein.

Quantifizierung von Unsicherheiten (Uncertainty Quantification)

Die ständige und präzise Quantifizierung von Unsicherheiten erlaubt die rasche Identifizierung unzuverlässiger Ergebnisse und trägt so zu einer sichereren Entscheidungsfindung bei.


Anwendungsbereiche

Urban Air Mobility

Unsere Software ermöglicht den sicheren Einsatz von autonomen Luftfahrzeugen und Flugtaxis

Autonomous Driving

Wir prüfen und bewerten KI-Modelle, um mögliche Schwachstellen von autonomen Fahrzeugen zu erkennen und zu reduzieren.

Healthcare

SafeAI führt zu transparenten KI-basierten Entscheidungen in der medizinischen Bildgebung.

Ich möchte mehr Informationen zu safeAI erhalten