Wie groß ist die verbleibende Unsicherheit Ihrer KI-Anwendung nach allen Tests? Ist dies ausreichend für eine Unterschreitung der Eintrittswahrscheinlichkeit im Rahmen von Zertifizierung?
KI-Anwendungen halten immer mehr Einzug in zahlreichen Industrie-, Produktions- und logistischen Prozessen sowie im medizinischen Bereich. Dabei ist es in sicherheitskritischen Bereichen wichtig abzuschätzen, wie groß die verbleibende Unsicherheit ist. Auch im Hinblick auf die Zertifizierbarkeit von KI-Anwendungen wird der Ruf nach einer Methodik bzw. Größe, auf die industrielle Entwickler hinarbeiten können, immer wichtiger. Die EU hat dabei mit dem AI-Act, einem Whitepaper zum Vorgehen bei der Einführung von KI-Anwendungen, einen wichtigen Schritt unternommen. Dieser ist jedoch nur der Anfang einer Reihe von Gesetzen, Regelungen und Normen, die ein Rahmenregelwerk bzw. Empfehlungen für Entwicklungsarbeiten im Bereich KI-Anwendungen vorgeben.
VALICY ist Spicetechs Antwort auf die Herausforderung schnell die Schwachstellen von solchen KI-Anwendungen ohne Detailkenntnis der Anwendung zu identifizieren und die verbleibende Restunsicherheit zu quantifizieren. VALICY ist ein vollautomatisches virtuelles Validierungssystem für Blackbox-Tests, das mithilfe von KI-Algorithmen hocheffizient einen multidimensionalen Parameterraum abtastet, dabei kritische Parameterkombinationen für das Versagen der betrachteten Anwendung identifiziert, die bspw. in Form von Realtests erfolgreich bestanden werden müssen, und die Restunsicherheit mit mathematischen Methoden abschätzt.
Das System bekommt die Eingangsparameter, deren Grenzen und die Systemantwort des Blackbox-Systems zur Verfügung gestellt. Auf dieser Grundlage lernt VALICY mithilfe von konkurrierenden, sich evolutionär weiterentwickelnden Algorithmen, das Verhalten Ihrer Blackbox vorauszusagen. Dies bringt Ihre Anwendung gezielt in Bereiche, in welchen ein Zustandswechsel zwischen erfüllter und nicht-erfüllter Anforderung stattfindet. Technisch entspricht dies der Identifikation einer Entscheidungshyperebene für die KI-Anwendung. Ein VALICY-Job läuft dabei so lange bis eine Anzahl abzuarbeitender Zustände über-, oder ein zulässiger Höchstwert für die die verbleibende Restunsicherheit unterschritten wird. Erfolgreich eingesetzt wird VALICY bereits im Bereich automatisierter Logistikprozesse zur Identifikation von Fehlerzuständen sowie im Bereich der Bilderkennung in der industriellen Qualitätsprüfung.
Spicetech investiert weiter in die Methode VALICY und wurde im Rahmen des Konsortiums IML4E (Industrial Machine learning for Enterprises) zur Förderung durch die Europäische Kommission ausgewählt. Wir verbessern und automatisieren hier insbesondere die Integration in bestehende Entwicklungsprozesse. Konkret nutzen wir im Rahmen des Projekts die industriellen Herausforderungen, die in Zusammenarbeit mit der Siemens AG entstehen. Diese Use Cases helfen dabei, das Verfahren langfristig für die industrielle Nutzung zu standardisieren.