Verstehen, was deine Lösung tatsächlich nutzt
Eine Anwendung kann auf einer betreuten Infrastruktur laufen und zugleich externe Modelle oder weitere Dienste aufrufen. Ein Agent kann Informationen lesen und über angebundene Funktionen Aktionen auslösen.
Deshalb betrachten wir die Verarbeitung im Zusammenhang: von den Datenquellen über Anwendungen und Modelle bis zu Schnittstellen, Ergebnissen und möglichen Folgeaktionen.
So kannst du nachvollziehen, welche Informationen wohin gelangen, welche technischen Möglichkeiten bestehen und wer die jeweiligen Komponenten verantwortet.
AI Security: Zugriffe und Aktionen passend zur Aufgabe begrenzen
Eine AI-Anwendung benötigt bestimmte Daten. Ein Agent benötigt möglicherweise zusätzlich Funktionen, mit denen er Verarbeitungsschritte auslösen kann. Wir klären deshalb, welche Informationen und Handlungsmöglichkeiten für die Aufgabe erforderlich sind und wie sich diese technisch begrenzen lassen.
Welche Einschränkungen tatsächlich durchgesetzt werden können, hängt von den beteiligten Anwendungen, Datenbanken und Schnittstellen ab. Laufzeitumgebung, Netzwerkzugänge und Berechtigungen werden gemeinsam betrachtet.
Warum Anweisungen allein nicht ausreichen
Prompt-Anweisungen beschreiben das gewünschte Verhalten eines Sprachmodells oder Agenten. Sie ersetzen keine technisch durchgesetzten Zugriffsgrenzen.
Zudem können manipulierte Eingaben oder Inhalte aus Dokumenten und externen Quellen versuchen, das Verhalten eines Sprachmodells umzulenken. Solche Prompt-Injection-Angriffe sind besonders relevant, wenn das Modell angebundene Funktionen aufrufen kann.
Deshalb gehören die tatsächlich erreichbaren Daten und Funktionen ebenso zur Betrachtung wie der Umgang mit Modellergebnissen. Welche Prüfungen dafür erforderlich und umsetzbar sind, klären wir anhand des Einsatzes.
Agentenaktionen gezielt betrachten
Ein Agent, der Informationen zusammenfasst, hat andere Handlungsmöglichkeiten als ein Agent, der einen Folgeprozess anstößt.
Wir klären mit dir, welche Aktionen vorgesehen sind, welche Voraussetzungen dafür gelten und wann Menschen prüfen oder freigeben müssen. Die technische Umsetzung solcher Grenzen wird je Integration geprüft. Aus einer formulierten Verhaltensregel folgt noch keine verlässliche technische Sperre.
Konkrete technische Erfahrung und ihre Reichweite
Getrennte Agentenumgebungen mit Agency
Unsere interne Agency-Infrastruktur nutzt bereits isolierte Laufzeitumgebungen und konfigurierbare Netzwerkzugänge. Damit können Agentenumgebungen voneinander abgegrenzt und ihre Netzwerkverbindungen gestaltet werden.
Welche Rechte innerhalb einer angebundenen Anwendung bestehen, muss zusätzlich für den jeweiligen Zugriff geklärt werden. Die Isolation der Laufzeitumgebung allein entscheidet nicht darüber, welche Geschäftsaktionen ein Agent ausführen kann.
Definierte Datenzugänge mit Genericy
Genericy stellt festgelegte SQL-Abfragen als REST-Endpunkte bereit. Dadurch können ausgewählte Datenbankinformationen über definierte Schnittstellen für Anwendungen zugänglich gemacht werden.
Das ist ein konkreter Baustein für SQL-basierte Datenanbindungen. Welche Berechtigungen und Einschränkungen darüber hinaus gelten, hängt vom Aufbau der jeweiligen Integration ab.
Protokollierung und Überwachung konkret vereinbaren
Logging und Monitoring richten sich nach der jeweiligen Lösung und dem vereinbarten Betreuungsumfang. Gemeinsam legen wir fest, welche Vorgänge nachvollziehbar sein sollen, welche technischen Zustände überwacht werden und wer auf Auffälligkeiten reagiert. Dazu gehören auch die zulässigen Protokollinhalte, Zugriffsrechte und Aufbewahrungszeiten.
Im bestehenden Predecy-Betrieb verfügen wir bereits über detailliertes Monitoring.
Für Agency befinden sich weitere Protokollierungs-, Überwachungs- und Verwaltungsfunktionen einschließlich einer Kundenoberfläche in Entwicklung. Welche verfügbaren Funktionen für deinen Einsatz genutzt werden und welche Betreuung dazugehört, wird konkret geprüft und vereinbart.
Anforderungen in Entwicklung und Betrieb verankern
Bei Entwicklungs- und Integrationsprojekten
Anforderungen an Datenverarbeitung, Zugriffe, Modelle und Abhängigkeiten beeinflussen die technische Gestaltung. Wir berücksichtigen sie bei Datenanbindungen, Softwarefunktionen und der Auswahl geeigneter Komponenten.
Ein Engineering-Projekt bleibt eigenständig beauftragbar und kann mit der vereinbarten Übergabe enden.
Data, AI & Software Engineering kennenlernen
Bei laufender technischer Betreuung
Für betreute Anwendungen und Agenten legen wir die Zuständigkeiten, Zugriffe, Überwachung und den Umgang mit Störungen fest. Die Betriebsverantwortung richtet sich nach den vereinbarten Komponenten und den verfügbaren Eingriffsmöglichkeiten.
Passende grundlegende Schutzmaßnahmen gehören zum jeweiligen Leistungsumfang. Besondere Anforderungen an Datenverarbeitung, Modellnutzung oder Abhängigkeiten werden zusätzlich in der Architektur berücksichtigt.
Die Übernahme einer bestehenden Anwendung wird technisch geprüft. Sie setzt kein vorheriges Entwicklungsprojekt mit Spicetech voraus.
AI Managed Services kennenlernen