Öffentliche Ausschreibung in Bonn

State-of-the-Art KI-Modelle zur Generierung und gezielten Modifizierung von Bildern auf Basis einer Textbeschreibung (Text-to-Image) bzw. einer Textbeschreibung und eines oder mehrerer Bilder (Text&Image-to-Image), sogenannte multimodale Modelle wie beispielsweise Imagen, DALL-E 3 und Midjourney, erzeugen beeindruckende Bilder, die auf den ersten Blick nicht von vollständig echten Bildern (Fotos oder Kunst) zu unterscheiden sind. Zugleich bieten diese Modelle aber auch Missbrauchspotenziale, wie etwa das Unterstützen von Falschmeldungen oder Social Engineering-Angriffen. Eine Detektionsmöglichkeit maschinell erstellter Bilder ist daher aus IT-sicherheitlicher Sicht erstrebenswert. Aufgrund der momentan rasanten Entwicklungen im Bereich der künstlichen Intelligenz existiert bisher kein umfassender Überblick über das Gefahrenpotenzial für Staat und Gesellschaft, das von der KI-gestützten Generierung und Modifizierung hochqualitativer Bilder ausgeht, sowie über mögliche Detektionsmethoden. Daher soll in diesem Projekt eine Übersicht über die derzeitigen Methoden zur nachvollziehbaren Erkennung von künstlich erzeugten bzw. modifizierten Bildern erstellt werden. Im Anschluss sollen diese auf ihre Zuverlässigkeit und Nachvollziehbarkeit hin evaluiert werden. Basierend auf den identifizierten Schwachstellen der bestehenden Methoden soll eine (Weiter-)Entwicklung erfolgen und im weiteren Verlauf ein Demonstrator für die entwickelte Methode aufgebaut werden.