Enhancing the Security, Privacy and Robustness of AI Models and Systems (SecureAI)

Der EU-Förderaufruf „Enhancing the Security, Privacy and Robustness of AI Models and Systems (SecureAI)“ richtet sich an Forschungseinrichtungen, Hochschulen, Unternehmen und Start-ups in Europa, die innovative KI-Lösungen in sicherheitskritischen Bereichen entwickeln. Mit einem Gesamtbudget von rund 21 Mio. EUR fördert das Horizon Europe Programm ab dem 3. März 2026 bis zum 15. September 2026 Forschungs- und Innovationsprojekte (Innovation Actions) zur Steigerung der Resilienz gegen adversariale Angriffe, Datenvergiftung und Backdoors. Die Förderquote beträgt bis zu 70 % der zuwendungsfähigen Ausgaben (Personal-, Sach-, Reise- und Subunternehmerkosten). Teilnehmen können juristische Personen aus EU-Mitgliedstaaten und assoziierten Ländern in Konsortien mit mindestens drei unabhängigen Partner:innen. Voraussetzung ist die Befreiung von Hochrisiko-Lieferant:innen gemäß EU-5G-Toolbox sowie ein überzeugendes Konzept zur Daten- und Systemsicherheit. Bewertet werden Innovationsgehalt, erwartete gesellschaftliche Wirkung und Konsortialqualität.

Im Fokus stehen Methoden zur Entwicklung von KI-Modellen, die im gesamten KI-Lebenszyklus datenschutzfördernde Technologien nutzen, beispielsweise föderiertes Lernen, homomorphe Verschlüsselung und sichere Inferenz. Darüber hinaus sollen automatisierte Verfahren zur Erkennung manipulierten Trainingsdatens und robuste Optimierungsansätze entstehen. Die Projekte sollen Auswirkungen auf kritische Infrastrukturen, öffentliche Verwaltungen und industrielle Produktionsprozesse erzielen und einen aktiven Beitrag zur Umsetzung der EU-KI-Verordnung leisten. Zur Antragstellung sind das Standardantragsformular, eine ausführliche Projektbeschreibung, der Finanzierungsplan und eine Erklärung zu Sicherheitsthemen bereitzustellen. Die Ergebnisse der Ausschreibung werden voraussichtlich innerhalb von fünf Monaten nach Einreichung bekanntgegeben, die Vereinbarung kann danach zügig abgeschlossen werden.