Atos lance un programme de recherche sur la sécurité de l'IA

Details du programme de recherche

Atos a signé un contrat avec l'Agence pour l'innovation en cybersécurité pour établir le programme « Forensics of Intelligent Systems ». Ce projet, localisé à Halle, en Allemagne, est réalisé en collaboration avec l'Institut Fraunhofer pour la sécurité appliquée et intégrée, l'Institut Fraunhofer pour l'analyse intelligente et les systèmes d'information, l'Institut pour la sécurité Internet de l'Université de Westphalie et l'Université de Cologne. L'objectif est de développer des méthodes et prototypes pour détecter les manipulations des systèmes d'IA de manière juridiquement fiable.

Objectifs et méthodes

Le programme prévoit la mise en place d'un environnement de simulation dans un laboratoire de recherche pour tester des logiciels de méthodes forensiques. Les modèles d'IA seront soumis à des attaques simulées afin d'identifier les traces légalement exploitables et d'ajuster les algorithmes pour une détection précoce. Selon Boris Hecker d'Atos, cette initiative vise à fournir aux autorités de sécurité des outils avancés pour une analyse forensique précise des systèmes d'IA. Le Prof. Dr Christian Hummert de Cyberagentur souligne l'importance de rendre les systèmes intelligents juridiquement sécurisés et dignes de confiance.

Contexte stratégique

Le projet « Forensics of Intelligent Systems » s'inscrit dans la stratégie d'Atos de renforcer la sécurité numérique et la confiance dans les systèmes d'IA. Atos met l'accent sur la transparence et la souveraineté européenne avec un portefeuille incluant des solutions pour sécuriser les données et les infrastructures cloud. Ce programme répond aux attentes en matière de fiabilité et de sécurité économique, tout en renforçant l'intégrité des systèmes face aux incertitudes techniques dans le domaine de l'intelligence artificielle.