Le conseil en sûreté se doit d’accorder à l’IA un rôle très particulier à deux titres. D’abord parce que l’IA représente une source de menace étendue. Elle permet aussi bien des arnaques au président abouties grâce aux « deepfakes » audio et vidéo que des attaques sophistiquées via les réseaux de communication. Mais c’est aussi au titre de ses apports à la sécurité qu’il faut la considérer, comme un outil générique puissant pour détecter les anormalités, assister la prise de décision et automatiser les réponses à certaines situations.
Récemment, les grand modèles de langage ont révolutionné l’interaction humain-machine en dotant les systèmes d’information de capacités de compréhension et de traitement du langage naturel. Cette avancée majeure conduit à de nouveaux services basés sur l’appropriation par la machine du sens, voire du bons sens qui était jusqu’alors resté l’exclusivité de l’humain.
La compréhension artificielle transforme la machine en un relais sémantique capable d’effectuer des liaisons entre les utilisateurs et les contenus de toutes sorte, textes, sons, images, films et tout ce qui peut être indexé et assimilé.
Les entreprises ont tout à gagner à intégrer les capacités émergentes de l’IA, compréhension, traduction, planification, supervision, automatisation mais comme évoqué en introduction l’épée est à double tranchant. Le législateur Européen, après son travail remarquable sur la protection des données à caractère personnel pour sauvegarder la vie privée, a jugé indispensable d’encadrer strictement l’utilisation de l’IA pour protéger les personnes et les groupes de personnes des effets de stigmatisation ou de discrimination que la puissance de cet outil est susceptible de provoquer s’il est mal utilisé.
Le règlement Européen sur l’IA (Ai Act) fait donc suite au RGPD avec des objectifs communs de protection de la vie privée et d’évitement des traitements de données discriminants. L’IA est d’ailleurs un type particulier de traitement de données et est donc évidemment soumise au RGPD. L’AI Act, comme le RGPD compte un bon nombre d’exigences liées à la sécurité des données et à la protection des systèmes. Pour s’assurer de respecter ces exigences et d’être capable de le démontrer au contrôleur, les entreprises n’ont pas beaucoup le choix, elles doivent mettre en place les processus nécessaires pour gérer leur conformité et les piloter.
Nos actions dans le domaine de l’IA et de la sûreté
Organisation de la conférence AI4GS
Podcast sur l’IA et la norme ISO 42001
Recherche sur l’IA et la sécurité globale