Disposer d’une IA de confiance : exigences et conditions
Par Bertrand Lemaire | Le | Data
L’Académie des Sciences et Techniques Comptables et Financières a publié deux documents sur l’IA de confiance et ses conditions.
L’Académie des Sciences et Techniques Comptables et Financières a initié en 2018 une réflexion sur l’intelligence artificielle. Professionnels du chiffre (experts-comptables, auditeurs…), avocats, professeurs, consultants, organisations, associations et institutions parties prenantes au débat ont ainsi réfléchi au développement de l’IA avec leur vision particulière qui n’est pas celle de spécialistes de l’IT mais de métiers utilisateurs. Il en a résulté deux « cahiers », l’un publié en 2021 (« Intelligence artificielle et confiance : réglementation, enjeux, risques, audit et certification »), l’autre fin 2022 (« Vers des intelligences artificielles dignes de confiance »). Les deux ont été pilotés par Vincent Manière, Président de l’ISACA-AFAI (association professionnelle des auditeurs), et Serge Yablonsky, Président d’honneur de l’ISACA-AFAI, avec le soutien de l’éditeur Sage.
Les deux documents insistent bien sûr sur les usages de l’intelligence artificielle et les conséquences concrètes de ces usages. Le premier document pointe essentiellement ce qui peut poser problème après avoir analysé les apports concrets de l’IA dans la vie quotidienne et professionnelle. Le deuxième y fait suite et explique les motivations pour disposer une « IA de confiance » et les modalités pour y parvenir, citant par exemple les problèmes d’iniquité induits par certains algorithmes usant de certaines données.
Si le point de vue est celui des utilisateurs métiers, les inquiétudes et les exigences exprimées doivent interpeller les techniciens concevant les intelligences artificielles, jusqu’au DSI responsable de la stratégie en la matière.
A propos des documents
- Intelligence artificielle et confiance : règlementation, enjeux, risques, audit et certification - Cahier n° 38 de l’ASTCF, ouvrage collectif (Edité par l’ASTCF, 53 pages, gratuit).
- Vers des intelligences artificielles dignes de confiance - Cahier n° 39 de l’ASTCF, ouvrage collectif (Edité par l’ASTCF, 199 pages, gratuit)