Des manchots pour dompter l’IA ? Cette méthode casse le mystère der…

Selon Numerama, des manchots pour dompter l’IA ? Cette méthode casse le mystère derrière l’effet « boîte noire ».

La plupart des algorithmes performants actuels – notamment l’apprentissage profond (deep learning) et ses réseaux de neurones – fonctionnent comme des boîtes noires. On sait qu’ils donnent de bons résultats, mais impossible de comprendre leur logique interne. Ceci pose problème pour de nombreux domaines d’application (médecine, justice…), ce qui incite les régulateurs à exiger des systèmes « explicables ».

Plusieurs pistes vers l’explicabilité existent. Zoom sur la « prétopologie ».