Ceux qui fabriquent une intelligence artificielle ne savent pas expliquer chacune de ses réponses

Difficile à croire, et pourtant vrai. Un modèle contient des centaines de milliards de nombres, ajustés automatiquement pendant l'entraînement. Personne ne les a écrits un par un, et personne ne peut ouvrir la machine pour dire : c'est cette valeur-là qui lui a fait répondre ceci. Toute une discipline s'est créée pour essayer d'y voir clair, et elle n'en est qu'aux débuts. Cela a une conséquence pratique : quand une décision compte — un prêt, un diagnostic, une peine — on ne devrait jamais accepter « c'est la machine qui l'a dit » comme une explication.

D'où ça vient

arXiv — dépôt de prépublications scientifiques — travaux d'interprétabilité des réseaux de neurones et limites actuelles de l'explication

Cette carte fait partie de « L'intelligence artificielle », 16 cartes que les enfants gagnent une à une, mission après mission.

C'est ce que votre enfant gagne à la fin d'une mission de dix minutes.

Près de trois mille cartes comme celle-ci, chacune avec sa source, dans plus de cent vingt fresques à compléter. Gratuit pour les 500 premières familles.

Essayer une mission, sans compte Créer un compte parent

Mémoria · le compagnon de l'année scolaire des enfants