Je ne savais pas trop à quoi m’attendre en m’embarquant dans le livre du mathématicien youtubeur Lê Nguyên Hoang (@le_science4all, chaîne Youtube) et du chercheur El Mahdi El Mhamdi (@L_badikho), Le fabuleux chantier : rendre l’intelligence artificielle robustement bénéfique (EDP sciences, 2019). Malgré leurs efforts de pédagogie, le livre reste un livre d’ingénieurs, de logiciens, qui ne voient la question de la régulation des systèmes que sous la forme d’équations à résoudre. Le fabuleux chantier est un chantier assez dépeuplé, très rationalisant, qui va parfois un peu trop loin puisqu’il suppose ou fait le pari que la philosophie et la morale ne sont rien d’autre qu’un défi de calcul. Ce qui explique que le livre est bien meilleur sur les problèmes que sur les solutions.
Leur propos est simple. Si les IA ont des effets secondaires problématiques, alors il faut améliorer leur niveau moral selon un positivisme exacerbé qui nous fait croire qu’il suffira de rendre nos machines plus morales que nous ne le sommes pour qu’elles ne soient jamais malveillantes. Elles doivent nous guider vers une amélioration de nous-mêmes, un “moi+” voir un “moi++” qui consiste à remplacer nos préférences par nos volitions (c’est-à-dire, ce qu’on préférerait préférer). Une forme de volonté de puissance qui consisterait à brider toutes nos faiblesses humaines pour se contraindre à des buts à long terme. Pour améliorer YouTube, il suffit donc qu’il ne fasse que des recommandations sérieuses.
“Rendre les IA bénéfiques est beaucoup plus délicat que concevoir des IA bénéfiques” expliquent les 2 ingénieurs. Ce qui est amusant, c’est qu’ils prennent OpenAI comme exemple de concepteur d’IA bénéfique (alors que l’entreprise a changé d’objectifs et de stratégies depuis 2018), montrant par là la contingence des objectifs moraux mêmes. Dans une vidéo récente et particulièrement claire, El Mahdi El Mhamdi rappelle pourtant très bien qu’on a inventé nombre de mécanismes en-dehors des logiques du calcul pour canaliser nos systèmes techniques et les rendre fiables (comme la démocratie). Et comme il le dit très justement, le challenge est d’inventer pour l’IA l’équivalent de ses mécanismes pour la rendre fiable. L’erreur me semble-t-il est de croire que ces mécanismes puissent n’être que calculatoires, qu’une optimisation sans fin du calcul – sans institutions et organisations adaptées au contrôle et à la responsabilité des calculs – est possible.
Plutôt que ce délire logicien au mieux agaçant au pire très problématique (comme leur défense de monopoles sur l’IA), on retiendra quelques règles que leur grande compréhension des systèmes permet de disséminer dans l’ouvrage. Comme le fait que les machines doivent mieux mesurer leurs incertitudes. Que la qualité de l’analyse des données est plus importante que la qualité des données… Pour les auteurs, le fabuleux chantier est celui de la corrigeabilité des IA. Et pour cela, elles doivent mieux mesurer l’étendue de leur ignorance. Si nous sommes d’accord sur l’enjeu de responsabilité, nous divergeons sur les moyens. Le calcul ne suffira pas à faire société !
Hubert Guillaud
Au détour d’une note, j’ai appris que en arabe, hissab signifie calcul mais peut aussi dire jugement. “Quand je réfléchis à ce que les individus attendent d’un [jugement], je m’aperçois qu’il s’agit toujours d’un nombre” Muhammad Ibn Musa Al-Khawarizmi (750-850).
Hubert Guillaud 