Dans notre monde de consultants, il est tentant de se référer à des "best practices" (bonnes manières de faire) et de les recommander à nos clients. C'est vrai que cela en jette de pouvoir dire qu'on a adopté des pratiques jugées "les meilleures" par la profession et que dire de la promesse de l'adoption de ce qui estampillé "meilleur" faite aux entreprises. Et pourtant...
Justement , l'article "
Best practices aren't" (
https://tinyurl.com/ycsd9hms), publié mi-novembre 2018 sur le site RealKM, commence par nous dire pourquoi les "best practices" n'en sont pas:
- le terme est beaucoup plus un slogan marketing qu'une conclusion scientifique
- il n'y a pas qu'une seule manière de faire les choses (le superlatif est par trop réducteur)
- la bonne manière de faire les choses dépend tellement du contexte...
L'exemple qu'il donne par la suite, celui de l'EBM (Evidence-Based Medecine) devrait nous faire réfléchir sur la pertinence de l'intelligence artificielle. L'EBM est basée sur une série de règle étiquetées "best practices" et ce choix a été fait pour assurer les meilleurs résultats possibles. Elles sont souvent issues d'études sientifiques qui ne jouent que sur deux ou trois variables, alors que, dans le monde réel, les spécialistes doivent en intégrer une multitude. Quiplus est, elles sont souvent non-reproductibles. Les protocoles proposés par l'EBM ne sont pas applicables à tous les patients de la même manière.
Les algorithmes d'IA font certainement face aux mêmes biais, qu'ils soient construits sur une collection de "best practices" ou qu'ils capitalisent sur l'expérience et le comportement des masses. Le danger est donc qu'ils nous mènent vers un appauvrissement et la mise en place de sociétés stéréotypées. Et qu'ils marginalisent tous ceux qui ne pensent pas dans la ligne du parti (de l'algorithme). Dangers d'autant plus grands que ces algorithmes seront forcément des boites noires pour la très grandes majorité de leurs utilisateurs...
Continuer à lire "Pourquoi il faut fuir les "best practices" (et éviter l'intelligence artificielle?)"
