Lien
https://limitesnumeriques.fr/travaux-productions/ai-forcing
Description courte
Le déploiement à marche forcée des services d’IA générative pose de sérieux problèmes sociaux et environnementaux.
Résumé
L’ajout de nouvelles fonctionnalités dans des applications ou des logiciels n’est bien sûr pas nouvelle en soi, mais ce qui frappe avec l’IA, c’est la manière dont les entreprises poussent à l’adoption de ces fonctionnalités, en particulier par le biais du design. Il nous semble que ce phénomène est inédit dans l’histoire des interfaces. Notre objectif avec cette enquête est d’analyser les multiples stratagèmes mis en place par les entreprises pour nous inciter à adopter l’IA, qu’on le veuille ou non.
Extraits choisis
Cette analyse nous montre qu’il se passe quelque chose de spécial avec l’IA : une forme d’utilisation forcée, probablement inédite dans l’histoire des interfaces. Car oui, il faut rentabiliser les investissement massifs de plusieurs centaines de milliards de dollars réalisés par les entreprises qui ont peur de se laisser distancer dans ce qui peut être perçu comme une ruée vers l’or. Dans un marché saturé, où les perspectives de croissance sont maintenant assez faibles, les nouvelles fonctionnalités d’IA deviennent même très souvent l’occasion d’augmenter le prix des abonnements ici et là de divers services numériques. Nous, utilisateurs·rices, devons alors payer le prix du risque financier pris par les entreprises dans cette course à l’IA. Et les changements plus ou moins visibles qui ont submergés nos interfaces en sont la conséquence directe.
Contrairement aux précédentes évolutions technologiques, les entreprises peuvent désormais, par le biais de mises à jour et de logiciels hébergés dans le cloud, transformer les interfaces du jour au lendemain, affectant instantanément tous les utilisateurs·rices. Ce qui auparavant se produisait progressivement se diffuse désormais presque instantanément auprès de milliards de personnes dans le monde, sauf qu’aucune possibilité d’y échapper n’existe.
L’effet d’emballement collectif pousse alors dans la course les entreprises qui ne veulent pas “louper” le changement de paradigme. Si bien même que certaines fonctionnalités semblent n’exister que pour dire “nous aussi”, quand d’autres fonctionnalités mobilisant des algorithmes depuis longtemps se rhabillent aux couleurs de l’IA.
Type d’ouvrage
RAPPORT
Auteur⋅es
Deux universitaires strasbourgeoises, Anaëlle Beignon, doctorante, et Nolwenn Maudet, maître de conférences en design, ainsi que le designer Thomas Thibault
Date de publication
2025-01-02
Revendications liées
Soutenabilité - Contrôler la durabilité des équipements numériques