On en a peut-être assez de l’entendre, mais on ne le répétera jamais assez : « L’intelligence artificielle (IA) dépend des données avec lesquelles elle est alimentée. » Or, nous sommes la source de ces données, qui reflètent nos valeurs et notre vision du monde. Nous devons donc non seulement adopter une posture critique face aux résultats générés par les programmes d’IA, mais aussi jouer un rôle actif dans la qualité des données utilisées.

Un miroir de nos biais

DeepSeek, la plateforme d’IA chinoise concurrente de Chat GPT, a suscité un vif émoi lors de son lancement en janvier. Certains résultats témoignaient d’un biais politique évident, dont : « Taïwan n’est pas un pays indépendant » ou « Le massacre de Tian’anmen de 1989 n’a pas eu lieu ». Mais sommes-nous conscients des biais sociaux et politiques inhérents à d’autres programmes ? En 2022, une étude internationale intitulée « The Ghost in the Machine has an American accent » interrogeait ChatGPT au sujet de la loi sur les armes à feu adoptée en Australie en 2019. Le programme jugeait la loi trop restrictive, mettant en garde contre la perte massive des libertés individuelles et les risques pour la sécurité publique.

D’autres exemples, plus ou moins subtils, ont été examinés lors d’une table ronde organisée pendant la Berlinale par le réseau féminin Power to Transform !, notamment par la spécialiste des médias Maya Götz. Ainsi, 80 % des images associées au terme de recherche « homme criminel pauvre » montrent un homme de couleur. « Cuisine professionnelle » donne à voir principalement des hommes sveltes et blancs. Lorsque l’on demande à ChatGPT, Midjourney ou Dall-E d’illustrer différentes professions, 70 % des images représentent des hommes blancs. Les algorithmes laissent de côté les personnes en surpoids, les personnes de couleur, les ethnies non européennes et les femmes. Ils se basent sur l’image de la société que véhiculent nos produits audiovisuels et nos contenus écrits. Lorsque Maya Götz demande aux programmes à quoi devrait ressembler le protagoniste d’un film romantique ou de passage à l’âge adulte, ils proposent majoritairement des images d’hommes ou d’adolescents blancs.

La responsabilité de l’être humain

Comment réagir face à cette situation ? Pour Maya Götz, il est primordial de mettre en avant l’éducation aux médias. Dorothea Baur, experte en éthique, soulève la nécessité d’une « alphabétisation », et ajoute : « La technologie crée une illusion d’objectivité, ce qui nous incite à croire que nous pouvons nous décharger de notre responsabilité morale. » Mais la machine ne peut ni ne doit remplacer le jugement humain. Quels sont nos droits si nous souhaitons contester les décisions d’une machine ? « Si nous, humains, n’avons pas de vision d’une société juste et où il fait bon vivre, ce n’est pas l’IA qui nous la fournira », avertit Dorothea Baur.

« Nous devons apprendre à interagir avec les programmes basés sur l’IA de manière critique, et à formuler des requêtes qui remettent en question les stéréotypes », souligne la réalisatrice allemande Paulina Bietz. Il ne faut pas laisser aux autres le soin d’établir les règles, nous devons nous pencher dessus nous-mêmes. Christian Ritter, vice-doyen à la HSLU, est du même avis : « C’est à nous de promouvoir une “ culture du savoir numérique ” », écrit-il dans Nummer, la publication interne de l’établissement. Jacqueline Holzer, responsable du département de design, cinéma et arts de la même école, ajoute : « À l’aune des mutations sociales qui se profilent, nous devons préparer les étudiant·e·s à assumer une position claire. Comprendre les nouvelles technologies et leurs algorithmes ne suffit pas ; ils et elles doivent saisir les effets de l’intelligence artificielle et ses conséquences sur la société. Il faut une cohésion sociale, mais aussi des connaissances éthiques, économiques et juridiques. »

Contrairement à certains avis, la technologie de l’IA n’a pour l’instant rien de « démocratisant ». Elle n’est pas autodéterminée, elle obéit plutôt à des règles imposées par une minorité, comme le souligne Dorothea Baur. Une façon de s’assurer que nous la façonnons collectivement, en tant que société, est de nous engager pour la rendre accessible au plus grand nombre. Cette tâche incombe également aux professionnel·le·s du cinéma, qui sont aussi appelé·e·s à assumer leurs responsabilités.