Les plateformes de sciences participatives consacrées à la collecte de données biologiques sur la faune sauvage reçoivent des millions de photos, de vidéos et d’enregistrements sonores de la part des personnes qui signalent leurs observations. Ces contributions fournissent de précieuses informations sur les lieux et les périodes où les espèces sont présentes, ainsi que sur leur comportement. Mais avec l’utilisation croissante de l’intelligence artificielle (IA), un nouveau problème apparaît : une photo prétendument améliorée peut, à l’insu de la personne qui l’a modifiée, devenir une observation faussée. Un article récent publié dans la revue scientifique Nature met en garde contre la diffusion d’images modifiées par l’IA sur les plateformes de sciences participatives. Les auteur·rices de l’article, parmi lesquel·les figurent des membres du Cornell Lab of Ornithology et d’iNaturalist, ont analysé des photos publiées sur de grandes plateformes d’observation des oiseaux ainsi que sur iNaturalist. Plusieurs centaines de photos générées par l’IA ont ainsi été découvertes. Des modérateur·rices attentif·ves ont identifié les contributions concernées et les ont retirées des plateformes. Toutefois, le nombre réel de contenus générés par l’IA qui n’ont pas été détectés pourrait être nettement plus élevé.Une utilisation bien intentionnée de l’IA pour améliorer les imagesUn problème probablement beaucoup plus fréquent résulte de la « retouche » bien intentionnée de photos de nature prises soi-même. L’IA peut par exemple être utilisée pour améliorer la netteté d’une image ou supprimer une branche qui masque une partie d’un oiseau. L’algorithme peut toutefois reconstruire des zones de l’image pour lesquelles il ne dispose pas d’informations précises. Dans le pire des cas, il peut ajouter des caractéristiques provenant de photos d’une autre espèce d’oiseau. Des critères importants pour l’identification d’une espèce peuvent ainsi être modifiés, ajoutés ou supprimés sans que l’on s’en aperçoive. Cela peut à son tour conduire à une mauvaise identification. Ces modifications sont généralement réalisées sans intention de tromper de la part des personnes qui transmettent leurs observations. Pour un œil non averti, la photo retouchée paraît simplement plus esthétique. Le problème est toutefois que ces photos modifiées par l’IA constituent une base de données faussée pour les analyses scientifiques. Les plateformes de sciences participatives cherchent encore à déterminer l’ampleur du problème. Les chercheur·euses recommandent donc de limiter l’utilisation de l’IA pour modifier les images destinées aux bases de données scientifiques.Pourquoi ces contributions sont importantesLes exemples issus de l’observation des oiseaux montrent les conséquences que peut avoir la manipulation d’images par l’IA sur l’utilisation scientifique des données issues des sciences participatives. Les contributions publiées sur les plateformes d’observation des oiseaux illustrent un phénomène plus général : les contenus générés par l’IA peuvent non seulement créer de la confusion, mais aussi entraîner une perte mesurable de précision scientifique. L’identification et la correction de telles erreurs peuvent prendre des années.Cela est particulièrement important, car les projets de sciences participatives contribuent largement à la recherche sur la biodiversité. De nombreux projets scientifiques utilisent ces données pour étudier la diversité des espèces et suivre leur évolution, à l’échelle nationale ou internationale, mais aussi à l’échelle régionale, comme dans les projets StadtWildTiere et Wilde Nachbarn. Les observations de millions de personnes sont regroupées sur des plateformes et utilisées notamment pour établir des cartes de répartition. Les sciences participatives permettent une couverture spatiale et temporelle importante et donnent également accès à des terrains privés grâce aux participant·es. Elles permettent en outre aux chercheur·euses de bénéficier de connaissances locales et de compétences individuelles. C’est un avantage considérable. Mais dans de grandes bases de données, les erreurs liées à des observations faussées peuvent facilement se multiplier et ainsi influencer les analyses scientifiques et les conclusions qui en sont tirées.L’utilisation de l’IA dans les projets de sciences participativesLa gestion de l’IA devient donc une question centrale pour l’avenir des projets de sciences participatives. Des règles claires concernant l’utilisation et l’identification des contenus générés ou modifiés par l’IA sont nécessaires pour garantir l’intégrité des données utilisées à des fins scientifiques.Les personnes qui transmettent leurs observations devraient renoncer à modifier leurs photos à l’aide de l’IA afin d’éviter des erreurs difficiles à détecter. Des procédés techniques, comme les filigranes numériques, pourraient à l’avenir aider à identifier les contenus générés ou modifiés par l’IA. Toutefois, cette détection automatique reste actuellement peu fiable, car les filigranes peuvent être altérés ou supprimés lors de la compression des images, des vidéos et des fichiers audio, ou lors de la prise de captures d’écran. Il est donc particulièrement important que les personnes qui transmettent leurs observations renoncent à utiliser l’IA pour modifier leurs images et indiquent de manière transparente toute utilisation de l’IA. C’est la seule manière de garantir une utilisation scientifique fiable des données issues des sciences participatives. Sur les plateformes de signalement, il ne s’agit pas de produire de belles photos de nature, mais avant tout de documenter des observations réelles.