La détection algorithmique du discours haineux : entre promesses technologiques et limites juridiques
Les développements récents de l’intelligence artificielle (IA) ont nourri plusieurs promesses, parmi lesquelles figure celle de remédier aux capacités de surveillance limitées des États face aux discours haineux qui prolifèrent en ligne. Dans la mesure où plusieurs corps de police canadiens ont déjà manifesté leur intérêt pour des technologies de détection algorithmique (notamment en matière de pornographie juvénile), il y a lieu de considérer sérieusement la possibilité qu’ils aient recours un jour à l’IA pour traquer les crimes d’incitation à la haine prévus aux paragraphes 319(1) et 319(2) du Code criminel.
Le présent projet de recherche entend explorer cette éventualité en poursuivant trois objectifs :
1) Étudier la manière dont sont conçus les systèmes algorithmiques de détection du discours haineux en portant une attention particulière à la façon dont plusieurs choix normatifs sont susceptibles de se cristalliser dans leur mode de fonctionnement, parfois même à l’insu de leurs concepteurs. Les phases de collecte de données, d’annotation et de paramétrage (fine-tuning) feront l’objet d’une considération approfondie.
2) Distinguer l’approche morale du discours haineux (utilisée jusqu’à présent pour entraîner la quasi-totalité des systèmes de détection du contenu haineux) de l’approche juridique (fondée sur une définition codifiée ou encore s’appuyant sur l’interprétation jurisprudentielle de la notion d’incitation à la haine). Effectuer cette distinction s’avère crucial pour réfléchir aux spécificités d’un modèle d’IA qui aurait pour but de détecter exclusivement les formes juridiquement reconnues de la propagande haineuse.
3) Réfléchir aux conditions susceptibles de rendre le recours policier aux systèmes algorithmiques de détection du discours haineux compatible avec le cadre constitutionnel canadien, spécialement avec la liberté d’expression consacrée à l’alinéa 2b) de la Charte canadienne. Il s’agira d’évaluer dans quelle mesure les critères qui ont présidé à la constitutionnalisation des lois contre la haine au Canada sont de nature à faire obstacle à un usage dérégulé de l’IA par les forces policières.
Chercheur principal :
Ugo Gilbert Tremblay, Université de Montréal, cochercheur COLIBEX
Étudiant :
Gabriel Lefebvre, étudiant au doctorat, Université McGill
Financement :
Chaire COLIBEX
Chaire LexUM en information juridique
Axe :
Axe 1 – Liberté d’expression, démocratie et droits humains fondamentaux : quelle régulation ?
OpenEdition vous propose de citer ce billet de la manière suivante :
Colibex (14 avril 2025). La détection algorithmique du discours haineux : entre promesses technologiques et limites juridiques. Chaire COLIBEX. Consulté le 14 mai 2025 à l’adresse https://libexpress.hypotheses.org/16750