OTTAWA — Ottawa est la plus récente ville à se tourner vers l’intelligence artificielle (IA) pour gérer sa crise des sans-abri.
La Ville s’associe à un chercheur de l’Université Carleton qui travaille sur un système qui permet de prédire le risque d’itinérance chronique d’un individu.
Le chercheur qui conçoit le projet d’Ottawa, Majid Komeili, a affirmé que le système prédira combien de nuits les individus passeront dans un refuge en six mois.
«Ce sera un outil dans la boîte à outils, garantissant que personne ne passe entre les mailles du filet à cause d’une erreur humaine. Le décideur final restera un être humain», a-t-il indiqué dans un courrier électronique.
Le système utilisera des données sur les personnes en situation d’itinérance, telles que l’âge, le sexe, le statut d’Autochtone et de citoyenneté, ainsi que des facteurs tels que le nombre de fois où les services d’un refuge leur ont déjà été refusés.
Il utilisera également des données externes telles que des informations sur la météo et des indicateurs économiques.
Le projet d’Ottawa fait suite à une initiative semblable à London, en Ontario, et à Los Angeles, en Californie.
Les informations sont disponibles en premier lieu parce que les personnes itinérantes sont déjà «fortement suivies» afin de recevoir divers avantages ou traitements, a soutenu Renee Sieber, professeure agrégée à l’Université McGill.
«Malheureusement, les sans-abri sont incroyablement surveillés et les données sont très intrusives».
Les données peuvent inclure des détails sur les rendez-vous médicaux, les dépendances, les rechutes et le statut VIH.
D’après M. Sieber, il faut se demander si l’IA est vraiment nécessaire. «En savez-vous plus sur l’itinérance chronique grâce à l’IA qu’avec un tableur ?»
Une question de temps
Ce n’était qu’une question de temps avant que l’IA n’arrive dans le milieu, a fait savoir Tim Richter, président de l’Alliance canadienne pour mettre fin à l’itinérance.
Bien qu’ils ne soient pas très répandus, de tels outils «peuvent probablement, dans une certaine mesure, anticiper qui est le plus susceptible de se retrouver sans abri de manière chronique, a-t-il dit. Utiliser l’IA pour ce faire pourrait être très utile pour cibler les interventions sur les personnes.»
La plupart des villes ne disposent pas de données suffisamment fiables pour établir de tels systèmes, a indiqué M. Richter.
Son organisation travaille avec des villes à travers le pays, notamment London et Ottawa, pour aider à recueillir de meilleures informations «en temps réel, spécifiques à chaque personne», mais «d’une manière qui protège leur vie privée».
L’itinérance chronique signifie qu’une personne n’a pas d’abri depuis plus de six mois ou a connu des épisodes répétés d’itinérance au cours de cette période.
Environ 85 % des personnes entrent et sortent rapidement du milieu de l’itinérance, tandis que 15 à 20 % «se retrouvent coincés», a affirmé M. Richter.
Les systèmes d’IA devraient être capables de faire leur boulot et de repérer les individus à risque en examinant les données globales à l’échelle communautaire et sans connaître l’identité spécifique de l’individu impliqué, a déclaré M. Richter.
C’est l’approche adoptée par le projet d’Ottawa. Les informations identifiables telles que les noms et les coordonnées sont remplacées par des codes.
M. Komeili a noté que le système utilise des données qui ont déjà été collectées au cours des années précédentes et qui ne sont pas spécifiquement collectées pour être traitées par l’IA.
Vinh Nguyen, responsable de la politique sociale, de la recherche et de l’analyse de la Ville d’Ottawa, a déclaré dans un communiqué que tout partage de données collectées par la Ville «fait l’objet d’un examen à l’interne rigoureux».
«Les données que nous partageons sont souvent agrégées et lorsque cela n’est pas possible, toutes les informations identifiables sont supprimées pour garantir le strict anonymat des utilisateurs», a-t-il déclaré, ajoutant que les collaborations avec les universitaires doivent être examinées par un comité d’éthique avant que le travail sur les données ait lieu.
M. Nguyen a déclaré que la ville mène actuellement des «tests et validations internes» et prévoit de consulter le secteur des refuges et les clients avant de mettre en œuvre le modèle, les consultations étant prévues pour la fin de l’automne.
Attention aux préjugés
Alina Turner, cofondatrice de HelpSeeker, une entreprise qui utilise l’IA dans des produits traitant de problèmes sociaux, a déclaré que les «superpouvoirs» de l’IA peuvent être utiles lorsqu’il s’agit d’une analyse complète des facteurs et des tendances qui alimentent le sans-abrisme.
Mais son entreprise a fait le choix conscient de ne pas prédire les risques à l’échelle individuelle, a-t-elle dit.
«Vous pouvez avoir beaucoup de problèmes avec les préjugés», a-t-elle dit, soulignant que les données varient entre les différentes communautés et que «les préjugés raciaux de ces données constituent également un défi majeur».
Par exemple, en raison de facteurs systémiques, les individus autochtones courent un risque plus élevé de se retrouver sans abri.
Si un système d’IA devait automatiquement attribuer un pointage plus élevé à quelqu’un une fois qu’il entre dans un refuge et s’identifie comme autochtone, «cette approche soulève de nombreux problèmes éthiques», a soutenu Mme Turner.
Luke Stark, professeur adjoint à l’Université Western, travaille sur un projet qui étudie l’utilisation des données et de l’IA pour les politiques de lutte contre l’itinérance au Canada.
Il affirme que les nouvelles technologies peuvent risquer d’obscurcir les causes profondes du problème et d’empêcher les politiciens de réfléchir aux solutions.
«L’une de nos préoccupations est que toute cette attention portée aux solutions basées sur le triage enlève ensuite la pression sur les décideurs politiques pour qu’ils s’intéressent réellement aux causes structurelles du sans-abrisme qui existent en premier lieu», a-t-il dit.
Il a ajouté qu’un autre problème auquel les décideurs humains doivent réfléchir est la manière dont les prévisions peuvent faire passer à côté de certains segments de la population de personnes sans-abri.
Les femmes sont plus susceptibles d’éviter les refuges, pour des raisons de sécurité, et de se tourner vers des options telles que le salon d’une amie.
Un système d’IA utilisant les données du refuge se concentrera sur «le type de personnes qui utilisent déjà le système de refuges (…) et cela laisse tout un tas de personnes de côté».
