Si son utilisation est «éthique et responsable»

L’Assemblée parlementaire du Conseil de l’Europe (APCE) a estimé mardi que l’intelligence artificielle (IA) peut être un outil efficace pour lutter contre le Covid-19 à condition que son utilisation, notamment la localisation des personnes, soit «responsable, éthique et centrée sur l’homme».

«Bien que l’intelligence artificielle puisse s’avérer un allié efficace pour vaincre la pandémie du Covid-19, nous ne devons pas oublier que son utilisation peut soulever de graves préoccupations en matière de droits de l’homme, qui peuvent saper la confiance dans les gouvernements», a souligné Deborah Bergamini rapporteure de l’APCE dans un communiqué.

Mme Bergamini a ainsi averti que, «s’il était nécessaire de déployer des efforts innovants pour lutter contre la pandémie, les droits de l’homme, les libertés civiles et les principes de l’État de droit risquaient d’être exposés ou mis à mal si nous ne suivions pas cette voie avec une grande prudence».

«L’utilisation de l’IA et des technologies de surveillance pour suivre la propagation du coronavirus ou améliorer les capacités de contrôle et de détection semble être une réponse efficace, mais toute utilisation excessive ou contraire à l’éthique peut entraîner de graves violations du droit à la vie privée et à la non-discrimination», a-t-elle ajouté.

Selon la rapporteure de l’APCE, l’IA peut être certainement considérée comme un outil «puissant» qui peut aider à générer des informations permettant d’élaborer des stratégies plus précises et efficaces pour la prévention, la détection et la réponse aux épidémies, contribuant ainsi à la santé publique, si elle est utilisée correctement.

«Une IA responsable, éthique et centrée sur l’homme est plus que jamais nécessaire. Il est crucial que l’utilisation de ces outils soit limitée à la fois en termes d’objectif et de temps, et que les autorités nationales réduisent leurs capacités de surveillance nouvellement acquises après la fin de cette pandémie», a-t-elle conclu.

***

Cinq questions à Amal El Fallah Seghrouchni, nouvelle membre la COMEST de l’Unesco

Fraîchement nommée à la Commission Mondiale d’Ethique des Connaissances Scientifiques et des Technologies (COMEST) de l’Unesco, la Marocaine Amal El Fallah Seghrouchni, experte internationale en intelligence artificielle et professeure de classe exceptionnelle à la Faculté des Sciences et d’Ingénierie à l’Université de la Sorbonne, revient, dans un entretien à la MAP, sur sa nomination, sur sa mission au sein de la COMEST, et sur l’intérêt de l’IA pour surmonter la crise actuelle liée au Covid-19.

Question : Vous venez d’être nommée membre de la COMEST. Qu’est-ce que cela représente pour vous en tant que Marocaine ?

Réponse : Cette nomination est une belle opportunité pour contribuer à la réflexion autour des questions de l’éthique au niveau mondial au sein de cette prestigieuse commission qu’est la COMEST de l’UNESCO.
Les sciences et les technologies ne sont pas neutres c’est pour cela qu’il faut œuvrer à définir un cadre éthique et juridique pour que l’humanité puisse bénéficier du progrès scientifique.

Ma sensibilité et mon ancrage de femme marocaine et africaine, complètement intégrée au sein de l’environnement occidental au sein duquel je vis, par ailleurs engagée dans les questions de l’éthique, m’ont toujours amenée à me préoccuper sérieusement et éthiquement des retombées sociétales et des impacts de nos recherches scientifiques.

S’agit-il d’une consécration de votre parcours scientifique et académique?

Je dirai que c’est une certaine reconnaissance de mon parcours scientifique et académique et de mon intérêt pour les questions éthiques. Mon souhait est de contribuer à traduire les principes éthiques dans le monde réel au niveau des sciences et des technologies.

En quoi consistera votre mission au sein de la COMEST de l’Unesco?

Le rôle de la COMEST est de favoriser l’émergence, à l’échelle globale, d’un débat transdisciplinaire et pluraliste portant sur les enjeux éthiques des sciences et de la technologie, pour conseiller et éclairer non seulement l’UNESCO, mais aussi la communauté scientifique, les décideurs et le grand public. Ces échanges ont permis d’élaborer des textes essentiels comme la Déclaration de principes éthiques en rapport avec les changements climatiques (2017).

Le rôle des membres est de participer activement aux sessions annuelles de la Commission, et de prendre part aux groupes de travail, en contribuant à la réflexion et à la rédaction de projets de textes relatifs à leurs domaines d’expertise et selon le programme de travail de la Commission.

La COMEST a pour rôle d’énoncer des principes éthiques susceptibles d’éclairer les débats des responsables politiques. En cette période de Coronavirus où l’éthique se pose avec acuité, quelles seraient vos propositions?

Une déclaration commune du Comité international de bioéthique de l’UNESCO (CIB) et de la Commission mondiale d’éthique des connaissances scientifiques et des technologies de l’UNESCO (COMEST) vient d’être publiée. Elle énonce 11 principes que je vous invite à retrouver en ligne. Dans de telles crises, le rôle des comités de bioéthique et d’éthique, aux niveaux national, régional et international, est de soutenir un dialogue constructif, basé sur la conviction que les décisions politiques doivent être fondées scientifiquement et inspirées et guidées par l’éthique.

En tant qu’experte en Intelligence artificielle, vous avez plaidé récemment pour un recours aux technologies du numérique, et à l’Intelligence Artificielle en particulier, pour surmonter la crise actuelle liée au Covid-19 et à préparer l’avenir. Comment cela peut être fait et qu’en est-il des pays et des régions où le gap en IA est énorme ? Cela ne va-t-il pas accentuer encore plus les inégalités?

En effet, il est nécessaire de développer une IA inclusive, éthique et responsable pour mieux gérer les crises et surtout nous y préparer de façon optimale. Sans être exhaustive, voici quelques exemples en ces temps de pandémie.

L’IA peut être paramétrée pour sensibiliser les citoyens aux risques, donner des conseils personnalisés en cas de contamination (coachs intelligents dédiés) ; apporter des solutions inclusives et adaptées aux personnes fragiles ou ayant des besoins spécifiques. Par exemple, la transcription du texte en voix et inversement permet une meilleure inclusion dans l’usage des technologies grâce aux interfaces multimodales. Elle peut aider à gérer l’épidémie et à soulager la charge des professionnels de la santé. fortement exposés au virus, en rappelant aux patients les procédures de soins appropriées, en permettant des consultations à distance ou le suivi automatisé de certaines catégories de patients.

Certains pays ont recours aux robots pour effectuer des pré-diagnostics rapides (ex. Chine) ou des drones autonomes qui s’assurent que les résidents prennent les précautions appropriées (ex. Inde). D’autres applications intelligentes se développent pour aider à ne pas rompre le lien social.

L’I.A peut accélérer la découverte et le développement de médicaments, avertir d’une épidémie imminente, mais aussi aider à identifier, développer de nouveaux traitements et des vaccins plus rapidement. Grâce à l’IA, des scientifiques ont pu recréer la séquence du génome du coronavirus en moins d’un mois. Enfin, en disposant de meilleures données sur les conditions climatiques et environnementales, l’IA peut mieux prévoir la survenue de certaines maladies, à en contrôler la propagation et à optimiser le déploiement des ressources médicales.

L’IA, comme d’autres technologies de pointe, crée déjà des inégalités. Dans un monde où l’économie est tributaire du savoir, de la connaissance et de l’immatériel, l’IA est un paradigme cognitif de choix. L’IA, figure de proue de ce nouveau mode économique, a déjà levé des fonds impressionnants, les investissements à l’échelle planétaire se comptent en milliards et les salaires des chercheurs en IA se chiffrent en millions.

La crise du COVID-19 actuelle renforce déjà l’IA qui vient à la rescousse. Alors, oui, l’IA devrait être intégrée dans les politiques et les stratégies nationales de développement des pays en voie de développement, en prenant appui sur les cultures, les valeurs et les connaissances endogènes pour développer les économies de ces pays et à leur tête les pays Africains.