La mise en œuvre de l’IA dans les organisations est-elle compatible avec une société éthique?
DOI :
https://doi.org/10.1522/radm.no7.1663Mots-clés :
Gouvernance et éthique de l'IA, compétence en éthique, EDI (équité, diversité et inclusion), gestion de l'IA, écosystème québécois d'IARésumé
Cet article expose les compétences essentielles à la gestion de l’intelligence artificielle (IA) dans les organisations en mettant l’accent sur la dimension éthique, mais sans négliger les enjeux d’un point de vue managérial, technique, humain, inclusif et responsable. En effet, dans le contexte de changement associé à la transformation numérique, les organisations qui se numérisent, en intégrant l’IA, ont besoin d’identifier les enjeux éthiques et les compétences requises associées pour gérer des projets d’IA. Les enjeux liés au développement et à la gestion des projets d’IA sont complexes et différents de ceux liés à la gestion traditionnelle des projets informatiques. Cette complexité soulève des questions éthiques, juridiques et de responsabilité sociale (du point de vue de l’équité, de la diversité et de l’inclusion) en matière d’IA; celles-ci auront des implications sur les compétences attendues des gestionnaires de projets d’IA à l’avenir. Notre recherche visait à identifier ces enjeux et à les décrire en matière de compétences, ce que nous avons fait au moyen d’entrevues et de groupes de discussion avec des experts de la communauté de l’IA, dans le contexte plus large d’une recherche sur la gestion de l’IA. Cet article porte surtout sur les enjeux éthiques dégagés de notre revue des écrits et des rencontres avec des experts de l’IA et leur résonance dans l’écosystème d’IA québécois; nous nous concentrons donc ici sur les questions d’éthique, de transformation du marché du travail, de gouvernance et de responsabilité sociale.
Références
Abid, R. (2021, 26 juillet). Pour une éthique de l’intelligence artificielle. Revue Gestion, HEC Montréal. « Article publié dans l’édition Été 2021 de Gestion ». https://www.revuegestion.ca/pour-une-ethique-de-lintelligence-artificielle?utm_source=mailchimp&utm_medium=%20email&utmcampaign=280721&mc_cid=756bdb925c&mc_eid=2b7173e6aa
Angwin, J., Larson, J., Mattu, S. et Kirchner, L. (2016). Machine bias. https://books.google.ca/books?hl=fr&lr=&id=E51kEAAAQBAJ&oi=%20fnd&pg=PA254&dq=propublica+machine+bias&ots=IMrB9YzBIW&sig=TdOGggrVUk_rAOzdj5DY_qhQ5u8&redir_esc=y#v=onepage&q=propublica%20machine%20bias&f=false
Besse, P., Besse-Patin, A. et Castets-Renard, C. (2021). Implications juridiques et éthiques des algorithmes d’intelligence artificielle dans le domaine de la santé. Statistique et Société, Société française de statistique. https://hal.archives-ouvertes.fr/hal-02424285v2/document
BlackinAi (s. d.). About. Repéré le 4 août 2021 à https://blackinai.github.io/#/about
Blandine, A., Flak, S., Landrain, T. et Pillaud, H. (2020). Feuille de route sur l’environnement et le numérique : 50 mesures pour un agenda national et européen sur un numérique responsable, c’est-à-dire sobre, et au service de la transition écologique et solidaire et des objectifs de développement durable. Conseil national du numérique. Repéré le 16 juin 2022 à https://cnnumerique.fr/environnement_numerique_2020
Bruneault, F., Sabourin Laflamme, S. (2021). « Éthique de l’intelligence artificielle et ubiquité sociale des technologies de l’information et de la communication : comment penser les enjeux éthiques de l’IA dans nos sociétés de l’information ? ». tic&société, vol .15, n. 1, 1er semestre 2021. Repéré à https://journals.openedition.org/ticetsociete/5999
Center for Humane Technology (s. d.). WhoWe Are. Repéré le 4 août 2021 à https://www.humanetech.com/who-we-are
ChaireIA (2021, 22 avril). Nouvelles règles et actions pour l’excellence et la confiance en l’IA. inclusivetechnology lab. Repéré le 8 août 2021 à https://chaireia.openum.ca/publications/la-commission-europeenne-propose-de-nouvelles-regles-et-actions-pour-lexcellence-et-la-confiance-dans-lintelligence-artificielle/
Chemins de transition, UdeM (s. d.). Comment faire converger transition numérique et transition écologique?. Sur la page Défi Numérique. Repéré le 4 août 2021 à https://cheminsdetransition.org/numerique/
Comité national pilote d’éthique du numérique. (2021). Avis no3 Agents conversationnels : Enjeux d’éthique. Comité consultatif national d’éthique (CCNE). Repéré le 21 août 2021 à https://www.ccne-ethique.fr/sites/default/files/2022-02/Avis%20n%C2%B03%20agents%20conversationnels%20enjeux%20d%27%C3%A9thique.pdf
Commission de l’éthique en science et en technologie. (s.d.). Quels sont les champs de l’éthique?. Repéré le 21 août 2021 à https://www.ethique.gouv.qc.ca/fr/ethique/qu-est-ce-que-l-ethique/quels-sont-les-champs-de-l-ethique/
Côté, A.-M. et Su, Z. (2021). Évolutions de l’intelligence artificielle au travail et collaborations humain-machine. Ad machina, (5), 144–160. Repéré le 21 août 2022 à https://doi.org/10.1522/radm.no5.1413
Crawford, K. (2021). Atlas of AI : Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press. https://yalebooks.yale.edu/book/9780300209570/atlas-ai/
Dilhac et al. (2018). Déclaration de Montréal pour un développement responsable de l’intelligence artificielle. Université de Montréal. Consulté le 7 juillet 2020, https://www.declarationmontreal-iaresponsable.com/la-declaration
Dwivedi, Y. K., Hughes, L., Ismagilova, E., Aarts, G., Coombs, C., Crick, T.,… & Williams, M. D. (2019). « Artificial Intelligence (AI) : Multidisciplinary perspectives on emerging challenges, opportunities, and agenda for research, practice and policy. » International Journal of Information Management, 57 (2021), 101994, p. 1–47.
Finney, J., L. (2019). Les implications éthiques de la perte progressive du contrôle humain. Dans l’ouvrage La société robotisée : Enjeux éthiques et politiques. Collection bioéthique critique, p. 189-200.
Frenette, M., Frank, K. (2020, 29 jun). Automation and Job Transformation in Canada: Who’s at Risk?.Statistiques Canada, Analytical Studies Branch Research Paper Series, Catalogue n. 11F0019M – n. 448, 25 p.
Future of Life Institutte. (2017). Asilomar AI Principles. Future of Life Institutte. Repéré le 10 août 2022 à : https://futureoflife.org/2017/08/11/ai-principles/
Gibert, M. (2020). Les trois robots. Dans Gibert, M., Faire la morale aux robots : Une introduction à l’éthique des algorithmes, p. 37-47. Montréal : Atelier 10.
Gibert, M. (2019). Éthique artificielle. L’encyclopédie philosophique. Repéré le 10 août 2022 à https://encyclo-philo.fr/ethique-artificielle-gp
Gibert, M. (2014). L’imagination en morale. Paris : Hermann.
Gouvernement du Canada. (2018). Déclaration franco-canadienne sur l’Intelligence artificielle. Section : Partenariats et priorités du Canada par région du monde — Europe. Repéré le 16 juin 2022 à https://www.international.gc.ca/world-monde/international_relations-relations_internationales/europe/2018-06-07-france_ai-ia_france.aspx?lang=fra
Gouvernement du Canada (2021, 14 mai). Utilisation responsable de l’intelligence artificielle (IA). Section : Innovation en matière de gouvernement numérique. Repéré le 4 août à https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai.html#toc1
Laugée, F. (2015). Solutionnisme. La revue européenne des medias et du numerique. URL : https://la-rem.eu/2015/04/solutionnisme
Lomazzi, L., Lavoie-Moore, M. et Gélinas, J. (2019). Financer l’intelligence artificielle, quelles retombées économiques et sociales pour le Québec ? IRIS. Repéré le 21 août 2022 à https://cdn.iris-recherche.qc.ca/uploads/publication/file/Intelligence_artificielle_IRIS_WEB4.pdf
Mantha, Y., Yune, Y. J., Henderson, P. et Lin, W-W. (2019). Cartographie de l’écosystème de l’IA en 2019. Jfgagne.ai. https://jfgagne.ai/fr/carte-de-lecosysteme-de-lia-en-2019/
Manyika, J., Silberg, J., Presten, B. (2019, 25 octobre). What Do We Do About the Biaises in AI?. Harvard Business Review, dans Technology And Analytics. Repéré le 30 août à https://hbr.org/2019/10/what-do-we-do-about-the-biases-in-ai
Marshall, A., J. (2021, 23 février). The robot revolution is here: How it’s changing jobs and businesses in Canada. The Conversation. Repéré le 4 août 2021 à https://theconversation.com/the-robot-revolution-is-here-how-its-changing-jobs-and-businesses-in-canada-155267
Mckinsey Global Institute (MGI). (2017, dec.). Jobs Lost, Jobs Gained: Workforce Transitions in a Time of Automation. Mckinsey&Company, 150 p.
Miles, M. B. et Huberman, A. M. (1994). Qualitative data analysis : An expanded sourcebook,2nd ed. Thousand Oaks: Sage Publications, Inc.
Ministère de l’Économie et de l’Innovation (2018). Plan numérique pour l’économie québécoise. Québec : 2018.
Nguyen, Quoc Dinh (3 oct. 2023) Statines chez la personne âgée : continuer ou arrêter ? L’actualité. https://lactualite.com/sante-et-science/statines-chez-la-personne-agee-continuer-ou-arreter/
Nurock V., Chatila R., Parizeau M-H. (2021) What Does “Ethical by Design” Mean?. In: Braunschweig B., Ghallab M. (eds) Reflections on Artificial Intelligence for Humanity. Lecture Notes in Computer Science, vol 12600. Springer, Cham. https://doi.org/10.1007/978-3-030-69128-8_11
https://www.youtube.com/watch?time_continue=14&v=MhLmhvJ0Xy4&feature=emb_logo
Organisation de coopération et de développement économiques (OCDE). (2019). Présentation des Principes sur l’IA. Repéré le 15 juin 2022 à https://oecd.ai/fr/ai-principles
Paillé, P. et Mucchielli, A. (2008). L’analyse qualitative en sciences humaines et sociales, 2e éd.. Paris : Armand Colin.
Pichai, S. (2020, 17 juin). Our commitments to racial equity. Google, The Keyword. Repéré le 4 août 2021 à https://blog.google/inside-google/company-announcements/commitments-racial-equity/
Prud’homme, B., Régis, C., Farnadi, G., Dreier, V., Rubel, S., & d’Oultremont, C. (Eds.). (2023). Angles morts de la gouvernance de l’IA. UNESCO PRESS.
Psyché, Valéry, Diane-Gabrielle Tremblay, Fatma Miladi et Amina Yagoubi (2023) A competency framework for training of AI projects managers in the digital and AI Era. Open Journal of Social Sciences. Juin 2023. https://www.scirp.org/journal/paperinformation.aspx?paperid=125305
Radio-Canada (2023). Les acteurs et actrices d’Hollywood sont officiellement en grève. 13 juillet 2023. https://ici.radio-canada.ca/nouvelle/1996049/greve-historique-acteurs-hollywood-rejoignent-scenaristes
Régis, C., Laverdière, M. (2021, 5 mai). L’IA gagne du terrain en santé. Comment les ordres professionnels peuvent-ils l’encadrer ?. The Conversation. Repéré le 5 août 2021 à https://theconversation.com/lia-gagne-du-terrain-en-sante-comment-les-ordres-professionnels-peuvent-ils-lencadrer-158826
Silberg, J., Manyika, J. (2019, 6 juin). Tackling bias in artificial intelligence (and in humans). McKinsey Global Institue. Repéré le 30 août 2021 à https://www.mckinsey.com/featured-insights/artificial-intelligence/tackling-bias-in-artificial-intelligence-and-in-humans
Solnon, C. (2020). Éthique des algorithmes. Bulletin de la ROADEF, Société Française de Recherche Opérationnelle et d’Aide à la Décision, p.7-10. Repéré le 21 août 2022 à https://hal.archives-ouvertes.fr/hal-02864885/document
Ticoll, D. (2020). Skilling Canadians for Leadership in the AI Economy. Technation Canada, 56 p. Repéré le 27 mars 2022 à : https://technationcanada.ca/wp-content/uploads/2020/10/Skilling-Canadians-FINAL-online.pdf
Tremblay, D.-G., V. Psyché et A. Yagoubi, (2023). Référentiel de compétences d’un gestionnaire de projets en Intelligence artificielle (IA). Montréal : université Téluq et PIA.
Tremblay, D.-G.; Yagoubi, A.; Psyché, V. (2021) Digital Transformation : An Analysis of the Role of Technology Service Providers in Montreal’s Emerging AI Business Ecosystem. In : Ratajczak-Mrozek, Marszalek, P Digitalization and Firm Performance Examining the Strategic Impact (eds), Palgrave macmillan, 17-44.
ULAVAL (s. d.). 9e édition de l’école d’été en éthique organisationnelle. Présentation de la 9e édition de l’école d’été qui se déroulera du 12 mai au 16 juin 2021. Repéré le 4 août 2021 à https://www.idea.ulaval.ca/ecole-dete/9e-edition-de-lecole-dete-en-ethique-organisationnelle
UNESCO (2019). L’Intelligence artificielle au service du développement durable : défis et perspectives pour les programmes de science et d’ingénierie de l’UNESCO. Paris : UNESCO. Repéré le 27 mars 2022 à https://unesdoc.unesco.org/ark:/48223/pf0000368028_fre.locale=fr
Voss, E. et Rego, R. (2019). Digitization and Public Services : A Labour Perspective. Public Services International. Repéré le 16 juin 2022 à https://publicservices.international/resources/publications/full-report---digitalization-and-public-services-a-labour-perspective?id=10382&lang=en