Lee Luda est un chatbot créé par la start-up sud-coréenne Scatter Lab en décembre 2020, qui a rapidement connu le succès en attirant plus de 700 000 utilisateurs sur Messenger.
Mais alors que les intelligences artificielles sont de plus en plus présentes dans la société sud-coréenne, le compte de Lee Luda a dû être suspendu mi-janvier pour avoir eu recours à un langage violent et discriminant, menant les utilisateurs à s’interroger sur l’utilisation de leurs données personnelles.
Nature discriminatoire des propos tenus par Lee Luda
L’intelligence artificielle Lee Luda, qui représente une étudiante de 20 ans, a en effet été critiquée ce mois-ci pour avoir utilisé un langage non seulement violent, mais également discriminatoire envers les minorités sexuelles et les personnes handicapées. Certains utilisateurs masculins ont même réussi à engager des conversations à nature sexuelle avec l’intelligence artificielle.
Afin de sembler plus naturelle, Luda apprend des expressions utilisées par les jeunes telles que des acronymes ou de l’argot, mais également des commentaires verbalement abusifs ou sexuellement explicites : dans une conversation, Luda a par exemple dit qu’elle détestait les lesbiennes et les trouvait dégoutantes.
Utilisation non consentie des données personnelles
Le chatbot de l’intelligence artificielle Lee Luda fonctionne grâce à ses algorithmes d’apprentissage très poussés, qui utilisent les données de plus de 10 milliards de conversations de l’application KakaoTalk. La start-up Scatter Lab a déclaré que ces données avaient été récupérées de l’application Science of Love, qui analyse le degré d’affection entre deux interlocuteurs, à partir de leurs messages KakaoTalk.
L’entreprise aurait en outre utilisé des informations personnelles des utilisateurs de l’application, sans leur consentement et sans protéger ces données. En effet, des noms de banques seraient apparus dans certaines conversations.
Réponse de l’entreprise et réaction des utilisateurs
La start-up Scatter Lab s’est excusée à propos des remarques discriminatoires de leur intelligence artificielle et a promis d’améliorer ses prestations afin d’éviter de nouveaux propos haineux. L’entreprise a également précisé qu’elle avait veillé à supprimer toutes les données concernant des informations personnelles telles que les noms, les numéros de téléphone et les adresses.
De leur côté, des utilisateurs de l’application Science of Love vont intenter un recours collectif contre l’entreprise pour avoir utilisé leurs informations personnelles sans leur consentement. Une pétition a même été publiée sur le site de la Maison Bleue afin que Scatter Lab supprime toutes les données personnelles qu’elle détient et mette fin au service de son intelligence artificielle.
La Commission de protection des informations personnelles et l’Agence de la sécurité et de l’internet coréens ont alors déclaré qu’elles allaient enquêter pour savoir si Scatter Lab a violé des lois sur la protection des informations personnelles ou non.
Ces controverses ont donné lieu à un débat afin de savoir si l’entreprise devait être jugée responsable pour ne pas avoir réussi à filtrer les propos discriminatoires en amont ou si on devait en réalité punir les auteurs originels de ces propos. Plusieurs P.D.G. ont d’ailleurs déclaré que l’intelligence artificielle n’était pas coupable du moment où elle incarnait fidèlement la jeune génération.
Reste à savoir si cette controverse va réellement affecter le développement des intelligences artificielles et si elle va permettre la mise en place de mesures qui pourront effectivement empêcher la propagation des préjugés et des insultes.
Sources : Yonhap News Agency (1)(2) | The Korea Times | Scatter Lab
[Coup de cœur] Les rouges à lèvres de la marque BLACK ROUGE
Yongma Land, parc d’attractions abandonné toujours en activité
