Cela ressemble à de la science-fiction, voire à de la magie : la capacité de communiquer, de contrôler un ordinateur ou de déplacer un membre robotique grâce au pouvoir de la pensée.
Cependant, non seulement c’est possible, mais cela transforme déjà la vie de patients gravement handicapés.
En 2024un auditoire lors d’une conférence de l’ONU À Genève, j’ai été étonné de constater qu’un jeune Portugais atteint du « syndrome d’enfermement » – un trouble neurologique qui l’empêchait de bouger une quelconque partie de son corps – était capable de « parler » avec eux, en utilisant une interface cerveau-ordinateur (BCI) qui traduisait ses pensées en mots, exprimées avec sa voix, et répondait à leurs questions.
Il s’agit d’un exemple frappant du domaine en pleine croissance des neurotechnologies, qui représente un grand espoir pour les personnes vivant avec un handicap et des troubles mentaux tels que la maladie de Parkinson, l’épilepsie et la dépression résistante aux traitements.
Intimité mentale : une bataille perdue d’avance ?
Mais si l’utilisation de la neurotechnologie dans le secteur médical est strictement réglementée, son utilisation dans d’autres domaines suscite des inquiétudes.
Les produits tels que les bandeaux, les montres et les écouteurs qui surveillent la fréquence cardiaque, les habitudes de sommeil et d’autres indicateurs de santé deviennent de plus en plus populaires. Les données qu’ils collectent peuvent fournir des informations approfondies sur nos pensées, réactions et émotions privées, améliorant ainsi la qualité de vie.
Cela pose des problèmes d’éthique et de droits humains, car les fabricants sont actuellement libres de le vendre ou de le transmettre sans restriction. Les individus risquent de voir leur intimité mentale la plus intime envahie, leurs pensées exposées, monétisées, voire contrôlées.
«Il s’agit de liberté de pensée, d’action et d’intimité mentale», déclare Dafna Feinholz, responsable par intérim de la recherche, de l’éthique et de l’inclusion à UNESCO.
Elle craint que la bataille pour la confidentialité mentale ne soit perdue à l’ère des médias sociaux, où les utilisateurs téléchargent volontiers leur vie privée sur des plateformes appartenant à une poignée d’entreprises technologiques géantes.
« Les gens disent : « Je n’ai rien à cacher », mais ils ne comprennent pas ce qu’ils révèlent », ajoute-t-elle.
Les technologies d’assistance peuvent permettre à une personne d’écrire ou de déplacer des objets dans l’espace en utilisant ses ondes cérébrales.
“Nous sommes déjà profilés par l’IA, mais il existe désormais cette possibilité d’entrer dans nos pensées, de mesurer directement l’activité cérébrale et d’en déduire des états mentaux. Ces technologies pourraient même modifier la structure de votre système nerveux, permettant ainsi de le manipuler. Les gens doivent savoir que ces outils sont sûrs et que, s’ils le souhaitent, ils peuvent cesser de les utiliser.”
Les gens doivent savoir que ces outils sont sécuritaires et que s’ils le souhaitent, ils peuvent cesser de les utiliser.
Le responsable de l’ONU insiste sur le fait que même si nous devons accepter de devoir vivre avec la technologie, nous pouvons garantir que les humains restent aux commandes.
“Plus nous nous soumettons à la puissance et à la supériorité de ces outils, plus nous allons être pris en main. Nous devons contrôler ce qu’ils font et ce que nous voulons qu’ils fassent, car c’est nous qui les produisons. C’est notre responsabilité pour toute la technologie que nous créons.”
Il est temps d’adopter une approche éthique
Mme Feinholz a parlé à Actualités de l’ONU depuis l’ancienne ville ouzbèke de Samarkand où, mercredi, les délégués des États membres de l’UNESCO – l’agence des Nations Unies pour l’éducation, la science et la culture – ont officiellement adopté un «Recommandation» (orientations non contraignantes sur les principes et les meilleures pratiques pouvant constituer la base des politiques nationales) sur l’éthique des neurotechnologies, en mettant l’accent sur la protection de la dignité humaine, des droits et des libertés.
Les lignes directrices préconisent la promotion du bien-être et la prévention des dommages associés à la technologie, la liberté de pensée (garantir que les individus gardent le contrôle de leur esprit et de leur corps), le respect des normes éthiques par les développeurs, les chercheurs et les utilisateurs et la responsabilité de leurs actes.
Il est conseillé aux États membres de mettre en place plusieurs mesures, notamment la mise en œuvre de cadres juridiques et éthiques pour surveiller l’utilisation des neurotechnologies, protéger les données personnelles et évaluer l’impact sur les droits de l’homme et la vie privée.
« Les humains ont besoin de savoir », déclare Feinholz. “Il faut de la transparence, des réparations et des compensations, comme c’est le cas dans d’autres secteurs. Prenons par exemple les restaurants. Si vous mangez au restaurant, vous n’avez pas besoin de savoir cuisiner. Mais si vous commandez des spaghettis à la carbonara et que cela vous rend malade, vous pouvez vous plaindre auprès du propriétaire. Il y a une responsabilité. La même chose devrait s’appliquer à la neurotechnologie : même si vous ne comprenez pas comment cela fonctionne, il doit y avoir une chaîne de contrôle.”
Publié à l’origine dans The European Times.
