Magazine Gadgets

Op-Ed: Pourquoi devrions-nous nous inquiéter de l’investissement de Big Tech dans une nouvelle technologie cérébrale

Publié le 12 septembre 2021 par Mycamer

En juillet, des scientifiques ont rapporté avoir utilisé un implant neuronal dans le cerveau d’un homme pour restaurer sa capacité à communiquer. L’homme, dit Pancho, est partiellement paralysé et incapable de produire un discours intelligible depuis qu’il a subi un grave accident vasculaire cérébral en 2003.

La nouvelle technologie enregistre l’activité cérébrale de Pancho avec un réseau d’électrodes, analyse l’activité pour détecter les mots qu’il essaie de dire, puis traduit ces intentions en mots écrits qui peuvent être affichés sur un écran d’ordinateur. Il s’agit de la dernière avancée dans le domaine en pleine expansion des interfaces cerveau-ordinateur, ou BCI. Des systèmes similaires ont fait les gros titres pour permettre aux personnes paralysées du cou jusqu’à contrôler les curseurs de l’ordinateur et stimulateurs musculaires directement avec leurs pensées.

Les interfaces cerveau-ordinateur permettent aux ordinateurs de lire ou d’insérer des informations dans un cerveau vivant. Nous verrons sans aucun doute plus de gros titres sur les BCI à mesure que les nouvelles avancées s’appuieront sur les succès antérieurs. C’est pourquoi nous devons maintenant nous poser des questions fondamentales : comment fonctionnent ces technologies ? Pourraient-ils être utilisés pour lire subrepticement dans nos pensées ? Devrions-nous être excités ou inquiets de la façon dont les BCI peuvent affecter notre société ?

Alors que les cerveaux et les ordinateurs sont complexes, les interfaces cerveau-ordinateur sont possibles en raison de deux faits simples. La première est que votre cerveau contient des centaines de minuscules cartes. Chacune de ces cartes représente des caractéristiques spécifiques de vos sensations physiques et des actions prévues. Plutôt que d’être faites de papier et d’encre, les cartes sont constituées de cellules cérébrales et rendues avec une activité électrique. Et surtout, l’ensemble de base des cartes cérébrales et leurs emplacements dans le cerveau sont très similaires d’un individu à l’autre.

Grâce à leurs fonctions spécialisées et leurs emplacements universels, les cartes cérébrales sont des points d’entrée idéaux pour les technologies BCI. Pour glaner des informations dans le cerveau de Pancho sur ce qu’il essayait de dire, les scientifiques ont ouvert une partie de son crâne et placé 128 électrodes contre une carte du cerveau qui représente le mouvement de la langue, des lèvres, de la mâchoire et du larynx — en d’autres termes, les parties de son corps qui génèrent des sons parlés. Cela a permis aux scientifiques de mesurer l’activité électrique dans la carte du cerveau qui représentait les mots qu’il essayait de dire.

La capture de signaux à partir d’une carte du cerveau n’est que la première étape pour créer un BCI utile. Bien que l’emplacement d’une carte du cerveau soit le même d’un individu à l’autre, les détails – quels modèles d’activité au sein de la carte moyenne – diffèrent d’une personne à l’autre. Dans un sens, les caractéristiques uniques de vos cartes cérébrales spécifiques servent comme une sorte de cryptage, protégeant vos pensées et sensations spécifiques des éventuels indiscrets.

Cela nous amène au deuxième fait qui rend les BCI possibles. Grâce aux progrès de l’apprentissage automatique, les scientifiques ont développé des programmes capables d’apprendre à reconnaître des modèles clés dans une vaste mer de nombres. Ils entraînent ces programmes à décoder les signaux cérébraux en leur fournissant des tonnes d’exemples. Mais si le but de la formation de tels programmes, appelés décodeurs, est de déchiffrer les signaux du cerveau d’un individu particulier, alors ces exemples doivent également provenir de ce cerveau spécifique.

Les chercheurs qui développent des BCI créent souvent de tels exemples en demandant à un individu de penser à des pensées spécifiques à des moments spécifiques, créant ainsi un programme neuronal dont le programme peut tirer des enseignements. Dans le cas de Pancho, les scientifiques ont collecté près de 10 000 exemples d’activité dans sa carte vocale pendant qu’il essayait de dire des mots courants présentés sur un écran et 250 autres exemples pendant qu’il essayait de dire des phrases construites à partir de ces mots. Même avec cette formation approfondie, ses décodeurs se sont trompés entre 25 et 50 % du temps.

Alors que les caractéristiques universelles et les emplacements des cartes cérébrales en font des portails évidents pour les BCI, les caractéristiques uniques de vos cartes cérébrales ont tendance à les protéger des regards indiscrets. Dans les cas où les BCI ont réussi à lire des pensées ou des intentions spécifiques à partir d’un cerveau, cela s’est fait avec la permission et la conformité de la personne dont le cerveau a été lu.

Mais il existe des moyens subreptices d’entraîner des décodeurs sur votre cerveau à votre insu. Cela peut se produire si vos données neuronales, qu’elles soient collectées à partir d’électrodes dans votre cerveau ou de capteurs intégrés dans un Bandeau ou un chapeau, tombe entre les mains d’entreprises disposant d’informations détaillées sur vos activités.

Par exemple, Facebook financé en partie la recherche qui a fait le BCI de Pancho et a son propre programme de développement BCI interne. L’entreprise signalé travail sur les BCI qui décodent les signaux neuronaux collectés par un appareil portable non invasif qui pourrait permettre aux gens de taper avec leur esprit en imaginant parler. Alors que Facebook déclarations récentes indiquent qu’ils s’éloignent de ces plans spécifiques, ils continuent à rechercher activement d’autres concepts BCI.

Avant que le grand public ne commence à faire la queue pour de telles technologies, nous devrions nous demander Comment nous planifier pour protéger les droits personnels et la vie privée dans un monde où une technologie comme celle-ci est largement utilisée.

Avec une mine de données sur votre historique d’achat et votre comportement en ligne, de nombreuses entreprises en savent déjà plus sur vous que vous ne le souhaiteriez. Si des entreprises ou des annonceurs pourrait avoir accès à vos données neuronales personnelles, la menace pour la vie privée serait énorme.

Et si une entreprise comme Facebook ou Google était autorisée à collecter des signaux de votre cerveau pendant que vous utilisez ses produits pour rédiger des messages, effectuer des achats ou parcourir vos flux, elle aurait alors les données dont elle a besoin pour entraîner un décodeur à lire certains de vos pensées et actions. Ce qu’ils pourraient lire serait limité et parfois incorrect, mais ce serait l’accès à vos pensées que vous n’aviez pas l’intention de leur accorder.

Comme toutes les technologies, les interfaces cerveau-ordinateur ne sont pas intrinsèquement bonnes ou mauvaises. Ce sont simplement des outils. Les BCI pourraient offrir d’énormes avantages aux personnes qui ont été blessées par une blessure ou une maladie. Pourtant, ils soulèvent également des dangers importants. Les les entreprises technologiques les plus riches sur Terre investissent des centaines de millions de dollars dans développer de meilleures BCI parce qu’ils parient que les BCI seront la prochaine technologie de rupture au monde. S’ils ont raison, nous ne pouvons pas faire confiance à ces sociétés pour s’autoréglementer.

Plus tôt cette année, un groupe de neuroscientifiques et d’éthiciens conseillé que le Les Nations Unies créer une commission pour examiner comment les BCI et autres neurotechnologies devraient être supervisés et réglementés. Aux niveaux international et national, les organes directeurs devraient commencer à mettre en place des protections pour limiter la manière dont les données neuronales peuvent être collectées, utilisées et partagées.

En plus de récolter les bénéfices des BCI, nous devons nous assurer que nous avons les moyens de nous protéger des entreprises avec toutes les incitations à exploiter cette technologie – et le fonctionnement interne de notre propre cerveau – pour leur gain financier.

Rebecca Schwarzlose est une neuroscientifique cognitive qui étudie le développement du cerveau à l’Université de Washington à St. Louis. Elle est l’auteur de “Brainscapes: The Warped, Wondrous Maps Written in Your Brain – and How They Guide You”.



En juillet, des scientifiques ont rapporté avoir utilisé un implant neuronal dans le cerveau d’un homme pour restaurer sa capacité à communiquer. L’homme, dit Pancho, est partiellement paralysé et incapable de produire un discours intelligible depuis qu’il a subi un grave accident vasculaire cérébral en 2003.

La nouvelle technologie enregistre l’activité cérébrale de Pancho avec un réseau d’électrodes, analyse l’activité pour détecter les mots qu’il essaie de dire, puis traduit ces intentions en mots écrits qui peuvent être affichés sur un écran d’ordinateur. Il s’agit de la dernière avancée dans le domaine en pleine expansion des interfaces cerveau-ordinateur, ou BCI. Des systèmes similaires ont fait les gros titres pour permettre aux personnes paralysées du cou jusqu’à contrôler les curseurs de l’ordinateur et stimulateurs musculaires directement avec leurs pensées.

Les interfaces cerveau-ordinateur permettent aux ordinateurs de lire ou d’insérer des informations dans un cerveau vivant. Nous verrons sans aucun doute plus de gros titres sur les BCI à mesure que les nouvelles avancées s’appuieront sur les succès antérieurs. C’est pourquoi nous devons maintenant nous poser des questions fondamentales : comment fonctionnent ces technologies ? Pourraient-ils être utilisés pour lire subrepticement dans nos pensées ? Devrions-nous être excités ou inquiets de la façon dont les BCI peuvent affecter notre société ?

Alors que les cerveaux et les ordinateurs sont complexes, les interfaces cerveau-ordinateur sont possibles en raison de deux faits simples. La première est que votre cerveau contient des centaines de minuscules cartes. Chacune de ces cartes représente des caractéristiques spécifiques de vos sensations physiques et des actions prévues. Plutôt que d’être faites de papier et d’encre, les cartes sont constituées de cellules cérébrales et rendues avec une activité électrique. Et surtout, l’ensemble de base des cartes cérébrales et leurs emplacements dans le cerveau sont très similaires d’un individu à l’autre.

Grâce à leurs fonctions spécialisées et leurs emplacements universels, les cartes cérébrales sont des points d’entrée idéaux pour les technologies BCI. Pour glaner des informations dans le cerveau de Pancho sur ce qu’il essayait de dire, les scientifiques ont ouvert une partie de son crâne et placé 128 électrodes contre une carte du cerveau qui représente le mouvement de la langue, des lèvres, de la mâchoire et du larynx — en d’autres termes, les parties de son corps qui génèrent des sons parlés. Cela a permis aux scientifiques de mesurer l’activité électrique dans la carte du cerveau qui représentait les mots qu’il essayait de dire.

La capture de signaux à partir d’une carte du cerveau n’est que la première étape pour créer un BCI utile. Bien que l’emplacement d’une carte du cerveau soit le même d’un individu à l’autre, les détails – quels modèles d’activité au sein de la carte moyenne – diffèrent d’une personne à l’autre. Dans un sens, les caractéristiques uniques de vos cartes cérébrales spécifiques servent comme une sorte de cryptage, protégeant vos pensées et sensations spécifiques des éventuels indiscrets.

Cela nous amène au deuxième fait qui rend les BCI possibles. Grâce aux progrès de l’apprentissage automatique, les scientifiques ont développé des programmes capables d’apprendre à reconnaître des modèles clés dans une vaste mer de nombres. Ils entraînent ces programmes à décoder les signaux cérébraux en leur fournissant des tonnes d’exemples. Mais si le but de la formation de tels programmes, appelés décodeurs, est de déchiffrer les signaux du cerveau d’un individu particulier, alors ces exemples doivent également provenir de ce cerveau spécifique.

Les chercheurs qui développent des BCI créent souvent de tels exemples en demandant à un individu de penser à des pensées spécifiques à des moments spécifiques, créant ainsi un programme neuronal dont le programme peut tirer des enseignements. Dans le cas de Pancho, les scientifiques ont collecté près de 10 000 exemples d’activité dans sa carte vocale pendant qu’il essayait de dire des mots courants présentés sur un écran et 250 autres exemples pendant qu’il essayait de dire des phrases construites à partir de ces mots. Même avec cette formation approfondie, ses décodeurs se sont trompés entre 25 et 50 % du temps.

Alors que les caractéristiques universelles et les emplacements des cartes cérébrales en font des portails évidents pour les BCI, les caractéristiques uniques de vos cartes cérébrales ont tendance à les protéger des regards indiscrets. Dans les cas où les BCI ont réussi à lire des pensées ou des intentions spécifiques à partir d’un cerveau, cela s’est fait avec la permission et la conformité de la personne dont le cerveau a été lu.

Mais il existe des moyens subreptices d’entraîner des décodeurs sur votre cerveau à votre insu. Cela peut se produire si vos données neuronales, qu’elles soient collectées à partir d’électrodes dans votre cerveau ou de capteurs intégrés dans un Bandeau ou un chapeau, tombe entre les mains d’entreprises disposant d’informations détaillées sur vos activités.

Par exemple, Facebook financé en partie la recherche qui a fait le BCI de Pancho et a son propre programme de développement BCI interne. L’entreprise signalé travail sur les BCI qui décodent les signaux neuronaux collectés par un appareil portable non invasif qui pourrait permettre aux gens de taper avec leur esprit en imaginant parler. Alors que Facebook déclarations récentes indiquent qu’ils s’éloignent de ces plans spécifiques, ils continuent à rechercher activement d’autres concepts BCI.

Avant que le grand public ne commence à faire la queue pour de telles technologies, nous devrions nous demander Comment nous planifier pour protéger les droits personnels et la vie privée dans un monde où une technologie comme celle-ci est largement utilisée.

Avec une mine de données sur votre historique d’achat et votre comportement en ligne, de nombreuses entreprises en savent déjà plus sur vous que vous ne le souhaiteriez. Si des entreprises ou des annonceurs pourrait avoir accès à vos données neuronales personnelles, la menace pour la vie privée serait énorme.

Et si une entreprise comme Facebook ou Google était autorisée à collecter des signaux de votre cerveau pendant que vous utilisez ses produits pour rédiger des messages, effectuer des achats ou parcourir vos flux, elle aurait alors les données dont elle a besoin pour entraîner un décodeur à lire certains de vos pensées et actions. Ce qu’ils pourraient lire serait limité et parfois incorrect, mais ce serait l’accès à vos pensées que vous n’aviez pas l’intention de leur accorder.

Comme toutes les technologies, les interfaces cerveau-ordinateur ne sont pas intrinsèquement bonnes ou mauvaises. Ce sont simplement des outils. Les BCI pourraient offrir d’énormes avantages aux personnes qui ont été blessées par une blessure ou une maladie. Pourtant, ils soulèvent également des dangers importants. Les les entreprises technologiques les plus riches sur Terre investissent des centaines de millions de dollars dans développer de meilleures BCI parce qu’ils parient que les BCI seront la prochaine technologie de rupture au monde. S’ils ont raison, nous ne pouvons pas faire confiance à ces sociétés pour s’autoréglementer.

Plus tôt cette année, un groupe de neuroscientifiques et d’éthiciens conseillé que le Les Nations Unies créer une commission pour examiner comment les BCI et autres neurotechnologies devraient être supervisés et réglementés. Aux niveaux international et national, les organes directeurs devraient commencer à mettre en place des protections pour limiter la manière dont les données neuronales peuvent être collectées, utilisées et partagées.

En plus de récolter les bénéfices des BCI, nous devons nous assurer que nous avons les moyens de nous protéger des entreprises avec toutes les incitations à exploiter cette technologie – et le fonctionnement interne de notre propre cerveau – pour leur gain financier.

Rebecca Schwarzlose est une neuroscientifique cognitive qui étudie le développement du cerveau à l’Université de Washington à St. Louis. Elle est l’auteur de “Brainscapes: The Warped, Wondrous Maps Written in Your Brain – and How They Guide You”.

— to www.latimes.com


Retour à La Une de Logo Paperblog

A propos de l’auteur


Mycamer Voir son profil
Voir son blog

l'auteur n'a pas encore renseigné son compte l'auteur n'a pas encore renseigné son compte

Magazines