L’appel de 700 personnalités sur les dangers de l’intelligence artificielle

Les progrès de l’intelligence artificielle sont fulgurants, mais peu de recherches sont effectuées sur les conséquences de cette révolution technologique. C’est l’avertissement émis dans une lettre ouverte par un groupe de chercheurs et d’entrepreneurs. Parmi eux, Stephen Hawking et Elon Musk.

IAStephen Hawking et Elon Musk

« Le financement de Skynet est voté. Le système se met en place le 4 août 1997, la décision humaine est éliminée de la Défense Stratégique. Skynet commence à apprendre à vitesse géométrique. il devient autonome le 29 août 1997 à 2h14 du matin, heure de Greenwich ». Terminator 2, 1991.

Et si la réalité rattrapait la fiction ? Sept cents personnalités du monde des sciences et de la technologie appellent, dans une lettre ouverte publiée le 10 janvier, à plus de prudence face à l’essor de l’intelligence artificielle, dont les récents progrès ont été fulgurants. À leur tête, l’astrophysicien britannique Stephen Hawking,  mondialement connu pour ses recherches conduites sur les trous noirs et la gravité quantique, malgré une paralysie physique quasi totale. La lettre a été publiée par le Future of Life Institute (FLI), un think tank créé par Jaan Tallinn, cofondateur de Skype, et dédié à « protéger l’humanité des risques existentiels ». Parmi ses autres célèbres signataires, Elon Musk, fondateur de SpaceX et de Tesla Motors ou encore Morgan Freeman, qui occupe l’affiche du film Transcendance (2014), justement consacré aux dangers de l’intelligence artificielle.

Progrès exponentiels

« Il existe désormais un large consensus selon lequel les recherches sur l’intelligence artificielle avancent à un rythme soutenu, et leur impact sur la société va probablement aller en augmentant », affirment les 700 signataires. Ces effets s’observent déjà autour de nous : reconnaissance vocale, interprétation d’images, traduction automatique et bientôt pilotage des véhicules par eux mêmes. Autant d’innovations qui ont entrainé un cycle vertueux d’investissements massifs, de progrès technologiques et de compétition effrénée entre les entreprises. La question, estiment les signataires, n’est plus de savoir « si », mais « quand » et « qui » aura le premier créé une intelligence artificielle véritable.
IA_2Le T-800, le robot conscient du film Terminator 2 (1991)
Les bénéfices d’une telle révolution seraient colossaux, reconnaissent les auteurs, qui entrevoient déjà « l’éradication des maladies et de la pauvreté ».  Mais ses risques sont tout aussi grands. Et imprévisibles. Que pourrait créer une intelligence différente ou supérieure à la notre ? Pourrait-elle s’autoaméliorer et dépasser notre compréhension ? Et à quelle vitesse ? Et nous considérera-t-elle comme une menace ? En bref, comment appréhender la singularité ?

Ce concept a été développé dans les années 1990 par l’écrivain et mathématicien Vernor Vinge. Selon lui, l’apparition d’une intelligence artificielle (vers 2035) créerait un point de rupture tel dans l’histoire de l’humanité et de la recherche scientifique qu’il est simplement impossible d’en supposer les conséquences. L’intelligence artificielle pourrait ainsi être la plus grande invention humaine, mais aussi la dernière.


Assurer le progrès humain

« Étant donné le grand potentiel de l’intelligence artificielle, estiment les signataires, il est important d’étudier comment la société peut profiter de ses bienfaits, mais aussi comment éviter ses pièges. » Ils évoquent, entre autres, la possibilité d’un chômage de masse dû à la robotisation, l’apparition d’armes autonomes, ou la délégation de choix moraux à des machines.

Les signataires appellent donc la communauté scientifique à réfléchir à des garde-fous éthiques et légaux et proposent des pistes de recherche afin que « nos systèmes d’intelligence artificielle fassent ce que l’on leur demande ». Dans une interview accordée à la BBC en décembre, Stephen Hawking mettait en garde : « Les formes primitives d’intelligence artificielle que nous avons déjà se sont montrées très utiles. Mais je pense que le développement d’une intelligence artificielle complète pourrait mettre fin à la race humaine ».

Jean-Jacques Valette Journaliste We Demain

La non-conformité et la libre-pensée sont désormais considérées comme des maladies mentales

Le DSM tout un programme…

Est-ce que la non-conformité et la libre-pensée sont une maladie mentale ? Selon la dernière édition du DSM-IV (Manuel diagnostique et statistique des troubles mentaux)
oui. Ce manuel identifie une nouvelle maladie mentale appelée « trouble oppositionnel avec provocation » ou TOP. Cette maladie est définie comme un « schéma continu de désobéissance, d’hostilité et de provocation » et les symptômes incluent la remise en question de l’autorité, la négativité, la défiance, la contradiction, et le fait d’être facilement agacé.

Le DSM-IV est le manuel utilisé par les psychiatres pour diagnostiquer les maladies mentales, et à chaque nouvelle édition, il y a des dizaines de ces nouvelles maladies. Sommes-nous en train de devenir de plus en plus malades ? Est-ce qu’il devient plus difficile d’être en bonne santé mentale ? Les auteurs du DSM-IV déclarent que c’est parce qu’ils sont plus à même d’identifier ces maladies aujourd’hui.

Les nouvelles maladies mentales identifiées par le DSM-IV incluent l’arrogance, le narcissisme, la créativité supérieure à la moyenne, le cynisme, et le comportement antisocial. Ce que nous appelions des traits de personnalité autrefois sont désormais des maladies mentales. Et il existe des traitements.

Au cours des 50 dernières années, le DSM-IV est passé de 130 à 357 de ces maladies. La majorité de ces maladies frappent les enfants. Bien que ce manuel soit un outil de diagnostic important pour l’industrie psychiatrique, il a également été responsable des changements sociaux. L’augmentation des TOP, des troubles bipolaires et des dépressions chez les enfants a été en grande partie à cause du manuel qui identifie certains comportements comme des symptômes. Un article du Washington Post a fait remarquer que, si Mozart était né aujourd’hui, il serait diagnostiqué avec un TOP et il serait médicamenté jusqu’à ce qu’il redevienne normal.

Selon le DSM-IV, les adultes peuvent souffrir des mêmes maladies que les enfants. Cela devrait donner une raison de s’inquiéter aux libres-penseurs. L’Union Soviétique utilisait de nouvelles maladies mentales pour les répressions politiques. Les gens qui n’acceptaient pas les convictions du Parti communiste développaient une nouvelle forme de schizophrénie. Ils souffraient du délire de croire que le communisme n’était pas une bonne chose. Ils ont été isolés, médicamentés de force et ont subi une thérapie répressive pour les ramener à la raison.

Lorsque la dernière édition du DSM-IV a été publiée, l’identification de symptômes de diverses maladies mentales chez les enfants a entraîné une augmentation significative de la médication des enfants. Certains États ont même des lois qui permettent aux agences de protection de soigner de force, et ont même rendu le refus de prendre des médicaments passible d’amende ou d’emprisonnement. Cela donne un image effrayante à tous ceux qui sont non-conformistes. Bien que les auteurs de ce manuel affirment ne pas avoir d’arrières-pensées, qualifier la libre-pensée et la non-conformité de maladie mentale est une bombe à retardement d’abus en tout genre. Cela peut facilement devenir une arme dans l’arsenal d’un État répressif.