L’intelligence artificielle incontrôlée: Une arme qui pourrait détruire l’humanité

 «Objets inanimés avez-vous donc une âme ? Qui s’attache à notre âme..et la force d’amer»

Lamartine (Milly ou la terre natale)

Ce nouveau siècle a vu une accélération des sciences NBIC (Nanotechnologie, Biotechnologie, Informatique  Sciences cognitives)  notamment celle de l’intelligence artificielle où le mot vivant est de plus en plus galvaudé du fait de son attribution aux machines. On dit que les objets électroniques deviennent «intelligents» s’ils s’adaptent à l’utilisateur et même «vivants» quand ils communiquent avec nous de manière naturelle. Nous devons définir ce que c’est un objet vivant qu’il ne faut pas confondre avec un robot automate aussi sophistiqué soit-il. Le terme s’oppose alors à «vivant»: les objets ne sont pas animés, ils ne sont pas en vie. Ils ne méritent pas le traitement particulier qu’on réserve aux vivants et en particulier celui qu’on réserve aux personnes humaines.

Pour Jean-Claude Heudin, directeur de l’Institut de l’Internet et du Multimédia et spécialiste de l’intelligence artificielle, une tendance décisive est la manière dont ces objets, voitures, maisons ou autres, gèreront eux-mêmes leur énergie, particulièrement dans le cadre d’un smart grid. A propos d’objet intelligent et d’objet smart, il déclare: «Je fais une distinction entre les deux. Dans notre école, le terme ‘smart » correspond à une partie de l’enseignement du Design Interactif. En d’autres termes, ces objets doivent être parfaitement adaptés aux usages des utilisateurs. Leur utilisation doit être simple et évidente. Un objet intelligent, lui, doit en plus être capable de s’adapter à son propriétaire, par exemple en détectant et en mémorisant ses habitudes, en personnalisant ses services…»(1)

 «Pourquoi dit-on qu’ils sont «vivants»? C’est une étape supplémentaire poursuit-il, celle des objets capables de dialoguer selon nos propres modes de communication verbale et non-verbale. En d’autres termes, il s’agit de tirer parti de notre tendance naturelle à considérer ce qui nous entoure comme faisant partie de notre groupe social. Cet anthropomorphisme est le résultat de notre évolution en tant qu’animal social. Cette démarche est très étudiée, en particulier en robotique avec les robots humanoïdes.» (1) «On doit prendre garde à ne pas vouloir pousser trop loin la ressemblance. Ainsi, les androïdes conçus par Hiroshi Ishiguro sont comme des clones humains, mais leur ressemblance inquiète plus qu’elle ne rassure. (…) «L’autonomie des machines, associée au recueil massif des données (le «big data») va créer des scénarios inédits que le législateur devra prendre en compte. l’un des domaines où les objets intelligents vont apparaître le plus rapidement est celui de l’automobile, en particulier avec les futures voitures autonomes sans conducteur. (…) Si une voiture autonome a un accident, qui est responsable? (…) Ces technologies coûtent cher à développer et, d’autre part, tous les objets n’ont pas à devenir intelligents». (1)

La maison smart est une réelle avancée technologique. De la cuisine à la chambre à coucher, des toilettes au salon, le meilleur des nouveautés numériques garnit ce lieu que l’on visite comme un petit musée du futur. Impossible de passer à côté du «mur de service connecté», espace stratégique où l’homme (pourvu d’un smartphone comme excroissance naturelle). (2)

De même, avec l’allongement de la durée de vie, les établissements adaptés aux seniors devraient se multiplier. À quoi ressemblera la maison de retraite du futur? Les «signaux faibles» de 2013 nous renseignent, et EDF Pulse en déduit trois scénarios. Avant de couler des jours heureux à jouer à la belote avec des amis au minimum octogénaires, encore faut-il savoir dans quel habitat nous vivrons. Trois possibilités se présentent et font l’objet d’expérience en Suisse en France et au Japon (3)

A côté de ces avancées somme toute utiles pour l’humanité et pour le bien-vivre Après le coeur artificiel, il se murmure que c’est au tour du cerveau de quitter le monde organique pour rejoindre celui de l’artifice. Le cerveau pourrait être composé de neurones en nanotubes de carbone, selon des chercheurs américains. À la tête de ce projet les professeurs Alice Parker et Chongwu Zhou, spécialisés en génie électrique à l’université de Californie du Sud. Ils sont parvenus à fabriquer une synapse (zone de contact entre deux neurones) fonctionnant grâce à des nanotubes de carbone, réalisant une avancée significative dans l’utilisation des nanotechnologies pour la construction d’un cerveau synthétique. Pour atteindre ce résultat, qui pourrait révolutionner la science en général en offrant une seconde vie à tous ceux victimes de dommages cérébraux. (4)

 «Mais cette trouvaille n’est que la première étape d’un long processus de recherche et de test. Si les scientifiques sont parvenus à construire un circuit pouvant agir comme un neurone, une question de taille demeure: comment réaliser des structures indépendantes de ces circuits qui imiteraient le fonctionnement du cerveau (celui-ci possède 100 milliards de neurones et 10.000 synapses par neurone!). Le but du jeu, à terme, serait bien sûr de rendre cette exacte copie de notre bon vieux cerveau plus puissante et plus intelligente. Alors certes, le cerveau artificiel, ce n’est pas pour demain, mais une chose est sûre: avec ce genre de découverte, la voie de l’intelligence artificielle est ouverte et passera certainement par la prothèse nanotechnologique. À la clé, la guérison de traumatismes ou de troubles cérébraux. Vivement demain. (4)

Le revers de la médaille

Toute médaille a son revers. Un site intéressant liste les technologies dangereuses pour l’humanité.  Nous les résumons ici sans oublier naturellement l’intelligence artificielle : « Tout d’abord l’armement nanotechnologique . S’il y a bien une chose qui pourrait détruire la race humaine sur Terre, c’est l’utilisation des nanotechnologies à des fins militaires. Le risque vient de deux facteurs importants : l’auto-réplication incontrôlée et la croissance exponentielle. Que ce soit les aérovores (qui bloqueraient les rayons du soleil), le plancton gris (qui dévorerait l’écologie sous-marine), le lichen gris (qui détruirait la géologie terrestre) ou les destructeurs de biomasse (qui s’attaqueraient à divers organismes), il ne faudrait pas plus de 20 mois pour une « écophagie globale ». La seul défense possible serait de créer un système qui perturberait les mécanismes internes des nanorobots. La plupart des experts sont donc d’accord pour instaurer un moratoire sur les nanotechnologies utilisées comme arme ».(5)

 « Ensuite et dans l’ordre : «  des machines conscientes C’est l’un des rêves des scientifiques : intégrer une conscience artificielle dans une machine. Cependant, il faut absolument réfléchir à ce sujet avant de se lancer.  Selon le philosophe Thomas Metzinger, « aucun comité éthique dans un monde démocratique n’acceptera que de tels recherches soient lancées » ».   Une super-intelligence artificielle Comme le disais Stephen Hawking   l’intelligence artificielle pourrait être la plus grande erreur de notre histoire . Les voyages dans le temps N’importe quel film de SF traitant de voyages dans le temps nous montre les potentiels dégâts que cela pourrait générer, en particulier les paradoxes temporels.  Un dispositif de lecture de l’esprit L’idée que des machines puissent lire les pensées et les souvenirs des gens sans leur consentement n’est pas complètement farfelue (…) L’année dernière, aux Pays-Bas, des scientifiques ont croisé des imageries mentales avec des algorithmes informatiques pour déterminer quelles lettres une personne regardait. L’idée est de reconstruire la pensée humaine à un niveau sans précédent, permettant de montrer ce que vous avez vu, pensé ou enregistré » (5)

En sixième position propose l’auteur : « Un dispositif de piratage cérébral .Par extension, il serait également possible d’altérer nos esprits sans que nous le sachions, de la même façon que dans le jeu Remember Me. Dès que nous implanterons des puces dans notre crâne et en supposant que nous n’arrivions pas à développer des pares-feu suffisamment efficaces, nos cerveaux seraient directement exposés à internet et tous ses maux. Une équipe internationale de chercheurs en neurosciences a mis en place une expérience qui a permis aux participants de s’engager dans une communication entre cerveaux sur internet. Bien sûr, c’est excitant, mais cette forme de télépathie pourrait ouvrir la boîte de Pandore ». (5)

« En septième position : «  Des robots autonomes conçus pour tuer les humains. L’idée que des machines puissent tuer des humains sans que personne n’appuie sur la détente est effrayante. (…) Le plus grand danger se cache dans une hypothétique course à l’armement. Après quelques cycles d’amélioration, le développement de robots pourrait franchir un seuil dans lequel la dernière génération serait en mesure de dépasser tout système militaire contrôlée par l’homme.  (…)  Ensuite nous avons d’après l’auteur : « Les armes bactériologiques Un autre sujet perturbant… Comme indiqué par Bill Joy et Ray Kurzweil en 2005, laisser les génomes de virus mortels à portée du premier venu, c’est précipiter la destruction de notre planète.   Certains scientifiques parlent même de virus agissant directement sur le génome humain ». Des peines et emprisonnements virtuels  Et l’enfer technologique   Dans une perspective d’espérance de vie indéfinie, cet avenir est particulièrement effrayant, avec des possibilités de tortures physiques et psychologiques sans limites ». (5)

Les espoirs des apprentis sorciers sur l’intelligence artificielle

Il est de ce fait évident, malgré les assurances des apprentis sorciers, il nous faire très attention. Les conséquences de certaines avancées peuvent constituer un danger pour la condition humaine. Pour Ray Kurzveil de Google en charge des Nbic et du transhumanisme lors d’une annonce en juin 2013 lors du Global Furures 2045 International Congress à New York qui avait pour but de présenter le monde de 2045, il a été indiqué que l’Humanité connaîtrait dans les années à venir, une croissance technologique totalement nouvelle et largement supérieure à celle que l’on connaît aujourd’hui plus connue sous le nom de «Singularité Technologique». Ce concept tend à l’immortalité digitale, en conservant l’intelligence et le cerveau de l’Homme pour l’éternité. L’Homme a rendu indispensable les nouvelles technologies à sa vie. Kurzweil explique que «nous allons devenir de plus en plus «non-biologiques», au point où les parties non-biologiques domineront et que les parties biologiques ne seront plus importantes. En fait, la partie machine, sera si puissante, qu’elle pourra totalement modeler et comprendre la partie biologique. Du coup, même si cette partie biologique était retirée, cela ne ferait aucune différence. (…) Nous aurons également des corps non biologiques – nous pouvons créer des corps virtuels et une réalité virtuelle aussi réaliste que la réalité réelle. Nous serons donc capables de changer de façon routinière de corps, mais aussi d’environnement, très rapidement. (6)

L’intelligence artificielle: Premier risque d’extinction de l’humanité?

Après ces aspects somme toute positifs, beaucoup de scientifiques s’interrogent sur les «bienfaits et surtout les limites de l’intelligence artificielle. Ainsi une équipe de scientifiques du Future of Humanity Institute et de la Fondation des enjeux mondiaux de l’université d’Oxford, a déterminé les différents scénarios qui pourraient entraîner une extinction de l’humanité. Douze événements apocalyptiques amèneraient la fin de toute vie sur Terre. Pour eux la grande majorité de ces causes pourrait être contrôlée par l’homme, comme c’est le cas pour le réchauffement climatique ou encore la guerre nucléaire. Ce ne sera pas évident s’agissant de l’intelligence artificielle qui peut échapper au contrôle humain. Parmi les autres causes possibles d’extinction de l’humanité, on peut retrouver, une immense pandémie, l’irruption d’un super-volcan, la collision de la Terre avec un astéroïde géant, ou encore un effondrement simultané de tous les fondements de notre société dû à de mauvaises politiques locales. Nous voilà prévenus… «Au lendemain d’une lettre ouverte de la communauté scientifique internationale, recueillant les signatures de grands noms du secteur comme Elon Musk fondateur de Tesla et Space X ou Jaan Talinn, co-fondateur de Skype, l’analyse de l’équipe d’Oxford conforte un point crucial: il est indispensable de développer l’intelligence artificielle avec précaution et dans une démarche positive pour l’humanité. Car si, selon les chercheurs, l’élaboration de machines toujours plus intelligentes pourrait mener l’humanité à sa perte (dans un scénario très proche de celui de la trilogie «Matrix»), il est également avéré que cette même intelligence artificielle pourrait être l’outil le plus adéquat pour empêcher les autres possibilités d’apocalypse imaginées par les scientifiques. (7)

Intelligence artificielle: Pourquoi avoir peur?

Les progrès de l’intelligence artificielle menacent la survie de l’espèce. C’est en tout cas les avis autorisés de Bill Gates, Stephen Hawking et Elon Musk. Quel est le point commun entre Stephen Hawking, Bill Gates et Elon Musk? Le scientifique, le co-fondateur de Microsoft, et celui de Tesla et SpaceX pensent que l’intelligence artificielle constitue une menace pour l’humanité. ««Je ne comprends pas dit Bill Gates pourquoi les gens ne sont pas inquiets.» «Je suis de ceux qui s’inquiètent de la super-intelligence. Dans un premier temps, les machines accompliront de nombreuses tâches à notre place et ne seront pas super-intelligentes. Cela devrait être positif si nous gérons ça bien. Plusieurs décennies plus tard cependant, l’intelligence sera suffisamment puissante pour poser des problèmes. Je suis d’accord avec Elon Musk et d’autres, et je ne comprends pas pourquoi les gens ne sont pas inquiets».» (8)

 «Elon Musk joue depuis quelque temps le rôle du Cassandre de l’intelligence artificielle. ‘Je pense que nous devrions être très prudents. Si je devais deviner ce qui représente la plus grande menace pour notre existence, je dirais probablement l’intelligence artificielle. Je suis de plus en plus enclin à penser qu’il devrait y avoir une régulation, à un niveau national ou international, simplement pour être sûr que nous ne sommes pas en train de faire quelque chose de stupide. Avec l’intelligence artificielle, nous invoquons un démon ».» (8)

«Le célèbre physicien Stephen Hawking, se montre lui aussi pessimiste. «Réussir à créer une intelligence artificielle serait le plus grand événement dans l’histoire de l’homme. Mais ce pourrait aussi être le dernier», prévient-il. Ou encore: «L’impact à court terme de l’intelligence artificielle dépend de qui la contrôle. Et, à long terme, de savoir si elle peut être tout simplement contrôlée». Mais le plus préoccupant, ce n’est pas cela. C’est la possibilité que la machine se retourne contre l’homme, non parce qu’elle aurait acquis comme par magie une conscience maléfique, mais parce que les capacités de calcul limité des programmeurs ne peuvent pas éviter l’apparition d’effets pervers.» (8)

«Une super-intelligence artificielle pourrait employer des moyens, logiques mais pervers et dangereux, d’atteindre son but (…) Ce genre de bug est inévitable, selon Gérard Berry, informaticien et professeur au Collège de France. Dans une interview à Rue89, il explique: «L’homme est incomplet, incapable d’examiner les conséquences de ce qu’il fait. L’ordinateur, au contraire, va implémenter toutes les conséquences de ce qui est écrit. Si jamais, dans la chaîne de conséquences, il y a quelque chose qui ne devrait pas y être, l’homme ne s’en rendra pas compte, et l’ordinateur va foncer dedans. C’est ça le bug.» (7) L’astrophysicien Stephen Hawking persiste: Pour lui,: «L’intelligence artificielle (IA) est une menace pour le genre humain. L’astrophysicien avait déjà indiqué ses craintes dans une tribune cosignée avec trois autres chercheurs en mai dernier. Interrogé par la BBC le savant estime que «le développement de l’intelligence artificielle pourrait signifier la fin de le genre humain». Cet avertissement venait en réponse à une question sur la technologie qu’il utilise pour communiquer, qui implique une des formes de base de l’intelligence artificielle.» (9)

«Tout en saluant l’utilité de cette nouvelle technologie, le professeur Hawking dit «craindre les conséquences de la création d’un outil qui pourrait égaler ou dépasser les humains». Ce type de technique ‘pourrait se lancer seule et se reproduire, à une vitesse accélérée ». ‘Les humains, limités par la lenteur de leur évolution biologique, ne pourraient pas rivaliser et seraient dépassés ».» (9)

Face à ces dangers, la communauté scientifique se mobilise. A la suite d’une conférence internationale organisée par l’Institut du Futur de l’Humanité, le 2 janvier 2015, l’Institut a publié une lettre ouverte pour inciter le monde de la recherche à ne pas se concentrer uniquement sur le développement des capacités de l’intelligence artificielle, mais aussi sur ses bénéfices pour la société et la constitution de garde-fous. Ces technologies sont à l’évidence utiles mais demandent un temps pour accepter de les intégrer dans l’environnement. L’assistance à l’humain dans des tâches répétitives et usantes ou pour accompagner moralement des personnes isolées est positive.

La place des robots dans notre vie quotidienne est inéluctable: l’éducation des enfants dès la naissance, les actes de chirurgie, la production des biens de consommation. Il faut cependant faire attention que ces objets vivants ne soient pas amenés à nous «échapper» en prenant des décisions à notre place. S’agissant de l’immortalité promise dans trente ans, elle n’aura pas les aspects actuels. Les trans-humanistes nous promettent le téléchargement d’un disque dur de tout ce qui existe dans le cerveau. Bienvenu dans le monde d’Orwell où les biens nés, les riches et les puissants resteront immortels. Les autres resteront esclaves et serviront continuellement de variable d’ajustement. Ainsi ira le monde que nous promet une science prométhéenne à  moins d’une prise d conscience universelle où l’égoïsme fait place à l’empathie d’autant plus nécessaire que nous sommes embarqués sur le même vaisseau. A trop jouer avec le feu, on risque de perdre  ce qui est notre patrimoine le plus précieux ; notre humanité.

Professeur Chems Eddine Chitour

Ecole Polytechnique Alger

1. http://pulse.edf.com/fr/les-objets-intelligents-deviendront-ils-vivants?utm_ source=Futura-Sciences&utm_medium=Emailing&utm_campaign=ExpertHeudin

2.http://pulse.edf.com/fr/bienvenue-dans-la-maison-smart

3.http://pulse.edf.com/fr/la-maison-de-retraite-de-demain

4.http://pulse.edf.com/fr/un-cerveau-artificiel-en-2050

5.fandeloup http://fandeloup.centerblog.net/6531169-les-10-technologies-qui-ne-doivent-jamais-voir-le-jour   14/09/2014

6.http://www.agoravox.fr/actualites/technologies/article/2045-l-homme-sera-immortel-147343

7.http://www.dailymail.co.uk/sciencetech/article-2953478/12-ways-world-end-likely-causes-Apocalypse-identified-scientists-include-mega-virus-nuclear-holocaust-SUPERVOLCANO.html jeudi 19 février 2015

8.Raphaële Karayan 02/02/2015 http://lexpansion.lexpress.fr/high-tech/intelligence-artificielle-attention-danger-meme-bill-gates-a-peur_1647411.html?

9.Catherine Gouëset 02/12/2014  http:// www.lexpress.fr/actualite/sciences/pour-stephen-hawking-l-intelligence-artificielle-menace-le-genre-humain_1628230.html #ZoQYRd9z0T5 JDKaG.99

 

Article de référence : http://www.lexpressiondz.com/chroniques/analyses_du_professeur_ chitour/212890-une-arme-qui-pourrait-detruire-l-humanite.html



Articles Par : Chems Eddine Chitour

Avis de non-responsabilité : Les opinions exprimées dans cet article n'engagent que le ou les auteurs. Le Centre de recherche sur la mondialisation se dégage de toute responsabilité concernant le contenu de cet article et ne sera pas tenu responsable pour des erreurs ou informations incorrectes ou inexactes.

Le Centre de recherche sur la mondialisation (CRM) accorde la permission de reproduire la version intégrale ou des extraits d'articles du site Mondialisation.ca sur des sites de médias alternatifs. La source de l'article, l'adresse url ainsi qu'un hyperlien vers l'article original du CRM doivent être indiqués. Une note de droit d'auteur (copyright) doit également être indiquée.

Pour publier des articles de Mondialisation.ca en format papier ou autre, y compris les sites Internet commerciaux, contactez: [email protected]

Mondialisation.ca contient du matériel protégé par le droit d'auteur, dont le détenteur n'a pas toujours autorisé l’utilisation. Nous mettons ce matériel à la disposition de nos lecteurs en vertu du principe "d'utilisation équitable", dans le but d'améliorer la compréhension des enjeux politiques, économiques et sociaux. Tout le matériel mis en ligne sur ce site est à but non lucratif. Il est mis à la disposition de tous ceux qui s'y intéressent dans le but de faire de la recherche ainsi qu'à des fins éducatives. Si vous désirez utiliser du matériel protégé par le droit d'auteur pour des raisons autres que "l'utilisation équitable", vous devez demander la permission au détenteur du droit d'auteur.

Contact média: [email protected]