La France désormais au capital d'IBM ?

Alexis DE GUILLEBON

21 ans,
Grenoble École de Management
Prix spécial du Jury

Alexis de Guillebon

Accord historique ce 8 décembre 2035 entre le géant du cognitive computing1, IBM, et le gouvernement français : Watson2 devient un outil au service de la démocratie. Les Français ne cachent pas crainte d’un déclin progressif de l’Etat avec le transfert de ses prérogatives à une entreprise.

La France est aujourd’hui le cinquième pays au monde à se doter d’une Intelligence Artificielle (IA), Watson, comme organe décisionnel. Cet accord marque l’aboutissement de plusieurs années de négociations entre le gouvernement français et les leaders en matière d’intelligence artificielle : Google, IBM, Facebook, Microsoft3.

L’année 2019 marque le début de cette transition. La crise économique et sociale qui éclate en France oblige alors le gouvernement provisoire à procéder à des réformes. Première étape : le domaine de la sécurité prédictive4 afin de rétablir un environnement propice à la croissance. En 2024, un contrat sur la gestion des tâches administratives est signé, afin de remplacer les fonctionnaires en départ à la retraite par Watson5.

Fort de ces premiers succès, le domaine de la santé est la prochaine cible du géant bleu. En constante évolution, Watson est implanté au cœur du projet d’un hôpital entièrement automatisé. D’abord utilisé à des fins de diagnostic, les avancées technologiques réalisées6, notamment en matière de nanotechnologies et de nanomédecine7, ont élargi son champ d’application à de nombreux services, tels la chirurgie et la neurologie. Mais tandis que l’intelligence artificielle d’IBM s’impose dans plusieurs secteurs, la CGT et la FOSPS8 font part de leur vive inquiétude quant à l’avenir du corps médical d’une part, mais surtout du rôle grandissant d’une entreprise dans le domaine de la santé publique.

Une responsabilité juridique

Avec l’importance croissante des IA dans le domaine de la santé, la question de leur responsabilité a fait l’objet d’un vif débat : comment déterminer qui, de l’IA ou de l’entreprise qui l’a vendue, est responsable en cas d’erreur médicale ? D’une part l’entreprise est à l’origine du programme qui donne à l’IA ses facultés, cependant l’IA utilise une méthode cognitive : elle apprend elle-même de ses expériences, par le contenu mis à sa disposition par ses utilisateurs et prend des décisions. Ainsi, comment la traiter juridiquement ?

Finalement, un statut propre aux IA a été introduit dans le droit français en 2029, faisant d’elles des entités autonomes soumises à des règles juridiques. D’autre part, des clauses contraignantes obligent désormais les concepteurs d’IA à mettre au point des systèmes prévenant la récidive par d’autres IA.

Un représentant sous le feu des contestations

Le gouvernement français signe aujourd’hui, le 8 décembre 2035, un nouveau contrat avec IBM, implantant Watson dans les conseils départementaux et régionaux, lui conférant un statut consultatif dans un premier temps, puis décisionnel dans un second temps.

Les partisans de cette technologie y voient un progrès majeur pour la démocratie. En effet, l’IA n’est pas soumise aux affects humains et se soucie du bien commun selon les orientations souhaitées par les Français, sans subir l’influence de groupe de pression.

Cependant, en dépit des succès de Watson les français s’interrogent sur la disparition progressive de l’Etat au profit d’une IA détenue par une multinationale. Le collectif Human First, composé notamment du Docteur en Sociologie E. Parnet, met en garde contre « (la) mort programmée de la Souveraineté Nationale ». Plusieurs collectifs appellent à manifester à Paris le 16 décembre prochain pour le soutenir.

Dreamwriter9 pour   BFM Business le 8/12/2035

Une fiction aux portes du réel

Ce futur hypothétique soulève plusieurs questions sur « l’humanité augmentée » et plus précisément sur la place de l’Etat.

Une révolution technologique s’annonce10. Dans les décennies à venir, les IA pourraient être présentes dans la quasi-totalité des services des entreprises, puis des Etats. Leurs capacités d’analyse dépassant déjà de loin celle de l’humain, elles trouveront une utilité partout où celui-ci peut être remplacé efficacement, apportant ainsi d’importants gains de productivité. Le remplacement des ouvriers par des robots sur les chaînes de montage, notamment dans l’industrie automobile, en témoigne.

L’augmentation spectaculaire de la quantité d’informations échangées par les objets connectés, les réseaux sociaux, l’actualité, combinée aux capacités d’analyse des IA, leur confère une capacité d’analyse du monde qui va bien au-delà de celle de l’être humain. Cette vision globale leur confère une légitimité dans la prise de décisions sur des problèmes précis plus ou moins complexes.

Ces changements pourraient d’ailleurs arriver bien plus vite que nous ne l’imaginons : personne n’avait vu venir la victoire d’une IA face au champion européen du jeu de GO11.

Un inquiétant « Etat 2.0 »

Cette transformation pourrait conduire à un transfert progressif des prérogatives de l’Etat12 à des entreprises. Le risque : un Etat devenu simple client des leaders des nouvelles technologies, induisant un nouveau rapport de force dans lequel l’Etat perdrait sa légitimité à légiférer et à réguler les marchés sur son territoire.

Quelques entreprises se retrouveraient ainsi « à la tête d’un Etat » et seraient en mesure d’influencer leur environnement : avantages fiscaux, constitution d’un monopole, allocation intéressée des ressources de l’Etat.

La perte progressive de la souveraineté nationale au profit d’une gestion par une IA serait une hypothèse crédible si elle venait à avoir un pouvoir décisionnel. Cependant, il serait envisageable de ne lui confier que des fonctions consultatives et de soumettre ses propositions au Parlement, ou par référendum.

L’idée d’une IA présidente agite visiblement les esprits : dans un article paru en février, un artiste présentait ainsi Watson comme candidat à la Présidence des Etats-Unis13.

Notes

  1. Le cognitive computing est la simulation d’une conscience humaine par un ordinateur, lequel est capable d’apprendre, de s’auto-former, d’adopter des comportements humains, de s’adapter. Il puise ses connaissances dans les bases de données qu’il apprend à interpréter. http://whatis.techtarget.com/definition/cognitive-computing
  2. Watson est l’intelligence artificielle développée par IBM. Il est présent dans l’ensemble des produits et services vendus par IBM. C’est aujourd’hui l’intelligence artificielle la plus avancée dans son domaine. Il est utilisé dans le domaine médical, météorologique, la finance, la sécurité, il apporte des solutions aux entreprises aussi bien qu’à des états aux Etats-Unis. http://www.ibm.com/smarterplanet/us/en/ibmwatson/what-is-watson.html
  3. Google, Facebook et Microsoft comptent parmi les plus avancés dans le domaine :
    http://www.lemonde.fr/pixels/article/2015/11/10/google-rend-accessible-a-tous-sa-technologie-d-intelligence-artificielle_4806683_4408996.html
    http://siliconvalley.blog.lemonde.fr/2015/12/12/google-et-facebook-ouvrent-les-vannes-de-lintelligence-artificielle/
    http://www.numerama.com/sciences/137710-toutes-les-api-microsoft-pour-lintelligence-artificielle.html
  4. Watson est actuellement utilisé dans le domaine de la criminalité. L’étude des bases de données lui permet de prévoir une situation à risque, permettant la mise en place d’un système dissuasif. http://www-01.ibm.com/software/analytics/spss/11/na/cpp/
  5. L’intelligence artificielle d’IBM apporte des solutions concrètes pour la défense, la gestion des transports publics, de la sécurité sociale. http://www-935.ibm.com/industries/government/social_services.html
  6. On peut raisonnablement supposer qu’avec l’aide d’outils spécifiques, de nombreuses opérations chirurgicales pourront être opérées par des IA. Le domaine de la santé bénéficie pleinement des nouvelles technologies :
    Scan corporel interne en 3D : https://www.visiblepatient.com/fr/

    Impression de tissu humain par des imprimantes 3D : http://www.science-et-vie.com/2016/02/la-construction-de-tissus-humains-par-imprimante-3d-devient-une-realite/

    Réparation de neurones : http://motherboard.vice.com/fr/read/des-ingenieurs-en-optique-ont-reussi-a-souder-des-neurones-pour-la-premiere-fois

    Le cognitive computing permet de voir des éléments détectés dans un autre cas à l’autre bout du monde sans que le chirurgien en ait connaissance. La base de données des IA pourrait ainsi donner beaucoup plus de précisions dans l’analyse des cas par l’analyse des précédents cas de figures de par le monde entier.
  7. Les nanotechnologies font référence à une méthode de construction atome par atome par l’utilisation de microscope à effet tunnel. IBM faisait la démonstration de la précision de cette technologie en réalisant en 2013 le « plus petit film du monde », uniquement constitué d’atomes. La nano médecine concerne l’utilisation de traitement ciblé dans l’organisme. http://territoires2040.datar.gouv.fr/spip.php?article224

    Autre exemple de nanotechnologie : les nanovoitures. La recherche bat son plein sur le sujet. A terme, elles pourraient apporter des molécules spécifiques à des cellules ciblées de l’organisme.
    http://www.cnrs.fr/inp/spip.php?article4121
  8. Syndicat du monde médical : http://www.fosps.com/
  9. Dreamwriter est un robot journaliste mis au point en Chine. https://humanoides.fr/2015/09/robot-journaliste-chinois/
  10. Le deep-learning est la base de cette révolution dans l’intelligence artificielle. C’est un système permettant à un robot d’apprendre sur la base d’un réseau de neurones artificiels numériques.
    http://www.lemonde.fr/pixels/article/2015/07/24/comment-le-deep-learning-revolutionne-l-intelligence-artificielle_4695929_4408996.html
  11. Cette victoire n’était pas attendue avant quelques années encore. Il existe au jeu de GO autant de possibilités qu’il y a d’atomes sur terre. http://fr.sputniknews.com/sci_tech/20160130/1021341576/go-champion-battu-ordinateur.html
  12. Les prérogatives de l’état sont des fonctions liées à l’Etat, comme le droit de légiférer, de prélever des impôts. http://www.vie-publique.fr/decouverte-institutions/institutions/approfondissements/qu-est-ce-que-etat.html
  13. Le site official watson2016 n’est malheureusement plus accessible, probablement pour des raisons de droit. Un porte-parole d’IBM a fait savoir que Watson n’était absolument pas en course pour la Maison Blanche et que ce n’est pas ce à quoi il tendait. https://www.inverse.com/article/11549-ibm-s-watson-supercomputer-will-not-be-running-for-president-in-2016 et http://www.lemonde.fr/pixels/article/2016/02/17/une-intelligence-artificielle-en-campagne-pour-la-maison-blanche_4866921_4408996.html