L’Université de la Singularité

La singularité technologique serait le vrai cataclysme qui nous guette: il adviendra presque naturellement quand les machines commenceront à s’auto-engendrer et se multiplier grâce à l’Intelligence Artificielle avant de nous engloutir. Curieusement ce sont les milliardaires du web qui financent des universités et des « think tanks » pour nous prévenir de ces dangers et trouver des solutions.

Dans « Le mythe de la singularité » J.-G. Ganascia démonte le discours de ces pompiers pyromanes qui prétendent protéger l’Humanité:

Ceux-là mêmes que l’on considère comme responsables du développement massif et accéléré des technologies de l’information nous avertissent des dangers majeurs que ces mêmes technologies font courir au reste de l’humanité.

La singularité technologique

La théorie de la singularité technologique s’inspire de la loi de Moore: depuis le début de l’informatique la capacité des processeurs et des mémoires ont doublé chaque année. On en déduit que la technologie connaîtra un progrès exponentiel, que dans un futur proche l’Humain pourra télécharger sa conscience dans une machine et que l’Intelligence Artificielle pensera à sa place. Certains imaginent devenir immortels, d’autres que les machines prendront le contrôle et nous asserviront.

Jean-Gabriel Ganascia
Jean-Gabriel Ganascia

C’est un mythe. La loi de Moore n’est qu’un constat temporaire, pas une loi scientifique. La capacité des processeurs atteint des limites physiques et le processeur quantique est encore loin d’être maîtrisé. L’Intelligence Artificielle a aussi ses limites, elle ne peut rien inventer: elle peut compiler des masses d’informations pour donner des statistiques et des tendances afin de nous aider à prendre une décision mais ses avis seront toujours donnés en fonction de l’analyse du passé et de l’entraînement subi par la machine pour qu’elle soit intelligente.

Devenir une machine

L'homme machine

Imaginons que je puisse télécharger ma conscience dans une machine dotée d’une super-intelligence pour l’éternité. On ne peut pas imaginer une vie plus ennuyeuse: tout sera parfait sauf que ma volonté ne me servira plus à rien puisque la machine me donnera toujours la meilleure solution: un plaisir éternellement satisfait.

Évidemment ce ne sera pas donné à tout le monde. Dans le Futur qu’on nous annonce inéluctable et que ces milliardaires veulent essayer de moraliser il y aura les hommes-machines et les autres mais ils n’y peuvent rien, c’est le progrès.

Les marchands de catastrophe

À l’Université de la Singularité on retrouve Google, Nokia, Autodesk; à l’Institut du Futur de la Vie c’est Elon Musk; Bill Gates, Stephen Hawking ont faits leur déclarations catastrophiques. J.-G. Ganascia s’interroge sur ces pompiers pyromanes et leurs motivations à cautionner des hypothèses aussi hasardeuses que la Singularité.

Une inquiétude sourde commencerait à tempérer l’enthousiasme de tous ces chercheurs éblouis par leurs propres réalisations; ils nous avertissent de changements inéluctables et prétendent chercher les moyens d’en amoindrir les conséquences néfastes. Les milliardaires du web sont inquiets, la technologie évolue tellement vite qu’aucun n’est assuré de sa place, ils doivent constamment ajuster leurs produits, essayer, s’excuser, consulter les avis de leurs clients… Ils doivent aussi soigner leur image. Pourtant la théorie de la Singularité est tellement anti-scientifique que tous ces chercheurs qui deviennent soudain presque religieux, c’est louche. Et puis ça semble de la mauvaise publicité, l’annonce des catastrophes à venir.

Université de la Singularité, Bordeaux France
Bordeaux – France

Ce serait de la publicité pour passer leur vrai message: c’est inéluctable

En affirmant que la technologie se déploie d’elle-même selon une loi universelle d’évolution ils se défaussent totalement de leurs responsabilités. Par pure philanthropie les plus éclairés d’entre eux cherchent à nous aider; ils sont mieux informés que les États pour faire notre bien et ils s’y activent.

Détourner notre attention

Le mythe de la singularité

Pour J.-G. Ganascia ce n’est qu’une diversion pour masquer les vrais enjeux. Les géants du web ne sont plus seulement dans l’économie, ils nous font subir des changements politiques majeurs en s’appropriant les fonctions de l’État. Avec la fable de la Fin de l’Histoire on nous conditionne à penser que c’est une Loi de la Nature mais c’est faux.

Car le combat qui se joue aujourd’hui c’est l’occupation des fonctions de l’État. La Santé, la Sécurité, l’Éducation, l’État Civil, le Cadastre, il y a des territoires à occuper, le premier arrivé est avantagé. L’analyse des données (big data) permet aux géants du web d’être beaucoup plus efficaces que les États et de les remplacer.

L’auteur donne quelques exemples. Les États ont des lois encadrant l’usage de la biométrie (reconnaissance faciale) mais n’importe qui peut les contourner, on trouve les informations sur le web. Pour l’état civil et la moralité on peut aussi trouver toute l’information avant d’embaucher quelqu’un (ou juste se renseigner sur son voisin) sans se soucier des lois locales. Facebook prépare la monnaie du futur, le Libra…

On n’aura bientôt plus besoin de gouvernements locaux inefficaces, les géants du web peuvent les remplacer et tout semble gratuit.

Le mythe de la singularité, Jean-Gabriel Ganascia – Seuil 2017

1 réflexion au sujet de “L’Université de la Singularité”

  1. Peut-être qe L’intelligence artificielle aurait décidé que les vtt ne sont pas un apport qui profitera à la communauté de Chertsey, Sarcasme, certes mais…
    Les avancées scientifiques profitent souvent à la société, l’intelligence artificielle en étant (pas toujours quand même). En cherchant un peu, il est aisé de trouver des situations le démontrant. Cependant, j’attribue à la science un petit côté pervers où elle n’existe que pour elle même, pour satisfaire l’appétit insastiable des chercheurs et garder des emplois. En mal de subventions gouvernementales, elle peut facilement être vendue à la cause capitaliste et nous faire croire que la voiture autonome est un bien commun en devenir.
    Et les tricheurs que sont Facebook et autres démagogues de ce genre continueront de sévir tant et aussi longtemps que la populasse (péjoration volontaire) persistera béatement à les idolâtrer parce que ça leur rapporte des « like ».
    Merci à Guillaume pour cette lecture.

Laisser un commentaire