Retour vers l'accueil de la catégorie des livres

• Auteur : Jean-Gabriel Ganascia
• Éditeur : Seuil
• Collection : Science ouverte
• Date de parution : 04/03/2022
• https://www.seuil.com/ouvrage/servitudes-virtuelles-jean-gabriel-ganascia/9782021440317

Nous ne vivons plus dans les fers. Pourtant, nous le constatons, nous ne sommes pas vraiment libres ; nous nous prenons de plus en plus souvent aux rets du numérique dont nous devenons captifs. Les flux de données – textes, images, sons – qui attestent, trahissent, influencent nos vies affectives, personnelles et professionnelles, sont manipulés à notre insu par les techniques de l’intelligence artificielle. Il en résulte une évolution majeure de la condition humaine, qui rend nécessaire et urgente une réflexion sur les conséquences politiques, sociales et même morales des technologies de l’information et de la communication.

Cet essai vif, original et engagé vise à faire le point sur ces questions. Passant au crible la vulgate « éthique » usuelle, Jean-Gabriel Ganascia en dévoile les limites. Car, pour louables que nous apparaissent les principes invoqués, les avis rendus par les comités de régulation n’aboutissent le plus souvent qu’à des recommandations vaines qui nous laissent impuissants face au monde qui se fait jour sous nos yeux ; pire, elles font souvent écho à des craintes caduques, tout en éludant les risques patents. Nous invitant à ne pas nous reposer sur des doctrines morales convenues, l’auteur nous offre un marteau pour heurter les principes éthiques qui les fondent, les écouter résonner et entendre leur plénitude, ou leur éventuelle vacuité.

Jean-Gabriel Ganascia est professeur à Sorbonne Université, où il mène des recherches sur l’intelligence artificielle au LIP6. Il a présidé le Comité d’éthique du CNRS et a déjà publié divers ouvrages au Seuil, dont le précurseur L’Âme machine (1990) et Le Mythe de la Singularité (2017), qui a connu un réel succès et reçu le prix Roberval.

• Auteurs : Pierre Rabhi & Juliette Duquesne
• Éditeur : Presses du Châtelet
• Date de parution : 06/05/2021
• Collection : Carnets D'alerte
• Voir la fiche complète sur le wiki...

Pour un monde moins numérique et plus éthique

Le nouveau « Carnet d’alerte » de Pierre Rabhi et Juliette Duquesne s’attaque aux dérives de l’intelligence artificielle, à la protection de nos données numériques et à l’influence néfaste des Gafam.

Que cache au juste l’intelligence artificielle ? Pierre Rabhi nous rappelle qu’elle est avant tout fille de l’aptitude humaine. Les ordinateurs, en effet, n’ont ni intelligence propre ni états d’âme : ils sont surtout d’incroyables machines à calculer, à « avaler » des données. Les entreprises rivalisent d’imagination pour les récolter afin de cibler leur publicité. Certains États les utilisent pour surveiller les citoyens. L’art de l’indiscrétion est ainsi généralisé.

Présentée comme la solution idéale à de nombreux maux, l’intelligence artificielle a toutefois des limites, dont une essentielle : la pollution liée au numérique.

Juliette Duquesne a interrogé plus de quatre-vingts spécialistes du monde entier. Son enquête montre que l’IA, mise en œuvre dans de multiples secteurs de notre société, présente des risques insidieux que la plupart d’entre nous ignorent.

Est-il possible de construire un monde numérique moins envahissant, plus sobre, libre et convivial ? Des solutions existent, déjà expérimentées par la société civile, que ce carnet propose de partager.

Lettres aux humains qui robotisent le monde

• Auteur : Célia Izoard
• Éditeur : Éditions de la Dernière Lettre
• Date de parution : 22/10/2020
• Voir la fiche complète sur le wiki...

Les véhicules autonomes sont-ils compatibles avec la lutte contre le changement climatique ? Qui veut des robots-compagnons pour s’occuper des personnes âgées ? L’usine automatisée est-elle le rêve des employés, ou celui des chefs d’entreprise ?

Interpeller directement des chercheurs, ingénieurs et startuppers sur les implications politiques de leur activité, tel est l’objet de ce livre, composé de lettres ouvertes rédigées dans un style piquant, qui mêle la satire et l’analyse. Célia Izoard ouvre ici un dialogue avec les concepteurs des nouvelles technologies pour les interroger sur le sens de leur travail et analyser l’impact social et écologique des grands projets industriels de la décennie, dans un monde en proie à la crise climatique et à l'exploitation au travail. Elle les enjoint à « changer de métier », à l'instar d’Olivier Lefebvre, salarié d'une start-up de véhicules autonomes qui raconte à la fin de l'ouvrage son chemin vers la démission.

Célia Izoard est journaliste au sein de la revue Z et de Reporterre. Dans ses enquêtes et ses analyses, elle élabore une critique des nouvelles technologies au travers de leurs impacts sociaux et écologiques.

• Auteur : Serge Tisseron
• Editeur : Les Liens qui Libèrent
• Date de parution : 20/05/2020
• http://www.editionslesliensquiliberent.fr/livre-L_emprise_insidieuse_des_machines_parlantes-9791020908421-1-1-0-1.html

Enceintes connectées, chatbots, assistants vocaux… Google, Amazon, Facebook et Apple ne cachent pas leurs ambitions de faire de ces nouveaux outils domestiques un cheval de Troie capable de capturer nos données les plus intimes.
Mais, au-delà de l’atteinte à notre vie privée, les machines parlantes inaugurent une révolution anthropologique majeure qui touche au coeur même de notre humanité. Le fonctionnement mental, la fabrication des liens, l’attachement et l’organisation sociale en seront bouleversés. Et plus leur intelligence émotionnelle et sociale s’affinera, plus la distinction entre humains et machines s’estompera, avec la possibilité pour leurs fabricants d’influencer nos comportements, nos émotions, voire nos pensées…
De ce que nous sommes prêts à accepter aujourd’hui dépendra ce que nous vivrons demain.

Serge Tisseron est psychiatre et docteur en psychologie, membre de l’Académie des technologies.
Il est l’auteur d’une trentaine d’essais, dont 3-6-9-12 : apprivoiser les écrans et grandir (Érès).

• Auteur : Laurence Devillers
• Éditeur : L'observatoire
• Date de parution : 11/03/2020
• https://www.editions-observatoire.com/content/Les_robots_%C3%A9motionnels

Il faut nous y préparer : demain, robots, agents conversationnels (chatbots) et autres poupées humanoïdes vont détecter nos émotions avec de plus en plus d'acuité. Si nous sommes malheureux, ils nous remonteront le moral ; si nous sommes seuls, en difficulté, ils se feront aidants. Ces « amis artificiels » vont prendre une place grandissante dans la société.

Or ils n'ont ni émotions ni sentiments, ni hormones de désir et de plaisir, ni intentions propres. À l'instar de l'avion qui ne bat pas des ailes comme un oiseau pour voler, nous construisons des machines capables d'imiter sans ressentir, de parler sans comprendre et de raisonner sans conscience. Si leur rôle peut être extrêmement positif, notamment dans le domaine de la santé, les risques de manipulation sont par ailleurs réels : dépendance affective, isolement, perte de liberté, amplification des stéréotypes (80 % de ces artefacts ont des voix, des noms – Alexa, Sofia – et des corps de femmes, qui en font des assistantes serviles ou des robots sexuels)…

Seront-ils un prolongement de nous-mêmes ? Jusqu'où irons-nous pour programmer une émergence de conscience artificielle ? Et l'éthique dans tout ça ? Mêlant technologie, philosophie et neurosciences, Laurence Devillers pose les questions centrales de responsabilité sur l'application de ces robots « émotionnels » au sein de la société et les enjeux qu'ils représentent pour notre dignité humaine.

Professeure à l’université Paris-Sorbonne et chercheuse au Laboratoire d’informatique pour la mécanique et les sciences de l’ingénieur (Limsi) du CNRS, Laurence Devillers dirige l’équipe de recherche Dimensions affectives et sociales dans les interactions parlées. Ses domaines de recherche portent principalement sur l’interaction homme-machine, la détection des émotions, le dialogue oral et la robotique affective et interactive.

Voyage d'une scientifique au pays des algorithmes

• Auteur : Aurélie Jean
• Éditeur : Éditions de L'Observatoire
• Date de parution : 13/11/2019
• Voir la fiche complète sur le wiki...

Disponible en livre de poche chez LGF (04/11/2020)

Qui sont ces « algorithmes » qui bouleversent notre quotidien ? Que se trouve-t-il de l’autre côté de l’iceberg mathématique ?
« Algorithmes » : voilà un mot décrié, que beaucoup pensent comprendre, mais que peu savent manier. Il fallait bien une spécialiste du code et des équations pour nous guider à travers ce véritable voyage en terre inconnue de modélisation numérique.

Pour l’éminente scientifique et entrepreneure Aurélie Jean, pourtant, rien de plus simple, de plus lisible qu’une ligne de code : la promesse de comprendre, par la virtualisation des phénomènes, la vie elle-même ; l’ensemble des phénomènes physiques, économiques ou sociétaux – de tout système, vivant ou inerte. Écrire un algorithme, c’est dessiner un chemin de résolution pour un problème donné, un moyen précis et fiable d’accéder à la réponse recherchée.

Le cocréateur de Siri déconstruit le mythe de l'IA !

• Auteur : Luc Julia
• Éditeur : First
• Date de parution : 24/01/2019
• https://www.lisez.com/livre-grand-format/lintelligence-artificielle-nexiste-pas/9782412043400

Disponible en livre de poche chez J'ai Lu (16/09/2020)

Le document rare et l'incroyable parcours d'un inventeur français, qui à l'âge de neuf ans avait déjà construit un robot pour faire son lit et a ensuite été l'un des deux créateurs de Siri. Son objectif ici : tordre le cou aux idées reçues et aux fantasmes qui entourent l'IA aujourd'hui.

Vous ne comprenez rien à l'intelligence artificielle (IA) ? Vous avez peur que de méchants robots prennent le pouvoir et finissent par contrôler le monde ? Vous vous intéressez à l'IA et aux nouvelles technologies, mais vous aimeriez entendre un autre son de cloche ? Alors ce livre est pour vous !

“ Tout est parti d'un immense malentendu. En 1956, lors de la conférence de Dartmouth, John McCarthy a convaincu ses collègues d'employer l'expression « intelligence artificielle » pour décrire une discipline qui n'avait rien à voir avec l'intelligence. Tous les fantasmes et les fausses idées dont on nous abreuve aujourd'hui découlent de cette appellation malheureuse.
Dans ce livre, je vous invite à me suivre, de mon petit village près de Toulouse à la Silicon Valley, sur les traces de cette fameuse « intelligence artificielle » à propos de laquelle on entend dire tant de bêtises, pour comprendre de quoi il s'agit exactement et anticiper ce qu'elle peut nous réserver à l'avenir.
Car aujourd'hui je l'affirme haut et fort : l'intelligence artificielle n'existe pas ! ”

Dr. Luc Julia est l'un des deux créateurs de l'assistant vocal d'Apple, Siri. Il est aujourd'hui Senior Vice-président et Chief Technical Officer du tout nouveau laboratoire d'intelligence artificielle de Samsung (SAIL) à Paris.

Site Web de Luc Julia ⇒ http://lucjulia.com/

• Auteur : Cathy O'neil
• Editeur : Les Arènes
• Date de parution : 07/11/2018
• http://www.arenes.fr/livre/algorithmes-la-bombe-a-retardement/

Qui choisit votre université ? Qui vous accorde un crédit, une assurance, et sélectionne vos professeurs ? Qui influence votre vote aux élections ? Ce sont des formules mathématiques.
Ancienne analyste à Wall Street devenue une figure majeure de la lutte contre les dérives des algorithmes, Cathy O’Neil dévoile ces « armes de destruction mathématiques » qui se développent grâce à l’ultra-connexion et leur puissance de calcul exponentielle. Brillante mathématicienne, elle explique avec une simplicité percutante comment les algorithmes font le jeu du profit.
Cet ouvrage fait le tour du monde depuis sa parution. Il explore des domaines aussi variés que l’emploi, l’éducation, la politique, nos habitudes de consommation. Nous ne pouvons plus ignorer les dérives croissantes d’une industrie des données qui favorise les inégalités et continue d’échapper à tout contrôle. Voulons-nous que ces formules mathématiques décident à notre place ? C’est un débat essentiel, au cœur de la démocratie.

Traduit de l’anglais (États-Unis) par Sébastien Marty.

• « Le manuel du citoyen du 21e siècle », Financial Times
• « Un livre fascinant et profondément perturbant », Yuval Noah Harari, auteur de Sapiens

• Auteurs : Gilles Dowek et Serge Abiteboul
• Éditeur : Editions Le Pommier
• Date de parution : 19/01/2017
• Commentaire de lecture : https://www.philomag.com/les-livres/notre-selection/le-temps-des-algorithmes-21509
• https://www.editions-lepommier.fr/le-temps-des-algorithmes

Depuis quelque temps, les algorithmes sont sur toutes les langues. Et ils inquiètent autant qu’ils fascinent. Avec eux, nous passons facilement d’un extrême à l’autre: nous nous réjouissons qu’ils nous facilitent la vie, mais redoutons qu'ils nous asservissent…
Pour en finir avec cette vision manichéenne, cet ouvrage propose un nouveau regard sur notre époque, sur le temps des algorithmes.
Pour commencer, cessons de considérer les algorithmes comme des êtres mystérieux, dotés d’intentions maléfiques. Après tout, les algorithmes sont des créations de l’esprit humain. Ils sont ce que nous avons voulu qu’ils soient.
Les algorithmes sont avant tout des solutions, mais ces solutions ne sont pas neutres. S’ils sont à l’origine de transformations radicales des notions de travail, de propriété, de gouvernement, de responsabilité, de vie privée et même d'humanité, c’est à nous de décider de quel côté faire pencher la balance. Les algorithmes sont peut-être le premier outil à la mesure de nos aspirations. Cessons de les subir, en cherchant à les comprendre. C’est ainsi que nous pourrons être maîtres de notre destinée.