Éclairer le futur est notre métier

Pour transformer le monde il faut le comprendre

Prendre du recul pour réellement comprendre les concepts essentiels, les tendances lourdes de l’évolution en cours et décoder le flot permanent d’annonces des fournisseurs.

CES 2017 : Le CES qui pense pour vous !

On se souvient que le CES 2016 était celui des objets connectés, l’« internet of things » ou IoT pour les connaisseurs. Le CES 2017 – dans la continuité de son prédécesseur – commence quant à lui à nous donner une idée de ce que sera cette chaîne de valeur numérique qui se met en place en collectant toutes sortes de données grâce aux objets connectés, puis en les traitant et les analysant grâce au big data et de plus en plus d’intelligence artificielle pour enfin nous adresser toutes sortes de messages personnalisés et contextualisés sur notre smartphone, pilier de cet écosystème. Rien de bien nouveau, me direz-vous ! Oui, sauf que tous ces gens qui nous veulent du bien grâce à leurs produits ont compris que de nous connaître mieux que nous nous connaissons nous-mêmes ne suffit pas et que les meilleures recommandations faites hors contexte peuvent s’avérer totalement inefficaces tout simplement parce qu’elles tombent au mauvais moment. En effet, j’ai beau aimer la crème glacée et me trouver devant la vitrine d’un marchand de glace, si une offre de glace m’est faite à un moment où je rêve plutôt de marrons chauds parce que je suis dans la rue et qu’il fait -5°, non seulement une telle proposition sera inefficace mais en plus elle me donnera à penser que son auteur a encore de sérieux progrès à faire !

Notre sujet sera donc les IoT et l’intelligence artificielle, mais avant d’aller plus loin, il me semble important de faire la distinction entre deux grands usages de ces technologies. D’une part, il y a tous les usages qui visent à améliorer les activités industrielles, agricoles, financières, logistiques, etc. en un mot tous ceux qui contribuent à améliorer la qualité de ce qui est produit et à en diminuer le coût de production et tous ces usages ont en commun la mesure du physique ou du numérique et son optimisation rationnelle en temps réel grâce à une boucle de rétroaction ou en différé grâce au big data. D’autre part, il y a tous les usages qui visent à optimiser non pas la production ou la finance, mais qui visent plutôt à optimiser la société en rationalisant nos modes de vie et nos comportements en nous faisant consommer de façon la plus personnalisée possible, en optimisant nos déplacements, en nous « coachant » dans de nombreuses activités et en visant à assurer notre sécurité comme à veiller sur notre santé. Bien que les usages des IoT et de l’intelligence artificielle dans le monde des affaires constituent un vrai sujet à part entière – CES oblige – ce sera plutôt des usages dans la société civile dont je parlerai ici, et un simple coup d’œil sur les grands titres de la presse confirmera que les thèmes du CES 2017 ont bien été sur les objets connectés et le traitement des données associés, en termes de réseaux, de sécurité, de confidentialité, d’usage et de régulation, avec une prise en compte croissante – bien qu’encore très modeste – de préoccupations sociétales, politiques voire philosophiques. Cela dit, le CES reste tout de même le royaume des ingénieurs, toujours très enthousiastes et plutôt naïfs, et des businessmen tout aussi enthousiastes mais beaucoup moins naïfs.

Pour commencer, il nous faut parler réseau car tous ces objets dits connectés doivent l’être à un réseau directement ou indirectement via un autre appareil, et c’est là qu’intervient tout le discours sur la 5G, pas tant du point de vue du débit que de celui de la fiabilité et de la garantie de service. Le point est capital pour ce qui est de tous les objets impliquant la fameuse boucle de retour bien connue de l’industrie pour le pilotage en temps réel des équipements. Hors des murs des usines, il s’agira des voitures autonomes qui communiqueront de plus en plus entre-elles en V2V (« Vehicle To Vehicle ») et avec l’infrastructure en V2I (« Vehicle To Infrastructure »), de la santé connectée ou encore des loisirs avec les jeux, la réalité virtuelle et la vidéo qui – en plus d’êtres de grands consommateurs de bande passante – sont très sensibles à la latence et à la garantie de service des réseaux. A l’autre bout du fil, si je peux me permettre cette image, on trouvera les fameuses plateformes comme le Hub du groupe La Poste opéré par sa filiale DOCAPOST IoT dont le fonds de commerce est, comme son nom l’indique, d’être le concentrateur/répartiteur entre les objets et les fournisseurs de services comme l’illustre le QUB de la startup française Axible qui est un cube où chaque face permet en tapotant dessus d’appeler le service qui aura été associé à cette face du cube. Au risque de me répéter, je rappelle que ce sont ces plateformes qui seront au cœur de l’écosystème des objets connectés et je ne serai pas surpris outre mesure de voir certaines d’entre-elles se retrouver de par leur succès dans une position quelque peu oligopolistique à l’image des Uber et autres Airbnb.

Impossible de conclure sur les aspects réseau et plateforme sans parler de sécurité et de confidentialité. En ce qui concerne la sécurité, parce que les IoT grand public, pour des raisons économiques évidentes, présentent souvent de grandes faiblesses en matière de sécurité comme l’a démontré l’attaque en DDoS lancée contre les serveurs de Dyn en octobre dernier qui, en utilisant pour la première fois des objets connectés comme « ordinateurs zombis » a plongé toute une partie des USA dans les ténèbres numériques. À l'évidence des progrès importants sont à réaliser si nous souhaitons leur confier notre sécurité ou notre santé, cela dit le problème étant essentiellement technico-économique, je ne doute pas que ces progrès soient réalisables. Par contre, en matière de confidentialité, la question n’est pas technico-économique car c’est plutôt une affaire de confiance, et c’est ce qu’a bien compris La Poste avec son Hub qui s’appuie sur la confiance historique que lui accordent les Français pour proposer à ses clients et utilisateurs une gestion très fine de la confidentialité de leurs données, et c’est là je pense la voie à suivre.

Enfin, se pose la question de la confiance car, si on admet que tous ces objets connectés vont surveiller, « monitorer » comme disent les ingénieurs, notre corps, nos humeurs, nos désirs et prendre des décisions à notre place sur notre santé, notre sécurité ou nos envies, il est clair que la question de la confiance que nous leur accordons est cruciale. En effet, si je peux assez facilement accorder ma confiance sous la forme d’un pari peu engageant à un système qui me recommandera de visionner un film dont je n’ai pas entendu parler parce qu’il estime que cela correspond à mes goûts comme le fait régulièrement Netflix, il en va tout autrement s’il s’agit d’une voiture à laquelle je confie ma vie ou d’un système médical qui va me prescrire voire déclencher un traitement. Certes, et l’argument est réel, ces systèmes sont capables de « monitorer » un très grand nombre de capteurs, d’intégrer l’important flot continu de données qu’ils reçoivent et de l’analyser en temps réel à grands renforts d’intelligence artificielle afin de prendre des décisions optimales mais, à moins d’être un scientiste convaincu, leur ferez-vous confiance s’il s’agit de votre vie ? C’est déjà le cas me direz-vous quand je monte dans un avion de ligne dans lequel 9.000 capteurs environ sont ainsi « monitorés » en temps réel, ce à quoi je répondrais que ce n’est pas tout à fait la même chose car la décision de la confiance ne nous est pas explicitement posée et notre liberté de choix se limite à décider de monter ou non dans l’avion, à l’inverse avec la voiture autonome nous sommes plus explicitement confrontés à la question de confiance. Ainsi, si nous achetons un véhicule autonome, quelle confiance lui accorder quant à la décision qu’il prendra s’il doit choisir entre percuter un groupe d’enfants coupant inopinément notre trajectoire ou risquer notre vie en tentant de l’éviter ? C’est un vieux problème de philosophie expérimentale qui se pose ce genre de questions sous la forme d’expériences de pensée et dans notre exemple, la réponse est claire : quand ce n’est pas nous qui sommes dans la voiture nous avons en général une position utilitariste consistant à dire qu’il faut choisir la solution causant le moins de morts possibles sans considérations particulières pour le conducteur. On l’aura compris, si c’est nous le conducteur, on n’aura pas du tout le même avis et nous faisons généralement preuve d’une grande imagination pour justifier notre choix. Quoi de plus humain !

Si la santé n’est pas en reste, elle constitue néanmoins un cas particulier avec de plus en plus de systèmes travaillant en « Machine learning », capables de « lire » des milliers de revues scientifiques et de rapports cliniques, qui seraient 50% plus efficaces qu'un médecin classique et... 50% plus économiques. Face à de tels systèmes, la question de la confiance se pose de façon beaucoup plus prégnante car il ne s’agit plus d’une question hypothétique, mais d’une situation vécue, et ce plus particulièrement quand le diagnostic posé est inattendu car, entre le diagnostic qui constate une évolution d’une maladie que nous savons avoir ou pour laquelle nous savons avoir des prédispositions génétiques ou héréditaires et le diagnostic d’une maladie à laquelle on ne s’attend pas du tout, en termes de confiance, il y a tout un monde. En effet, dans cette dernière hypothèse, il s’agit d’accorder notre confiance à une décision dont nous ne connaissons ni ne comprenons les tenants et les aboutissants et qui nous concerne dans notre chair. Au-delà du mauvais jeu de mots, consistant à dire qu’il s’agit là de confiance aveugle, cela pose une vraie question sur ces objets connectés et l’intelligence artificielle qui savent mieux que nous ce qui est bon pour nous et décident pour nous. C’est un véritable retour à la médecine paternaliste où le médecin détient le savoir, sait ce qui est bien pour son patient et prend les décisions pour lui avec son seul serment d’Hippocrate comme garde-fous. À l'époque de l’internet et alors que dans le monde médical on parle de plus en plus d’un modèle délibératif fondé sur le dialogue entre le médecin et le patient, voilà un retour du paternalisme qui ne manque pas de nous interpeller.

On l’aura compris de la voiture intelligente à la santé connectée, en passant le smart home et toute une ribambelle d’objets connectés et de systèmes de recommandations, la société qui nous est proposée pose le problème de la relation entre science et démocratie. En effet, si l’on se souvient qu’historiquement la science a eu la responsabilité de décrire le réel et la politique celui de décider, face à la complexité croissante du monde réel combinée au pouvoir grandissant de la technologie, la séparation entre science et politique tend à s’estomper au profit de la science et au détriment du politique donc de la démocratie. Bien entendu, il ne s’agit pas d’interdire tout usage de ces technologies qui peuvent rendre d’immenses services, mais de réfléchir en amont à leur usage et sur les conditions de leur intégration si nous voulons éviter la république des algorithmes. C’est ainsi qu’en ce qui concerne l’algorithme d’orientation APB (Admission PostBac) utilisé par l’Éducation Nationale, le code a été mis à disposition de l’association ‘Droits des lycéens’ afin que soient connus les critères et les algorithmes utilisés. Seul bémol à l’affaire, ce n’est que six mois après que ‘Droits des lycéens’ en ait fait la demande et une injonction de la CADA (Commission d’Accès Aux Documents Administratifs) que l’Éducation Nationale s’est exécutée… Cet exemple est paradigmatique d’une situation de plus en plus fréquente, et l’Éducation n’est que la version édulcorée de ce qui se passe avec la société PredPol qui commercialise depuis 2011 le logiciel éponyme auprès des services de police d’une dizaine de villes américaines dont Los Angeles pour prédire la criminalité, et qui refuse toujours de soumettre ses algorithmes à l’analyse critique des universitaires qui ont en fait la demande au titre de la propriété industrielle alors qu’il s’agit d’une fonction régalienne. De même, alors que la gendarmerie française s’est doté depuis 2015 d’un logiciel similaire, à ma connaissance, elle n’en a pas publié les algorithmes.

Objets connectés et intelligence artificielle ne nous promettent pas de grands changements peu d’offres proposant de réels nouveaux usages, par contre ils nous promettent en toute discrétion un changement souterrain et profond de nos rapports au monde par un transfert et une concentration du pouvoir de décision vers la seule technologie. Comme toujours, ce ne sont pas les attitudes manichéennes, qu’elles soient pour ou contre, mais les compromis qui feront bouger les lignes car il y a de nombreux enjeux et de nombreux acteurs. Par contre, je citerai une des conférencières qu’il m’a été donné d’écouter lors de ce CES, le Dct Vivienne MING neurologue et fondatrice de Socos société spécialisée dans l’intelligence artificielle, qui lors d’une table ronde a, à plusieurs reprises, mis en garde ses débateurs sur le fait que si tout le monde reconnaît la nécessité d’une dimension éthique, les pressions économiques sont toujours très fortes.

 Las Vegas le 8 janvier 2017

 Henri GILABERT

Copyright © 2017 Synthèse Informatique 
167 Chemin des Combes 74110 Essert-Romand - tel : 04.50.83.06.79 - Mobile : 06.75.23.84.11

Mentions légales    -    Politique de confidentialité    -    Plan du site

Traduire

frendeitptrues

Les Tendances de l'informatique, le séminaire suivi par plus de 30.000 professionnels.

En savoir plus !

Rechercher

CES 2017

Un CES qui pense pour vous !

Regard sur le CES 2017

Témoignages

Ils ont assisté à nos séminaires et ils donnent leurs avis.

Ce que les participants en pensent

Programme les tendances de l'informatique

Aller au haut