Demain tout se passera en ligne, de manière connectée. Pour nous, individus, bien sur, mais également pour un nombre croissants d’objets à qui la connectivité apportera la capacité à produire et partager de la donnée et in-fine devenir intelligents, c’est à dire susceptibles a minima de recevoir des instructions de l’extérieur voire de prendre leurs propres décisions et les exécuter.

Un des enjeux majeurs qui va avec cette évolution est celui de la sécurité. Qu’on parle de voiture connectée, d’empreintes digitales, de paiement dématérialisé, le niveau de risque de nous connaissons aujourd’hui sera porté à une échelle encore jamais vue.

En effet les risques associés ne sont pas nouveaux en soi. On a déjà volé/détourné une voiture ou un avion, usurpé l’identité de quelqu’un détourné des moyens de paiement de manière frauduleuse. Ce qui va changer, par contre, c’est l’échelle à laquelle cela sera possible. Le professionnel du « car-jacking » peut faire au mieux une ou deux victimes par jour (et encore…), celui qui piratera des voitures connectées aura des centaines ou des milliers de cibles qu’il pourra traiter de manière quasi industrielle. Idem pour le nombre d’empreintes digitales à voler, de cartes bancaires à pirater.

Comme toujours en matière de sécurité informatique la question n’est pas de savoir si un système est inviolable ou non mais quels efforts et combien de temps il faut pour le violer. Voitures, avions, moyens de paiement seront donc violés avec les conséquences qu’on imagine. La question qui se pose dès lors est de savoir si nous sommes prêts à considérer cela comme un aléa inévitable ou acceptable ou si, vu l’enjeu, nous le considérerons comme un risque inacceptable.

Mais il n’y a pas que la dimension « hacking » qui compte en matière de sécurité. Il y a également le simple dysfonctionnement. Ce qui me rappelle un échange que j’ai eu à propos des livraisons par drone. Imaginons que la pratique se généralise un jour ou l’autre en agglomération, il ne fait aucun doute qu’on aura un jour ou l’autre des accidents de drones. Quel impact si un drone, même léger, chargé d’un paquet, même léger lui aussi, fait une chute de 300m sur la foule ? Considérerons nous qu’il s’agit d’un risque acceptable ou refuserons nous d’avoir un ou deux blessés graves, voire pire, chaque semaine ? En tout cas le sujet est réel et on est déjà passés une paire de fois à deux doigts de la catastrophe.

Nous nous retrouvons un peu comme dans la première moitié du siècle dernier. L’innovation était forte et les dégâts collatéraux nombreux jusqu’à ce qu’on arrive à un degré de maitrise satisfaisant. Mais deux points diffèrent par rapport à ce que nous vivons aujourd’hui :

– l’appétence pour le risque était forte à l’époque. Personne ne prendrait plus aujourd’hui les risques pris par les premiers aviateurs, par ceux qui luttaient contre le mur du son, par les premiers astronautes qui confiaient leur vie à des ordinateurs moins puissants qu’une calculette de poche aujourd’hui. On partait de tellement loin en médecine qu’on était prêt à tester vaccins et médicaments avec des protocoles qui ne seraient plus tolérables aujourd’hui. Bref, on apprenait en marchant et on trouvait ça normal. Aujourd’hui nous sommes à l’ère de l’aversion au risque et à l’époque du principe de précaution et la notion d’aléa inévitable a disparu de notre référentiel de pensée.

– l’échelle du risque n’a rien à voir. Il était circonscrit à ceux qui voulaient le prendre. Ici on parlera directement en milliers, millions ou centaines de millions de personnes impactées.

En fait ici la notion de risque est secondaire, c’est la confiance dans ce monde nouveau qui se construit sous nos yeux qui est en jeu. On serait capables aujourd’hui de quasiment poser un avion sans présence humaine dans le cockpit. Alors pourquoi ne le fait on pas ? Parce que quand bien même le système serait 1000 fois plus sur qu’avec des humains, le premier accident remettrait en cause la confiance dans le système et dans toute l’industrie. On préfèrera encore pendant longtemps un humain le moins imparfait possible à la machine quasi parfaite. Ce qui nous renvoie aussi au débat sur les robots tueurs : avant on aurait traité la question quand elle se poserait, aujourd’hui on demande – et à raison – des garanties largement en amont.

Sur des sujets critiques avec, de plus, des effets réseau forts, si l’aléa n’est pas considéré comme normal (avec ses conséquences) le première problème entrainera la chute du secteur. Point final.

Nul doute que tout ce qui en cours d’expérimentation se généralisera, et surement à une échelle que nous n’imaginons même pas. Et nous sommes surement incapables d’imaginer ce que 2050 sera. Par contre une chose est certaine, il faudra du temps pour qu’on « lâche » totalement les machines dans la nature à grande échelle. Pour qu’un simple aléa ne vienne pas d’un coup bloquer un progrès en le rendant socialement inacceptable.

 

Crédit Image : Trust by Yuriy Seleznev via Shutterstock