métro[zen]dodo

De l’« omniviolence » des États numérisés

Phil Torres, Nautilus :

Technology is, in other words, enabling criminals to target anyone anywhere and, due to democratization, increasingly at scale. Emerging bio-, nano-, and cyber-technologies are becoming more and more accessible. The political scientist Daniel Deudney has a word for what can result: “omniviolence.” The ratio of killers to killed, or “K/K ratio,” is falling. For example, computer scientist Stuart Russell has vividly described how a small group of malicious agents might engage in omniviolence: “A very, very small quadcopter, one inch in diameter can carry a one-or two-gram shaped charge,” he says. “You can order them from a drone manufacturer in China. You can program the code to say: ‘Here are thousands of photographs of the kinds of things I want to target.’ A one-gram shaped charge can punch a hole in nine millimeters of steel, so presumably you can also punch a hole in someone’s head. You can fit about three million of those in a semi-tractor trailer. You can drive up I-95 with three trucks and have 10 million weapons attacking New York City. They don’t have to be very effective, only 5 or 10% of them have to find the target.” Manufacturers will be producing millions of these drones, available for purchase just as with guns now, Russell points out, “except millions of guns don’t matter unless you have a million soldiers. You need only three guys to write the program and launch.” In this scenario, the K/K ratio could be perhaps 3/1,000,000, assuming a 10-percent accuracy and only a single one-gram shaped charge per drone.

Cet exemple me laisse pantois : ce ne sont pas cinq gus dans un garage qui pourront acheter et déployer trois millions de drones et trois tonnes d’explosifs. Ce genre d’attaques restera l’apanage des États et des organisations para- et pseudo-étatiques. Les réseaux terroristes ont d’ailleurs montré que l’effet des attaques diminue avec leur sophistication : la peur latente d’une attaque au couteau dans la rue est autrement plus efficace, dans le cadre d’une guerre psychologique larvée, qu’un vaste complot de détournement de vols commerciaux. L’une est imprévisible et cruellement arbitraire, l’autre peut être ruinée au moindre faux pas et vise des cibles « compréhensibles ».

Le spectre de l’« omniviolence » est agité par les tenants d’une forme de totalitarisme qui prétend régler les problèmes technologiques par un surplus de technologie. Torres cite Hobbes pour introduire Nick Bostrom, philosophe chantre du panoptique numérique. Voilà le véritable risque : qu’en pensant prévenir la fin de l’État, on crée un véritable Léviathan, un État qui ne serait plus l’expression de la volonté de ses membres, mais un monstre qui aurait une volonté propre. La véritable « omniviolence », c’est la tentation du contrôle absolu du contrat social, l’illusion d’une société rendue parfaite par l’abolition du libre arbitre.

C’est une violence qui vient de l’intérieur de l’État, des ministres issus d’un parti qui court après la droite, des maires qui craignent la déroute électorale. Les gouvernements commencent seulement à prendre la mesure des moyens de communication directs et synchrones, qui rendent possibles, pour la première fois de l’Histoire, la réalisation d’une démocratie de masse directe et synchrone. Et, donc, la tyrannie de l’opinion manipulée en direct. Le premier chemin est celui de l’ochlocratie, la volonté de la somme des parties que l’on croit être la volonté générale.

Mais un autre chemin est possible. Le rôle de l’État reste, au grand dam de ceux qui citent Benjamin Franklin à contremploi, d’assurer le cadre nécessaire à l’expression du contrat social. Armées de caméras de surveillance et de bases de données immenses, les démocraties illibérales prétendent régler jusqu’au contrat social lui-même. Les démocraties plus éclairées espèrent fournir les outils qui permettront de réaliser une véritable citoyenneté numérique. Kersti Kaljulaid, président de l’Estonie, Quartz :

Though the press has only recently been reporting on national identity programs, Estonians have had digital ID cards for nearly two decades. We can use these chip-enabled cards as an identification document while crossing borders in Europe, sign and timestamp documents, apply for different public services, pay fines and taxes online, query the registries, or simply send encrypted emails. It has therefore developed into a fully recognized online passport for our citizens.

As previously mentioned, new technologies are useless without the supporting legal framework to ensure their responsible use. People’s online signature, security, and rights are protected by law. At the same time, citizens have the responsibility to safeguard their ID card (and therefore their digital identity), meaning that if they let somebody else use it, then they also are legally answerable.

Nous avons encore le choix du chemin que nous voulons emprunter. Cela ne sera peut-être plus le cas dans quelques années.

Vous avez envie de discuter ? Envoyez-moi un courrier électronique. Vous voulez poursuivre la lecture ? Commencez ici. Vous vous sentez l’âme généreuse ? Offrez-moi un livre !