Cabinet des horreurs

Essor des machines et prise du pouvoir par l'intelligence artificielle. Un monde de surveillance totale et de contrôle social. Guerre nucléaire et dégénérescence de la civilisation. De nombreuses visions sombres du futur, dessinées il y a de nombreuses années, auraient dû se produire aujourd'hui. Et pendant ce temps nous regardons en arrière et il semble qu'ils n'étaient pas là. Es-tu sûr?

Il existe un répertoire assez stéréotypé de musique populaire prophéties dystopiques (à propos de la vision noire du futur). En plus des plus courantes associées à la destruction de l'environnement et des ressources naturelles, il est largement admis que les dernières technologies nuisent à la communication interpersonnelle, aux relations et à la société.

L'espace virtuel remplacera trompeusement la participation réelle au monde. D'autres visions dystopiques voient le développement technologique comme un moyen d'accroître les inégalités sociales, de concentrer le pouvoir et la richesse entre les mains de petits groupes. Les exigences élevées de la technologie moderne concentrent les connaissances et les compétences dans des cercles étroits d'individus privilégiés, augmentent la surveillance des personnes et détruisent la vie privée.

Selon de nombreux futuristes, une productivité plus élevée et un plus grand choix visible peuvent nuire à la qualité de la vie humaine en provoquant du stress, en mettant en danger des emplois et en nous rendant de plus en plus matérialistes face au monde.

L'un des fameux « dystopiens » technologiques, James Gleick, donne un exemple apparemment trivial d'une télécommande de télévision en tant qu'invention classique qui ne résout pas un seul problème important, en donnant lieu à de nombreux nouveaux. Gleick, citant un historien de la technologie Edouard Tenner, écrit que la possibilité et la simplicité de changer de chaîne à l'aide de la télécommande servent principalement à distraire de plus en plus le spectateur.

Au lieu d'être satisfaits, les gens sont de plus en plus insatisfaits des chaînes qu'ils regardent. Au lieu de la satisfaction des besoins, il y a un sentiment de déception sans fin.

Les voitures nous maintiendront-elles sur les réservations ?

Serons-nous capables de contrôler cette chose qui est inévitable et qui arrivera probablement bientôt ? Sur l'intelligence artificielle? Si tel doit être le cas, comme le proclament de nombreuses visions dystopiques, alors non. (1).

Il est difficile de contrôler quelque chose qui est plusieurs fois plus fort que nous. avec une augmentation du nombre de tâches. Il y a vingt ans, personne n'aurait cru pouvoir lire les émotions dans la voix et le visage d'une personne avec beaucoup plus de précision que nous ne pouvons le faire nous-mêmes. Pendant ce temps, les algorithmes actuellement formés sont déjà capables de le faire, en analysant les expressions faciales, le timbre et la façon dont nous parlons.

Les ordinateurs dessinent des images, composent de la musique et l'un d'eux a même remporté un concours de poésie au Japon. Ils battent les gens aux échecs depuis longtemps, apprenant le jeu à partir de zéro. Il en va de même pour le jeu beaucoup plus complexe de Go.

il obéit aux lois d'une accélération toujours plus rapide. Ce que l'IA a réalisé - avec l'aide des humains - au cours des dernières décennies va doubler dans les prochaines années, peut-être quelques mois, et cela ne prendra que des semaines, des jours, des secondes...

Comme il s'est avéré récemment, les algorithmes utilisés dans les smartphones ou dans les aéroports pour analyser les photos des caméras omniprésentes peuvent non seulement reconnaître quelqu'un dans différents cadres, mais aussi déterminer des caractéristiques psychologiques exclusivement intimes. Dire qu'il s'agit d'un énorme risque pour la vie privée, c'est comme ne rien dire. Il ne s'agit pas d'une simple surveillance, de surveiller chaque pas, mais d'informations résultant de l'apparence même d'une personne, de ses désirs cachés et de ses préférences personnelles. 

Les algorithmes peuvent apprendre cela relativement rapidement en analysant des centaines de milliers de cas, ce qui est bien plus que ce que même la personne la plus astucieuse peut voir dans une vie. Armés d'une telle richesse d'expérience, ils sont capables de scanner une personne avec plus de précision que même les psychologues, les analystes du langage corporel et des gestes les plus expérimentés.

Ainsi, la véritable dystopie effrayante n'est pas que les ordinateurs jouent aux échecs ou vont contre nous, mais qu'ils peuvent voir notre âme plus profondément que quiconque autre que nous-mêmes, pleine d'interdictions et de blocages pour reconnaître ces inclinations ou d'autres.

Masque de l'ego estime qu'à mesure que les systèmes d'IA commencent à apprendre et à raisonner à une échelle de plus en plus importante, "l'intelligence" peut se développer quelque part profondément dans les couches Web, imperceptible pour nous.

Selon une étude américaine publiée en 2016, dans les 45 prochaines années, l'intelligence artificielle a 50 % de chances de surpasser les humains dans toutes les tâches. Les prévisionnistes disent que oui, l'IA résoudra le problème du cancer, améliorera et accélérera l'économie, fournira du divertissement, améliorera la qualité et la durée de la vie, nous éduquera pour que nous ne puissions pas vivre sans elle, mais il est possible qu'un jour, sans la haine, uniquement car basée sur un calcul logique, elle nous supprime tout simplement. Peut-être que cela ne fonctionnera pas physiquement, car dans chaque système, cela vaut la peine de sauvegarder, d'archiver et de stocker des ressources qui "pourraient être utiles un jour". Oui, c'est la ressource que nous pouvons être pour l'IA. Main-d'œuvre protégée ?

Les optimistes se consolent avec le fait qu'il y a toujours la possibilité de débrancher la fiche de la prise. Cependant, tout n'est pas si simple. Déjà, la vie humaine est devenue si dépendante des ordinateurs qu'une mesure radicale contre eux serait un désastre pour nous.

Après tout, nous créons de plus en plus des systèmes de prise de décision basés sur l'IA, leur donnant le droit de piloter des avions, de fixer des taux d'intérêt, de faire fonctionner des centrales électriques - nous savons que les algorithmes le feront bien mieux que nous. En même temps, nous ne comprenons pas parfaitement comment ces décisions numériques sont prises.

On craint que des systèmes de commandement super intelligents tels que "Reduce Congestion" ne les amènent à conclure que le seul moyen efficace de faire le travail est de... réduire la population d'un tiers, voire de moitié.

Oui, cela vaut la peine de donner à la machine l'instruction la plus importante comme "Tout d'abord, sauvez une vie humaine!". Cependant, qui sait si la logique numérique conduira alors à l'emprisonnement de l'humanité ou sous la grange, où nous serons peut-être en sécurité, mais certainement pas libres.

La cybercriminalité en tant que service

Dans le passé, les dystopies et les images du monde post-apocalyptique dans la littérature et le cinéma se déroulaient généralement dans l'ère post-nucléaire. Aujourd'hui, l'annihilation nucléaire ne semble pas nécessaire à la catastrophe et à la destruction du monde tel que nous le connaissons, mais pas de la manière dont nous l'imaginons. , il est peu probable qu'il détruise le monde comme dans "Terminator", où il a été combiné avec l'anéantissement nucléaire. Si elle le faisait, elle ne serait pas une superintelligence, mais une force primitive. Après tout, même l'humanité n'a pas encore réalisé le scénario mondial d'un conflit nucléaire dévastateur.

Une véritable apocalypse machine peut être beaucoup moins impressionnante.

La cyberguerre, les attaques de virus, le piratage du système et les ransomwares, les ransomwares (2) paralysent et détruisent notre monde non moins efficacement que les bombes. Si leur ampleur s'étend, nous pourrions entrer dans une phase de guerre totale dans laquelle nous deviendrons victimes et otages de machines, bien qu'elles ne soient pas tenues d'agir de manière autonome, et il est possible que des personnes soient toujours derrière tout.

L'été dernier, la Cyber ​​​​Security and Infrastructure Security Agency (CISA) des États-Unis a qualifié les attaques de ransomware de "menace de cybersécurité la plus visible".

La CISA affirme que de nombreuses activités où un cybercriminel intercepte et crypte les données d'une personne ou d'une organisation, puis extorque une rançon, ne sont jamais signalées parce que la victime paie les cybercriminels et ne veut pas rendre publics les problèmes liés à leurs systèmes non sécurisés. Au niveau micro, les cybercriminels ciblent souvent les personnes âgées qui ont du mal à faire la distinction entre le contenu honnête et malhonnête sur Internet. Ils le font avec des logiciels malveillants intégrés dans une pièce jointe à un e-mail ou une fenêtre contextuelle sur un site Web infecté. Dans le même temps, les attaques contre les grandes entreprises, les hôpitaux, les agences gouvernementales et les gouvernements sont en augmentation.

Ces derniers étaient particulièrement ciblés en raison des données sensibles qu'ils détenaient et de la possibilité de payer des rançons importantes.

Certaines informations, telles que les informations sur la santé, sont beaucoup plus précieuses pour le propriétaire que d'autres et peuvent rapporter plus d'argent aux criminels. Les voleurs peuvent intercepter ou mettre en quarantaine de gros blocs de données cliniques importantes pour les soins aux patients, tels que les résultats des tests ou les informations sur les médicaments. Lorsque la vie est en jeu, il n'y a pas de place pour la négociation à l'hôpital. L'un des hôpitaux américains a été définitivement fermé en novembre de l'année dernière après l'attaque terroriste d'août.

Cela ne fera probablement qu'empirer avec le temps. En 2017, le département américain de la Sécurité intérieure a annoncé que les cyberattaques pourraient cibler des infrastructures critiques telles que les services d'eau. Et les outils nécessaires pour mener à bien de telles actions sont de plus en plus disponibles pour les petits opérateurs, à qui ils vendent des packs de ransomwares tels que les logiciels Cerber et Petya et facturent une rançon après des attaques réussies. Basé sur la cybercriminalité en tant que service.

Trouble dangereux du génome

L'un des sujets populaires de la dystopie est la génétique, la manipulation de l'ADN et la reproduction des personnes - en plus, "programmées" de la bonne manière (autorités, entreprises, militaires).

L'incarnation moderne de ces angoisses est une méthode de vulgarisation Édition de gènes CRISPR (3). Les mécanismes qu'il contient sont principalement préoccupants. forcer les fonctions souhaitées dans les générations suivantes et leur propagation potentielle à l'ensemble de la population. Un des inventeurs de cette technique, Jennifer Doudna, ont même récemment appelé à un moratoire sur de telles techniques d'édition "de la lignée germinale" en raison de conséquences potentiellement désastreuses.

Rappelons qu'il y a quelques mois, un scientifique chinois Par Jiankui a été largement critiqué pour avoir modifié les gènes d'embryons humains afin de les immuniser contre le virus du sida. La raison en était que les changements qu'il avait apportés pouvaient être transmis de génération en génération avec des conséquences imprévisibles.

Les soi-disant d (réécriture de gènes, forçage génétique) sont particulièrement préoccupants, c'est-à-dire un mécanisme génétiquement modifié qui code un système d'édition dans l'ADN d'un individu donné Génome CRISPR/CAS9 avec le réglage pour éditer cette variante du gène indésirable. Pour cette raison, les descendants écrasent automatiquement (sans la participation de généticiens) la variante de gène indésirable par celle souhaitée.

Cependant, une variante génétique indésirable peut être reçue par la progéniture "en cadeau" d'un autre parent non modifié. Alors le forçage génétique rompons Les lois mendéliennes de l'héréditéqui disent que la moitié des gènes dominants vont à la progéniture d'un parent. En bref, cela conduira éventuellement à la propagation de la variante du gène en question à l'ensemble de la population.

Biologiste à l'Université de Stanford Christina Smolke, de retour lors d'un panel sur le génie génétique en 2016, a averti que ce mécanisme pourrait avoir des conséquences néfastes et, dans des cas extrêmes, horrifiantes. Le forçage génétique est capable de muter au fil des générations et de provoquer des troubles génétiques tels que l'hémophilie ou l'hémophilie.

Comme nous l'avons lu dans un article publié dans Nature Reviews par des chercheurs de l'Université de Californie à Riverside, même si un lecteur fonctionne comme prévu dans une population d'un organisme, le même trait héréditaire peut être nocif s'il est introduit d'une manière ou d'une autre dans une autre population. . le même regard.

Il existe également un danger que les scientifiques créent des forçages génétiques à huis clos et sans examen par les pairs. Si quelqu'un introduit intentionnellement ou non un forçage génétique nuisible dans le génome humain, comme celui qui détruit notre résistance à la grippe, cela pourrait même signifier la fin de l'espèce homo sapiens...

Capitalisme de surveillance

Une version de la dystopie que d'anciens écrivains de science-fiction auraient difficilement pu imaginer est la réalité d'Internet, et en particulier des médias sociaux, avec toutes ses ramifications largement décrites qui détruisent la vie privée, les relations et l'intégrité psychologique des gens.

Ce monde n'est peint que dans des performances artistiques plus récentes, comme ce que nous avons pu voir dans la série Black Mirror dans l'épisode de 2016 "The Diving" (4). Shoshana Zuboff, un économiste de Harvard, qualifie cette réalité de complètement dépendante de l'affirmation de soi sociale et de complètement « déprivatisée ». capitalisme de surveillance (), et en même temps le couronnement de Google et de Facebook.

4. Scène de "Black Mirror" - épisode "Diving"

Selon Zuboff, Google est le premier inventeur. De plus, elle étend constamment ses activités de surveillance, par exemple à travers des projets de "villes intelligentes" apparemment anodins. Un exemple est le projet World's Most Innovative Neighborhood de Sidewalk Labs, une filiale de Google. jetée à Toronto.

Google prévoit de collecter toutes les moindres données sur la vie des habitants du front de mer, leurs déplacements et même leur respiration à l'aide de capteurs de surveillance omniprésents.

Il est également difficile de choisir une dystopie Internet qui est hors de question sur Facebook. Le capitalisme de surveillance a peut-être été inventé par Google, mais c'est Facebook qui l'a porté à un tout autre niveau. Cela a été fait par le biais de mécanismes viraux sociaux et émotionnels et d'une persécution impitoyable même de ceux qui n'utilisent pas la plate-forme Zuckerberg.

IA gardée, immergée dans la réalité virtuelle, vivant avec UBI

Selon de nombreux futuristes, l'avenir du monde et de la technologie est désigné par cinq abréviations - AI, AR, VR, BC et UBI.

Les lecteurs de "MT" savent probablement bien ce qu'ils sont et en quoi consistent les trois premiers. Le familier s'avère aussi être le quatrième, "BC", quand on comprend de quoi il s'agit. Et le cinquième ? UBD est une abréviation du concept, signifiant "revenu de base universel » (5). Il s'agit d'un avantage public, postulé de temps à autre, qui sera accordé à toute personne libérée du travail au fur et à mesure que d'autres technologies se développeront, en particulier l'IA.

5. Revenu de base universel - UBI

La Suisse a même soumis l'idée à un référendum l'année dernière, mais ses citoyens l'ont rejetée, craignant que l'introduction d'un revenu garanti ne conduise à un afflux d'immigrants. L'UBI comporte également un certain nombre d'autres dangers, notamment le risque de perpétuer les inégalités sociales existantes.

Chacune des révolutions technologiques derrière l'acronyme (voir aussi :) - si elle se propage et se développe dans le sens attendu - a d'énormes conséquences pour l'humanité et notre monde, y compris, bien sûr, une énorme dose de dystopie. Par exemple, on pense qu'il pourrait remplacer des cycles électoraux de quatre ans et conduire à des référendums sur d'innombrables questions.

La réalité virtuelle, à son tour, est capable "d'exclure" une partie de l'humanité du monde réel. Comme cela s'est produit, par exemple, avec la Coréenne Jang Ji-sun, qui, après la mort de sa fille en 2016 d'une maladie en phase terminale, a depuis rencontré son avatar en VR. L'espace virtuel crée également de nouveaux types de problèmes, ou transfère en fait tous les anciens problèmes connus vers le "nouveau" monde, voire vers de nombreux autres mondes. Dans une certaine mesure, on peut déjà le voir sur les réseaux sociaux, où il arrive que trop peu de likes sur les posts conduisent à la dépression et au suicide.

Contes prophétiques plus ou moins

Après tout, l'histoire de la création de visions dystopiques enseigne également la prudence dans la formulation de prédictions.

6. Couverture de "Islands in the Net"

Filmé l'année dernière, le célèbre chef-d'œuvre de science-fiction de Ridley Scottchasseur androïde» Depuis 1982. Il est possible de discuter de la réalisation ou non de nombreux éléments spécifiques, mais il est incontestable que la prophétie la plus importante concernant l'existence à notre époque d'androïdes humanoïdes intelligents, à bien des égards supérieurs aux humains, n'est pas encore devenue réalité.

Nous serions prêts à tolérer bien d'autres coups prophétiques."Neuromanciens»c'est-à-dire des romans Guillaume Gibson depuis 1984, qui a popularisé le concept de "cyberespace".

Cependant, au cours de cette décennie, un livre un peu moins connu est apparu (dans notre pays, presque complètement, car il n'a pas été traduit en polonais), qui a prédit l'heure d'aujourd'hui avec beaucoup plus de précision. je parle de romanceÎles sur le Web"(6) Bruce Sterling depuis 1988, fixé en 2023. Il présente un monde immergé dans quelque chose de similaire à Internet, connu sous le nom de "web". Elle est contrôlée par de grandes sociétés internationales. Les "îles sur le Web" sont remarquables pour assurer le contrôle, la surveillance et la monopolisation de l'Internet prétendument gratuit.

Il est également intéressant de prévoir des opérations militaires menées à l'aide de véhicules aériens sans pilote (drones) contre des pirates/terroristes en ligne. Des opérateurs à des milliers de kilomètres avec des postes de travail sécurisés - comment le savons-nous ? Le livre ne traite pas du conflit sans fin avec le terrorisme islamique, mais de la lutte contre les forces qui s'opposent à la mondialisation. Le monde d'Islands in the Net est également rempli d'appareils grand public qui ressemblent beaucoup à des montres intelligentes et à des chaussures de sport intelligentes.

Il existe un autre livre des années 80 qui, bien que certains événements semblent plus fantastiques, illustre bien nos peurs dystopiques modernes. Ce "Logiciel géoradar", Histoire Rudy Rookerfixé en 2020. Le monde, l'état de la société et ses conflits semblent incroyablement similaires à ce à quoi nous avons affaire aujourd'hui. Il existe également des robots connus sous le nom de boppers qui ont acquis une conscience de soi et se sont échappés vers des villes sur la lune. Cet élément ne s'est pas encore matérialisé, mais la révolte des machines devient un refrain constant des prédictions noires.

Les visions de notre époque dans les livres sont également étonnamment précises à bien des égards. Octavia Majordome, en particulier dansParaboles du semeur» (1993). L'action commence en 2024 à Los Angeles et se déroule en Californie, dévastée par les inondations, les tempêtes et les sécheresses causées par le changement climatique. Les familles de la classe moyenne et ouvrière se rencontrent dans des communautés fermées alors qu'elles tentent d'échapper au monde extérieur avec des drogues addictives et des kits de réalité virtuelle. De nouvelles religions et théories du complot émergent. La caravane de réfugiés se dirige vers le nord pour éviter l'effondrement écologique et social. Un président arrive au pouvoir qui utilise le slogan de campagne "Make America Great Again" (c'est le slogan de Donald Trump)...

Le deuxième livre de Butler, "Parabole des Talentsraconte comment les membres d'un nouveau culte religieux quittent la Terre dans un vaisseau spatial pour coloniser Alpha Centauri.

***

Quelle est la leçon de cette vaste enquête sur les prédictions et les visions faites il y a plusieurs décennies concernant notre vie quotidienne ?

Probablement, le fait est que les dystopies se produisent souvent, mais le plus souvent seulement partiellement.