Technologie

Pourquoi devons-nous craindre une AI non obéissante

Pourquoi devons-nous craindre une AI non obéissante


DICTATORSHIPS NUMÉRIQUES

Comment la menace des dictatures numériques basées sur l'IA va-t-elle transformer l'ordre mondial?

2*GoUXXGpEY6Sq o6dqWilmA - Pourquoi devons-nous craindre une AI non obéissante

UNEChez les gens ordinaires, le débat concernant l'avènement de l'intelligence artificielle (IA) et ses conséquences a été dominé par deux peurs: notre avenir sans emploi, la Grande Dépression permanente et le possible soulèvement de robots et d'IA contre leurs maîtres.

Hélas, la majorité ignore toujours les conséquences réelles de la suppression des emplois par les nouvelles technologies; Mais ce qui est plus important, c’est que la crainte égarée de la singularité - un événement dans lequel l’IA dépasse l’intelligence humaine et échappe à notre contrôle - consomme du temps et des ressources pour discuter des répercussions bien plus dangereuses de l’émergence de nouvelles technologies.

Beaucoup craignent les algorithmes d'intelligence artificielle parce qu'ils pensent qu'ils ne nous obéiront pas. Mais le problème avec les algorithmes est exactement le contraire: ils feront toujours ce qu'on leur ordonnera de faire.

Si les algorithmes et les robots sont entre de bonnes mains, ils apporteront d’énormes avantages. Cependant, si les pays de «l'axe du mal» adoptent les nouvelles technologies, les gens pourraient se retrouver dans un régime de surveillance complet où toutes les actions et tous les propos sont suivis et contrôlés par le futur Big Brother.

Les dictatures numériques du XXIe siècle seront toutefois en mesure de faire ce que même G. Orwell n’oserait pas imaginer: aller sous notre peau et comprendre nos sentiments et nos émotions intérieures.

La fusion des biotechnologies et de l'intelligence artificielle va renforcer encore le pouvoir des dictatures numériques.

Imaginez un État autoritaire, comme la Chine, l'Iran ou la Corée du Nord, qui oblige tous ses citoyens à porter un bracelet biométrique surveillant chaque pas et chaque souffle - en plus de la pression artérielle, de l'activité cérébrale et d'autres processus biochimiques. Si vous regardez le portrait du Big Brother et que les algorithmes déterminent des signes subtils de colère - une activité accrue dans l'amygdal et une pression artérielle élevée - attachez-vous au pire, car il est probable que vous serez jeté dans le gulag à la soviétique, ou vous préférez, camp de "rééducation" à la chinoise le lendemain.

À la pointe de l'informatique, grâce à l'adoption de techniques d'analyse prédictive, les gouvernements autoritaires pouvaient non seulement surveiller et comprendre, mais aussi prévoir les dissidents potentiels et réprimer la rébellion contre le Big Brother dans son berceau.

Nous ne détruisons pas l'hérétique parce qu'il nous résiste: tant qu'il nous résiste, nous ne le détruisons jamais. Nous le convertissons, nous capturons son esprit intérieur, nous le remodelons. Nous lui brûlons tout le mal et toutes les illusions; nous le ramenons à nos côtés, non pas en apparence, mais véritablement, du cœur et de l'âme. Nous en faisons un de nous avant de le tuer. Il nous est intolérable qu'une pensée erronée puisse exister n'importe où dans le monde, aussi secrète et impuissante qu'elle puisse être. - De 1984 par G. Orwell

En fin de compte, la population des dictatures numériques, en raison de la propagande extensive et de la crainte constante d'être qualifié de dissident, finira par obéir inconditionnellement au Big Brother.

Un tel abus des algorithmes d'IA - parce qu'ils ne peuvent pas se rebeller et exécutent les ordres de leurs propriétaires - aura des conséquences désastreuses sur des valeurs démocratiques fondamentales telles que les droits de l'homme, la liberté, le libre arbitre, l'individualisme.

Ou imaginons un dirigeant autoritaire qui souhaite réprimer son peuple pour effrayer les dissidents potentiels et consolider son pouvoir, comme ce que Saddam Hussein a fait avec les Kurdes dans les années 1980 ou le Staline de l’URSS pendant son règne.

Les robots, parce qu’ils n’ont aucun sentiment et que les valeurs morales, comme beaucoup d’êtres humains, tueront sans aucun doute des personnes, qu’il s’agisse d’un enfant ou d’une femme. De nombreux soldats humains désobéiraient probablement à de tels ordres immoraux, mais pas les robots.

Les dictateurs, équipés de technologies de pointe et grâce à la réduction des coûts financiers et humains liés aux guerres, utiliseront probablement des robots non seulement pour persécuter leurs propres citoyens mais également pour envahir les États voisins à la recherche de ressources naturelles ou pour enflammer les sentiments nationalistes. détourner l'attention de la population des défis intérieurs ("dépenser peu de guerre").

La prolifération de la guerre sans restriction, ainsi que l’émergence de dictatures numériques, transformera notre monde de manière sans précédent, l’ordre mondial étant moins stable, prospère et pacifique qu’il était autrefois.

TL'avènement des dictatures numériques offrira pour la première fois depuis la fin de la guerre froide aux Etats non démocratiques une alternative plausible à la démocratie, suscitant ainsi une concurrence idéologique renouvelée.

Les experts citent déjà la Chine comme un exemple de régime autoritaire numérique en formation - son soi-disant «système de crédit social» est utilisé pour réprimer les Ouïghours (minorité musulmane de la province du Xinjiang, en Chine occidentale) dans des camps de «rééducation». .

L'utilisation de la cote de crédit sociale mine des piliers fondamentaux de la démocratie tels que la liberté de choix, l'individualisme et la vie privée.

La présomption d'innocence aura disparu - la police prédictive conduira à la coercition non pas pour de véritables violations mais pour que les algorithmes anticipent que vous enfreignez la loi à l'avenir.

Mais l'autoritarisme numérique ne sera pas confiné aux frontières de la Chine - le modèle est exporté à l'étranger.

La montée de modes de développement alternatifs peut, aussi paradoxale que cela puisse paraître, entretenir la démocratie - la menace d’un concurrent menaçant, comme pendant la guerre froide, incitera les démocraties à mettre de l'ordre dans leurs affaires et à former une union plus parfaite contre le nouveau défi.

La démocratie a plus de succès que les dictatures autoritaires en raison de son efficacité inhérente en matière de traitement des données. Les États autoritaires utilisent l'informatique centralisée, alors que les démocraties sont distribuées.

Au cours des siècles écoulés, le traitement distribué a mieux fonctionné - si l’un des multiples processeurs (gouvernement, entreprises, ONG) échouait, les autres ne tarderaient pas à rétablir l’équilibre du système.

Dans les dictatures, par contre, il n'y a qu'un seul processeur (le chef autoritaire et son entourage) - s'il est géré efficacement, il réussit, mais s'il commet même une erreur mineure, les conséquences en sont une désastreuse.

Dans les conditions des siècles passés, l’informatique dispersée (démocratie) s’avère plus résistante. Mais l'empire romain, les dynasties chinoises et de nombreux autres États existaient depuis des siècles sous des systèmes centralisés.

En conséquence, si les conditions sociopolitiques et technologiques changent à nouveau au 3ème millénaire, le pendule pourrait basculer vers des systèmes centralisés.

Ce qui était auparavant le principal handicap des dictatures - le contrôle centralisé - peut basculer dans un avantage décisif de la nouvelle ère - après tout, les algorithmes d’apprentissage automatique fonctionnent mieux avec plus de données, et les systèmes centralisés, contrairement aux systèmes distribués, auront accès à d’énormes quantités de données. Les données.

Si vous concentrez toutes les informations relatives à un milliard de personnes dans une base de données, sans tenir compte de toutes les préoccupations en matière de confidentialité, vous pouvez former des algorithmes bien meilleurs que si vous respectez la vie privée et que vous n’avez dans votre base que des informations partielles sur un million de personnes. Par exemple, si un gouvernement autoritaire ordonne à tous ses citoyens de faire analyser leur ADN et de partager toutes leurs données médicales avec une autorité centrale, cela procurerait un avantage considérable en génétique et en recherche médicale par rapport aux sociétés dans lesquelles les données médicales sont strictement privées. À partir de "21 leçons pour le 21ème siècle"

Le principal handicap des régimes autoritaires du XXe siècle - la tentative de concentrer toutes les informations en un seul endroit - pourrait devenir leur avantage décisif au XXIe siècle. - Yuval Noah Harari

Alors qu’Amnesty International s’engage à mettre en place une meilleure planification économique et une gestion plus efficace de l’économie, le capitalisme, l’une des caractéristiques les plus importantes de la démocratie, risque de perdre de sa pertinence à l’ère nouvelle.

La démocratie libérale va-t-elle se réinventer à nouveau ou va-t-elle périr et être jetée à la poubelle de l'histoire?

Show More

SupportIvy

SupportIvy.com : Un lieu pour partager le savoir et mieux comprendre le monde. Meilleure plate-forme de support gratuit pour vous, Documentation &Tutoriels par les experts.

Related Articles

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Close
Close