Intelligence artificielle

Il est temps de programmer des gardiens pour nous protéger: experts en IA

Il est temps de programmer des gardiens pour nous protéger: experts en IA


Les ordinateurs utilisent de plus en plus nos données pour prendre des décisions à notre sujet, mais pouvons-nous leur faire confiance?

Tous les jours, à votre insu, des algorithmes informatiques utilisent vos données pour prévoir vos habitudes, vos préférences et votre comportement.

Ils décident que votre amour des vidéos pour chats sur YouTube signifie que vous serez submergé par les publicités de Whiskers, ou que vos téléchargements sur les Beatles signifient que vous souhaitez entendre le 100ème single de Paul McCartney.

Si vous aimez la musique recommandée ou ne trouvez pas les annonces qui reflètent votre navigation Web, cela ne vous dérange pas.

Mais la prise de décision par algorithmes va beaucoup plus loin.

Les algorithmes déterminent qui passe le contrôle des passeports, qui reçoit les notifications de recouvrement, les prêts au logement et les couvertures d'assurance, même qui est ciblé par la police et quelle est la durée de leur peine d'emprisonnement.

Récemment, il a été révélé que les algorithmes disaient aux applications de suivi des règles d'informer Facebook lorsque vous étiez enceinte.

Un algorithme est fondamentalement un ensemble d'instructions pour un ordinateur sur la façon de gérer les données qu'il reçoit.

À mesure que de plus en plus de systèmes deviennent automatisés et personnalisés, ces données sont de plus en plus nos données personnelles: emplacement du téléphone mobile, habitudes d'utilisation des applications et des réseaux sociaux, historique de navigation sur le Web et même des informations sur la santé.

Le problème est que vous ne savez jamais exactement comment un algorithme traite vos données pour en arriver à une décision: que votre demande de prêt hypothécaire ait été rejetée en fonction de votre historique de factures impayées ou de la couleur de vos cheveux.

En fait, vous n'avez aucune influence sur le processus de prise de décision et pouvez garantir que vos intérêts viendront toujours derrière ceux qui ont développé l'application.

Votre piste de données mobiles et autres est monétisée quotidiennement

Un groupe d'éminents informaticiens a récemment discuté de la nécessité de mieux nous protéger dans ce système émergent.

Ils disent que sans action, nous perdrons le contrôle de nos données personnelles et la transparence dans les décisions prises à notre sujet.

L’une des solutions préconisées par la professeure agrégée de l’Université RMIT, Flora Salim, le professeur Salil Kanhere de l’UNSW et le professeur Seng Loke de l’Université de Deakin consiste à programmer nos propres gardiens algorithmiques.

Qu'est-ce qu'un "gardien algorithmique"?

Les gardiens algorithmiques seraient des assistants personnels, voire des hologrammes, qui nous accompagneraient partout, et nous alerteraient de ce qui se passait dans les coulisses en ligne.

Ces gardiens sont eux-mêmes des algorithmes, mais ils fonctionnent pour nous seuls, programmés pour gérer nos interactions numériques avec les plates-formes sociales et les applications en fonction de nos préférences personnelles.

Ils pourraient modifier notre identité numérique selon nos souhaits, appliquer différents paramètres à différents services et même nous rendre reconnaissables ou anonymes lorsque nous choisissons de l'être.

Nos tuteurs pourraient veiller à la sécurité de nos sauvegardes et de nos mots de passe et nous permettre de décider de ce qui est mémorisé et de ce qui est oublié dans notre présence en ligne.

En termes pratiques, un tuteur algorithmique devrait:

  • nous alerter si notre emplacement, notre activité en ligne ou nos conversations étaient surveillés ou suivis, et nous donner la possibilité de disparaître
  • aidez-nous à comprendre les points pertinents des conditions longues et lourdes lorsque nous nous abonnons à un service en ligne
  • donnez-nous une explication simple lorsque nous ne comprenons pas ce qui se passe dans nos données entre notre ordinateur, nos enregistrements téléphoniques et les dizaines d'applications exécutées en arrière-plan sur nos téléphones
  • nous informer si une application envoie des données de nos téléphones à des tiers et nous donner la possibilité de les bloquer en temps réel
  • dites-nous si nos données ont été monétisées par un tiers et à quoi elles servent.

Les gardiens algorithmiques sont considérés comme la prochaine génération d'assistants personnels tels que Siri, Alexa ou Watson.

Ils n’ont pas besoin d’être intelligents de la même manière que les humains, mais simplement en ce qui concerne l’environnement dans lequel ils vivent - en reconnaissant d’autres algorithmes et en expliquant ce qu’ils font.

Sans cette responsabilité, les moments clés de notre vie seront de plus en plus médiatisés par des algorithmes inconnus, invisibles et arbitraires.

Les gardiens algorithmiques assumeraient le rôle important de communiquer et d’expliquer ces décisions.

L'apprentissage automatique explicable, qui tente de comprendre comment un algorithme parvient à sa décision finale, est un domaine d'activité croissante dans la recherche sur l'IA.

Maintenant que les algorithmes sont devenus omniprésents dans la vie quotidienne, l'exploitabilité n'est plus un choix, mais un domaine nécessitant de plus en plus d'attention.

Quand les tuteurs algorithmiques arriveront-ils?

La technologie permettant aux gardiens algorithmiques émerge au moment où nous parlons. Ce qui est à la traîne, c’est la prise de conscience générale que nous en avons besoin.

Vous pouvez voir des versions primitives de la technologie algorithmic Guardians dans les coffres-forts numériques pour le stockage et la gestion des mots de passe, ainsi que dans les paramètres logiciels qui nous permettent de contrôler l'utilisation des données. Mais à l'ère de l'informatique omniprésente, il faut quelque chose de plus complet.

L'équipe a déclaré que nous devions développer des modèles de gardiens algorithmiques spécifiques au cours des deux prochaines années afin de jeter les bases des systèmes algorithmiques ouverts au cours de la prochaine décennie.

Sûrement la demande est là, ou est-ce?

Les notions de vie privée se sont radicalement transformées au cours de la dernière décennie.

Se pourrait-il que dans une décennie supplémentaire, nous ne nous soucions même plus de ce que chaque système sache tout sur nous et fait tout ce qu'il veut avec ces informations, car la plupart du temps, tout se passe bien?

Cet article est adapté de un morceau figurant dans The Conversation, écrit par Salim, Kanhere et Loke.

Récit: Michael Quin

Show More

SupportIvy

SupportIvy.com : Un lieu pour partager le savoir et mieux comprendre le monde. Meilleure plate-forme de support gratuit pour vous, Documentation &Tutoriels par les experts.

Related Articles

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Close
Close