Technologie

Les lois de la robotique d’Asimov seront-elles appliquées aux voitures autonomes?

Les lois de la robotique d’Asimov seront-elles appliquées aux voitures autonomes?


0*YaGb1gmZzaR0nKWo - Les lois de la robotique d’Asimov seront-elles appliquées aux voitures autonomes?

La voiture autonome est peut-être la première application pratique et utile du robot personnel intelligent que beaucoup de gens vont posséder, utiliser, utiliser régulièrement et n'est pas un jouet. C'est également l'une des premières applications utiles de l'intelligence artificielle (IA). Je me demande si nous demanderons à ces robots de suivre les lois de la robotique d’Isaac Asimov (également connues sous le nom de Les trois lois de la robotique)?

Asimov était un écrivain, principalement de science-fiction, et professeur de biochimie. Il a écrit environ 500 livres. principalement de la science fiction, mais aussi des faits scientifiques, de l'histoire et de la religion. Il a été professeur de biochimie à la Boston University et a obtenu un doctorat en biochimie de la Columbia University à New York. Il est mort en 1992.

Asimov est l'un de mes auteurs de science-fiction préférés et j'ai également lu plusieurs de ses ouvrages, y compris celui qui m'a aidé dans mes études d'ingénieur. Les lois de la robotique d’Asimov ont été introduites pour la première fois dans la nouvelle de 1942 Courir autour. Je les ai d'abord lus dans son roman Les grottes d'acier quand j'étais adolescent.

Les lois de la robotique d’Asimov sont conçues pour être programmées dans tous les robots pour la sécurité des personnes et ne peuvent être contournées. Ci-dessous, écrites par ordre de priorité pour le robot, vous trouverez les lois de la robotique d’Asimov:

1. Un robot ne peut pas blesser un être humain ni, par son inaction, permettre à un être humain de se blesser.

2. Un robot doit obéir aux ordres donnés par des êtres humains, sauf si de tels ordres sont contraires à la Première Loi.

3. Un robot doit protéger sa propre existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

Si ces lois de la robotique étaient utilisées dans des voitures autonomes, elles seraient programmées dans la voiture autonome et ne pourraient pas être modifiées par le propriétaire sans que le propriétaire ne passe en mode de conduite manuelle.

Source: Americas Electric Light and Power Companies

J'ai quelques questions sur les voitures autonomes et les lois de la robotique d'Asimov:

* La sécurité des humains à l'intérieur de la voiture est-elle une priorité supérieure à celle des humains à l'extérieur de la voiture? Les lois de la robotique ne traitent pas de la définition d'une priorité à laquelle l'homme ne nuit pas.

* Quelle décision la voiture autonome prendrait-elle s'il y avait un choix inévitable entre rencontrer une foule de dix personnes ou descendre d'une falaise en ne tuant qu'un seul passager? Les lois n’ont pas d’échelle permettant à la quantité d’hommes de ne pas nuire.

* Quelle serait la programmation si la voiture n'appartenait pas au passager mais à une voiture de location ou à un taxi? Les sociétés de location de voitures ou de taxis seraient-elles autorisées à préciser que la programmation prend de telles décisions de manière à réduire leur responsabilité juridique indépendamment des implications morales? On peut imaginer un avocat aidant à définir la manière dont les lois de la robotique sont mises en œuvre dans le parc de voitures autonomes de son client pour le bénéfice commercial et juridique du client.

* Les excès de vitesse ou le non-respect d'un code de la route mineur sont-ils acceptables pour une voiture autonome? Cette question est importante car il arrive parfois qu'une personne se trouve dans une situation où la meilleure solution consiste à enfreindre un code de la route mineur. La programmation d’une voiture automotrice lui permettrait-elle de faire la même chose, même si cela peut créer momentanément un risque mineur pour les passagers?

Les lois de la robotique d’Asimov ont influencé non seulement d’autres écrivains de science-fiction, mais également des scientifiques et des ingénieurs qui développent la robotique et l’IA. Il n’est pas garanti que les robots d’IA suivront les lois de la robotique d’Asimov, car elles doivent être programmées de manière à ce que les lois ne puissent être ni supprimées ni modifiées. Tout est dans la programmation.

L’écrivain de science-fiction primé, Robert J. Sawyer, écrivait au début des années 90 sur son site Web,

«Tout d’abord, rappelez-vous, les« lois »d’Asimov ne sont guère des lois au sens où les lois physiques sont des lois; ce sont plutôt des suggestions mignonnes qui ont donné lieu à des histoires intéressantes axées sur les casse-tête il ya un demi-siècle. Honnêtement, je ne pense pas qu'ils seront appliqués aux futurs ordinateurs ou robots. Nous avons beaucoup d’ordinateurs et de robots aujourd’hui et aucun d’entre eux ne possède les rudiments des trois lois. Il est extrêmement facile pour une «défaillance d’équipement» d’entraîner la mort d’être humain, après tout, en violation directe de la Première Loi ». De toute évidence, M. Sawyer ne pense pas que les Trois Lois seront utilisées dans le monde réel.

Robin R. Murphy, université A & M du Texas et David D. Woods, université d’État de l’Ohio, ont écrit Au-delà d'Asimov: les trois lois de la robotique responsable dans les systèmes intelligents IEEE,

«Les trois lois ont été tellement bien introduites dans la conscience publique par le biais de divertissements qu’elles semblent maintenant façonner les attentes de la société en ce qui concerne la manière dont les robots devraient agir autour des humains. … Même les médecins ont envisagé la chirurgie robotique dans le contexte des trois lois ». Ils proposent également leurs propres lois de la robotique, plus centrées sur les actions humaines.

De nombreux robots qui ne suivent pas les lois de la robotique d’Asimov ne ressemblent pas aux drones utilisés par l’armée au combat. Ils sont conçus pour tuer des personnes ou bombarder des bâtiments sur ordre direct de leur contrôleur humain. Mais ce drone est-il vraiment différent d'une arme à feu? Le drone a certes plus de technologie, mais il ne s'agit toujours que d'une arme à feu ou d'un avion automatisé larguant des bombes. Est-ce vraiment un robot IA? Ce n’était pas ce à quoi Asimov pensait lorsqu’il a écrit Laws of Robotics. Il pensait à un robot d'IA capable de prendre des décisions indépendamment de l'homme (voir la deuxième loi). Le drone militaire tel qu'il est utilisé aujourd'hui ne prend pas de décisions indépendantes, à ma connaissance.

Norman Bel Geddes, designer industriel du XXe siècle, futuristes et pionnier du design aérodynamique, écrivait dans son livre de 1940: Autoroutes Magiques, «Ces voitures de 1960 et les autoroutes sur lesquelles elles conduisent auront dans les dispositifs qui corrigeront les défauts de l’être humain en tant que conducteur. Ils empêcheront le conducteur de commettre des erreurs. Ils l'empêcheront de se retrouver dans la circulation sauf quand il le devrait. Ils l’aideront à traverser les intersections sans ralentir ni causer le même acte, ni mettre en danger sa vie et celle des autres. "

Bel Geddes envisage un avenir, entre 1940 et 1960, dans lequel la voiture autonome protégera les humains contre eux-mêmes, bien qu'il ne décrive pas complètement les lois de la robotique. Il fut le créateur de Futurama, un diorama parrainé par General Motors lors de l’exposition universelle de 1939 à New York, qui prévoyait l’avenir du transport automobile. Il s’agissait de l’exposition la plus populaire de cette exposition. Sa vision n’a pas été concrétisée en 1960, mais elle est actuellement mise en œuvre par les développeurs de technologies automobiles.

Pour qu'une voiture autonome puisse appliquer les lois de la robotique d'Asimov, un robot devrait être encore plus intelligent que les ordinateurs qui maîtrisent parfaitement le jeu d'échecs et battent régulièrement les meilleurs joueurs d'échecs humains du monde. . Les échecs sont un jeu avec des règles établies et un nombre limité d'options et de résultats. Une voiture autonome a beaucoup plus d'options et de décisions à prendre, surtout si les lois de la robotique doivent être respectées.

Asimov a créé pour ses robots le «cerveau positronique» fictif qui leur a permis de penser et d'agir presque humainement. Ce cerveau est également nécessaire pour mettre en œuvre les lois de la robotique d’Asimov, car la tâche de calcul ne serait autrement pas possible. Le timing de la prise de décision du robot est crucial. La latence dans la prise de décisions de vie ou de mort n’est pas acceptable, en particulier dans des situations de conduite réelle.

Voici quelques exemples de la façon dont les voitures autonomes peuvent aujourd'hui imiter les lois de la robotique d'Asimov et certains problèmes éventuels liés au respect de ces lois:

1. Un robot ne peut pas blesser un être humain ni, par son inaction, permettre à un être humain de se blesser.

Les voitures modernes sont dotées de nombreuses fonctions de sécurité conçues pour protéger les passagers, telles que les sacs gonflables, l'assistance au changement de voie, le freinage automatique, les caméras, etc. Mais qu'en est-il des personnes à l'extérieur de la voiture? Certaines de ces fonctionnalités peuvent les protéger, mais d'autres non. L'accent a été mis sur la protection des passagers et cette première loi ne précise pas quels sont les êtres humains prioritaires pour la protection.

2. Un robot doit obéir aux ordres donnés par des êtres humains, sauf si de tels ordres sont contraires à la Première Loi.

Quels ordres d’être humain la voiture autonome suivra-t-elle? Supposons qu’il suive les ordres du conducteur, mais qu’en est-il si le conducteur est en état d’incapacité, la voiture suivra-t-elle les ordres d’autres êtres humains tels que des passagers ou des personnes extérieures à la voiture?

3. Un robot doit protéger sa propre existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

Les voitures modernes ne sont pas encore programmées pour se protéger, sauf en tant que sous-produit de la protection des passagers. Ce sera probablement la dernière des lois de la robotique à être appliquée car elle est assez complexe et n’est pas aussi importante que les deux premières lois.

Conclusion

Je ne pense pas que nous ayons la technologie pour mettre en œuvre les lois de la robotique d’Asimov dans des voitures autonomes dans un avenir proche. Cependant, certains aspects des lois de la robotique peuvent être mis en œuvre via une programmation logicielle et matérielle, bien que la voiture autonome ne sache pas qu'elle respecte les lois de la robotique d'Asimov. Il ne prendra pas de décisions mais se contentera de suivre ses caractéristiques de programmation et de conception.

Peut-être que les lois de la robotique d’Asimov ne sont pas destinées à être suivies à la lettre, mais sont simplement une directive de conception.

Show More

SupportIvy

SupportIvy.com : Un lieu pour partager le savoir et mieux comprendre le monde. Meilleure plate-forme de support gratuit pour vous, Documentation &Tutoriels par les experts.

Related Articles

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Close
Close