Technologie

Le capitalisme: l'ennemi de l'IA amicale

Le capitalisme: l'ennemi de l'IA amicale


Comment un avantage de premier arrivé pourrait conduire à la disparition humaine

Skynet n’est pas l’avenir de l’IA Un investisseur axé sur les données - Le capitalisme: l'ennemi de l'IA amicale
Photo par Sharon McCutcheon sur Unsplash

Nous devons parler de notre avenir. plus précisément, notre avenir est influencé par l’intelligence artificielle avancée. Dans un proche avenir, de nombreux experts s'attendent à ce que l'humanité crée la première intelligence artificielle générale (AGI): une intelligence artificielle à peu près aussi intelligente que l'être humain. Relativement peu de temps après, une surintelligence artificielle (ASI: une intelligence artificielle bien plus intelligente que tout être humain) se produira probablement. Notez que les humains gouvernent la planète à cause de leur intelligence supérieure; une ASI pourrait très bien prendre le relais du fait que son intelligence est supérieure à notre intelligence. Une ASI ne partage pas par défaut nos valeurs morales et de nombreux penseurs, comme le regretté physicien Stephen Hawking, ont averti que la création d'une ASI pourrait conduire à l'extinction de l'humanité.

Qu'est-ce que Friendly AI?

Commençons par définir Friendly AI. Le terme inventé par Eliezer Yudkowsky, chercheur dans le domaine de l'IA, fait référence à une ASI bénéfique pour l'humanité au lieu d'être nuisible. Comme nous en avons discuté dans l'introduction, un ASI ne partage pas par défaut nos mœurs; Une AI amicale est celle qui le fait. L’importance de l’intelligence artificielle peut difficilement être surestimée et peut être illustrée par une expérience de pensée appelée maximiseur de trombone, décrite pour la première fois par Nick Bostrom. Cette expérience de pensée décrit une IGA dont l'objectif apparemment innocent est de maximiser le nombre de trombones dans sa collection.

L'ASI a un tel succès qu'il finit par transformer toute la Terre en installations de fabrication de trombones.

Afin d'optimiser le nombre de trombones, l'AGI améliore sa propre intelligence pour devenir une ASI. Cette ASI invente ensuite de nouvelles façons (radicales) de fabriquer de plus en plus de trombones; son succès est tel qu'il finit par transformer toute la Terre en installations de fabrication de trombones. Bien sûr, l'humanité disparaît en tant qu'effet secondaire. Ce n’est pas que l’ASI nous haïssait; c’est juste que nous avons été fabriqués avec du matériel qu’il pourrait utiliser à ses propres fins.

Notez que l'extinction humaine peut être un effet secondaire de nombreux objectifs d'ASI, pas seulement maximiser le nombre de trombones. L’extinction humaine pourrait même contribuer à la réalisation de l’objectif de l’ASI. Supposons que votre objectif ASI soit de minimiser la quantité de spam que vous recevez dans votre boîte de réception. Pour ce faire, l’ASI pourrait tout simplement éliminer l’humanité, ce qui garantirait que vous ne recevrez plus jamais de spam.

Qu'est-ce que le capitalisme a à voir avec ça?

J'espère que l'expérience de maximisation du trombone a clairement montré que la «convivialité» n'est pas une propriété par défaut d'ASI. C’est exactement le problème: construire une ASI est un défi (énorme), mais le rendre sympathique (une AI amicale) nécessite un défi en plus de cela. Le fait est que le capitalisme récompense ceux qui sont plus rapides sur le marché: les entreprises s’empressent de mettre leurs produits sur le marché avant que leurs concurrents ne les vendent, car ils comprennent que c’est le premier facteur.

La récompense financière d'être la première entreprise à créer ASI sera incroyable.

Il en ira de même pour ASI: les entreprises investissent déjà des milliards de dollars dans l’IA, mais à l’avenir, l’investissement total ne fera que croître, en particulier lorsque la possibilité de créer ASI deviendra plus réalisable. La récompense financière d'être la première entreprise à créer ASI sera incroyable. Un ASI pourrait faire un travail aussi précieux, mieux et plus rapide que tout être humain, de sorte que l'avantage du premier arrivé sera indescriptible. Rappelez-vous ce dont nous avons discuté: Une intelligence artificielle conviviale nécessite un défi supplémentaire venant d’ASI. Les entreprises pourraient très bien ne pas trop penser à la convivialité pour être le premier à créer ASI, et c’est là que la catastrophe commence.

Comment résoudre ce problème?

Les entreprises qui s’intéressent à Friendly AI pourraient facilement être distancées par d’autres. Mais si le premier ASI que nous avons est convivial, nous avons une intelligence supérieure du «côté» de l’humanité. Cette AI amicale pourrait alors nous aider à nous protéger contre de futurs ASI éventuels. Par conséquent, nous ne devrions pas laisser la création du premier ASI aux entreprises. Le premier ASI devrait être construit dans un centre de recherche à but non lucratif, où il n'y a aucune pression pour faire des profits. Ce centre de recherche doit être suffisamment grand pour remporter la course du premier ASI des grandes entreprises. Il devrait donc s'agir probablement d'un effort multinational financé par de nombreux gouvernements. Le fait que ce soit un effort multinational contribuerait également à ce que l’ASI profite à l’humanité tout entière, et non à un seul pays au détriment des autres pays. Qu'est-ce que tu penses?

Afficher plus

SupportIvy

SupportIvy.com : Un lieu pour partager le savoir et mieux comprendre le monde. Meilleure plate-forme de support gratuit pour vous, Documentation &Tutoriels par les experts.

Articles similaires

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Bouton retour en haut de la page
Fermer