Technologie

La promesse et le péril de la singularité technologique à venir

La promesse et le péril de la singularité technologique à venir


Comment l'accélération du changement conduira à des machines sensibles et pourquoi cela crée une incertitude existentielle sur l'avenir de l'humanité.

2* 3SOp9L Gjyp0HzZ6f1W8A - La promesse et le péril de la singularité technologique à venir

le singularité est le nirvana numérique du 21e siècle: un moment dans le temps où les machines deviennent conscientes de soi, utilisant des capacités au niveau humain à la vitesse de la machine pour se propulser rapidement vers des niveaux d'intelligence divins - et ce qui se passe après que tout le monde le devine.

Ce que vous pensez de la singularité dépend de votre point de vue - presque comme un test de Rorschach pour les futuristes. Des optimistes comme Ray Kurzweil, Mark Zuckerberg et Larry Page y voient la naissance d'un nouvel avenir utopique pour l'humanité, tandis que d'autres tels que Nick Bostrom, Bill Gates et Elon Musk sont profondément préoccupés.

Malgré les incertitudes, la science et la technologie poursuivent leur marche en avant - avec de nombreux projets d'Intelligence Générale Artificielle (AGI) et des efforts pour inverser l'esprit humain nous rapprochant de ce jour de calcul.

Comme l'a écrit Marshall Brain, «nous créons une deuxième espèce intelligente pour rivaliser avec nous-mêmes» - et bien que nous sachions peu de choses sur les pensées, les motivations ou peut-être les sentiments qu'elle aura à son arrivée, nous avons au moins une idée de la chronologie: le futuriste Ray Kurzweil prédit que cela arrivera d'ici 2045.

La croissance exponentielle de la puissance de calcul contrairement à ses homologues biologiques (Wikipedia)

Le concept de la singularité remonte à John von Neumann dans les années 50, mais il est resté obscur jusqu'à ce que l'auteur de science-fiction Vernor Vinge le popularise dans son essai de 1993, La singularité technologique à venir, puis dans Ray Kurzweil L'ère des machines spirituelles en 1999.

Alors que les prédictions pour la singularité varient, la prémisse découle d'une observation commune: le taux de progrès technologique augmente de façon exponentielle - et à un moment donné, les humains seront tout simplement incapables de suivre. L'image ci-dessus, par exemple, montre la loi de Moore créant une augmentation exponentielle de la vitesse de calcul dans un PC de bureau standard de 1000 $, qui est tracée par rapport à des jalons représentant la capacité de calcul des animaux et des personnes.

Alors que l'accélération du changement dans le monde d'aujourd'hui est créée par des personnes utilisant la conception assistée par machine et le partage d'informations en ligne, demain ce sera entièrement le produit de l'auto-amélioration récursive par les machines, à quel point les humains deviendront non pertinents pour progresser - et les pessimistes craignent que l'humanité ne sera pas non plus pertinente pour la planète.

Le futuriste Ray Kurzweil prédit que les machines atteindront l'intelligence au niveau humain d'ici 2030 - et après ce moment, la puissance de calcul continuera d'augmenter, dépassant la puissance de tous les esprits humains combinés vers 2060.

L'analyse de Kurzweil ne traite pas de la complexité du développement de logiciels capables d'imiter l'esprit humain - mais il pense que les progrès des neurosciences faciliteront le développement de la véritable intelligence artificielle, et des projets comme le projet de recherche sur le cerveau financé par l'IARPA de Carnegie Mellon semblent soutenir sa prédiction .

Bien que la capacité de calcul ne soit pas synonyme de sensibilité, Kurzweil pense que les progrès combinés de l'informatique et de l'intelligence artificielle mèneront inévitablement à une machine consciente de soi qui s'améliorera et qui, selon Kurzweil, mènera à une singularité technologique, la croissance technologique devient incontrôlable et irréversible, entraînant des changements imprévisibles dans la civilisation humaine. »

Comme mentionné ci-dessus, les progrès de l'intelligence artificielle et la perspective de la singularité se sont polarisés dans la communauté du futurisme. Le graphique ci-dessous, extrait d'un article de Vanity Fair sur les dangers de l'IA, montre un large éventail d'opinions sur le sujet détenues par plusieurs futuristes populaires.

Certains des principaux partisans et critiques actuels de l'IA (Vanity Fair)

Peut-être le plus optimiste de ces penseurs est Ray Kurzweil, qui a déclaré: «L'évolution biologique est trop lente pour l'espèce humaine. Au cours des prochaines décennies, il restera dans la poussière. D'ici 2030, la partie non biologique de notre intelligence - notre technologie - prédominera… »

De l'avis de Kurzweil, la singularité n'est pas un événement où les machines deviennent dominantes sur l'humanité, mais plutôt la fusion de l'homme et de la machine, brouillant la distinction entre naturel et artificiel, et dans le processus redéfinissant la vie telle que nous la connaissons.

Kurzweil estime que des concepts tels que le téléchargement de l'esprit, la nanotechnologie moléculaire et les implants cybernétiques ouvrent la porte à l'immortalité virtuelle pour les humains, ainsi qu'à l'intelligence humaine accrue, à la fin de la maladie et à une panacée d'incroyables nouvelles possibilités que nous n'avons même pas encore commencé à explorer.

Évidemment, tous les futuristes ne sont pas aussi optimistes. Le regretté physicien Stephen Hawking avait une vision très pessimiste de l'IA, affirmant que «le développement d'une intelligence artificielle complète pourrait signifier la fin de la race humaine», et il n'était pas seul dans ses préoccupations.

Elon Musk a qualifié l'IA de «menace existentielle pour l'humanité», et Nick Bostrom a déclaré: «Notre approche des risques existentiels ne peut pas être celle des essais et erreurs. Il n'y a aucune possibilité d'apprendre des erreurs. »

Une approche plus modérée vient de Bill Gates, qualifiant l'IA de "prometteuse et dangereuse", mais préconisant toujours une recherche ouverte et gérée. «Le monde n'a pas eu autant de technologies à la fois prometteuses et dangereuses, a-t-il dit,« nous avions l'énergie nucléaire et les armes nucléaires… l'endroit qui, selon moi, est le plus préoccupant est dans les systèmes d'armes. »

Le paradigme de Ray Kurzweil change la chronologie de Countdown To The Singularity

Ray Kurzweil, étant peut-être le pronosticeur le plus connu de la singularité, a déclaré que les ordinateurs correspondraient aux niveaux d'intelligence humaine d'ici 2029 - avec la singularité elle-même qui devrait se produire avant l'année 2045.

D'autres futuristes proposent des échéances légèrement différentes, avec le PDG de SoftBank, Masayoshi Son, disant que cela arrivera en 2047, et Ben Goertzel, un conseiller de la Singularity University, affirmant que divers facteurs sociaux et scientifiques pourraient mettre la date de 2020 à 2100.

Futurism.com a récemment interrogé plusieurs experts en informatique et en intelligence artificielle dans un article intitulé, Séparer le fait scientifique du battage scientifique: à quelle distance de la singularité?, Et le consensus était généralement cohérent avec les projections de Kurzweil, avec un calendrier entre 2045 et 2050.

Il convient de noter que Kurzweil lui-même a renforcé sa vision de la chronologie de la singularité en partant du principe que même si l'intelligence artificielle au niveau humain ne se produit pas immédiatement, la loi des retours accélérés signifie que seul un court délai existera avant que la singularité ne se produise - un résultat de l'augmentation exponentielle que Kurzweil aime à citer.

La croissance exponentielle de la capacité de calcul au cours du siècle dernier indique une conclusion inexorable - que les ordinateurs correspondront et éventuellement dépasseront la capacité de calcul de l'esprit humain.

À un moment donné, cette augmentation de la puissance de calcul combinée aux progrès de l'intelligence artificielle devrait conduire à la création d'une intelligence machine consciente de soi, qui sera capable de s'améliorer de manière récursive pour se propulser à des niveaux d'intelligence dépassant le cadre de l'imagination humaine.

Le résultat sera l'un des événements les plus importants de l'histoire de la race humaine: la singularité sera la naissance d'une deuxième espèce intelligente sur Terre, capable de rivaliser avec l'humanité et animée par des objectifs, des désirs et des motivations qui ne peuvent être prédits.

Divers futuristes détiennent un éventail d'opinions sur le sens et l'impact de la singularité - certains le considérant comme un résultat souhaité capable d'élever l'humanité à une stature divine, et d'autres anticipant le déplacement complet des êtres humains par une nouvelle forme d'intelligence plus avancée. .

Actuellement, on ne comprend pas assez l'impact potentiel de la singularité pour tirer une conclusion définitive, mais peut-être que la meilleure façon de la considérer est comme n'importe quelle nouvelle technologie puissante: une boîte de bénédictions mixtes de pandore, chargée d'un nombre incertain d'avantages et de dangers .

Afficher plus

SupportIvy

SupportIvy.com : Un lieu pour partager le savoir et mieux comprendre le monde. Meilleure plate-forme de support gratuit pour vous, Documentation &Tutoriels par les experts.

Articles similaires

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Bouton retour en haut de la page
Fermer