Вера в технологическую сингулярность и сингуляризм
Singularitarianism
Технологическая сингулярность: что это такое? Движение сингуляристов верит в скорое создание сверхинтеллекта и необходимость подготовки к нему для блага человечества.
Сравнивайте с английским: нажмите на абзац — оригинал откроется в окне. Кнопка EN под абзацем показывает его прямо в тексте.
Содержание
Введение
Вера в зарождающуюся технологическую сингулярность
Belief in an incipient technological singularity
Сингуляризм – это движение, основанное на убеждении, что технологическая сингулярность – создание сверхинтеллекта – вероятно произойдет в обозримом будущем, и что необходимо предпринять сознательные усилия, чтобы гарантировать, что сингулярность принесет пользу человечеству. Журнал Time описывает мировоззрение сингуляристов так: "хотя это и звучит как научная фантастика, это не более фантастика, чем прогноз погоды. Это не маргинальная идея, а серьезная гипотеза о будущем жизни на Земле. Возникает интеллектуальный отторг, когда пытаешься принять идею о сверхразумных бессмертных киборгах, но несмотря на то, что Сингулярность кажется, на первый взгляд, нелепой, это идея, которая требует вдумчивой и осторожной оценки".
Singularitarianism is a movement defined by the belief that a technological singularity—the creation of superintelligence—will likely happen in the medium future, and that deliberate action ought to be taken to ensure that the singularity benefits humans. Time magazine describes the worldview of Singularitarians by saying "even though it sounds like science fiction, it isn't, no more than a weather forecast is science fiction. It's not a fringe idea; it's a serious hypothesis about the future of life on Earth. There's an intellectual gag reflex that kicks in anytime you try to swallow an idea that involves super intelligent immortal cyborgs, but while the Singularity appears to be, on the face of it, preposterous, it's an idea that rewards sober, careful evaluation".
Определение
Термин "сингулярный" был первоначально определен экстропическим мыслителем Марком Плюсом (Марком Поттсом) в 1991 году как "тот, кто верит в концепцию сингулярности". С тех пор этот термин был переопределен как "активист сингулярности" или "сторонник сингулярности"; то есть, тот, кто действует с целью наступления сингулярности. Сингулярность также можно рассматривать как ориентацию или мировоззрение, которое отдает предпочтение повышению человеческого интеллекта как конкретной трансгуманистической цели, а не фокусируется на конкретных технологиях, таких как ИИ. Существуют также определения, идентифицирующие сингулярного как активиста или сторонника концепции сингулярности, то есть, того, кто действует с целью наступления сингулярности. Некоторые источники описывают это как моральную философию, которая выступает за сознательные действия по наступлению и управлению развитием сверхинтеллекта, что приведет к теоретической будущей точке, возникающей в период ускоренных изменений. Изобретатель и футуролог Рэй Курцвейл, автор книги 2005 года "Сингулярность близка: когда люди превзойдут биологию", определяет сингулярного как человека, "который понимает сингулярность и размышляет о ее последствиях для своей жизни". В 1993 году математик, ученый-компьютерщик и писатель-фантаст Вернор Винге предположил, что может наступить момент, когда технологии позволят "создать сущности с интеллектом, превосходящим человеческий", и использовал термин "Сингулярность" для описания этого момента. Сингулярность оформилась в связную идеологию в 2000 году, когда исследователь искусственного интеллекта (ИИ) Элизер Юдковский написал "Сингулярные принципы", в которых он заявил, что сингулярный считает сингулярность светским, немистическим событием, которое возможно и полезно для мира, и над которым работают его последователи. Некоторые эксперты и ученые выражают сомнения в использовании роботов в военных целях, особенно если такие роботы наделены определенной степенью автономности. Президент АААИ поручил провести исследование по этому вопросу.
The term "Singularitarian" was originally defined by Extropian thinker Mark Plus (Mark Potts) in 1991 to mean "one who believes the concept of a Singularity". This term has since been redefined to mean "Singularity activist" or "friend of the Singularity"; that is, one who acts so as to bring about the singularity. Singularitarianism can also be thought of as an orientation or an outlook that prefers the enhancement of human intelligence as a specific transhumanist goal instead of focusing on specific technologies such as A. I. There are also definitions that identify a singularitarian as an activist or a friend of the concept of singularity, that is, one who acts so as to bring about a singularity. Some sources described it as a moral philosophy that advocates deliberate action to bring about and steer the development of a superintelligence that will lead to a theoretical future point that emerges during a time of accelerated change. Inventor and futurist Ray Kurzweil, author of the 2005 book The Singularity Is Near: When Humans Transcend Biology, defines a Singularitarian as someone "who understands the Singularity and who has reflected on its implications for his or her own life" In 1993, mathematician, computer scientist, and science fiction author Vernor Vinge hypothesized that the moment might come when technology will allow "creation of entities with greater than human intelligence" and used the term "the Singularity" to describe this moment. Singularitarianism coalesced into a coherent ideology in 2000, when artificial intelligence (AI) researcher Eliezer Yudkowsky wrote The Singularitarian Principles, in which he stated that a Singularitarian believes that the singularity is a secular, non mystical event which is possible and beneficial to the world and is worked towards by its adherents. Some experts and academics have questioned the use of robots for military combat, especially when such robots are given some degree of autonomous functions. The President of the AAAI has commissioned a study to look at this issue.
Прием
Существует несколько возражений против сингулярности, предсказанной Курцвейлом, и эти возражения исходят даже от оптимистов в области искусственного интеллекта. Например, Дуглас Хофстадтер, лауреат Пулитцеровской премии, утверждал, что предсказанное Курцвейлом достижение искусственного интеллекта, сопоставимого с человеческим, к 2045 году нереалистично. Даже Гордон Мур, автор закона Мура, который лег в основу концепции сингулярности, считал, что она никогда не наступит. По мнению некоторых наблюдателей, эта критика не ослабляет энтузиазма вокруг сингулярности, поскольку она приобрела квазирелигиозный характер, предлагая утешение перед лицом страха смерти и позволяя сторонникам извлекать выгоды из веры, не неся бремени онтологических вопросов. Курцвейл отвергает такую характеристику, заявляя, что его прогнозы о сингулярности основаны на данных, свидетельствующих об экспоненциальном росте вычислительных технологий в прошлом. Он также утверждает, что критики, оспаривающие его точку зрения, ошибочно исходят из интуитивного, линейного представления о технологическом прогрессе.
There are several objections to Kurzweil's singularitarianism, and these even include criticisms from optimists within the A. I. field. For instance, Pulitzer Prize winning author Douglas Hofstadter argued that Kurzweil's predicted achievement of human level A. I. by 2045 is not viable. Even Gordon Moore, who is credited for introducing Moore's Law that predicated the notion of singularity, maintained that it will never occur. According to some observers, these criticisms do not diminish enthusiasm for singularity because it has assumed a quasi religious response to the fear of death, allowing its adherents to enjoy the benefits of religion without its ontological burdens. Kurzweil rejects this categorization, stating that his predictions about the singularity are driven by the data that increases in computational technology have been exponential in the past. He also claimed that critics who challenge his view mistakenly take an intuitive linear view of technological advancement.