Серый слизь: гипотетический сценарий гибели мира из-за самовоспроизводящихся наномашин, поглощающих биомассу. Обсуждение и история концепции "серого слизня".
Сравнивайте с английским: нажмите на абзац — оригинал откроется в окне. Кнопка EN под абзацем показывает его прямо в тексте.
Введение
Гипотетический сценарий конца света
Hypothetical end of the world scenario
Серый клей (также пишется как серый клей) — это гипотетический глобальный катастрофический сценарий, связанный с молекулярными нанотехнологиями, в котором вышедшие из-под контроля самовоспроизводящиеся машины поглощают всю биомассу (и, возможно, всё остальное) на Земле, одновременно создавая всё больше себе подобных, сценарий, получивший название экофагия. Изначальная идея предполагала, что машины были спроектированы с этой способностью, в то время как в популярных представлениях говорится о том, что машины могут приобрести эту способность случайно. Самовоспроизводящиеся машины макроскопического типа были впервые описаны математиком Джоном фон Нейманом и иногда называются машинами фон Неймана или репликаторами-механоидами. Термин «серый клей» был введен пионером нанотехнологий К. Эриком Дрекслером в его книге «Машины творения» 1986 года. В 2004 году он заявил: «Я бы хотел никогда не использовать термин «серый клей»». В книге «Машины творения» «серый клей» упоминается как мысленный эксперимент в двух абзацах и примечании, а популяризированная идея серого клея впервые была опубликована в журнале массового распространения «Omni» в ноябре 1986 года.
Gray goo (also spelled as grey goo) is a hypothetical global catastrophic scenario involving molecular nanotechnology in which out of control self replicating machines consume all biomass (and perhaps also everything else) on Earth while building many more of themselves, a scenario that has been called ecophagy The original idea assumed machines were designed to have this capability, while popularizations have assumed that machines might somehow gain this capability by accident. Self replicating machines of the macroscopic variety were originally described by mathematician John von Neumann, and are sometimes referred to as von Neumann machines or clanking replicators. The term gray goo was coined by nanotechnology pioneer K. Eric Drexler in his 1986 book Engines of Creation. In 2004, he stated "I wish I had never used the term 'gray goo'." Engines of Creation mentions "gray goo" as a thought experiment in two paragraphs and a note, while the popularized idea of gray goo was first publicized in a mass circulation magazine, Omni, in November 1986.
Этика и хаос
Серая слизь — полезная концепция для анализа маловероятных, но катастрофических последствий развития новых технологий. Таким образом, это полезный инструмент в этике технологий. Дэниел А. Валлеро использовал её как мысленный эксперимент, представляющий наихудший сценарий, для технологов, оценивающих потенциальные риски, связанные с развитием технологии. Это требует, чтобы при построении дерева решений или дерева событий учитывались даже события с крайне низкой вероятностью, если они могут привести к крайне негативным и необратимым последствиям, то есть требовалось применение принципа предосторожности. Дианна Ирвинг предостерегает, что "любая ошибка в науке повлечёт за собой цепную реакцию". Валлеро адаптировал эту мысль, основанную на теории хаоса, к новым технологиям, где незначительные изменения исходных условий могут привести к непредвиденным и глубоко негативным последствиям, за которые технолог и сторонники новой технологии должны нести ответственность.
Gray goo is a useful construct for considering low probability, high impact outcomes from emerging technologies. Thus, it is a useful tool in the ethics of technology. Daniel A. Vallero applied it as a worst case scenario thought experiment for technologists contemplating possible risks from advancing a technology. This requires that a decision tree or event tree include even extremely low probability events if such events may have an extremely negative and irreversible consequence, i. e. application of the precautionary principle. Dianne Irving admonishes that "any error in science will have a rippling effect". Vallero adapted this reference to chaos theory to emerging technologies, wherein slight permutations of initial conditions can lead to unforeseen and profoundly negative downstream effects, for which the technologist and the new technology's proponents must be held accountable.