Көк сұрлану: Әлемнің апатты аяқталуы туралы гипотеза
Gray goo
Сұрақ: "Боз желім" – молекулалық нанотехнологиядан туындаған гипотетикалық апатты жағдай. Өзін-өзі көбейтуші машиналар биомассаны жоюы мүмкін. Тәуекелдер мен тарихы туралы біліңіз.
Ағылшыншамен салыстырыңыз: абзацты басыңыз — түпнұсқа терезеде ашылады. Абзац астындағы EN түймесі оны мәтін ішінде көрсетеді.
Кіріспе
Гипотетикалық әлемнің аяқталу сценарийі
Hypothetical end of the world scenario
Сұр тұман (немесе сұр иірім деп те жазылады) – молекулалық нанотехнологияға қатысты гипотетикалық жаһандық катастрофалық сценарий, онда бақылаудан шыққан, өздігінен көбейетін машиналар Жердегі барлық биомассаны (және мүмкін, басқа да барлық нәрсені) тұтынып, өздерінің көшірмелерін жасау арқылы экофагия деп аталатын жағдайға әкеледі. Алғашқы идея машиналар осы қабілетке ие болу үшін жасалғанын болжады, ал кейінгі насихаттар машиналар мұны кездейсоқ түрде алуы мүмкін деген пікірді қалыптастырды. Макроскопиялық өздігінен көбейетін машиналарды математик Джон фон Нейман алғаш сипаттады, олар кейде фон Нейман машиналары немесе «шулы көбейгіштер» деп аталады. «Сұр тұман» терминін нанотехнологияның пионері К. Эрик Дрекслер 1986 жылғы «Жаратылыс машиналарын» (Engines of Creation) кітабында қолданды. 2004 жылы ол «Мен «сұр тұман» терминін пайдаланбағанда жақсы болар еді» деген мәлімдеме жасады. «Жаратылыс машиналарын» кітабында «сұр тұман» туралы екі абзацта және түсіндірмеде ой-эксперимент ретінде айтылса, ал сұр тұманға қатысты кең таралған идея алғаш рет 1986 жылдың қараша айында «Omni» журналында жарияланды.
Gray goo (also spelled as grey goo) is a hypothetical global catastrophic scenario involving molecular nanotechnology in which out of control self replicating machines consume all biomass (and perhaps also everything else) on Earth while building many more of themselves, a scenario that has been called ecophagy The original idea assumed machines were designed to have this capability, while popularizations have assumed that machines might somehow gain this capability by accident. Self replicating machines of the macroscopic variety were originally described by mathematician John von Neumann, and are sometimes referred to as von Neumann machines or clanking replicators. The term gray goo was coined by nanotechnology pioneer K. Eric Drexler in his 1986 book Engines of Creation. In 2004, he stated "I wish I had never used the term 'gray goo'." Engines of Creation mentions "gray goo" as a thought experiment in two paragraphs and a note, while the popularized idea of gray goo was first publicized in a mass circulation magazine, Omni, in November 1986.
Этика мен хаос
Сұр иірім – жаңа технологиялардың төмен ықтималды, бірақ жоғары әсерлі салдарларын қарастыруға көмектесетін пайдалы тұжырым. Осылайша, ол технология этикасының маңызды құралы болып табылады. Даниэль А. Вальеро оны технологияны дамыту кезінде туындауы мүмкін қауіптерді ойластыратын технологтар үшін нашар жағдайды модельдеуге пайдаланды. Бұл, шешім ағашы немесе оқиға ағашына тіпті өте төмен ықтималды оқиғаларды да енгізуді қажет етеді, егер мұндай оқиғалар өте ауыр және қайта оралмайтын салдарға әкелсе, яғни сақтық принципін қолдануды талап етеді. Диан Ирвинг "Ғылымдағы кез келген қателік толқын тәрізді таралып, үлкен зардаптарға алып келуі мүмкін" деп ескертеді. Вальеро осы тұжырымды хаос теориясымен байланыстырып, жаңа технологияларға бейімдеді, онда бастапқы жағдайлардың шамалы өзгеруі күтпеген және терең жағымсыз салдарға әкелуі мүмкін, және технологтар мен жаңа технологияның қолдаушылары осыған жауапты болуы керек.
Gray goo is a useful construct for considering low probability, high impact outcomes from emerging technologies. Thus, it is a useful tool in the ethics of technology. Daniel A. Vallero applied it as a worst case scenario thought experiment for technologists contemplating possible risks from advancing a technology. This requires that a decision tree or event tree include even extremely low probability events if such events may have an extremely negative and irreversible consequence, i. e. application of the precautionary principle. Dianne Irving admonishes that "any error in science will have a rippling effect". Vallero adapted this reference to chaos theory to emerging technologies, wherein slight permutations of initial conditions can lead to unforeseen and profoundly negative downstream effects, for which the technologist and the new technology's proponents must be held accountable.