Болашаққа Біздің Қажеттілігіміз Шамалы: Технологиялардың Қауіптері
Why The Future Doesn't Need Us
Билл Джойдың «Болашаққа біздің қажетіміз жоқ» мақаласы робототехника, гендік инженерия, нанотехнологиялардың адамзатқа қауіптенің мүмкіндігін қарастырады. Технологиялық даму туралы ойлар.
Ағылшыншамен салыстырыңыз: абзацты басыңыз — түпнұсқа терезеде ашылады. Абзац астындағы EN түймесі оны мәтін ішінде көрсетеді.
Мазмұны
Кіріспе
2000 жылғы Билл Джойдың мақаласы
2000 article by Bill Joy
"Неге болашаққа біз қажет емес" – Билл Джойдың (сол кезде Sun Microsystems бас ғалымы) 2000 жылғы сәуір айындағы Wired журналында жарияланған мақаласы. Мақалада ол "Біздің 21-ғасырдың ең қуатты технологиялары – робот техникасы, гендік инженерия және нанотехнологиялар – адамзатты жоғалу қаупі төнген түрге айналдыруға қауіпті" деп аргументтейді. Джой ескертеді:
"Why The Future Doesn't Need Us" is an article written by Bill Joy (then Chief Scientist at Sun Microsystems) in the April 2000 issue of Wired magazine. In the article, he argues that "Our most powerful 21st century technologies—robotics, genetic engineering, and nanotech—are threatening to make humans an endangered species." Joy warns:
[[Ядролық қару тарихы]] тәжірибесі
The experiences of the [[History of nuclear weapons
Кейбір сыншылар Джойдың позициясын қараңғылатушылық немесе нео-луддизм деп сипаттаса да, басқалары оның технологияның қарқынды дамуының салдарына қатысты алаңдаушылығымен келіседі.
While some critics have characterized Joy's stance as obscurantism or neo Luddism, others share his concerns about the consequences of rapidly expanding technology.
Қорытынды
Джой технологияның дамуы адамзатқа бұрынғы технологиялар ешқашан келтірмеген қауіп төндіреді деп санайды. Ол генетикалық инженерия, нанотехнология және робототехникаға ерекше назар аударады. Оның пікірінше, ядролық бомба сияқты 20-шы ғасырдың құрылыс-жойғыш технологиялары құрылғылардың күрделілігі мен құнының жоғары болуына, сондай-ақ қажетті материалдарды алудың қиындығына байланысты тек үлкен мемлекеттердің ғана қолы жеткізе алатын болған. Ол «Ақ оба» романын адамзатты құрта алатын вирусты жасаған ақылсыз ғалым туралы қорқынышты сценарий ретінде келтіреді. Джой компьютер қуатының артуына да алаңдайды. Оның ойынша, компьютерлер соңында бізден ақылды болып, роботтардың бүлік шығаруы сияқты антиутопиялық жағдайларға әкелуі мүмкін. Ол Тед Качинскидің (Унабомбашының) сөздерін цитаталайды. Джой болашақта тек байлар ғана жаңа роботтарды басқару билігіне ие болып, олардың адамдардың өмірін және көбеюін қалай бақылауға шешім қабылдауы мүмкін екеніне қатысты алаңдаушылық білдіреді. Ол робототехника және осы саланың мамандары туралы көбірек зерттеу жүргізіп, өз ойларынан бөлек, басқалардың пікірін білуге тырысты. Робот техникасының маманы Родни Брукс болашақта адам мен роботтың бірігуі мүмкін екенін айтады. Джой Ханс Моравектің «Робот: қарапайым машинадан жоғары санаға» атты кітабында роботтардың болашақта адамдардың күнделікті іс-әрекеттерін өз мойнына алып, біртіндеп адамдардың осыған бейімделетіні туралы айтылғанын атап өтеді.
Joy argues that developing technologies pose a much greater danger to humanity than any technology before has ever done. In particular, he focuses on genetic engineering, nanotechnology and robotics. He argues that 20th century technologies of destruction such as the nuclear bomb were limited to large governments, due to the complexity and cost of such devices, as well as the difficulty in acquiring the required materials. He uses the novel The White Plague as a potential nightmare scenario, in which a mad scientist creates a virus capable of wiping out humanity. Joy also voices concerns about increasing computer power. His worry is that computers will eventually become more intelligent than we are, leading to such dystopian scenarios as robot rebellion. He quotes Ted Kaczynski (the Unabomber). Joy expresses concerns that eventually the rich will be the only ones that have the power to control the future robots that will be built and that these people could also decide to take life into their own hands and control how humans continue to populate and reproduce. He started doing more research into robotics and people that specialize in robotics, and outside of his own thoughts, he tried getting others' opinions on the topic. Rodney Brooks, a specialist in robotics, believes that in the future there will be a merge between humans and robots. Joy mentioned Hans Moravec's book ''Robot: Mere Machine to Transcendent Mind'' where he believed there will be a shift in the future where robots will take over normal human activities, but with time humans will become okay with living that way.
Сын
"Жаңалықтың жақындығы" кітабында Рэй Курцвейл қауіпті технологияны реттеуді сұраққа тартып, "Біз қатерлі ісік және басқа да ауыр ауруларға шалдыққан миллиондаған адамдарға биоинженерлік емдеуді дамытуды тоқтатуымыз керек пе?" деп сұрады, себебі осы технологиялардың кейбір күндері зұлымдыққа пайдаланылу қаупі бар. Алайда, Джон Зерзан мен Челлис Глендиннинг қазіргі технологиялар бостандыққа да, қатерлі ісік мәселесіне де зиян келтіреді және бұл екі мәселе байланысты деп санайды. AAAS Science and Technology Policy Yearbook 2001 журналындағы "Билл Джой мен технофутуристердің қараңғы болжамдарына жауап" мақаласында Джон Сили Браун мен Пол Дугид Джойды оның болжамдарында әлеуметтік факторларды ескермегендігі үшін, технологиялық шешілімге тым аударғандығы үшін сынады. Джон МакГиннис Джойдың жасанды жалпы интеллектке (АЖИ) алып келуі мүмкін технологияларды "қолдан шығару" ұсынысы сәтсіздікке ұшырайды дейді, себебі "қазіргі технология мен геосаясатта тыйым салулар тиімді болмайды". АЖИ-ді шектеу туралы келісімдерді тексеру қиын болады, себебі АЖИ-дің екі жақты қолданылу мүмкіндігі және оны жасырудың оңайдығы бар. Сондай-ақ, ол Джойдың зиянды зерттеулерден ғалымдардың ерікті түрде бас тартуы туралы "Гиппократ анты" ұсынысы да тиімді болмайды деп санайды, себебі ғалымдар үкіметтердің қысымына ұшырауы, пайда табуға құмар болуы, қандай технологиялар болашақта зиян келтіретінін білмеуі немесе Джойдың пікіріне қарсы болуы мүмкін. АЖИ-ден бас тартудың орнына МакГиннис басқа түрлеріне қарағанда жағымды жасанды интеллектті жылдам дамытуға бағытталған дифференциалды технологиялық дамуды ұсынады. Экстропиандық футуролог Макс Мор Курцвейлдің "технологияны қолдан шығарудың" практикалық емес және тиімсіздігі туралы көзқарасын бөліседі, бірақ адамзаттың кемелденуі мен эволюциясы "адамгершілігімізді жоғалту" емес және кез келген саланың қабілетін ерікті түрде арттыру тіпті "жоғалту" емес деп, моральдық және философиялық тұрғыдан дәлелдейді. Зак Голдсмит Билл Джоймен жасаған сұхбаты туралы мақаласында жаңа технологияларды дамытумен байланысты кейбір мәселелер мақалада айтылғаннан да қауіпті екенін айтады, себебі Голдсмит бұл машиналарды жасаушылар оларға тым көп билік береді деп мәлімдейді. Голдсмит ғалымдар жаңалық ойлағанда, қандай қателіктер болуы мүмкін екенін ойламайды, себебі бұл қаржыландырудың азаюына әкеледі. Софи Тайсом Билл Джойдың мақаласына жазған шолуында Джой жаңа технологияларға келгенде бір жақты ойлаудан ауытқуы керек және олармен "келісімге" келу мүмкіндігін қарастыруы керек дейді. Ол сондай-ақ оның болашақта не болатыны туралы уайымдағаны дұрыс екенін мойындайды, бірақ бұл технологиялар бізді бақылауға тырысады деп ойламайды. Джой бұған жауап беріп, адамдардың оның мақаласына жауап беруді бастағанына қуанғанын айтты, себебі бұл оларға тақырып бойынша ой бөлісуге мүмкіндік берді.
In The Singularity Is Near, Ray Kurzweil questioned the regulation of potentially dangerous technology, asking "Should we tell the millions of people afflicted with cancer and other devastating conditions that we are canceling the development of all bioengineered treatments because there is a risk that these same technologies may someday be used for malevolent purposes?" However, John Zerzan and Chellis Glendinning believe that modern technologies are bad for both freedom and the problem of cancer, and that the two issues are connected. In the AAAS Science and Technology Policy Yearbook 2001 article "A Response to Bill Joy and the Doom and Gloom Technofuturists", John Seely Brown and Paul Duguid criticized Joy for having technological tunnel vision on his prediction by failing to consider social factors. John McGinnis argues that Joy's proposal for "relinquishment" of technologies that might lead to artificial general intelligence (AGI) would fail because "prohibitions, at least under current technology and current geopolitics, are certain to be ineffective". Verification of AGI limitation agreements would be difficult due to AGI's dual use nature and ease of being hidden. Similarly, he feels that Joy's "Hippocratic oath" proposal of voluntary abstention by scientists from harmful research would not be effective either, because scientists might be pressured by governments, tempted by profits, uncertain which technologies would lead to harm down the road, or opposed to Joy's premise in the first place. Rather than relinquishment of AGI, McGinnis argues for a kind of differential technological development in which friendly artificial intelligence is advanced faster than other kinds. Extropian futurist Max More shares Kurzweil's viewpoint on matters of the impractical and ineffective nature of "technological relinquishment," but adds a larger moral and philosophical component to the argument, arguing that the perfection and evolution of humanity is not "losing our humanity" and that voluntarily sought increased capacity in any domain does not even represent "a loss" of any kind. In Zac Goldsmith's article about Bill Joy's interview, he quotes him on how some concerns with new developing technologies are actually more dangerous than he expressed in the article, because Goldsmith claims that the developers of these machines are giving them too much power. Goldsmith states his belief that scientists don't think of a lot of things that can go wrong when they start making inventions, because that will lead to less funding. In Sophie Tysom's review about Bill Joy's article she says Joy shouldn't be one minded when it comes to newer technology, and should also see that there could be a "compromise" made between him and those new technologies. She also agrees that he has a point for being worried about what will happen in the long run, but doesn't think that these technologies will try to control us in the future. Joy responded to this, stating that he liked that people were starting to respond to his article because it gave them an input on the subject.
Салдары
Мақала жарияланғаннан кейін Билл Джой технологиялардың жасырын қауіптерін бағалауды, сондай-ақ зиян келтіру мүмкіндігі бар технологияларға қатысты жұмыстан бас тартуды ұсынды. 2008 жылы Wired журналының 15 жылдығына арналған мақаласында Лукас Грейвс генетика, нанотехнология және робототехника Билл Джойдың болжаған сценарийін іске асыруға жетпегенін хабарлады. Танымал конспиролог Алекс Джонс 2020 жылдың 27 қазанындағы The Joe Rogan Experience подкастының эпизодында Джо Роган және Тим Диллонмен трансгуманизмнің салдары талқыланған кезде бұл мақалаға сілтеме жасады.
After the publication of the article, Bill Joy suggested assessing technologies to gauge their implicit dangers, as well as having scientists refuse to work on technologies that have the potential to cause harm. In the 15th Anniversary issue of Wired in 2008, Lucas Graves's article reported that the genetics, nanotechnology, and robotics technologies have not reached the level that would make Bill Joy's scenario come true. Noted conspiracy theorist Alex Jones cited the article during a discussion on the implications of transhumanism with podcasters Joe Rogan and Tim Dillon on the October 27, 2020 episode of The Joe Rogan Experience.