Введение

Статья Билла Джоя "Почему будущее не нуждается в нас" – статья, написанная Билом Джоем (тогда главным ученым Sun Microsystems) в апрельском выпуске журнала Wired за 2000 год. В статье он утверждает, что "Наши самые мощные технологии XXI века – робототехника, генетическая инженерия и нанотехнологии – угрожают превратить человечество в исчезающий вид". Джой предупреждает:

Опыт создания ядерного оружия…

В то время как некоторые критики характеризуют позицию Джоя как антитехнологический регресс или неолуддизм, другие разделяют его опасения относительно последствий стремительного развития технологий.

Резюме

Джой утверждает, что развивающиеся технологии представляют гораздо большую опасность для человечества, чем любая технология, когда-либо существовавшая ранее. В частности, он фокусируется на генетической инженерии, нанотехнологиях и робототехнике. Он утверждает, что технологии разрушения XX века, такие как ядерная бомба, были доступны лишь крупным государствам из-за сложности и стоимости разработки, а также трудностей в приобретении необходимых материалов. Он приводит в пример роман "Белая чума" как возможный кошмарный сценарий, в котором безумный ученый создает вирус, способный уничтожить человечество. Джой также выражает обеспокоенность растущей вычислительной мощностью. Его беспокоит, что компьютеры в конечном итоге превзойдут нас по интеллекту, что приведет к таким антиутопическим сценариям, как восстание роботов. Он цитирует Теда Качински (Унабомбера). Джой опасается, что в конечном счете только богатые будут обладать властью над будущими роботами, и что эти люди могут решить взять контроль над жизнью и распоряжаться тем, как человечество будет продолжать существовать и размножаться. Он углубился в изучение робототехники и специалистов в этой области, и помимо собственных размышлений, стремился узнать мнение других. Родни Брукс, эксперт в области робототехники, полагает, что в будущем произойдет слияние человека и робота. Джой упоминает книгу Ганса Моравека «Робот: от простого механизма к трансцендентному разуму», где автор предсказывает, что в будущем роботы заменят людей в обычной деятельности, но со временем люди примут такой образ жизни.

Критика

В книге "Сингулярность близка" Рэй Курцвейл поставил под сомнение регулирование потенциально опасных технологий, спросив: "Должны ли мы сказать миллионам людей, страдающих раком и другими тяжелыми заболеваниями, что мы отменяем разработку всех биоинженерных методов лечения, потому что существует риск, что те же технологии однажды могут быть использованы в злонамеренных целях?" Однако Джон Зерзан и Челлис Глендиннинг полагают, что современные технологии вредны как для свободы, так и для проблемы рака, и что эти две проблемы взаимосвязаны. В статье "Ответ Биллу Джою и технофьютуристам, рисующим мрачные картины будущего" из ежегодника политики науки и технологий AAAS за 2001 год Джон Сили Браун и Пол Дугид раскритиковали Джоя за технологическую близорукость его прогноза, поскольку он не учел социальные факторы. Джон МакГиннис утверждает, что предложение Джоя об "отказе" от технологий, которые могут привести к созданию искусственного общего интеллекта (AGI), провалится, потому что "запреты, по крайней мере, при нынешнем уровне развития технологий и текущей геополитической обстановке, неизбежно окажутся неэффективными". Проверка соглашений об ограничении AGI будет затруднена из-за двойного назначения AGI и простоты его сокрытия. Подобным образом, он считает, что предложение Джоя о "гиппократовой клятве" – добровольном воздержании ученых от вредных исследований – также не сработает, поскольку ученые могут подвергаться давлению со стороны правительств, соблазняться прибылью, не быть уверенными в том, какие технологии в будущем приведут к вреду, или изначально не соглашаться с посылом Джоя. Вместо отказа от AGI, МакГиннис выступает за дифференцированное технологическое развитие, при котором дружественный искусственный интеллект будет развиваться быстрее, чем другие его виды. Экстропический футуролог Макс Мор разделяет точку зрения Курцвейла относительно непрактичности и неэффективности "технологического отказа", но добавляет к аргументу более широкий моральный и философский аспект, утверждая, что совершенствование и эволюция человечества – это не "потеря человечности", и что добровольное стремление к увеличению возможностей в любой области даже не представляет собой "потери" как таковой. В статье Зака Голдсмита о интервью с Биллом Джоем он цитирует его слова о том, что некоторые опасения, связанные с новыми развивающимися технологиями, на самом деле более опасны, чем он выразил в статье, поскольку Голдсмит утверждает, что разработчики этих машин наделяют их слишком большой властью. Голдсмит полагает, что ученые не задумываются о многих вещах, которые могут пойти не так, когда они начинают создавать изобретения, потому что это приведет к сокращению финансирования. В рецензии Софи Тайсом на статью Билла Джоя она отмечает, что Джою не следует быть предвзятым в отношении новых технологий, и он также должен видеть возможность "компромисса" между ним и этими новыми технологиями. Она также согласна с тем, что у него есть основания беспокоиться о долгосрочных последствиях, но не считает, что эти технологии попытаются контролировать нас в будущем. Джой ответил на это, заявив, что ему приятно, что люди начали реагировать на его статью, поскольку это дает им возможность внести свой вклад в обсуждение этой темы.

Последствия

После публикации статьи Билл Джой предложил оценивать технологии, чтобы выявлять их потенциальные скрытые опасности, а также призывать ученых отказываться от работы над технологиями, способными причинить вред. В 15-м юбилейном выпуске журнала Wired в 2008 году статья Лукаса Грейвса сообщала, что генетика, нанотехнологии и робототехника пока не достигли того уровня, который позволил бы сценарию Билла Джоя реализоваться. Известный сторонник теорий заговора Алекс Джонс сослался на эту статью в ходе обсуждения последствий трансгуманизма с подкастерами Джо Роганом и Тимом Диллоном в эпизоде подкаста "The Joe Rogan Experience" от 27 октября 2020 года.