Дифференциальное технологическое развитие: стратегия управления технологиями
Differential technological development
Управление технологиями: стратегия дифференциального развития для снижения рисков от новых технологий. Ускорение полезных и замедление опасных разработок.
Сравнивайте с английским: нажмите на абзац — оригинал откроется в окне. Кнопка EN под абзацем показывает его прямо в тексте.
Содержание
Введение
Стратегия управления технологиями
Strategy of technology governance
Дифференциальное технологическое развитие — это стратегия управления технологиями, направленная на снижение рисков, связанных с возникающими технологиями, путем воздействия на порядок их разработки. В рамках этой стратегии общества будут стремиться замедлить развитие опасных технологий и областей их применения, одновременно ускоряя развитие полезных технологий, особенно тех, которые обеспечивают защиту от опасных.
Differential technological development is a strategy of technology governance aiming to decrease risks from emerging technologies by influencing the sequence in which they are developed. On this strategy, societies would strive to delay the development of harmful technologies and their applications, while accelerating the development of beneficial technologies, especially those that offer protection against the harmful ones.
История идеи
Дифференциальное технологическое развитие было впервые предложено философом Ником Бостромом в 2002 году. Эта стратегия также нашла поддержку у философа Тоби Орда в его книге 2020 года "Ущелье: экзистенциальный риск и будущее человечества", где он пишет, что "хотя предотвратить разработку опасной технологии может быть слишком сложно, мы можем снизить экзистенциальный риск, ускоряя разработку защитных технологий относительно опасных".
Differential technological development was initially proposed by philosopher Nick Bostrom in 2002 The strategy was also endorsed by philosopher Toby Ord in his 2020 book The Precipice: Existential Risk and the Future of Humanity, who writes that "While it may be too difficult to prevent the development of a risky technology, we may be able to reduce existential risk by speeding up the development of protective technologies relative to dangerous ones."
Неформальная дискуссия
Пол Кристиано полагает, что, хотя ускорение технологического прогресса представляется одним из лучших способов улучшить благосостояние человечества в ближайшие несколько десятилетий, более высокая скорость роста не может быть столь же важна в отдалённом будущем, поскольку рост неизбежно должен замедлиться из-за физических пределов. Следовательно, с точки зрения отдалённого будущего, более существенным представляется дифференциальное технологическое развитие. Вдохновлённые предложением Бострома, Люк Мюльхаузер и Анна Саломон предложили более общий проект "дифференциального интеллектуального прогресса", в рамках которого общество развивает свою мудрость, философскую глубину и понимание рисков быстрее, чем свои технологические возможности. Брайан Томасик развил эту идею.
Paul Christiano believes that while accelerating technological progress appears to be one of the best ways to improve human welfare in the next few decades, a faster rate of growth cannot be equally important for the far future because growth must eventually saturate due to physical limits. Hence, from the perspective of the far future, differential technological development appears more crucial. Inspired by Bostrom's proposal, Luke Muehlhauser and Anna Salamon suggested a more general project of "differential intellectual progress", in which society advances its wisdom, philosophical sophistication, and understanding of risks faster than its technological power. Brian Tomasik has expanded on this notion.