Эпоха духовных машин: Когда компьютеры превзойдут человеческий интеллект.

Введение

Книга Рэя Курцвейла 1999 года, посвященная научно-популярной литературе

«Эпоха духовных машин: когда компьютеры превзойдут человеческий интеллект» – научно-популярная книга изобретателя и футуролога Рэя Курцвейла, посвященная искусственному интеллекту и будущему человечества. Впервые опубликованная в твердом переплете 1 января 1999 года издательством Viking, она привлекла внимание The New York Times, The New York Review of Books и The Atlantic. В книге Курцвейл излагает свое видение развития технологий в XXI веке. Курцвейл полагает, что эволюция предоставляет доказательства того, что люди однажды создадут машины, превосходящие их по интеллекту. Он представляет свой закон ускоряющейся отдачи, чтобы объяснить, почему «ключевые события» происходят все чаще и чаще с течением времени. Это также объясняет экспоненциальный рост вычислительной мощности компьютеров. Курцвейл утверждает, что это увеличение – лишь один из компонентов создания искусственного интеллекта, другие – автоматическое приобретение знаний и алгоритмы, такие как рекурсия, нейронные сети и генетические алгоритмы. Курцвейл предсказывает, что машины с интеллектом, сопоставимым с человеческим, станут доступны на доступных вычислительных устройствах в течение нескольких десятилетий, революционизируя большинство аспектов жизни. Он утверждает, что нанотехнологии расширят возможности наших тел и излечат рак, в то время как люди будут подключаться к компьютерам через прямые нейронные интерфейсы или жить постоянно в виртуальной реальности. Курцвейл предсказывает, что машины «будут казаться обладающими собственной свободой воли» и даже «духовным опытом». Он считает, что люди, по сути, станут бессмертными, поскольку человечество и его машины сольются воедино. Он предсказывает, что интеллект будет распространяться за пределы Земли, пока не станет достаточно мощным, чтобы влиять на судьбу Вселенной. Критики оценили способность Курцвейла к прогнозированию, его умение экстраполировать технологические тенденции и его ясные объяснения. Однако существовали разногласия относительно того, смогут ли компьютеры когда-нибудь обрести сознание. Философы Джон Сёрл и Колин МакГинн настаивают на том, что одних лишь вычислений недостаточно для создания сознательной машины. Сёрл использует вариант своего известного аргумента «китайская комната», на этот раз адаптированный к компьютерам, играющим в шахматы – теме, которой также касается Курцвейл. Сёрл пишет, что компьютеры могут лишь манипулировать символами, которые для них ничего не значат, и если это утверждение верно, то оно подрывает значительную часть видения, представленного в книге.

The Age of Spiritual Machines: When Computers Exceed Human Intelligence is a non fiction book by inventor and futurist Ray Kurzweil about artificial intelligence and the future course of humanity. First published in hardcover on January 1, 1999, by Viking, it has received attention from The New York Times, The New York Review of Books and The Atlantic. In the book Kurzweil outlines his vision for how technology will progress during the 21st century. Kurzweil believes evolution provides evidence that humans will one day create machines more intelligent than they are. He presents his law of accelerating returns to explain why "key events" happen more frequently as time marches on. It also explains why the computational capacity of computers is increasing exponentially. Kurzweil writes that this increase is one ingredient in the creation of artificial intelligence; the others are automatic knowledge acquisition and algorithms like recursion, neural networks, and genetic algorithms. Kurzweil predicts machines with human level intelligence will be available from affordable computing devices within a couple of decades, revolutionizing most aspects of life. He says nanotechnology will augment our bodies and cure cancer even as humans connect to computers via direct neural interfaces or live full time in virtual reality. Kurzweil predicts the machines "will appear to have their own free will" and even "spiritual experiences". He says humans will essentially live forever as humanity and its machinery become one and the same. He predicts that intelligence will expand outward from Earth until it grows powerful enough to influence the fate of the universe. Reviewers appreciated Kurzweil's track record with predictions, his ability to extrapolate technology trends, and his clear explanations. However, there was disagreement on whether computers will one day be conscious. Philosophers John Searle and Colin McGinn insist that computation alone cannot possibly create a conscious machine. Searle deploys a variant of his well known Chinese room argument, this time tailored to computers playing chess, a topic Kurzweil covers. Searle writes that computers can only manipulate symbols which are meaningless to them, an assertion which if true subverts much of the vision of the book.

Предыстория

Рэй Курцвейл — изобретатель и серийный предприниматель. К моменту публикации книги "Эпоха духовных машин" он уже основал четыре компании: Kurzweil Computer Products, Inc., разработавшую технологию оптического распознавания символов и сканирования изображений для помощи слепым, Kurzweil Music Systems, создавшую музыкальные синтезаторы с высококачественной эмуляцией звучания реальных инструментов, Kurzweil Applied Intelligence, разработавшую технологию распознавания речи, и Kurzweil Educational Systems, разработавшую технологию преобразования печатного текста в речь. Критики утверждают, что предсказания из его предыдущей книги "Эпоха интеллектуальных машин" "в основном сбылись".

Закон ускоряющейся отдачи

Курцвейл начинает с объяснения того, что частота событий во Вселенной замедлилась после Большого взрыва, в то время как эволюция достигала важных рубежей с постоянно возрастающей скоростью. Это не парадокс, пишет он: общая энтропия (беспорядок) возрастает, но локальные области возрастающей упорядоченности процветают. Курцвейл объясняет, как биологическая эволюция ведет к технологиям, которые ведут к вычислениям, а те – к закону Мура. Курцвейл представляет несколько собственных законов, связанных с этой прогрессией, кульминацией которой является его закон ускоряющейся отдачи, утверждающий, что время ускоряется по мере увеличения порядка. Он полагает, что закон Мура подойдет к концу "к 2020 году", но закон ускоряющейся отдачи требует, чтобы прогресс продолжал ускоряться, поэтому будет открыта или усовершенствована какая-либо заменяющая технология для поддержания экспоненциального роста. Как и в книге "Эпоха интеллектуальных машин", Курцвейл утверждает здесь, что у эволюции коэффициент интеллекта лишь немного превышает ноль. Он объясняет это тем, что эволюция происходит настолько медленно, а интеллект является функцией времени. Курцвейл объясняет, что люди значительно умнее эволюции, судя по тому, что мы создали за последние несколько тысяч лет, и что, в свою очередь, наши творения скоро превзойдут нас по интеллекту. Закон ускоряющейся отдачи предсказывает, что это произойдет в течение нескольких десятилетий, сообщает Курцвейл.

Философия разума

Курцвейл предлагает несколько мысленных экспериментов, связанных с имплантатами мозга и сканированием мозга; он приходит к выводу, что мы – не просто набор атомов, а скорее паттерн, способный проявляться в различных средах и в разное время. Он пытается разгадать тайну возникновения самосознания и сознания из материи, но не находит решения. Опираясь отчасти на свое унитарианское религиозное воспитание, Курцвейл полагает, что "все эти точки зрения верны, если рассматривать их вместе, но недостаточны по отдельности", при этом признавая, что это "противоречиво и лишено логики". Курцвейл определяет духовный опыт как "ощущение выхода за пределы повседневных физических и смертных границ, чтобы почувствовать более глубокую реальность". Он поясняет, что "само существование – переживание, осознание – уже является духовным и отражает суть духовности". В будущем, по мнению Курцвейла, компьютеры будут "заявлять о своем сознании, а следовательно, и о своей духовности", и заключает, что "машины двадцать первого века" будут посещать церковь, медитировать и молиться, чтобы приобщиться к этой духовности.

Искусственный интеллект

Курцвейл говорит, что статья Алана Тьюринга 1950 года «Вычислительные машины и интеллект» положила начало области искусственного интеллекта. Он признает, что ранний прогресс в этой области привел к чрезмерно оптимистичным прогнозам будущих успехов, которые не оправдались. Курцвейл определяет интеллект как «способность оптимально использовать ограниченные ресурсы» для достижения целей. Он противопоставляет рекурсивные решения нейронным сетям, отмечая, что ему нравятся оба подхода, но особо выделяет ценность нейронных сетей, поскольку они уничтожают информацию в процессе обработки, что, при селективном применении, необходимо для осмысления реальных данных. Нейрон либо активируется, либо нет, «преобразуя поток входящих сигналов в один бит». Он также высоко ценит генетические алгоритмы, которые эффективно имитируют биологическую эволюцию. Курцвейл объясняет, что рекурсия, нейронные сети и генетические алгоритмы – все это компоненты интеллектуальных машин. Помимо алгоритмов, машинам потребуются и знания, утверждает Курцвейл. Новые методы, такие как нейронные сети и генетические алгоритмы, требуют значительных усилий по обучению, помимо создания самой системы. В то время как знания, закодированные вручную, трудоемки и негибки, а получение знаний через язык – чрезвычайно сложная задача.

Создание новых мозгов

Чтобы создать искусственный мозг, требуются формулы, знания и достаточная вычислительная мощность, объясняет Курцвейл. Он утверждает, что "примерно к 2020 году" персональный компьютер стоимостью 1000 долларов будет обладать достаточной скоростью и объемом памяти, чтобы соответствовать человеческому мозгу, основываясь на законе ускоряющейся отдачи и его собственных оценках вычислительной скорости и емкости памяти мозга. Курцвейл предсказывает, что закон Мура сохранится до 2020 года, поэтому современные интегральные схемы должны приблизиться к вычислительным возможностям человеческого мозга, но, по его мнению, следующей крупной технологией станут трехмерные чипы, за которыми потенциально последуют оптические вычисления, вычисления на основе ДНК, нанотрубки или квантовые вычисления. Курцвейл считает, что лучшей моделью для искусственного мозга является настоящий человеческий мозг, и предлагает разрезать и оцифровать сохраненные человеческие мозги или изучать их неинвазивными методами, по мере развития технологий. Курцвейл проводит различие между сканированием мозга для его общего понимания и сканированием мозга конкретного человека с целью его точного сохранения, например, для "загрузки" в компьютер. Последнее, отмечает он, гораздо сложнее, поскольку требует захвата гораздо большего количества деталей, но в конечном итоге это тоже станет возможным. Когда это произойдет, "мы будем представлять собой программное обеспечение, а не аппаратное обеспечение", и наша смертность будет зависеть от нашей способности "регулярно создавать резервные копии".

Создание новых органов

Курцвейл отмечает, что многие мысли людей связаны с их телами, и заверяет, что он не верит в создание разума вне тела. Он рассматривает все существовавшие на момент публикации книги варианты имплантатов, объясняя, что наши тела уже постепенно становятся более синтетическими. Курцвейл утверждает, что эта тенденция сохранится, и технология будет развиваться от макроскопических имплантатов к клеточным вставкам и, в конечном итоге, к нанотехнологиям. Нанотехнологии способны преобразить весь мир, восклицает Курцвейл. Сборка материалов по молекулам позволит решить энергетические проблемы, излечить рак и другие болезни, укрепить наши тела и создавать самособирающиеся продукты питания, одежду и здания. Курцвейл признает, что нанотехнологии сопряжены с большим риском: самовоспроизводящееся вещество, лишенное ограничений живого организма, может выйти из-под контроля и поглотить все. Однако он указывает на то, что сегодня уже существуют технологии, представляющие серьезную опасность, например, ядерная энергетика или оружие, и нам удалось обеспечить их относительную безопасность, поэтому он полагает, что мы сможем поступить так же и с нанотехнологиями. В заключение Курцвейл говорит о возможности существования виртуальных тел, где прямые нейронные имплантаты обеспечат нам ощущение наличия тела и возможность управления, без какого-либо физического воплощения. Хотя он быстро возвращается к теме нанотехнологий, отмечая, что достаточно развитые нанотехнологии будут неотличимы от виртуального мира, поскольку "утилитарный туман" будет казаться полностью отсутствующим, а затем мгновенно приобретать функциональные физические формы. Курцвейл затрагивает тему секса в будущем, напоминая, что каждая новая технология "адаптирует сексуальные мотивы". Курцвейл представляет себе виртуальный секс, секс-ботов, а также более скромные развлечения, такие как прогулки по "виртуальному пляжу Канкуна".

Состояние техники

Курцвейл объясняет, что в 1999 году компьютеры стали необходимы во многих сферах жизни, однако он не предвидит серьезных сбоев, связанных с надвигающейся проблемой Y2K. Он отмечает, что компьютеры пока что ограничены в своих возможностях и уязвимы, но указывает на то, что в определенных областях они демонстрируют признаки интеллекта. В качестве примеров Курцвейл приводит музыку, созданную или ассистированную компьютерами, а также инструменты для автоматизированного или полуавтоматизированного создания литературы и поэзии. Он демонстрирует примеры картин, созданных программой AARON, разработанной Гарольдом Коэном, которые могут генерироваться автоматически. Курцвейл пересматривает некоторые свои прогнозы из книги "Эпоха интеллектуальных машин" и предыдущих выступлений, выражая удовлетворение точностью своих предсказаний. В заключение он предсказывает возникновение нового движения луддитов в связи с заменой рабочих мест интеллектуальными машинами, хотя и полагает, что в конечном итоге это приведет к появлению большего количества новых и более качественных рабочих мест.

Прогнозы

У Курцвейла есть подробная глава предсказаний для каждого из этих лет: 2009, 2019, 2029, 2099. Например, обсуждая 2009 год, он делает множество отдельных прогнозов, касающихся компьютерного оборудования, образования, людей с ограниченными возможностями, коммуникаций, бизнеса и экономики, политики и общества, искусства, войны, здравоохранения и медицины, и философии. В качестве примера он предсказывает, что компьютер 2009 года будет планшетом или устройством меньшего размера с высококачественным, но в целом обычным дисплеем, в то время как в 2019 году компьютеры станут "в значительной степени невидимыми", а изображения будут преимущественно проецироваться непосредственно на сетчатку, а к 2029 году компьютеры будут общаться посредством прямых нейронных связей. Аналогично, в 2009 году он отмечает интерес и спекуляции вокруг теста Тьюринга, к 2019 году появляются "многочисленные сообщения" об успешном прохождении теста компьютерами, хотя и не в строгом смысле, а к 2029 году машины будут "регулярно" проходить тест, хотя споры о сравнении машинного и человеческого интеллекта все еще будут продолжаться. В 2009 году он пишет, что для сравнения с мощностью одного человеческого мозга потребуется суперкомпьютер, в 2019 году этого можно будет достичь за 4000 долларов, а в 2029 году 1000 долларов позволят приобрести вычислительную мощность, эквивалентную 1000 человеческим мозгам. Указанные суммы в долларах США приведены по курсу 1999 года. Курцвейл предсказывает, что ожидаемая продолжительность жизни увеличится до "более ста лет" к 2019 году, до 120 лет к 2029 году и станет неограниченной к 2099 году, когда произойдет слияние человека и компьютера.

Остальная часть Вселенной

Курцвейл говорит, что жизнь во Вселенной одновременно редка и обильна, то есть на огромных пространствах её нет, а затем она концентрируется в небольших областях и становится повсеместной. Он предполагает, что любая форма жизни, изобретшая технологии, при выживании относительно быстро достигнет точки слияния с ними – то же самое, что, по его прогнозам, произойдет и с людьми. Поэтому, как объясняет Курцвейл, если мы когда-нибудь встретим другую цивилизацию, мы встретимся, по сути, с её технологиями. Эти технологии, скорее всего, будут микроскопическими, поскольку этого будет достаточно для исследования. Цивилизация не будет искать ничего, кроме знаний, и поэтому мы, вероятно, никогда её не заметим. Курцвейл считает, что интеллект – самая мощная сила во Вселенной, поскольку он способен вызывать масштабные физические изменения, например, защитить планету от астероида. Курцвейл предсказывает, что с ростом "вычислительной плотности" Вселенной интеллект сможет соперничать даже с "грандиозными космическими силами". Существуют разные точки зрения на то, закончится ли Вселенная большим сжатием или медленным расширением, но Курцвейл считает, что ответ пока открыт, поскольку окончательное решение примет интеллект.

Анализ

Курцвейл использует Deep Blue, компьютер IBM, который победил чемпиона мира по шахматам в 1997 году, в качестве примера зарождающегося машинного интеллекта. Джон Сёрл, автор и профессор философии Калифорнийского университета в Беркли, в рецензии на «Эпоху духовных машин» в «Нью-Йоркском обзоре книг», не согласен с интерпретацией Курцвейла. Сёрл утверждает, что в то время как Каспаров «вполне буквально играл в шахматы», компьютер, напротив, не делал «ничего даже отдалённо похожего на это»; вместо этого он просто манипулировал «совокупностью бессмысленных символов». Курцвейл возражает, что тот же аргумент можно применить и к человеческому мозгу, поскольку отдельные нейроны не обладают истинным пониманием задачи, которую решает мозг, но, взаимодействуя, они порождают то, что мы называем сознанием[5]. Сёрл продолжает, противопоставляя симуляцию чего-либо «дублированию или воссозданию» этого. Он указывает, что компьютер может симулировать пищеварение, но не сможет переварить настоящую пиццу. Таким же образом, по его словам, компьютеры могут симулировать процессы сознательного мозга, но это не означает, что они обладают сознанием. Сёрл не возражает против создания искусственного мозга, производящего сознание «с использованием химии, отличной от нейронной», при условии, что он будет дублировать «фактические причинные механизмы мозга», что, по его мнению, исключает само по себе вычисление, поскольку оно сводится лишь к манипулированию символами. Сёрл заключает, что увеличение вычислительной мощности, которое предсказывает Курцвейл, «ни на йоту не приближает нас к созданию сознательной машины», и вместо этого утверждает, что первый шаг к созданию сознательных машин – это понимание того, как мозг порождает сознание, что мы только начинаем постигать. Однако Диана Праудфут, профессор философии университета Кентербери, написала в журнале Science, что исторические детали, приводимые Курцвейлом, неточны, а его философское понимание ошибочно, и эти неточности не вселяют «большого доверия к его представлениям о будущем». Чет Реймо, профессор физики Стоунхиллского колледжа, пишет, что «Рей Курцвейл лучше многих предвидит цифровое будущее» и что «Курцвейл рисует соблазнительный и порой пугающий портрет мира, где грань между человеком и машиной окончательно размыта». Он считает, что книга представляет собой «долгожданный вызов нашим устоявшимся убеждениям» и полагает, что мы можем формировать будущее, только предвидя его. Джим Бенсивенга, штатный корреспондент «Христианского научного монитора», отмечает, что Курцвейл «обладает тонким и точным умением мыслить экспоненциально о технологиях во времени». Бенсивенга также считает, что к предсказаниям Курцвейла следует относиться очень серьёзно, учитывая его «подтверждённый опыт». Лайл Фейзель, бывший профессор электротехники, пишет, что предсказания из книги Курцвейла «Эпоха разумных машин» «в значительной степени сбылись», и поэтому «инженерам и специалистам в области компьютерных наук было бы полезно ознакомиться с этой книгой».

Kurzweil uses Deep Blue, the IBM computer that beat the world chess champion in 1997, as an example of fledgling machine intelligence. John Searle, author and professor of philosophy at University of California, Berkeley, reviewing The Age of Spiritual Machines in The New York Review of Books, disagrees with Kurzweil's interpretation. Searle argues that while Kasparov was "quite literally, playing chess" the computer in contrast was doing "nothing remotely like it;" instead, it was merely manipulating "a bunch of meaningless symbols". Kurzweil counters that the very same argument could be made of the human brain, since the individual neurons have no true understanding of the bigger problem the brain is working on but, added together, they produce what is known as consciousness[5]. Searle continues by contrasting simulation of something with "duplication or recreation" of it. Searle points out a computer can simulate digestion, but it will not be able to digest actual pizza. In the same way, he says, computers can simulate the processes of a conscious brain, but that does not mean it is conscious. Searle has no objection to constructing an artificial consciousness producing brain "using some chemistry different from neurons" so long as it duplicates "the actual causal powers of the brain" which he says precludes computation by itself, since that only involves symbol manipulation. Searle concludes by saying the increased computational power that Kurzweil predicts "moves us not one bit closer to creating a conscious machine", instead he says the first step to building conscious machines is to understand how the brain produces consciousness, something we are only in the infancy of doing. However, Diane Proudfoot, philosophy professor at the University of Canterbury, wrote in Science that Kurzweil's historical details are inaccurate and his philosophical understanding is flawed and that these transgressions inspired "little confidence in his imaginings about the future". Chet Raymo, physics professor at Stonehill College writes that "Ray Kurzweil has a better record than most at foreseeing the digital future" and "Kurzweil paints a tantalizing — and sometimes terrifying — portrait of a world where the line between humans and machines has become thoroughly blurred". He says the book is a "welcome challenge to beliefs we hold dear" and feels we can only shape the future if we anticipate it first. Jim Bencivenga, staff writer for The Christian Science Monitor, says Kurzweil "possesses a highly refined and precise ability to think exponentially about technology over time". Bencivenga also says we should take Kurzweil's predictions very seriously because of his "proven track record". Lyle Feisel, former electrical engineering professor, writes the predictions from Kurzweil's The Age of Intelligent Machines "have largely come true" and so "engineers and computer scientists would do well to give [this book] a read".

В других СМИ

Канадская рок-группа Our Lady Peace создала свой концептуальный альбом 2000 года Spiritual Machines, вдохновившись книгой The Age of Spiritual Machines. Они пригласили Курцвейла озвучить несколько треков, где он читал избранные фрагменты из книги. 29 октября 2021 года Our Lady Peace выпустила продолжение альбома – Spiritual Machines 2 – в формате NFT, который стал доступен 28 января 2022 года и на традиционных носителях.