Сравнивайте с английским: нажмите на абзац — оригинал откроется в окне. Кнопка EN под абзацем показывает его прямо в тексте.
Содержание
Введение
Британский канадский учёный в области компьютерных наук и психолог (род. 1947)
British Canadian computer scientist and psychologist (born 1947)
Джеффри Эверест Хинтон (род. 6 декабря 1947) — британский канадский учёный в области компьютерных наук и когнитивный психолог, наиболее известный своей работой в области искусственных нейронных сетей. С 2013 по 2023 год он делил время между работой в Google (Google Brain) и Университетом Торонто, прежде чем в мае 2023 года публично объявил о своём уходе из Google, ссылаясь на опасения относительно рисков технологии искусственного интеллекта (ИИ). В 2017 году он стал соучредителем и главным научным консультантом Института векторных вычислений в Торонто. Вместе с Дэвидом Румелхартом и Рональдом Уильямсом Хинтон был соавтором широко цитируемой статьи, опубликованной в 1986 году, которая популяризировала алгоритм обратного распространения ошибки для обучения многослойных нейронных сетей. Значительный прорыв в области компьютерного зрения стал AlexNet, разработанный в сотрудничестве с его учениками Алексом Крижевским и Ильёй Суцкевером для конкурса ImageNet Challenge 2012. В 2018 году Хинтон совместно с Йошуа Бенжио и Янном Лекуном получил премию Тьюринга, которую часто называют «Нобелевской премией в области вычислительной техники», за их вклад в глубокое обучение. Их иногда называют «Крёстными отцами глубокого обучения», и они продолжают выступать с совместными публичными лекциями. В мае 2023 года Хинтон объявил о своей отставке из Google, чтобы иметь возможность «свободно высказываться о рисках ИИ».
Geoffrey Everest Hinton (born 6 December 1947) is a British Canadian computer scientist and cognitive psychologist, most noted for his work on artificial neural networks. From 2013 to 2023, he divided his time working for Google (Google Brain) and the University of Toronto, before publicly announcing his departure from Google in May 2023, citing concerns about the risks of artificial intelligence (AI) technology. In 2017, he co founded and became the chief scientific advisor of the Vector Institute in Toronto. With David Rumelhart and Ronald J. Williams, Hinton was co author of a highly cited paper published in 1986 that popularized the backpropagation algorithm for training multi layer neural networks, The dramatic image recognition milestone of the AlexNet designed in collaboration with his students Alex Krizhevsky and Ilya Sutskever for the ImageNet challenge 2012 was a breakthrough in the field of computer vision. Hinton received the 2018 Turing Award, often referred to as the "Nobel Prize of Computing", together with Yoshua Bengio and Yann LeCun, for their work on deep learning. They are sometimes referred to as the "Godfathers of Deep Learning", and have continued to give public talks together. In May 2023, Hinton announced his resignation from Google to be able to "freely speak out about the risks of A. I."
Образование
Хинтон получил образование в Клифтонском колледже в Бристоле и Кингс-колледже Кембриджского университета. После многократных смен направления обучения, переходя от естественных наук к истории искусств и философии, он в итоге окончил университет в 1970 году со степенью бакалавра искусств по экспериментальной психологии.
Hinton was educated at Clifton College in Bristol and King's College, Cambridge. After repeatedly changing his degree between different subjects like natural sciences, history of art, and philosophy, he eventually graduated in 1970 with a Bachelor of Arts in experimental psychology.
Риски искусственного интеллекта
В 2023 году Хинтон выразил обеспокоенность по поводу стремительного прогресса в области ИИ. Он отметил, что теперь часть его сожалеет о деле всей своей жизни из-за этих опасений, и выразил опасения по поводу гонки между Google и Microsoft.
In 2023, Hinton expressed concerns about the rapid progress of AI. He noted that "a part of him now regrets his life's work" due to his concerns and he expressed fears about a race between Google and Microsoft.
Экзистенциальный риск от АГИ
Хинтон выразил обеспокоенность по поводу захвата власти искусственным интеллектом, заявив, что "вполне возможно", что ИИ может "уничтожить человечество". Он опасается, что системы общего искусственного интеллекта могут "формировать промежуточные цели", не соответствующие интересам их создателей. Он утверждает, что ИИ-системы могут начать стремиться к власти или препятствовать своему отключению, не по замыслу программистов, а потому, что эти промежуточные цели оказываются полезными для достижения конечных результатов.
Hinton expressed concerns about AI takeover, stating that "it's not inconceivable" that AI could "wipe out humanity." He worries that generally intelligent AI systems could "create sub goals" that are unaligned with their programmers' interests. He states that AI systems may become power seeking or prevent themselves from being shut off, not because programmers intended them to, but because those sub goals are useful for achieving later goals.
Катастрофическое злоупотребление
Хинтон выражает обеспокоенность по поводу намеренного использования ИИ злоумышленниками, отмечая, что "сложно представить, как можно помешать недобросовестным лицам использовать [ИИ] в злонамеренных целях".
Hinton worries about deliberate misuse of AI by malicious actors, stating that "it is hard to see how you can prevent the bad actors from using [AI] for bad things."
Экономические последствия
Ранее Хинтон с оптимизмом относился к экономическим последствиям ИИ, отмечая в 2018 году: "Фраза «искусственный общий интеллект» подразумевает, что однажды появится робот, внезапно превосходящий человека по интеллекту. Я так не думаю. Считаю, что все больше рутинных задач, которые мы выполняем, будут автоматизированы системами ИИ". Хинтон также ранее утверждал, что ИОИ не сделает людей ненужными: "[ИИ в будущем] будет хорошо понимать, что вам, вероятно, захочется, но он не заменит вас". Хинтон – праправнук математика и педагога Мэри Эверест Буль и ее мужа, логика Джорджа Буля, чьи работы стали одним из фундаментов современной информатики. Еще одним его прапрадедом был хирург и писатель Джеймс Хинтон, отец математика Чарльза Говарда Хинтона. Отец Хинтона был энтомологом Говардом Хинтоном. Его второе имя он получил в честь другого родственника, Джорджа Эвереста, генерального геодезиста Индии, в честь которого названа гора Эверест. Он также племянник экономиста Колина Кларка.
Hinton was previously optimistic about the economic effects of AI, noting in 2018 that: "The phrase 'artificial general intelligence' carries with it the implication that this sort of single robot is suddenly going to be smarter than you. I don't think it's going to be that. I think more and more of the routine things we do are going to be replaced by AI systems." Hinton also previously argued that AGI won't make humans redundant: "[AI in the future is] going to know a lot about what you're probably going to want to do But it's not going to replace you." Hinton is the great great grandson of the mathematician and educator Mary Everest Boole and her husband, the logician George Boole, whose work eventually became one of the foundations of modern computer science. Another great great grandfather of his was the surgeon and author James Hinton, who was the father of the mathematician Charles Howard Hinton. Hinton's father was the entomologist Howard Hinton. His middle name comes from another relative, George Everest, the Surveyor General of India after whom the mountain is named. He is the nephew of the economist Colin Clark.