Ағылшыншамен салыстырыңыз: абзацты басыңыз — түпнұсқа терезеде ашылады. Абзац астындағы EN түймесі оны мәтін ішінде көрсетеді.
Мазмұны
Кіріспе
Британдық-канадтық компьютерлік ғалым және психолог (туған 1947)
British Canadian computer scientist and psychologist (born 1947)
Джеффри Эверест Хинтон (6 желтоқсан 1947 жылы туған) – британдық-канадтық компьютерлік ғалым және когнитивтік психолог, ең белгілі еңбектері жасанды нейрондық желілер саласында. 2013 жылдан 2023 жылға дейін ол Google (Google Brain) және Торонто университетінде жұмыс істеді, ал 2023 жылдың мамырында жасанды интеллект (AI) технологиясының қауіптеріне байланысты Google-дан кетіп, бұл туралы жариялады. 2017 жылы ол Торонтодағы Vector Institute институтын құрды және бас ғылыми кеңесшісі болды. Дэвид Румельхарт және Рональд Уильямспен бірге Хинтон 1986 жылы көп сілтемеленген мақаланың авторларының бірі болды, ол көп қабатты нейрондық желілерді оқыту үшін кері таралу алгоритмін танымал етті. Оның студенттері Алекс Крижевский және Илья Суцкевермен бірлесіп жасаған AlexNet жүйесінің ImageNet 2012 сынағындағы бейнелерді танудағы үлкен жетістігі компьютерлік көру саласындағы маңызды жаңалық болды. Хинтон 2018 жылы Йошуа Бенгио және Янн ЛеКунмен бірге терең оқытудағы жұмысы үшін "Есептеу саласындағы Нобель сыйлығы" деп аталатын Тьюринг сыйлығын алды. Олар кейде "Терең оқытудың әкелері" деп аталады және бірлесіп көптеген қоғамдық лекциялар оқып жүр. 2023 жылдың мамырында Хинтон "А.И. қауіптері туралы еркін пікір білдіру үшін" Google-дан кетіп, отставкаға шықты.
Geoffrey Everest Hinton (born 6 December 1947) is a British Canadian computer scientist and cognitive psychologist, most noted for his work on artificial neural networks. From 2013 to 2023, he divided his time working for Google (Google Brain) and the University of Toronto, before publicly announcing his departure from Google in May 2023, citing concerns about the risks of artificial intelligence (AI) technology. In 2017, he co founded and became the chief scientific advisor of the Vector Institute in Toronto. With David Rumelhart and Ronald J. Williams, Hinton was co author of a highly cited paper published in 1986 that popularized the backpropagation algorithm for training multi layer neural networks, The dramatic image recognition milestone of the AlexNet designed in collaboration with his students Alex Krizhevsky and Ilya Sutskever for the ImageNet challenge 2012 was a breakthrough in the field of computer vision. Hinton received the 2018 Turing Award, often referred to as the "Nobel Prize of Computing", together with Yoshua Bengio and Yann LeCun, for their work on deep learning. They are sometimes referred to as the "Godfathers of Deep Learning", and have continued to give public talks together. In May 2023, Hinton announced his resignation from Google to be able to "freely speak out about the risks of A. I."
Білім
Хинтон Бристольдегі Клифтон колледжінде және Кембридждегі Кингс колледжінде білім алған. Табиғи ғылымдар, өнер тарихы және философия сияқты түрлі мамандықтарды ауыстырғаннан кейін, ол 1970 жылы тәжірибелік психология саласында бакалавр дәрежесін аяқтады.
Hinton was educated at Clifton College in Bristol and King's College, Cambridge. After repeatedly changing his degree between different subjects like natural sciences, history of art, and philosophy, he eventually graduated in 1970 with a Bachelor of Arts in experimental psychology.
Жасанды интеллекттің қауіптері
2023 жылы Хинтон жасанды интеллекттің қарқынды дамуына алаңдаушылық білдірді. Ол өзінің өміріне арнаған еңбегіне қатысты өкініш сезінетінін айтты және Google мен Microsoft арасындағы бәсекелестікке қатысты қорқыныш танытты.
In 2023, Hinton expressed concerns about the rapid progress of AI. He noted that "a part of him now regrets his life's work" due to his concerns and he expressed fears about a race between Google and Microsoft.
AGI-ден болатын экзистенциалдық тәуекел
Хинтон ИЖ билікті басып алуы мүмкіндігіне қатысты алаңдаушылық білдіріп, "ИЖ адамзатты құртуға қабілетті" екенін айтты. Ол жалпы интеллектісі бар ЖА жүйелері бағдарламашыларының ниеттеріне қайшы келетін "қосымша мақсаттарды" құруы мүмкін деп қорқады. Оның айтуынша, ЖА жүйелері бағдарламашылардың тікелей қалауымен емес, алайда осы қосымша мақсаттар келешек мақсаттарға жетуге көмектесетін болғандықтан, билікке ұмтылуы немесе өшірілуіне жол бермеуі мүмкін.
Hinton expressed concerns about AI takeover, stating that "it's not inconceivable" that AI could "wipe out humanity." He worries that generally intelligent AI systems could "create sub goals" that are unaligned with their programmers' interests. He states that AI systems may become power seeking or prevent themselves from being shut off, not because programmers intended them to, but because those sub goals are useful for achieving later goals.
Қате пайдалану
Хинтондың ойынша, зұлым ниетті адамдардың жасанды интеллектті қасақана дұрыс емес пайдалануы мүмкін, және ол «жаман ниетті адамдардың оны жамандыққа пайдалануын қалай тоқтатуға болатынын көру қиын» дейді.
Hinton worries about deliberate misuse of AI by malicious actors, stating that "it is hard to see how you can prevent the bad actors from using [AI] for bad things."
Экономикалық әсері
Хинтон бұған дейін ИЖ-нің экономикалық әсерлеріне оңтайлы көзқарас білдірген, 2018 жылы былай деген: «'Жасанды жалпы интеллект' термині бір роботтың кенеттен сізден ақылдырақ болатынын білдіреді. Менің ойымша, жағдай солай болмайды. Менің ойымша, біз күнделікті жасайтын көптеген нәрселер ИЖ жүйелерімен алмастырылатын болады». Хинтон сондай-ақ АЖИ адамдарды қажетсіз етпейтінін бұрын айтқан: «[Болашақтағы ИЖ] сіз не істегіңіз келетінін жақсы біледі, бірақ сіздің орныңызды баспайды». Хинтон – математик және педагог Мэри Эверест Буль мен оның күйеуі, логик Джордж Бульдің шөбересі. Олардың еңбектері қазіргі заманғы компьютер ғылымының негіздерінің біріне айналды. Оның тағы бір арғы атасы – хирург және жазушы Джеймс Хинтон, ол математик Чарльз Говард Хинтонның әкесі болған. Хинтонның әкесі – энтомолог Говард Хинтон. Оның екінші есімі тағы бір туысы, Үндістанның бас геодезисі Джордж Эвересттің құрметіне қойылған, оның атымен тау аталған. Ол экономист Колин Кларктың сіңілі баласы.
Hinton was previously optimistic about the economic effects of AI, noting in 2018 that: "The phrase 'artificial general intelligence' carries with it the implication that this sort of single robot is suddenly going to be smarter than you. I don't think it's going to be that. I think more and more of the routine things we do are going to be replaced by AI systems." Hinton also previously argued that AGI won't make humans redundant: "[AI in the future is] going to know a lot about what you're probably going to want to do But it's not going to replace you." Hinton is the great great grandson of the mathematician and educator Mary Everest Boole and her husband, the logician George Boole, whose work eventually became one of the foundations of modern computer science. Another great great grandfather of his was the surgeon and author James Hinton, who was the father of the mathematician Charles Howard Hinton. Hinton's father was the entomologist Howard Hinton. His middle name comes from another relative, George Everest, the Surveyor General of India after whom the mountain is named. He is the nephew of the economist Colin Clark.