Введение
Некоммерческий исследовательский институт, изучающий безопасность ИИ. Исследовательский институт машинного интеллекта (MIRI), ранее Институт сингулярности искусственного интеллекта (SIAI), с 2005 года занимается выявлением и управлением потенциальными экзистенциальными рисками, связанными с искусственным общим интеллектом. Работа MIRI сосредоточена на разработке безопасного ИИ и прогнозировании темпов развития технологий.
The Machine Intelligence Research Institute (MIRI), formerly the Singularity Institute for Artificial Intelligence (SIAI), is a non profit research institute focused since 2005 on identifying and managing potential existential risks from artificial general intelligence. MIRI's work has focused on a friendly AI approach to system design and on predicting the rate of technology development.
История
В 2000 году Элизер Юдковский основал Институт сингулярности искусственного интеллекта при финансировании Брайана и Сабины Аткинс с целью ускорения развития искусственного интеллекта (ИИ). Начиная с 2006 года, Институт организовывал Саммит сингулярности для обсуждения будущего ИИ, включая связанные с ним риски, первоначально в сотрудничестве со Стэнфордским университетом и при поддержке Питера Тиля. San Francisco Chronicle описала первую конференцию как "выход в свет для философии, вдохновленной технологиями, известной как трансгуманизм" в районе залива. В 2011 году офисы Института располагались в четырех квартирах в центре Беркли. В декабре 2012 года институт продал свое название, веб-домен и Саммит сингулярности Университету сингулярности, а в следующем месяце принял название "Институт исследований машинного интеллекта". В 2014 и 2015 годах общественный и научный интерес к рискам ИИ возрос, что привело к увеличению пожертвований на финансирование исследований в MIRI и подобных организациях. В 2019 году Open Philanthropy рекомендовала выделить MIRI грант общей поддержки в размере около 2,1 миллиона долларов США на два года. В апреле 2020 года Open Philanthropy дополнила это финансирование грантом в размере 7,7 миллиона долларов США на два года. В 2021 году Виталик Бутерин пожертвовал MIRI несколько миллионов долларов в Эфириуме.
Исследования и подход
Подход MIRI к выявлению и управлению рисками ИИ, возглавляемый Юдковским, в первую очередь направлен на разработку безопасного ИИ, охватывая как первоначальное проектирование систем ИИ, так и создание механизмов, обеспечивающих сохранение дружелюбия развивающихся систем ИИ. Исследователи MIRI выступают за проведение работ по безопасности на ранних этапах в качестве меры предосторожности. Однако исследователи MIRI выражают скептицизм относительно утверждений сторонников сингулярности, таких как Рэй Курцвейл, о том, что сверхинтеллект не за горами. MIRI разделяет принципы и цели движения эффективного альтруизма.