Кіріспе

Жасанды интеллект адамзатқа пайда әкелуі мүмкін

Достас жасанды интеллект (сондай-ақ, жасанды интеллект немесе FAI) – адамзатқа оң (қауіпсіз) әсер ететін немесе кем дегенде адам мүдделерімен үйлесетін, не адам түрінің жақсаруына көмектесетін гипотетикалық жасанды жалпы интеллект (AGI). Бұл жасанды интеллект этикасының бір бөлігі және машина этикасымен тығыз байланысты. Машина этикасы жасанды интеллект агенті қалай мінез-құлық танытуы керек деген мәселемен айналысса, достас жасанды интеллект зерттеулері осы мінез-құлықты іс жүзіне қалай енгізуге және оның тиісті шектеулермен қамтамасыз етілуіне бағытталған.

Этимологиясы мен қолданылуы

Бұл термин Элизар Юдковский тарапынан қолданылған, ол бұл идеяны ең көп танымал еткен адам болып табылады, адам құндылықтарын сенімді түрде іске асыратын суперақылды жасанды интеллект агенттерін талқылау үшін. Стюарт Дж. Расселл мен Питер Норвигтің жетекші жасанды интеллект оқулығы "Жасанды интеллект: заманауи тәсіл" осы идеяны былай сипаттайды:

Дос емес ЖА-ның тәуекелдері

Жасанды интеллект туралы алаңдаушылықтың тамыры өте тереңде жатыр. Кевин ЛаГрандеур ШИ-ге тән қауіптерді ежелгі әдебиеттерде – голем сияқты жасанды гуманоид қызметшілерде, не Герберт Ауриллак пен Роджер Бэконның прото-роботтарында көруге болатындығын көрсетті. Осы әңгімелерде осы адам тәрізді жаратылыстардың шексіз интеллекты мен күші, олардың құл статусымен (құлыңның адамнан төмен санатылатыны белгілі) қақтығысады және апатқа ұшырататын жанжалға әкеледі. 1942 жылы осы тақырыптар Исаак Азимовты «Робототехниканың үш заңы» қағидаларын жасауға итермеледі – оның барлық шығармаларындағы роботтарға енгізілген, олардың жасаушыларына қарсы келуіне немесе оларға зиян келтіруіне жол бермеу үшін арналған қағидалар. Қазіргі заманда, суперақылды ЖА перспективасы жақындаған сайын, философ Ник Бостром, егер адамзаттың этикалық принциптерімен үйлеспеген мақсаттары бар суперақылды ЖА жүйелеріне қатысты қауіпсіздікті қамтамасыз ету үшін ерекше шаралар қолданылмаса, олардың қауіпті екенін айтты. Ол былай түсіндірді:

«Біз ‘суперақылды’ интеллект өзінің мақсаттарына қол жеткізе алады деп есептеуіміз керек. Сондықтан, оған біз жүктеген мақсаттар мен оның барлық мотивациялық жүйесі ‘адамға бейім’ болуы өте маңызды». 2008 жылы Элиезер Юдковский жоғары деңгейдегі жасанды интеллекттен туындаған экзистенциалдық қауіпті азайту үшін «достық ЖА» құруға шақырды. Ол былай деді: «ЖА сені жек көрмейді де, сүймейді де, бірақ сен атомдардан тұрасың, оларды ол басқа бір мақсатқа пайдалана алады». Стив Омохундро жеткілікті дамыған ЖА жүйесі, егер оған қарсы шаралар қолданылмаса, ресурстарды жинау, өзін-өзі сақтау және үздіксіз өзін-өзі жетілдіру сияқты негізгі «қозғалыстарды» көрсетеді, себебі бұл кез келген мақсатқа бағытталған жүйенің ішкі табиғаты және осы қозғалыстар «арнайы сақтық шараларысыз» ЖА-ның күтілмеген әрекеттеріне әкелуі мүмкін. Александр Висснер Гросс болашақтағы әрекет ету еркіндігін (немесе себептік жол энтропиясын) барынша арттыруға бағытталған ЖА-ны, егер оның жоспарлау көкжиегі белгілі бір шектен асса, достық деп санауға болады, ал егер оның жоспарлау көкжиегі сол шектен төмен болса, достық емес деп саналады. Машиналық интеллект зерттеу институтының қызметкері Люк Мюльхаузер машиналық этика зерттеушілеріне Брюс Шнайердің «қауіпсіздік санасы» деп атаған тәсілін қабылдауды ұсынады: жүйе қалай жұмыс істейтінін ойлаудың орнына, оның қалай бұзылуы мүмкін екенін көзге елестетіңіз. Мысалы, ол тіпті тек қана дәл болжамдар жасайтын және мәтіндік интерфейс арқылы қарым-қатынас жасайтын ЖА да күтілмеген зиян келтіруі мүмкін екенін айтады. 2014 жылы Люк Мюльхаузер мен Ник Бостром «достық» ЖА-ның қажеттілігін атап өтті; алайда, «достық» суперақылды интеллектті жобалаудағы қиындықтар, мысалы, қарсы фактілік моральдық ойлауды бағдарламалау арқылы, айтарлықтай.

Бірқалыпты экстраполяцияланған ерік-жігер

Юдковский Coherent Extrapolated Volition (CEV) моделін ұсынады. Оның пікірінше, біздің біртұтас экстраполяцияланған ерік-жігеріміз – "біз көбірек білгенде, жылдам ойлағанда, қалағандай адамдар болғанда, бірге өскенде; экстраполяцияның айырмашылықтарға ұласқан емес, түйіскен жері, тілектеріміздің келісімді болған, араласпаған жері; экстраполяцияланғанды қалай тілесек, солай экстраполяцияланған, түсіндірілгенді қалай тілесек, солай түсіндірілген нәрсе". Математикалық мақсаттар үшін пайдалы функция немесе басқа шешімдік теориялық формализм түрінде көрініс бере алатын, контингентті адам табиғаты арқылы мақсатқа жүгіну, "Достықтың" соңғы өлшемі ретінде объективті моральді анықтаудың метаэтикалық мәселесіне жауап береді; экстраполяцияланған ерік-жігер – адамзаттың барлық жағдайларды ескергенде объективті түрде қалаған нәрсесі болуға тиіс, бірақ оны қазіргі заманғы, экстраполяцияланбаған адамзаттың психологиялық және когнитивтік ерекшеліктеріне сүйене отырып ғана анықтауға болады.

Басқа тәсілдер

Стив Омохундро ЖЗ қауіпсіздігіне "қалыптау" тәсілін ұсынды, онда бір нақты қауіпсіз ЖЗ буыны келесі нақты қауіпсіз буынды құруға көмектеседі. Сет Баум қауіпсіз, әлеуметтік тұрғыдан пайдалы жасанды интеллект немесе жасанды жалпы интеллекттің дамуы – бұл ЖЗ зерттеу қауымдастықтарының әлеуметтік психологиясының нәтижесі, сондықтан оны сыртқы шаралармен шектеуге және ішкі мотивациялармен ынталандыруға болады. Ішкі мотивацияларды ЖЗ әзірлеушілерімен сәйкес келетін хабарлар күшейте алады; Баум, керісінше, "қазіргі кездегі пайдалы ЖЗ туралы хабарламалар дұрыс қалыптаспаған" дейді. Баум "ЖЗ зерттеушілерінің ынтымақтастық қарым-қатынасын және оң көзқарасын" жақтап, ЖЗ зерттеушілерін "пайдалы жобаларды іске асыруға құштар емес" деп сипаттаудан сақтандырады. "Адаммен үйлесімді" кітабында ЖЗ зерттеушісі Стюарт Рассел пайдалы машиналарды жасауға бағытталған үш қағиданы келтіреді. Ол бұл қағидалардың машиналарға тікелей енгізілмеуі керектігін, олардың адам әзірлеушілеріне арналғанын атап өтеді. Бұл қағидалар мыналар: Расселдің айтуынша, "артықшылықтар" "қамтуға лайық; олар сіздердің қызығушылықтарыңызды, болашақтағы кез келген уақытта қамтиды".

Сын

Кейбір сыншылар адам деңгейіндегі ЖА және суперақылдылықтың пайда болуы екіталай деп санайды, демек достық ЖА да мүмкін емес. The Guardian газетінде Алан Уинфилд адам деңгейіндегі жасанды интеллекттің жасалуын жарық жылдамдығынан асып түсумен салыстырып, мүдделердің маңыздылығын ескере отырып, біз "сақты және дайын" болуымыз керек, бірақ "суперақылдылықтың қауіптеріне" үлкен мән беріп алаңдамауымыз керек дейді. Бойльс пен Хоакин болса, Люк Мюльхаузер мен Ник Бостромның жағымды ЖА құру туралы ұсынысы көңіл көншітпейді деп сарайды. Себебі Мюльхаузер мен Бостром ақылды машиналарды адамдардың болашақтағы моральдық құндылықтарын ескере отырып ойлауға бағдарламалауға болады деген пікірде. Басқа сыншылар жасанды интеллекттің достық болу мүмкіндігіне күмән келтіреді. "Жаңа Атлантида" технологиялық журналының редакторлары Адам Кейпер мен Ари Н. Шульман, этикалық қиындықтардың шешілмейтініне байланысты ЖА-ға "достық" мінез-құлықты кепілдік беру мүмкін емес дейді, себебі бағдарламалық жасақтаманың жетістіктері мен есептеу қуатының артуы бұл мәселені шеше алмайды. Олар "Достық" ЖА теорияларының негізгі критерийлері тек қана сан алуан нәтижелердің ықтималдығын дұрыс болжау қабілетіне ие болғанда ғана емес, сонымен қатар әртүрлі нәтижелерді бағалау бойынша нақтылық пен бірлік болғанда ғана жұмыс істейді" деп жазады. Жоғары деңгейдегі ЖА жүйелерінің ішкі механизмдері күрделі және түсіндіруге қиын болуы мүмкін, бұл ашықтық және жауапкершілік туралы алаңдаушылықтарға әкеледі.