Кіріспе

Машиналық оқытудағы міндеттер

Машиналық оқытудағы ең көп кездесетін міндеттердің бірі – деректерден үйренетін және олар бойынша болжам жасай алатын алгоритмдерді зерттеу және құру. Мұндай алгоритмдер кіріс деректерінен математикалық модель құру арқылы деректерге негізделген болжамдар немесе шешімдер қабылдау арқылы жұмыс істейді. Модельді құруға қолданылатын кіріс деректері әдетте бірнеше дерек жиынтығына бөлінеді. Атап айтқанда, модельді құрудың әртүрлі кезеңдерінде үш дерек жиынтығы жиі қолданылады: оқыту, тексеру және сынақ жиынтығы. Модель бастапқыда оқыту деректері жиынтығында үйретіледі, ол модельдің параметрлерін (мысалы, жасанды нейрондық желілердегі байланыстардың салмағы) анықтау үшін қолданылатын мысалдар жиынтығы болып табылады. Модель (мысалы, наивті Байес классификаторы) бақыланатын оқыту әдісін қолдана отырып, оқыту деректері жиынтығында оқытылады, мысалы, градиенттік түсіру немесе стохастикалық градиенттік түсіру сияқты оптимизациялау әдістерін пайдалана отырып. Іс жүзінде оқыту деректері жиынтығы көбінесе кіріс векторының (немесе скалярдың) және сәйкес келетін шығыс векторының (немесе скалярдың) жұптарынан тұрады, онда дұрыс жауаптар жиынтығы әдетте мақсат (немесе белгі) деп аталады. Ағымдағы модель оқыту деректері жиынтығымен іске қосылады және оқыту деректері жиынтығындағы әрбір кіріс векторы үшін нәтиже мақсатпен салыстырылады. Салыстыру нәтижесіне және қолданылатын нақты оқыту алгоритміне байланысты модельдің параметрлері түзетіледі. Модельді бейімдеуде айнымалы таңдау және параметрді бағалау да қарастырылуы мүмкін. Содан кейін, бейімделген модель екінші дерек жиынтығындағы байқауларға жауап беруді болжау үшін қолданылады, ол тексеру деректері жиынтығы деп аталады. (мысалы, нейрондық желідегі жасырын қабаттардың саны – қабаттар мен қабат ені). Бұл қарапайым процедура тәжірибеде тексеру деректерінің қатесі оқыту кезінде ауытқып, көптеген жергілікті минимумдарға әкелуімен күрделенеді. Бұл қиындық артық үйренудің қашан басталғанын анықтау үшін көптеген эмпирикалық ережелерді жасауға себеп болды.

Оқу деректері жиынтығы

Оқу деректерінің жиынтығы – оқыту процесінде қолданылатын мысалдар жиынтығы, және мысалы, классификатордың параметрлерін (салмақтар сияқты) реттеу үшін пайдаланылады. Классификациялау міндеттері үшін, қадағаланған оқыту алгоритмі жақсы болжамдық модельді құру үшін айнымалылардың ең тиімді комбинацияларын анықтау немесе үйрену үшін оқу деректерінің жиынтығын қарастырады. Мақсаты – жаңа, белгісіз деректерге жақсы бейімделетін, оқытылған (реттелген) модель жасау. Реттелген модельдің жаңа деректерді жіктеудегі дәлдігін бағалау үшін, сақталған деректер жиынтығынан (тексеру және сынақ деректері жиынтықтары) алынған "жаңа" мысалдар қолданылады. Жасанды нейрондық желілер үшін гиперпараметрдің мысалы – әр қабаттағы жасырын элементтердің саны. Осы процестің бір қолданысы – ерте тоқтату, онда үміткер модельдер бір желідегі тізбектеп қайталанушы итерациялар болып табылады, және тексеру жиынтығындағы қателік артқанда оқыту тоқтатылады, алдыңғы модель (ең төменгі қателікке ие) таңдалады.

Сынау деректері жиынтығы

Сынақ деректер жиынтығы – оқу деректер жиынтығынан тәуелсіз, бірақ оқу деректер жиынтығымен бірдей ықтималдық таралымын сақтайтын дерек жиынтығы. Егер оқу деректер жиынтығына үйлесімді модель сынақ деректер жиынтығына да жақсы үйлесім танытса, онда минималды артық үйлесім орын алған (төмендегі суретті қараңыз). Оқу деректер жиынтығы сынақ деректер жиынтығына қарағанда жақсырақ үйлесім танытса, әдетте артық үйлесімге нұсқау береді. Сондықтан, сынақ жиынтығы – толыққанды анықталған жіктегіштің өнімділігін (яғни, жалпылау қабілетін) бағалау үшін ғана қолданылатын мысалдар жиынтығы. Кейбір дереккөздер мұндай әдіске қарсы кеңес беретінін ескеріңіз. Дегенмен, сақталуы тиіс маңызды ұғым – соңғы жиынтық, ол сынақ немесе тексеру жиынтығы болсын, тек соңғы экспериментте ғана қолданылуы керек.

Крестік валидациялау

Тұрақты нәтижелер алу және оқыту үшін барлық құнды деректерді пайдалану мақсатында, деректер жиынтығы бірнеше оқыту және тексеру деректер жиынтығына бірнеше рет бөлінеді. Бұл кросс-валидация деп аталады. Модельдің қабілетін растау үшін, әдетте, кросс-валидациядан тыс қалған қосымша сынақ деректер жиынтығы қолданылады.

Қате себептері

[[File:Computer definition of өте ыстық. png|thumb|260px|Комикс жолағы компьютердің қате шығаруын көрсетеді (температурасы 5 миллион градусқа дейін кофе жасау, бұрынғы "өте ыстық" анықтамасынан). Бұл логикалық қателік және маңызды экологиялық жағдайларды ескермеу болып табылады. Мұндай кемшіліктердің түрлері: Алгоритмдер объектіні анықтау үшін қызығушылық тудыратын объектіні емес, фонды пайдаланатын жағдайларды қамтиды, мысалы, шөптегі қойлардың суреттерімен оқытылса, шөпте орналасқан басқа да объект қой деп қате түсіндірілуі мүмкін.]