Ағылшыншамен салыстырыңыз: абзацты басыңыз — түпнұсқа терезеде ашылады. Абзац астындағы EN түймесі оны мәтін ішінде көрсетеді.
Кіріспе
Регрессиялық модельде сызықтық тәуелділік жағдайы
Linear dependency situation in a regression model
Статистикада, көп сызықтылық немесе сызықтық байланыс – бұл регрессиялық модельдегі болжамдардың сызықтық тәуелділікте болу жағдайы. Толық көп сызықтылық – болжам айнымалыларының нақты сызықтық қатынасы бар жағдайды білдіреді. Толық сызықтық байланыс болғанда, жобалау матрицасы толық рангдан төмен болады, сондықтан момент матрицасын кері қайтару мүмкін емес. Бұл жағдайда регрессия параметрлерінің бағалаулары дұрыс анықталмайды, себебі теңдеулер жүйесінде шексіз көп шешім бар. Толық емес көп сызықтылық – болжам айнымалыларының дерлік нақты сызықтық қатынасы бар жағдайды білдіреді. Көптеген адамдардың ойынша, Гаусс-Марков теоремасы және ең кіші квадраттарға ең көп қолданылатын максималды ықтималдық негіздемесі тәуелді болжамдар арасындағы кез келген байланыс құрылымына сүйенбейді (бірақ толық сызықтық байланыс кейбір бағдарламалық құралдарда проблема тудыруы мүмкін). Регрессиялық талдаудың бөлігі ретінде сызықтық байланыстағы айнымалыларды жоюдың ешқандай негізі жоқ, және мұндай әрекет ғылыми бұрмалаушылық болып табылуы мүмкін. Эконометристер мен статистиктер толық емес көп сызықтылықты "микронумерозиттілік" деп әжуалы түрде атап, бұл тек жеткіліксіз үлгі көлемімен жұмыс істегенде ғана проблема екенін көрсетеді. Толық сызықтық байланыстың тағы бір жалпы себебі – өте кең деректер жиынтықтарымен (көп айнымалылары бар, бірақ аз бақылаулары бар) жұмыс істегенде ең кіші квадраттарды қолдануға тырысу. Мұндай жағдайларда мағыналы нәтижелер алу үшін Байес иерархиялық модельдеу сияқты жетілдірілген деректерді талдау әдістері қажет.
In statistics, multicollinearity or collinearity is a situation where the predictors in a regression model are linearly dependent. Perfect multicollinearity refers to a situation where the predictive variables have an exact linear relationship. When there is perfect collinearity, the design matrix has less than full rank, and therefore the moment matrix cannot be inverted. In this situation, the parameter estimates of the regression are not well defined, as the system of equations has infinitely many solutions. Imperfect multicollinearity refers to a situation where the predictive variables have a nearly exact linear relationship. Contrary to popular belief, neither the Gauss–Markov theorem nor the more common maximum likelihood justification for ordinary least squares relies on any kind of correlation structure between dependent predictors (although perfect collinearity can cause problems with some software). There is no justification for the practice of removing collinear variables as part of regression analysis, and doing so may constitute scientific misconduct. Econometricians and statisticians have facetiously referred to imperfect collinearity as "micronumerosity", noting that it is only a problem when working with an insufficient sample size. The other common cause of perfect collinearity is attempting to use ordinary least squares when working with very wide datasets (those with more variables than observations). These require more advanced data analysis techniques like Bayesian hierarchical modeling to produce meaningful results.
Сандық мәселелер
Кейде айнымалылар дерлік коллинеар болады. Мұндай жағдайда матрицаның кері матрицасы болады, бірақ ол нашар шартталған. Компьютерлік алгоритм шамамен кері матрицаны есептеуге тырыса алады немесе тырыспауы мүмкін; егер тырысса да, нәтижесінде алынған кері матрицада үлкен дөңгелектеу қателіктері болуы мүмкін. Матрицаның нашар шартталғандығын өлшеудің стандартты шарасы – шарт индексі. Бұл матрицаның кері есептелуінің шекті дәлдіктегі сандармен сандық тұрақтылығын анықтайды, сондай-ақ бастапқы матрицадағы шағын өзгерістерге есептелген кері матрицаның сезімталдығын көрсетеді. Шарт саны – жобалау матрицасының ең жоғары сингулярлық мәнін ең төменгі сингулярлық мәнге бөлу арқылы есептеледі. Коллинеарлы айнымалылар контекстінде, дисперсиялық инфляция факторы – нақты бір коэффициент үшін шарт саны болып табылады.
Sometimes, the variables are nearly collinear. In this case, the matrix has an inverse, but it is ill conditioned. A computer algorithm may or may not be able to compute an approximate inverse; even if it can, the resulting inverse may have large rounding errors. The standard measure of ill conditioning in a matrix is the condition index. This determines if the inversion of the matrix is numerically unstable with finite precision numbers, indicating the potential sensitivity of the computed inverse to small changes in the original matrix. The condition number is computed by finding the maximum singular value divided by the minimum singular value of the design matrix. In the context of collinear variables, the variance inflation factor is the condition number for a particular coefficient.