Тәуелсіз компоненттерді талдау: сигналды өңдеу әдісі

Кіріспе

Сигналды өңдеудің есептеу әдісі. Сигналды өңдеуде тәуелсіз компоненттерді талдау (ТКТ) – көпөлшемді сигналды қосымша бөліктерге ажыратудың есептеу әдісі. Бұл, ең көп дегенде бір бөлік Гаусс екенін және бөліктер бір-бірінен статистикалық тұрғыдан тәуелсіз екенін ескере отырып жасалады. ТКТ-ны 1985 жылы Жанни Хераль және Кристиан Юттен ойлап тапқан.

Кіріспе

Тәуелсіз компоненттік талдау көпөлшемді сигналды тәуелсіз, Гаусс емес сигналдарға жіктеуге тырысады. Мысал ретінде, дыбыс әдетте әрбір уақыт мезгілінде t әртүрлі көздерден алынған сигналдардың сандық қосылуынан тұратын сигнал болып табылады. Сонда туындайтын сұрақ: осы үлескен көздерді байқалатын жалпы сигналдан бөліп алу мүмкін бе? Статистикалық тәуелсіздік туралы болжам дұрыс болған жағдайда, аралас сигналды соқыр ICA арқылы бөлу өте жақсы нәтижелер береді. Бұл талдау мақсатында араластыру нәтижесінде туындамаған сигналдар үшін де қолданылады. ICA-ның қарапайым қолданылысы – «коктейльдік кеш мәселесі», онда бір бөлмеде бір уақытта сөйлейтін адамдардан алынған деректерден негізгі сөйлеу сигналдары бөлінеді. Әдетте, мәселені уақыт кешігуі немесе эхо болмайды деп есептеу арқылы жеңілдетіледі. Сүзгіленген және кешіктірілген сигнал тәуелді компоненттің көшірмесі екенін ескеріңіз, сондықтан статистикалық тәуелсіздік туралы болжам бұзылмайды. Компоненттерден байқалатын сигналдарды құру үшін араластыру салмақтарын матрицаға орналастыруға болады. Егер көздердің саны белгілі болса, бастапқы сигналдарды қалпына келтіру үшін кемінде байқаулардың (мысалы, егер байқалатын сигнал дыбыс болса, микрофондар) саны қажет екенін ескеру маңызды. Байқаулар мен бастапқы сигналдар саны тең болғанда, араластыру матрицасы шаршы болады. Аралас сигналдарды ICA арқылы бөлудің табыстылығы екі болжамға және көздерді араластырудың үш салдарына байланысты. Екі болжам:
Көздердің сигналдары бір-бірінен тәуелсіз. Әрбір көздің сигналындағы мәндер Гаусс емес үлестірімдерге ие. Көздерді араластырудың үш салдары:
Тәуелсіздік: 1-болжам бойынша, көздердің сигналдары тәуелсіз, бірақ олардың араласулары тәуелсіз емес. Себебі араласулар бірдей көздердің сигналдарын бөліседі. Нормалдылық: Орталық шекті теоремаға сәйкес, шекті дисперсиясы бар тәуелсіз кездейсоқ шамалардың қосындысының үлестірімі Гаусс үлестіріміне жақындайды. Шамамен айтқанда, екі тәуелсіз кездейсоқ шаманың қосындысы әдетте екі бастапқы шаманың кез келгенінен Гауссқа жақын үлестірімге ие. Мұнда әрбір сигналдың мәнін кездейсоқ шама ретінде қарастырамыз. Күрделілік: Кез келген сигнал араласуының уақытша күрделілігі оның ең қарапайым құрауыш бөлігі – бастапқы сигналдан жоғары. Осы принциптер ICA-ның негізін қалауға көмектеседі. Егер араласулар жиынтығынан алынған сигналдар тәуелсіз болса және Гаусс емес үлестіріміне немесе төмен күрделілікке ие болса, онда олар бастапқы сигналдар болуы керек.

Independent component analysis attempts to decompose a multivariate signal into independent non Gaussian signals. As an example, sound is usually a signal that is composed of the numerical addition, at each time t, of signals from several sources. The question then is whether it is possible to separate these contributing sources from the observed total signal. When the statistical independence assumption is correct, blind ICA separation of a mixed signal gives very good results. It is also used for signals that are not supposed to be generated by mixing for analysis purposes. A simple application of ICA is the "cocktail party problem", where the underlying speech signals are separated from a sample data consisting of people talking simultaneously in a room. Usually the problem is simplified by assuming no time delays or echoes. Note that a filtered and delayed signal is a copy of a dependent component, and thus the statistical independence assumption is not violated. Mixing weights for constructing the observed signals from the components can be placed in an matrix. An important thing to consider is that if sources are present, at least observations (e. g. microphones if the observed signal is audio) are needed to recover the original signals. When there are an equal number of observations and source signals, the mixing matrix is square Other cases of underdetermined and overdetermined have been investigated. The success of ICA separation of mixed signals relies on two assumptions and three effects of mixing source signals. Two assumptions:
The source signals are independent of each other. The values in each source signal have non Gaussian distributions. Three effects of mixing source signals:
Independence: As per assumption 1, the source signals are independent; however, their signal mixtures are not. This is because the signal mixtures share the same source signals. Normality: According to the Central Limit Theorem, the distribution of a sum of independent random variables with finite variance tends towards a Gaussian distribution. Loosely speaking, a sum of two independent random variables usually has a distribution that is closer to Gaussian than any of the two original variables. Here we consider the value of each signal as the random variable. Complexity: The temporal complexity of any signal mixture is greater than that of its simplest constituent source signal. Those principles contribute to the basic establishment of ICA. If the signals extracted from a set of mixtures are independent and have non Gaussian distributions or have low complexity, then they must be source signals.

Бинарлы ICA

АХА-ның ерекше түрі – екілік АХА, онда сигнал көздері мен мониторлар екілік форматта болады, ал мониторлардан алынған бақылаулар екілік тәуелсіз көздердің дизъюнктивті қосындыларынан тұрады. Бұл мәселе медициналық диагностика, көп кластерлі тағайындау, желілік томография және интернет ресурстарын басқару сияқты көптеген салаларда қолданылады. Екінші жағынан, – мониторлардан алынған екілік айнымалылар жиыны, ал – көздерден алынған екілік айнымалылар жиыны болсын. Көз-монитор байланыстары (белгісіз) араластыру матрицасы арқылы көрсетіледі, мұнда i-ші көзден сигналды j-ші монитор бақылай алатынын білдіреді. Жүйе былай жұмыс істейді: кез келген уақытта, егер көз белсенді болса және ол мониторына қосылса, онда мониторы қандай да бір белсенділікті байқайды. Формалды түрде:

мұнда – логикалық ЖӘНЕ, ал – логикалық НЕ. Шу нақты түрде модельденбеген, керісінше, тәуелсіз көздер ретінде қарастырылуы мүмкін. Жоғарыдағы мәселені айнымалыларды үздіксіз деп есептеу және екілік бақылау деректерінде FastICA-ны іске қосып араластыру матрицасын (нақты мәндер) алу арқылы эвристикалық түрде шешуге болады, содан кейін екілік мәндерді алу үшін дөңгелектеу әдістерін қолдануға болады. Бұл тәсілдің нәтижесі өте дәл болмайды. Тағы бір әдіс – динамикалық бағдарламалауды қолдану: бақылау матрицасын рекурсивті түрде кіші матрицаларға бөлу және осы кіші матрицаларда қорытынды алгоритмін іске қосу. Бұл алгоритмге әкелетін негізгі байқау – кіші матрицасы, мұндағы – мониторымен байланысы жоқ жасырын компоненттердің бөгде бақылау матрицасына сәйкес келеді. Эксперименттік нәтижелер бұл тәсілдің орташа шу деңгейінде дұрыс екенін көрсетеді. Жалпыланған екілік АХА жүйесі генеративтік модель туралы ешқандай ақпаратты қажет етпейтін кеңейтілген мәселе тұжырымын ұсынады. Басқаша айтқанда, бұл әдіс көзді оның тәуелсіз компоненттеріне (мүмкіндігінше және ешқандай ақпаратты жоғалтпай) бөлуге тырысады, оның қалай пайда болғаны туралы алдын ала болжамсыз. Бұл мәселе өте күрделі болғанымен, оны тармақталу және шектеу іздеу ағашы алгоритмімен немесе матрицаны векторға бір рет көбейту арқылы жоғары шектеумен дәл шешуге болады.

Ең жоғарғы ықтималдық бағасы бойынша

Максималды ықтималдықты бағалау (МЫБ) – деректердің (мысалы, ізделген сигналдардың) белгілі бір модельге (мысалы, бастапқы сигналдардың болжамды бірлескен ықтималдық тығыздық функциясы (pdf)) ең жақсы сәйкес келетін параметрлік мәндерді табуға арналған стандартты статистикалық құрал (мысалы, араластыру матрицасы). 1985 және 1986 жылдары Кристиан Юттен бұл әдісті одан әрі дамытты, ал 1991 жылы Пьер Комон жетілдіріп, 1994 жылғы мақаласында кеңінен таныстырды. 1995 жылы Тони Белл мен Терри Сейновски 1987 жылы Ральф Линскер ұсынған принципке негізделген Infomax-қа негізделген жылдам және тиімді ICA алгоритмін енгізді. МЫБ және Infomax тәсілдері арасындағы қызықты байланысты 1998 жылы J.F. Кардозо жариялаған МЫБ әдісіне арналған толық оқулықта табуға болады. Әдебиетте ICA-ны жүзеге асыратын көптеген алгоритмдер бар. Өнеркәсіптік қолданыстарды қоса алғанда, кеңінен қолданылатын алгоритмдердің бірі – Гивернин мен Оя әзірлеген FastICA алгоритмі, ол Пьер Комон осы контексте 7 жыл бұрын ұсынған негентропияны шығын функциясы ретінде пайдаланады. Олардың әдісі тәуелсіз көздердің саны туралы алдын ала білімді қажет етпейді.