Кіріспе
Метаіздестіру жүйесі (немесе іздеу агрегаторы) – веб-іздестіру жүйесі деректерін пайдаланып өз нәтижелерін құрайтын онлайн ақпаратты іздеу құралы. Метаіздестіру жүйелері пайдаланушыдан сұраныс алады және іздеу жүйелерінен дереу нәтижелерді сұрайды. Жеткілікті дерек жиналып, сараланып, пайдаланушыларға ұсынылады. Спам сияқты мәселелер нәтижелердің дәлдігін және нақтылығын төмендетеді. Бірлестіру процесі метаіздестіру жүйесін жақсартуға бағытталған. Метаіздестіру жүйелерінің мысалдары ретінде Skyscanner және Kayak.com, онлайн-саяхат агенттіктері мен провайдерлердің веб-сайттарынан іздеу нәтижелерін жинақтайтын, сондай-ақ Searx, интернет іздеу жүйелерінен нәтижелерді жинақтайтын тегін және ашық кодты іздеу жүйесін келтіруге болады.
A metasearch engine (or search aggregator) is an online information retrieval tool that uses the data of a web search engine to produce its own results. Metasearch engines take input from a user and immediately query search engines for results. Sufficient data is gathered, ranked, and presented to the users. Problems such as spamming reduces the accuracy and precision of results. The process of fusion aims to improve the engineering of a metasearch engine. Examples of metasearch engines include Skyscanner and Kayak. com, which aggregate search results of online travel agencies and provider websites and Searx, a free and open source search engine which aggregates results from internet search engines.
Тарих
Мета-іздестіру идеясын алғаш рет Колорадо штатының университетіндегі Дэниел Дрейлингер енгізді. Ол SearchSavvy-ді жасады, ол пайдаланушыларға бірден 20 түрлі іздеу жүйесі мен каталогты іздеуге мүмкіндік берді. Жылдам болғанымен, іздеу жүйесі қарапайым іздеулермен шектелгендіктен, сенімді болмады. Вашингтон университетінің студенті Эрик Селберг MetaCrawler деп аталатын «жаңартылған» нұсқасын шығарды. Бұл іздеу жүйесі SearchSavvy-нің дәлдігін арттырды, өйткені ол өзінің іздеу синтаксисін жасырын түрде қосты және осы синтаксисті іздеген іздеу жүйелерінің синтаксисімен үйлестірді. Metacrawler іздеу жүйелеріне жасалған сұраныстардың санын 6-ға дейін азайтты, бірақ нәтижелері дәлірек болғанымен, жеке іздеу жүйелерінде іздеу сияқты дәл емес деп есептелді. 1996 жылдың 20 мамырында HotBot, сол кезде Wired компаниясына тиесілі болған, Inktomi және Direct Hit дерекқорларынан іздеу нәтижелерін алатын іздеу жүйесі болды. Ол жылдам нәтижелерімен және іздеу нәтижелері ішінде іздеу мүмкіндігі бар іздеу жүйесі ретінде танымал болды. 1998 жылы Lycos компаниясы сатып алғаннан кейін іздеу жүйесінің дамуы тоқтап, нарықтық үлесі күрт төмендеді. Бірнеше өзгерістерден өткен соң HotBot қарапайым іздеу интерфейсіне қайта құрылды, ал оның мүмкіндіктері Lycos веб-сайтының жаңа дизайнына енгізілді. 1999 жылы Бо Шу және Субхаш Как Anvish деп аталатын мета-іздеу жүйесін жасады; іздеу нәтижелері бірден оқытылған нейрондық желілерді пайдалана отырып сұрыпталды. Бұл кейін Solosearch деп аталатын тағы бір мета-іздеу жүйесіне қосылды. 2000 жылдың тамызында Үндістан HumHaiIndia.com іске қосылып, алғашқы мета-іздеу жүйесіне ие болды. Оны сол кезде 16 жастағы Сумит Ламба жасаған. Кейіннен сайт Tazaa.com деп қайта аталды. Ixquick – жеке өмірге қатысты саясатымен танымал іздеу жүйесі. 1998 жылы Дэвид Бодник жасап, іске қосты, ол Surfboard Holding BV компаниясына тиесілі. 2006 жылдың маусым айында Ixquick, Scroogle-мен бірдей тәртіппен, пайдаланушыларының жеке деректерін жошуды бастады. Ixquick құпиялылық саясатында пайдаланушылардың IP-адрестерін жазу, анықталмайтын cookie файлдарын пайдалану, жеке деректерді жинау және жеке деректерді үшінші тараптармен бөлісу қарастырылмайды. Сондай-ақ, ол нәтижені жұлдыздармен бағалайтын ерекше рейтинг жүйесін қолданады. Нәтижеде жұлдыздардың саны көп болса, іздеу жүйелері соғұрлым көп келісімге келгендігін көрсетеді. 2005 жылдың сәуір айында Dogpile, сол кезде InfoSpace, Inc. компаниясына тиесілі және басқарылатын, Питтсбург университеті мен Пенсильвания штаты университетінің зерттеушілерімен бірлесіп, веб-іздеу үшін мета-іздеу жүйесін пайдаланудың артықшылықтарын бағалау үшін жетекші веб-іздеу жүйелері арасындағы өзара сәйкестік пен рейтингтік айырмашылықтарды өлшеді. Нәтижелер Google, Yahoo! және Ask Jeeves-тен алынған 10 316 кездейсоқ пайдаланушы анықтаған сұраныстардың тек 3,2%-ы берілген сұраныс бойынша осы іздеу жүйелерінде бірдей болғанын көрсетті. Сол жылы Google, Yahoo!, MSN Search және Ask Jeeves-тен алынған 12 570 кездейсоқ пайдаланушы анықтаған сұраныстарды пайдаланған тағы бір зерттеуде бірінші беттегі іздеу нәтижелерінің тек 1,1%-ы берілген сұраныс бойынша осы іздеу жүйелерінде бірдей болды.
Артықшылықтар
Бірнеше басқа іздеу жүйелеріне бірнеше сұраныстар жіберу арқылы тақырыптың қамту деректерін кеңейтеді және көбірек ақпарат табуға мүмкіндік береді. Олар басқа іздеу жүйелері құрастырған индекстерді пайдаланады, нәтижелерді жинақтап, көбінесе ерекше тәсілдермен өңдейді. Метаіздеу жүйесінің бір ғана іздеу жүйесіне қарағанда артықшылығы бар, себебі бірдей күш-жігермен көбірек нәтиже алуға болады. Көптеген метаіздеу жүйелері бір іздеу жүйесінен оннан астам сілтеме ұсынбайды және әдетте үлкен іздеу жүйелерімен нәтижелерді алу үшін өзара әрекеттеспейді. Төлемдік сілтемелер басымдыққа ие және әдетте бірінші болып көрсетіледі. Метаіздеу сұраныс тақырыбының көбірек қамтылғандығын көрсетеді, әсіресе егер пайдаланушы танымал немесе жиі кездесетін ақпаратты іздесе. Сұраныс жасалған іздеу жүйелерінен бірнеше бірдей нәтижелер алу жиі кездеседі. Сондай-ақ, пайдаланушыларға күрделі іздеу синтаксисімен іздеу сұранысын бірге жіберу қиынырақ, сондықтан нәтижелер нақты іздеу жүйесіндегі кеңейтілген іздеу интерфейсін пайдаланғандағыдай дәл болмауы мүмкін. Осы себепті көптеген метаіздеу жүйелері қарапайым іздеуді қолданады.
Жетекшіліктің құрылымы
Көптеген іздеу жүйелерінде жоғары орналасқан веб-беттер пайдалы ақпарат беруде көбірек маңызға ие болуы мүмкін.
Спам-дексиялау
Спамдексинг – іздеу жүйелерінің индекстерін қасақана манипуляциялау. Ол индекстелген ресурстардың релеванттылығын немесе айқындылығын индекстеу жүйесінің мақсатына сәйкес келмейтін түрде өзгерту үшін түрлі әдістерді қолданады. Спамдексинг пайдаланушылар үшін қынжырлы және іздеу жүйелері үшін мәселелі болуы мүмкін, себебі іздеу нәтижелерінің дұрыстығы төмендейді. Бұл іздеу жүйесінің сенімділігіне нұқсан келтіріп, оны пайдаланушылар үшін пайдасыз етеді. Спамдексингпен күресу үшін іздеу роботтарының алгоритмдері күрделендіріліп, проблеманы жою мақсатында дерлік күн сайын жаңартылады. Бұл метаіздеу жүйелері үшін үлкен қиындық, өйткені ол веб-шолушының (crawler) индекстеу критерийлерін бұзады, ал олар рейтингтік тізімдерді жасау үшін маңызды рөл атқарады. Спамдексинг іздеу жүйесінің табиғи рейтингтік жүйесін бұрмалап, веб-сайттарды олардың табиғи орнынан жоғарырақ тізімге қояды. Мұны іске асыру үшін үш негізгі әдіс қолданылады:
Жасыру
Бұл SEO техникасы, онда веб-тараушыға (web crawler) және веб-браузерге әртүрлі материалдар мен ақпарат жіберіледі. Ол көбінесе спамдексинг (spamdexing) тәсілі ретінде қолданылады, себебі іздеу жүйелерін алдап, іздеу жүйесінің сипаттамасынан мүлдем өзгеше сайтқа бағыттап немесе белгілі бір сайтқа жоғары дәреже беруге мүмкіндік береді.