Кіріспе
Маңызды нәтижелерді көрсететін зерттеулерді жариялау ықтималдығы жоғары. Жарияланған ғылыми зерттеулерде, эксперимент немесе зерттеу нәтижесі оны жариялау немесе тарату туралы шешімге әсер еткенде жариялауға қатысты бұрмалаушылық пайда болады. Тек маңызды нәтижелерді ғана жариялау оң нәтижелерге басымдық беру арқылы нәтижелердің тепе-теңдігін бұзады. Жариялауға қатысты бұрмалаушылықты зерттеу – метағылымның маңызды тақырыбы. Орындалу және жобалау сапасы бірдей болса да, статистикалық тұрғыдан маңызды нәтижелер бар мақалалар, нөлдік нәтижелерге қарағанда үш есе көп жарияланады. Бұл зерттеушілерді статистикалық маңызды нәтижелерді алу үшін өз әдістерін манипуляциялауға, мысалы, деректерді іздеу арқылы ынталандырады. Жариялауға қатысты бұрмалаушылыққа көптеген факторлар әсер етеді. Мысалы, ғылыми жаңалықтар белгілі бір деңгейде қалыптасқаннан кейін, нөлдік гипотезаны жоққа шығара алмаған сенімді мақалаларды жариялау жаңалықтар құралында жариялануы мүмкін. Көбінесе зерттеушілер нәтижелерді ұсынудан бас тартады, бұл жауапсыздыққа алып келеді. Зерттеушілер өздері қателік жасады деп ойлауы мүмкін, нөлдік нәтиже белгілі бір тұжырымды қолдамайды, тақырыпқа қызығушылықтарын жоғалтады немесе басқалар нөлдік нәтижелерге қызығушылық танытпайды деп күтеді. Жарияланбаған зерттеулерді табуға тырысу көбінесе қиын немесе қанағаттанарлықсыз болып табылады. Бұл мәселені шешу үшін кейбір журналдар зерттеулерді жариялауға жібермес бұрын (деректерді жинау және талдау алдында) Ашық ғылым орталығы сияқты ұйымдарда тіркеуді талап етеді. Жариялауға қатысты бұрмалаушылықты анықтау және бақылау үшін ұсынылатын басқа да стратегиялар бар, олар қателікке және бұрмалаушылыққа бейімділігі жоғары болғандықтан шағын және рандомизацияланбаған зерттеулерге жағымсыз қарауды қамтиды. Бұл тақырыпты алғаш рет 1959 жылы статистик Теодор Стерлинг «жетістікке жеткен» зерттеулердің жариялану ықтималдығы жоғары салаларға сілтеме жасап талқылады. Нәтижесінде «осындай саланың әдебиетінің маңызды бөлігі статистикалық маңыздылықты тексерудегі бірінші типтегі қателіктерден туындаған жалған тұжырымдардан тұрады». Ең нашар жағдайда, егер теріс нәтижелердің жариялану деңгейі тым төмен болса, жалған тұжырымдар дұрыс деп қабылдануы мүмкін. Жариялауға қатысты бұрмалаушылық кейде «қоржын эффектісі» немесе «қоржын мәселесі» деп аталады. Бұл термин зерттеушілердің гипотезаларын қолдамайтын нәтижелер көбінесе зерттеушілердің қоржындарынан әрі қарай өтпейтінін білдіреді, бұл жарияланған зерттеулерде бұрмалаушылыққа әкеледі. «Қоржын мәселесі» терминін 1979 жылы психолог Роберт Розентал енгізген. Оң нәтижелерге қатысты бұрмалаушылық, жариялауға қатысты бұрмалаушылықтың бір түрі, авторлар оң нәтижелерді теріс немесе белгісіз нәтижелерге қарағанда көбірек ұсынғанда немесе редакторлар оң нәтижелерді қабылдауға көбірек бейімделгенде пайда болады. Нәтижелерді есеп беруге қатысты бұрмалаушылық бірнеше нәтиже өлшенгенде және талданғанда пайда болады, бірақ осы нәтижелерді есеп беру нәтижелердің күші мен бағытына байланысты болады. Бұл пост-хок таңдауларды сипаттау үшін қолданылатын жалпы термин – HARKing («Нәтижелер белгілі болғаннан кейін гипотеза жасау»).
In published academic research, publication bias occurs when the outcome of an experiment or research study biases the decision to publish or otherwise distribute it. Publishing only results that show a significant finding disturbs the balance of findings in favor of positive results. The study of publication bias is an important topic in metascience. Despite similar quality of execution and design, papers with statistically significant results are three times more likely to be published than those with null results. This unduly motivates researchers to manipulate their practices to ensure statistically significant results, such as by data dredging. Many factors contribute to publication bias. For instance, once a scientific finding is well established, it may become newsworthy to publish reliable papers that fail to reject the null hypothesis. Most commonly, investigators simply decline to submit results, leading to non response bias. Investigators may also assume they made a mistake, find that the null result fails to support a known finding, lose interest in the topic, or anticipate that others will be uninterested in the null results. Attempts to find unpublished studies often prove difficult or are unsatisfactory. In an effort to combat this problem, some journals require studies submitted for publication pre register (before data collection and analysis) with organizations like the Center for Open Science. Other proposed strategies to detect and control for publication bias and disfavoring small and non randomized studies due to high susceptibility to error and bias. The subject was first discussed in 1959 by statistician Theodore Sterling to refer to fields in which "successful" research is more likely to be published. As a result, "the literature of such a field consists in substantial part of false conclusions resulting from errors of the first kind in statistical tests of significance". In the worst case, false conclusions could canonize as being true if the publication rate of negative results is too low. Publication bias is sometimes called the file drawer effect, or file drawer problem. This term suggests that results not supporting the hypotheses of researchers often go no further than the researchers' file drawers, leading to a bias in published research. The term "file drawer problem" was coined by psychologist Robert Rosenthal in 1979. Positive results bias, a type of publication bias, occurs when authors are more likely to submit, or editors are more likely to accept, positive results than negative or inconclusive results. Outcome reporting bias occurs when multiple outcomes are measured and analyzed, but the reporting of these outcomes is dependent on the strength and direction of its results. A generic term coined to describe these post hoc choices is HARKing ("Hypothesizing After the Results are Known").
Дәлел
Биомедициналық салада жарияланымға қатысты бұрмалаушылық туралы кең ауқымды мета-зерттеулер жүргізілді. Клиникалық сынақтарды қадағалап отыратын зерттеушілер, олардың хаттамаларын этикалық комитеттерге (немесе реттеуші органдарға) ұсынғаннан бастап нәтижелерін жариялағанға дейін, оң нәтижелерге ие зерттеулердің жариялану ықтималдығы жоғары екенін анықтады. Сонымен қатар, зерттеулер жарияланған кезде теріс нәтижелерді жиі есепке алмайды, бұл зерттеу хаттамаларын жарияланған мақалалармен салыстыру арқылы көрсетілген. Мета-талдаулар жарияланымға қатысты бұрмалаушылықтың болуын зерттеді. Мұндай ең ірі талдау Кокран кітапханасынан медициналық емдеулердің жүйелі шолуларындағы жарияланымға қатысты бұрмалаушылықтың болуын зерттеді. Зерттеу көрсетті, статистикалық жағынан оң нәтижелер тиімділік туралы мета-талдауларға басқа нәтижелерге қарағанда 27%-ға көбірек қосылады. Жағымсыз әсерлердің жоқтығын көрсететін нәтижелер, жағымсыз әсерлерді көрсететін статистикалық маңызды нәтижелерге қарағанда қауіпсіздік зерттеулеріне 78%-ға көбірек енгізіледі. Жарияланымға қатысты бұрмалаушылықтың дәлелдері көрнекті медициналық журналдарда жарияланған мета-талдауларда табылды. Экология және қоршаған орта биологиясы саласында мета-талдаулар (шолулар) жүргізілді. Экологиядағы 100 мета-талдау зерттеуінің тек 49%-ы жарияланымға қатысты бұрмалаушылықты тексерді. Жарияланымға қатысты бұрмалаушылықты анықтау үшін көптеген тесттер әзірленген, бірақ олардың көпшілігі деректердің жоғары гетерогендігі және байқаулардың көбінесе толық тәуелсіз болмауы салдарынан экология саласында нашар жұмыс істейді. 1998 жылға дейін "Қытайда немесе Ресейде/КСРО-да жарияланған ешбір сынақ емнің тиімсіз екендігі анықталған жоқ".
Мета-талдауларға әсері
Жарияланымға қатысты бұрмалаушылық болған жағдайда, жарияланған зерттеулер енді қолда бар дәлелдердің репрезентативті үлгісі болып табылмайды. Бұл бұрмалаушылық мета-талдаулар мен жүйелі шолулардың нәтижелерін қиысытады. Мысалы, дәлелге негізделген медицина дәлелдерді бағалау үшін мета-талдауға көбірек жүгінеді. Мета-талдаулар мен жүйелі шолулар жарияланбаған зерттеулер мен «сұр әдебиеттерден» алынған мәліметтерді қосу арқылы жарияланымға қатысты бұрмалаушылықты ескере алады. Жарияланымға қатысты бұрмалаушылықтың болуын әсердің шамасын дәлдік немесе үлгі көлемімен салыстыра отырып, «құбырша тәрізді график» құрастыру арқылы да зерттеуге болады. Бұл жағдайда нүктелердің таралуы құбырша пішінін көрсетуі керек, яғни әсердің шамасын есеп беру оның статистикалық маңыздылығымен байланысты емес екенін білдіреді. «Құбырша тәрізді графиктерді» интерпретациялауда субъективтілік белгілі бір деңгейде болуы мүмкін болғандықтан, құбырша тәрізді графиктердің асимметриясын анықтау үшін бірнеше тесттер ұсынылған. Бұл тесттер көбінесе сызықтық регрессияға негізделген, соның ішінде танымал Эггерс регрессиялық тестісі де бар, және зерттеулер арасындағы гетерогенділікті ескеру үшін мультипликативті немесе аддитивті дисперсиялық параметрді қолдануы мүмкін. Кейбір тәсілдер тіпті жарияланымға қатысты бұрмалаушылықтың (потенциалды) болуын өтеуге тырысуы мүмкін, бұл мета-талдау нәтижелеріне оның ықтимал әсерін зерттеу үшін өте пайдалы. Экология және қоршаған орта биологиясы саласындағы зерттеулер жарияланымға қатысты бұрмалаушылықтың әсердің шамасына, статистикалық қуатына және оның ұлғайымдылығына әсер ететінін көрсеткен. Жарияланымға қатысты бұрмалаушылықтың кең таралғандығы мета-талдау нәтижелеріне сенімділікті төмендетті, ал бастапқыда статистикалық тұрғыдан маңызды болған мета-талдау орташа есептерінің 66% жарияланымға қатысты бұрмалаушылықты ескергеннен кейін маңызды емес болып қалды. Экологиялық және эволюциялық зерттеулер тұрақты түрде төмен статистикалық қуатқа (15%) ие болды және әсерлердің орташа есеппен 4 есеге жоғары бағаланғаны байқалды (M типіндегі қателік деңгейі = 4,4). Жарияланымға қатысты бұрмалаушылықты уақыттық кешігу тестілері арқылы анықтауға болады, онда үлкен немесе статистикалық тұрғыдан маңызды әсерлер кіші немесе статистикалық тұрғыдан маңызды емес әсерлерге қарағанда жылдам жарияланады. Бұл уақыт өте келе жалпы әсердің шамасының төмендеуі ретінде көрінеді. Уақыттық кешігу тестілерінің басты ерекшелігі – зерттеулер саны артқан сайын орташа әсердің шамасы оның нақты мәніне жақындауы керек. және Питер Уилмшурст. Әлеуметтік ғылымдарда корпоративтік әлеуметтік және қаржылық көрсеткіштер арасындағы байланысты зерттеген жарияланған мақалаларға жасалған зерттеуде «экономика, қаржы және есептеу журналдарындағы орташа корреляциялар Әлеуметтік мәселелерді басқару, Бизнес этикасы немесе Бизнес және қоғам журналдарында жарияланған нәтижелердің шамасының жартысына жуық болды» деген қорытынды жасалды. Жарияланымды бас тартудың бір мысалы ретінде Бемнің жұмысының алдын ала білу дәлелін жариялаудан бас тарту келтірілді, оны «Тұлға және әлеуметтік психология журналы» (Бемнің мақаласының бастапқы баспагері) жариялады. Гендік аурулармен байланысты зерттеулердің Қытайдағы және Қытайдан тыс жерлердегі нәтижелерін салыстырған талдау Қытайда жүргізілген зерттеулерде байланыс күштірек және статистикалық тұрғыдан маңызды нәтижелер алынғанын көрсетті.
Қауіптері
Джон Иоаннидис "дәлелденген зерттеу нәтижелері көбінесе басымдыққа ие көзқарастың нақты өлшемдері болуы мүмкін" деп мәлімдейді. Ол оң нәтижелерге қол жеткізген мақалалардың әдебиетке енуіне және теріс нәтижелерге қол жеткізген мақалаларды жоюына ықпал ететін келесі факторларды атап көрсетті:
Зерттеулер шағын үлгі көлемімен жүргізіледі. Зерттеу саласындағы эффектілердің мөлшері көбінесе кіші болады. Тесттен өткен қатынастардың саны көп, ал алдын ала іріктеуі аз. Дизайн, анықтамалар, нәтижелер және талдау әдістерінде үлкен икемділік бар. Әртүрлі түрдегі (қаржылық, саяси және т.б.) іспеттес көзқарастар бар. Ғылыми сала қарқынды дамып, жариялануға ұмтылатын ғылыми топтардың саны артып келеді. Басқа факторларға зерттеушінің және "ақ халат" эффектісінің ықпалы жатады.
The studies conducted in a field have small sample sizes. The effect sizes in a field tend to be smaller. There is both a greater number and lesser preselection of tested relationships. There is greater flexibility in designs, definitions, outcomes, and analytical modes. There are prejudices (financial interest, political, or otherwise). The scientific field is hot and there are more scientific teams pursuing publication. Other factors include experimenter bias and white hat bias.
Емдеу жолдары
Жарияланымға қатысты бұрмалаушылықты жақсырақ жоспарланған зерттеулер, зерттеу сапасын жақсарту стандарттары және нақты және жалған байланыстарды мұқият қарастыру арқылы бақылауға болады. Сондай-ақ, бұрынғы зерттеулердің минималды бұрмалаушылыққа ие екені белгілі болған, нақтыланған нәтижелерін (этикалық жағдайларға қарай) қайта растау қажет.
Зерттеуді тіркеу
2004 жылдың қыркүйегінде көрнекті медициналық журналдардың редакторлары (New England Journal of Medicine, The Lancet, Annals of Internal Medicine және JAMA-ны қоса алғанда) фармацевтикалық компаниялардың қаржыландыруымен жүргізілген дәрілік зерттеулердің нәтижелерін, егер зерттеу бастапқыда жария клиникалық сынақтар тізілімінде тіркелмесе, жарияламайтындарын хабарлады. Бұдан әрі, кейбір журналдар (мысалы, Trials) зерттеу хаттамаларын өз журналдарында жариялауға ынталандырады. Дүниежүзілік денсаулық сақтау ұйымы (ДДҰ) барлық клиникалық сынақтар туралы негізгі мәліметтер зерттеу басталғанда тіркелуі керек екеніне және бұл мәліметтер ДДҰ Халықаралық клиникалық сынақтар тізілімі арқылы жұртшылыққа қолжетімді болуы керек екеніне келісті. Сонымен қатар, зерттеулердің толық зерттеу хаттамалары, зерттеулер туралы есептермен қатар, жиірек көпшілікке қолжетімді бола бастады.
Мега зерттеулер
Мегазерттеулерде көптеген емдеулер бір уақытта сыналып жатады. Зерттеуге әртүрлі араласуларды қосуды ескере отырып, мегазерттеудің жариялану мүмкіндігі нақты емдеудің статистикалық маңызды нәтижесіне осышалықты тәуелді емес, сондықтан мегазерттеулер жариялануға қатысты бұрмалаушылыққа аз бейім болуы мүмкін деген пікір бар. Мысалы, тиімсіз деп табылған араласуды мегазерттеудің бір бөлігі ретінде, зерттелген көптеген араласулардың бірі ретінде жариялау оңайырақ, ал егер ол жеке мақаланың басты назары болса, «файл сөресі» мәселесіне байланысты жарияланбауы мүмкін. Осы себепті, мегазерттеу зерттеу дизайны зерттеушілерді тек тиімді болуы мүмкін деп санайтын араласуларды ғана емес, сонымен қатар зерттеушілердің сенімсіздік білдіретін және нөлдік нәтижеге байланысты жоғары тәуекел болғандықтан жеке зерттеу тақырыбы ретінде таңдамайтын араласуларды зерттеуге ынталандыруы мүмкін.