Кіріспе
Сапалық немесе сандық ақпараттардың күйі Деректер сапасы – сапалық немесе сандық ақпараттардың күйін көрсетеді. Деректер сапасының көптеген анықтамалары бар, бірақ деректер, егер ол "операциялар, шешім қабылдау және жоспарлаудағы көздеген мақсатына сай болса", жоғары сапалы деп есептеледі. Сонымен қатар, деректер нақты әлемдегі оған сәйкес келетін нысанды дұрыс бейнелесе, оның сапасы жоғары деп саналады. Бұдан өзге, дерек көздерінің саны артқан сайын, деректердің өзара үйлесімділігі мәселесі, оның қандай да бір сыртқы мақсатта қолданылуына қарамастан, маңызға ие болады. Адамдардың деректер сапасы туралы пікірлері жиі келіспеушілікке ұшырауы мүмкін, тіпті бір мақсатта қолданылатын бірдей деректер жиынтығын талқылағанда да. Мұндай жағдайларда деректерді басқару деректер сапасының келісілген анықтамалары мен стандарттарын құру үшін қолданылады. Ондай жағдайларда деректер сапасын қамтамасыз ету үшін, стандарттауды қоса алғанда, деректерді тазарту қажет болуы мүмкін.
Data quality refers to the state of qualitative or quantitative pieces of information. There are many definitions of data quality, but data is generally considered high quality if it is "fit for [its] intended uses in operations, decision making and planning". Moreover, data is deemed of high quality if it correctly represents the real world construct to which it refers. Furthermore, apart from these definitions, as the number of data sources increases, the question of internal data consistency becomes significant, regardless of fitness for use for any particular external purpose. People's views on data quality can often be in disagreement, even when discussing the same set of data used for the same purpose. When this is the case, data governance is used to form agreed upon definitions and standards for data quality. In such cases, data cleansing, including standardization, may be required in order to ensure data quality.
Тарих
Арзан компьютерлік деректерді сақтау пайда болғанға дейін, жеткізу қызметтерінің атаулары мен мекенжайлары туралы деректерді сақтау үшін үлкен негізгі компьютерлер қолданылды. Бұл хаттардың дұрыс бағытқа жөнелтілуі үшін жасалды. Негізгі компьютерлер бизнес ережелерін қолданып, атау және мекенжай деректеріндегі жиі кездесетін қателерді және теру қателіктерін түзететін, сондай-ақ көшіп кеткен, қайтыс болған, түрмеге түскен, үйленген, ажырасқан немесе өмірді өзгертетін басқа да оқиғаларды бастан өткерген клиенттерді қадағалайтын. Үкіметтік органдар пошталық деректерді бірнеше қызмет көрсету компанияларына қолжетімді етуді бастады, олар клиенттік деректерді Ұлттық мекенжайды өзгерту тізілімімен (NCOA) салыстыра алатын. Бұл технология үлкен компанияларға клиенттік деректерді қолмен түзетумен салыстырғанда миллиондаған доллар үнемдеді. Ірі компаниялар почта шығындарын үнемдеді, себебі шоттар мен тікелей маркетингтік материалдар көздеген клиентке дәлірек жетті. Бастапқыда қызмет ретінде сатылған деректер сапасы, төмен бағалы және қуатты серверлік технология қолжетімді болғанда корпорациялардың ішкі қабырғаларына көшті. Маркетингке баса назар аударатын компаниялар көбінесе сапаға бағытталған күш-жігерін атау және мекенжай туралы ақпаратқа жұмсады, бірақ деректер сапасы барлық типтегі деректердің маңызды қасиеті ретінде танылды. Деректер сапасының принциптерін жеткізу тізбегі деректеріне, транзакциялық деректерге және басқа да барлық деректер санаттарына қолдануға болады. Мысалы, жеткізу тізбегі деректерін белгілі бір стандартқа келтіру ұйым үшін келесідей құнды болады: 1) ұқсас, бірақ сәл өзгеше тауарлардың артық қор жинақталуын болдырмау; 2) жалған тауар жетіспеушіліктің алдын алу; 3) көлемдік жеңілдіктер алу үшін жеткізушілердің сатып алуларын жақсырақ түсіну; және 4) ірі ұйым бойынша бөлшектерді сақтау және тасымалдауға байланысты логистикалық шығындарды азайту. Зерттеу саласында көп жұмыс істейтін компаниялар үшін деректер сапасы зерттеу әдістеріне арналған хаттамаларды әзірлеу, өлшеу қателіктерін азайту, деректерді тексеру, тік кестелерді жасау, модельдеу және аномалияларды анықтау, деректердің дұрыстығын растау және т.б. сияқты мәселелерді қамтиды.
Деректердің сапасына кепілдік беру
Деректер сапасын қамтамасыз ету – деректерді талдау арқылы деректердегі қателіктер мен басқа да аномалияларды анықтау, сондай-ақ деректерді тазарту шараларын (мысалы, ауытқуларды жою, жоқ деректерді толтыру) жүзеге асынып, деректер сапасын жақсарту процесі. Бұл шаралар деректер қоймасын құру немесе қолданыстағы бағдарламалық қамтамасының деректер базасын басқару аясында жүргізілуі мүмкін.
Денсаулық сақтау деректерінің қауіпсіздігі мен құпиялылығы
Денсаулық сақтау саласындағы мобильді құрылғыларды қолдану денсаулық сақтау деректерінің қауіпсіздігі мен құпиялылығына жаңа сын-текелер туғызады, бұл деректер сапасына тікелей әсер етеді. Ұялы телефондар мен планшеттер деректерді жинау, есеп беру және дерлік нақты уақыт режимінде талдау үшін пайдаланылады. Дегенмен, бұл мобильді құрылғылар жеке мақсаттар үшін де жиі қолданылады, осылайша деректердің бұзылуына әкелуі мүмкін қауіпсіздік тәуекелдеріне осал болады. Тиісті қауіпсіздік шаралары болмаса, мұндай жеке қолдану денсаулық сақтау деректерінің сапасын, қауіпсіздігін және құпиялылығын қауіпке тікелей төндіруі мүмкін.
Халық денсаулығы саласындағы деректердің сапасы
Деректердің сапасы соңғы жылдары қоғамдық денсаулық сақтау бағдарламаларының ең маңызды мәселесіне айналды, әсіресе есеп беру талаптарының артуымен байланысты. ЖИТС, туберкулез және безгек сияқты аурулармен күресуге қатысты амбициозды мақсаттарға жету, бағдарламаны іске асыруға қатысты сапалы деректерді қамтамасыз ететін күшті мониторинг және бағалау жүйелеріне негізделуі керек. Осы бағдарламалар мен бағдарлама аудиторлары деректердің сапасын анықтау процесін стандарттау және оңайлату, есептелген деректердің сапасын растау және индикаторлар үшін деректерді басқару мен есеп беру жүйелерін бағалау құралдарын іздеуде. Мысалы, Дүниежүзілік денсаулық ұйымы (ДДСҰ) және MEASURE Evaluation ұйымдарының деректер сапасын тексеру құралы. ДДСҰ, Глобалдық қор, GAVI және MEASURE Evaluation әртүрлі аурулар мен бағдарламалар бойынша деректер сапасын қамтамасыз етуге үйлесімді тәсілді жасау үшін бірлесіп жұмыс істеді.
Ашық деректердің сапасы
Ашық дерек көздеріндегі дерек сапасын талдауға арналған көптеген ғылыми еңбектер бар, мысалы, Wikipedia, Wikidata, DBpedia және тағы да басқалар. Wikipedia мысалында, сапаны талдау бүкіл мақалаға қатысты болуы мүмкін. Сапаны модельдеу әртүрлі әдістермен жүзеге асырылады. Олардың кейбіреулері машиналық оқыту алгоритмдерін қолданады, оның ішінде Random Forest, Support Vector Machine және басқалары. Wikidata, DBpedia және басқа LOD көздеріндегі дерек сапасын бағалау әдістері ерекшеленеді.
ECCMA (Электрондық коммерция кодтарын басқару қауымдастығы)
Электрондық коммерция кодексін басқару қауымдастығы (ECCMA) – халықаралық стандарттарды енгізу арқылы деректер сапасын арттыруға бағытталған, мүшелік негіздегі, коммерциялық емес халықаралық ұйым. ECCMA қазіргі таңдағы ISO 8000 және ISO 22745 стандарттарын әзірлеу жобасының жетекшісі болып табылады, бұл стандарттар тиісінше деректер сапасы және материалдық-қызметтік деректерді алмасу саласындағы халықаралық нормалар. ECCMA деректер сапасы және деректерді басқару мәселелеріндегі әлемдік сарапшылардың ынтымақтастығы үшін платформа ұсынады, осы арқылы жалпыға қолжетімді, ашық стандартты сөздіктерді құруға және қолдауға көмектеседі, олар ақпаратты нақты анықтау үшін қолданылады. Мұндай сөздіктердің болуы ақпаратты бір компьютер жүйесінен екіншісіне мағынасын жоғалтпай жіберуге мүмкіндік береді.