Қолмен басқару: Автоматтандыру жүйелерін жеңу және қауіпсіздік мәселелері
Manual override
Автоматты жүйенің орнына қолмен басқару мүмкіндігі: фото, принтерлер, автокөліктердегі MO/MAO функциясы. Қателерді түзетуге және тиімділікті арттыруға көмектеседі.
Ағылшыншамен салыстырыңыз: абзацты басыңыз — түпнұсқа терезеде ашылады. Абзац астындағы EN түймесі оны мәтін ішінде көрсетеді.
Кіріспе
Қолмен басқару (MO) немесе қолмен аналогтық басқару (MAO) – басқаруды автоматтандырылған жүйеден алып, пайдаланушыға беру механизмі. Мысалы, фотосуретке қолмен басқару дегеніміз, фотографтың камерадағы автоматты диафрагманы реттеу, автоматты фокус немесе кез келген басқа автоматтандырылған жүйені өшіру мүмкіндігі. Кейбір қолмен басқарулар автоматтандырылған жүйенің қателік жасаған кезде оның шешімін жоққа шығаруға мүмкіндік береді. Бұған принтердің сия деңгейін анықтау мысалы: бір жағдайда зерттеуші жүйені қолмен басқарғанда, принтер автоматтандырылған жүйеге қарағанда жақсы сапада 38%-ға дейін көп беттерді басып шығара алатынын анықтады. Автоматтандырылған жүйелер көбірек таралды және автомобильдер мен тұрмыстық техника сияқты күнделікті қолданылатын заттарға енгізілуде. Бұл кең таралған есептеулердің дамуы, өмірге қауіп төндіретін жағдайлар және маңызды экономикалық шешімдер сияқты маңызды мәселелер үшін қолмен басқару қажеттілігі туралы саясат және заңдық мәселелерді тудырады. Мұндай автономды құрылғылардың адалдығы мәселесіне айналады. Егер олар өндіруші орнатқан немесе заңмен талап етілген ережелерді орындаса және кейбір жағдайларда басқаруды беруден бас тартса, құрылғы иелері өзін биліктен айырылған, шеттетуге ұшыраған және нағыз меншік құқығынан айырылған сезінеді.
A manual override (MO) or manual analog override (MAO) is a mechanism where control is taken from an automated system and given to the user. For example, a manual override in photography refers to the ability for the human photographer to turn off the automatic aperture sizing, automatic focusing, or any other automated system on the camera. Some manual overrides can be used to veto an automated system's judgment when the system is in error. An example of this is a printer's ink level detection: in one case, a researcher found that when he overrode the system, up to 38% more pages could be printed at good quality by the printer than the automated system would have allowed. Automated systems are becoming increasingly common and integrated into everyday objects such as automobiles and domestic appliances. This development of ubiquitous computing raises general issues of policy and law about the need for manual overrides for matters of great importance such as life threatening situations and major economic decisions. The loyalty of such autonomous devices then becomes an issue. If they follow rules installed by the manufacturer or required by law and refuse to cede control in some situations then the owners of the devices may feel disempowered, alienated and lacking true ownership.
Үлкен оқиғалар
China Airlines 140 рейсі автопилоттың қолмен басқару мүмкіндігі туралы түсініспеушілік салдарынан апатқа ұшырап, көптеген адам қаза болды. Қонудан бас тарту/қайта ұшу жүйесі қонуды тоқтату үшін қосылды. Ол бұл жағдайда қолмен басқаруды қабылдамау үшін бағдарламаланған, бірақ пилоттар қонуды жалғастыруға тырысты. Пилоттар мен автопилоттан келген қайшы бақылау сигналдары ұшақтың жылдамдығын жоғалтуына және апатқа ұшырауына әкелді. Осы ұшақ түрінің автопилоты қайта бағдарламаланды, осылайша ол ешқашан қолмен басқаруға басымдық бермейді.
China Airlines Flight 140 crashed, causing many deaths, due to a misunderstanding about the manual overrides for the autopilot. The Take Off/Go Around system had been activated to abort a landing. It was programmed to ignore manual controls in this situation but the human pilots tried to continue the landing. The conflicting control signals from the pilots and autopilot then resulted in the aircraft stalling and crashing. The autopilot for this aircraft type was then reprogrammed so that it would never ignore a manual override.