Ағылшыншамен салыстырыңыз: абзацты басыңыз — түпнұсқа терезеде ашылады. Абзац астындағы EN түймесі оны мәтін ішінде көрсетеді.
Мазмұны
Кіріспе
Табиғи тілдерде мәтін жасау
Generation of text in natural languages
Табиғи тілді жасау (NLG) – табиғи тілдегі мәтінді құрайтын бағдарламалық процесс. NLG әдістеріне қатысты кең таралған зерттеу NLG-ні «жасанды интеллект және есептеу лингвистикасының саласы» ретінде сипаттайды. Ол ағылшын немесе басқа да адам тілдерінде түсінікті мәтіндерді ақпараттың тілдік емес ұсынылымынан құра алатын компьютерлік жүйелерді құрумен айналысады. Кез келген NLG процесінің нәтижесі мәтін екендігіне барлық тарап келіседі, бірақ NLG жүйесіне кіріс деректер тілдік емес болуы керек пе, деген мәселеде пікір таласы бар. NLG әдістерінің кең таралған қолданыстарына түрлі есептерді жасау, мысалы, ауа райы туралы ақпарат және чат-боттар жатады. Автоматтандырылған NLG-ні адамдар идеяларды жазуға немесе айтуға айналдырған кезде қолданатын процесспен салыстыруға болады. Психолингвистер осы процеске «тілді өндіру» терминін қолданады, оны математикалық тұрғыдан сипаттауға немесе психологиялық зерттеулер үшін компьютерде модельдеуге болады. NLG жүйелерін жасанды компьютерлік тілдердің аудармашыларымен, мысалы, декомпиляторлар немесе транспиляторлармен де салыстыруға болады, олар аралық ұсынылымнан адам оқи алатын кодты да жасайды. Адам тілдері бағдарламалау тілдеріне қарағанда әлдеқайда күрделі, көп мағыналы және әртүрлі өрнектерге мүмкіндік береді, бұл NLG-ні күрделі етеді. NLG-ні табиғи тілді түсінуге (NLU) толықтырушы ретінде қарастыруға болады: NLU-де жүйе машиналық ұсынылымды жасау үшін кіріс сөйлемді түсіндіруі керек, ал NLG-де жүйе ұсынылымды сөздерге қалай аудару керектігі туралы шешім қабылдауы керек. NLU және NLG жүйелерін құрудың практикалық аспектілері симметриялық емес. NLU қолданушының дұрыс емес немесе қателігі бар кіріс деректерін өңдеуі керек, ал NLG арқылы жеткізілгісі келетін идеялар әдетте нақты белгілі. NLG көптеген мүмкін ұсынылымдардың ішінде өзіне сәйкес келетін нақты мәтіндік ұсынылымды таңдауы керек, ал NLU әдетте айтылған идеяның бір нормативтік ұсынылымын жасауға тырысады. NLG әдістері қарапайым үлгіге негізделген жүйелерден, мысалы, формалық хаттарды жасайтын поштаны біріктіруден, адам грамматикасын күрделі түсінетін жүйелерге дейін өзгереді. NLG сонымен қатар машиналық оқытуды қолдана отырып, статистикалық модельді оқыту арқылы жүзеге асырылуы мүмкін, әдетте адам жазған мәтіндердің үлкен корпусында.
Natural language generation (NLG) is a software process that produces natural language output. A widely cited survey of NLG methods describes NLG as "the subfield of artificial intelligence and computational linguistics that is concerned with the construction of computer systems than can produce understandable texts in English or other human languages from some underlying non linguistic representation of information". While it is widely agreed that the output of any NLG process is text, there is some disagreement about whether the inputs of an NLG system need to be non linguistic. Common applications of NLG methods include the production of various reports, for example weather and chatbots. Automated NLG can be compared to the process humans use when they turn ideas into writing or speech. Psycholinguists prefer the term language production for this process, which can also be described in mathematical terms, or modeled in a computer for psychological research. NLG systems can also be compared to translators of artificial computer languages, such as decompilers or transpilers, which also produce human readable code generated from an intermediate representation. Human languages tend to be considerably more complex and allow for much more ambiguity and variety of expression than programming languages, which makes NLG more challenging. NLG may be viewed as complementary to natural language understanding (NLU): whereas in natural language understanding, the system needs to disambiguate the input sentence to produce the machine representation language, in NLG the system needs to make decisions about how to put a representation into words. The practical considerations in building NLU vs. NLG systems are not symmetrical. NLU needs to deal with ambiguous or erroneous user input, whereas the ideas the system wants to express through NLG are generally known precisely. NLG needs to choose a specific, self consistent textual representation from many potential representations, whereas NLU generally tries to produce a single, normalized representation of the idea expressed. NLG techniques range from simple template based systems like a mail merge that generates form letters, to systems that have a complex understanding of human grammar. NLG can also be accomplished by training a statistical model using machine learning, typically on a large corpus of human written texts.
Суреттің астында
Соңғы бірнеше жылда көру және тіл арасындағы байланысты зерттеудің кең ауқымды шараларының бір бөлігі ретінде суреттерге автоматты түрде мәтіндік сипаттамалар жасауға қызығушылық артты. Деректерден мәтін жасаудың бір түрі болып табылатын суретті сипаттау алгоритмі (немесе автоматты сурет сипаттамасы) суретті қабылдап, оның визуалды мазмұнын талдайды және суреттің ең маңызды аспектілерін сөзбен жеткізетін мәтіндік сипаттаманы (әдетте сөйлем) құрайды. Суретті сипаттау жүйесі екі негізгі тапсырмадан тұрады. Суретті талдау кезінде суреттің ерекшеліктері мен атрибуттары анықталып, белгіленеді, содан кейін осы нәтижелер лингвистикалық құрылымдарға бейімделеді. Жақындағы зерттеулер терең оқыту әдістерін пайдаланады, олар алдын ала оқытылған конволюциялық нейрондық желілерден (мысалы, AlexNet, VGG немесе Caffe) алынған ерекшеліктерді қолданады, онда сипаттама жасаушылар алдын ала оқытылған желіден алынған белсендіру қабатын кіріс деректері ретінде пайдаланады. Екінші тапсырма – мәтін жасау, ол әртүрлі техникалар арқылы жүзеге асырылады. Мысалы, Midge жүйесінде кіріс суреттері объектілер/заттардың, әрекеттер/позалардың және кеңістіктік қатынастардың анықталуынан тұратын үштіктер түрінде ұсынылады. Бұл үштіктер кейіннен <зат есім, етіс, сөз тіркесі> түріндегі үштіктерге сәйкестендіріліп, ағаш алмастыру грамматикасы арқылы жүзеге асырылады. Сондай-ақ, суреттерді сипаттау үшін көптілді жинақтарды құру және бағалау жүргізіледі.
Over the past few years, there has been an increased interest in automatically generating captions for images, as part of a broader endeavor to investigate the interface between vision and language. A case of data to text generation, the algorithm of image captioning (or automatic image description) involves taking an image, analyzing its visual content, and generating a textual description (typically a sentence) that verbalizes the most prominent aspects of the image. An image captioning system involves two sub tasks. In Image Analysis, features and attributes of an image are detected and labelled, before mapping these outputs to linguistic structures. Recent research utilizes deep learning approaches through features from a pre trained convolutional neural network such as AlexNet, VGG or Caffe, where caption generators use an activation layer from the pre trained network as their input features. Text Generation, the second task, is performed using a wide range of techniques. For example, in the Midge system, input images are represented as triples consisting of object/stuff detections, action/pose detections and spatial relations. These are subsequently mapped to <noun, verb, preposition> triples and realized using a tree substitution grammar. as well as the construction and evaluation multilingual repositories for image description.
Шығармашылық жазу және есептеу юморы
NLG-ның шығармашылық тілді жасауы туралы гипотеза осы саланың бастауынан бері қалыптасқан. Бұл саладағы алғашқы дамушылардың бірі – Филип Паркер, ол оқулықтарды, кроссвордтарды, өлеңдерді және кітаптарды автоматты түрде жасауға қабілетті алгоритмдерді әзірледі. GPT 3 сияқты ірі, алдын ала оқытылған трансформерлік тілдік модельдердің пайда болуы да жаңа табыстарға мүмкіндік берді, мұндай модельдер жазу тапсырмаларын орындауға қабілетті екенін көрсетті. NLG қолданылымының осымен байланысты саласы – есептеулік юмор жасау. JAPE (Joke Analysis and Production Engine) – балаларға арналған әзіл-қалжыңдарды жасау үшін қолмен кодталған үлгілерге негізделген тәсілді пайдаланатын ең алғашқы, ірі автоматтандырылған юмор жасау жүйелерінің бірі. HAHAcronym кез келген аббревиатураны күлкілі түрде түсіндіреді, сондай-ақ берілген кілт сөздерге сәйкес келетін жаңа аббревиатураларды ұсынады. Прогресске қарамастан, адам жасаған шығармашылық және юморлы контентпен бәсекелесе алатын автоматты контент жасауда көптеген қиындықтар сақталып қалды. Сатирикалық тақырыптарды жасау бойынша жүргізілген тәжірибеде, олардың ең жақсы BERT негізіндегі моделінің нәтижелерінің 9,4% күлкілі деп танылды (ал The Onion-нан алынған нақты тақырыптардың 38,4% құрады), ал сатирикалық тақырыптарға реттелген GPT 2 моделі 6,9% нәтиже көрсетті. Юмор жасау жүйелеріндегі екі негізгі мәселе – түсіндірілген деректер жиынтығының жетіспеуі және формалды бағалау әдістерінің, бірлескен тапсырмалардың болмауы. Алғашқы нәтижелер көрсеткендей, адам бағалары осы мәселеде метрикалардан әлдеқайда жақсы. Басқаша айтқанда, адам бағалары, әдетте, тапсырманың тиімділігін, кем дегенде, белгілі бір деңгейде болжайды (бірақ ерекшеліктер де бар), ал метрикалар арқылы алынған бағалар тапсырманың тиімділігін жақсы болжамайды. Бұл нәтижелер алдын ала. Дегенмен, адам бағасы NLG-де ең танымал бағалау әдісі болып табылады, бұл машиналық аудармадан өзгеше, онда метрикалар кеңінен қолданылады. ЖА-ны оқыту деректеріне сәйкестігі немесе, балама ретінде, фактілігі бойынша бағалауға болады. Оқу деректерін көрсеткен бірақ шындыққа сай келмейтін жауап – сәйкес, бірақ нақты емес. Өзіне сенімді, бірақ сәйкес келмейтін жауап – галлюцинация. Табиғи тілді өңдеуде галлюцинация көбінесе "мағынасыз немесе берілген бастапқы контентке сәйкес келмейтін жасалған контент" деп анықталады.
Creative language generation by NLG has been hypothesized since the field's origins. A recent pioneer in the area is Phillip Parker, who has developed an arsenal of algorithms capable of automatically generating textbooks, crossword puzzles, poems and books on topics ranging from bookbinding to cataracts. The advent of large pretrained transformer based language models such as GPT 3 has also enabled breakthroughs, with such models demonstrating recognizable ability for creating writing tasks. A related area of NLG application is computational humor production. JAPE (Joke Analysis and Production Engine) is one of the earliest large, automated humor production systems that uses a hand coded template based approach to create punning riddles for children. HAHAcronym creates humorous reinterpretations of any given acronym, as well as proposing new fitting acronyms given some keywords. Despite progresses, many challenges remain in producing automated creative and humorous content that rival human output. In an experiment for generating satirical headlines, outputs of their best BERT based model were perceived as funny 9.4% of the time (while real headlines from The Onion were 38.4%) and a GPT 2 model fine tuned on satirical headlines achieved 6.9%. It has been pointed out that two main issues with humor generation systems are the lack of annotated data sets and the lack of formal evaluation methods, shared task events. Initial results suggest that human ratings are much better than metrics in this regard. In other words, human ratings usually do predict task effectiveness at least to some degree (although there are exceptions), while ratings produced by metrics often do not predict task effectiveness well. These results are preliminary. In any case, human ratings are the most popular evaluation technique in NLG; this is contrast to machine translation, where metrics are widely used. An AI can be graded on faithfulness to its training data or, alternatively, on factuality. A response that reflects the training data but not reality is faithful but not factual. A confident but unfaithful response is a hallucination. In Natural Language Processing, a hallucination is often defined as "generated content that is nonsensical or unfaithful to the provided source content".