Реферат Знання у системах спілкування
Работа добавлена на сайт bukvasha.net: 2015-10-28Поможем написать учебную работу
Если у вас возникли сложности с курсовой, контрольной, дипломной, рефератом, отчетом по практике, научно-исследовательской и любой другой работой - мы готовы помочь.
Національний Університет “Києво-Могилянська Академія”
Департамент комп’ютерних технологій
Кафедра інформатики
Реферат з курсу “Лінгвістичне забезпечення інтелектуальних систем” за ІІ триместр
Знання у системах спілкування
Студента V курсу ДКТ
Чаговця Олексія Борисовича
Викладач: доц. І. Б. Штерн
Київ, 2000
Зміст
Знання у системах спілкування 1
Роль знання в системах спілкування
Останнім часом робляться все інтенсивніші спроби реалізації процесу спілкування за допомогою ЕОМ. У зв’язку з цим розробляються так звані системи спілкування.
Системи спілкування – це клас систем штучного інтелекту, що орієнтовані не лише на вирішення деякої інтелектуальної задачі, а ще й на спілкування з так званим непідготованим, або кінцевим, користувачем, що здійснюється під час розв’язку цієї задачі. Проблема спілкування виникла як результат прагнення усунути бар’єр, що існує між користувачем та ЕОМ у вигляді штучних мов для внутрішнього подання інформації та програмування.
Існує два основних види спілкування: однобічне, коли машина сприймає інструкції природною мовою та реагує на них відповідним чином, і двобічне, що являє собою діалог між користувачем та ЕОМ. Якщо однобічне спілкування спрямовано головним чином на створення певних зручностей для користувача, розширюючи його можливості використання ЕОМ, то діалог являє собою також розширення можливостей машини. Тобто в діалозі відбувається інтеграція природного інтелекту людини та штучного інтелекту машини. В таких умовах з’являється можливість розв’язувати більш складні задачі, застосовувати гнучкіші та ефективніші засоби їх розв’язання. Одним з основних засобів, що забезпечують можливість спілкування з ЕОМ природною мовою, є знання, які подано в системах штучного інтелекту в формалізованому вигляді.
У зв’язку з необхідністю вдосконалення засобів формального подання знань в системі, виникає необхідність теоретичного осмислення аспектів цієї проблеми. В цьому розділі ми збираємося розглянути лінгвістичні та психологічні аспекти знання як однієї з основних складових частин систем ШІ. Перше питання, на яке необхідно відповісти, - це питання про те, яку роль відіграє знання в системах ШІ взагалі та в системах спілкування зокрема.
У загальному вигляді відповідь на це питання полягає в тому, що знання забезпечує виконання системами даного класу інтелектуальних функцій, що й відрізняє їх від інших “неінтелектуальних” систем.
У чому ж це конкретно виражається?
Для відповіді на це питання розгляньмо деякі особливості процесу розв’язання задач у системах ШІ. Всю множину автоматизованих систем можна поділити на два основних класи: обчислювальні та необчислювальні. Системи штучного інтелекту належать до необчислювального класу. Характерною особливістю обчислювальних систем є то, що для задач, що розв’язуються за їх допомогою, зазвичай існує деякий принцип розв’язання або математична модель, яку завжди можна реалізувати за допомогою певного детермінованого алгоритму, або програми.
Для задач, що їх вирішують системи ШІ, такого заздалегідь визначеного алгоритму не існує, оскільки це задачі творчі, евристичні. Тому основна мета систем ШІ полягає саме у знаходженні принципу розв’язання або алгоритму. В сучасних системах ШІ, незважаючи на розбіжності між ними в залежності від їх призначення, області та інших факторів, можна визначити певну спільну схему функціонування. Вона складається з трьох основних компонентів: вихідних даних, операцій, що застосовуються до цих даних, системи керування.
У загальному вигляді розв’язання деякої задачі в системі ШІ полягає в тому, що до вихідної бази даних на основі певних правил застосовуються операції, що призводять до зміни стану бази даних доти, доки якийсь із цих станів не буде задовольняти умовам даної задачі.
Основний механізм такого розв’язання полягає у виборі необхідних правил і реалізується в системі керування. Задача керування полягає в тому, щоб на основі інформації, яка є в наявності, обирати правила, що ведуть до мети. Для цього треба використовувати деяку інформацію, що належить до області задачі, що розв’язується. Але характерною особливістю цих задач є те, що необхідна інформація або відсутня, або є мінімальною. І ефективність системи зростає в тому разі, коли вона має необхідний обсяг інформації про задачу, що розв’язується. У ролі такої інформації виступає знання, яке спеціально формується у системі. Чим більш експліцитними й точними є знання, що застосовуються, тим більшою мірою знімається неоднозначність у виборі правил і тим безпосередніше система підходить до розв’язку. В даному процесі здійснюється перетворення алгоритмів, що виробляються на початкових та проміжних етапах, на детермінований алгоритм, виконання якого призводить до потрібного результату. Це й є знаходженням розв’язку. Алгоритми першого типу характеризуються тим, що їх елементи (або деякі з них) не визначені з потрібною мірою однозначності, внаслідок чого виникає необхідність подальшого уточнення та деталізації. Такі алгоритми називають планами.
Результатом їх деталізації є детермінований, або строгий, алгоритм. Існує думка, що процес перетворення плану на алгоритм є одним з істотних критеріїв, що дозволяють відрізняти “інтелектуальні” системи від “неінтелектуальних”.
Будь-який план можна вважати частково згорнутим текстом, де ступінь “згорнутості” залежить від ступеня його формалізованості. Згорнутість виражається в тому, що у плані не наводяться усі ланки процесу розв’язку задачі, а лише деякі найбільш істотні та необхідні. Тому на відміну від програми, що є фактично певним механізмом, стандартне функціонування якого завжди призводить до отримання деякого результату, план є лише загальним керівництвом. Для того, щоб він перетворився на конкретне керівництво для машини, необхідне перетворення, яке полягає в його розгортанні за рахунок уточнення та деталізації, експлікації відсутніх елементів, встановлення зв’язків та відношень. А для цього потрібне моделювання розуміння, що базується на перетворенні знання. Тому, визначаючи системи ШІ, часто говорять про них, як про розуміючі системи.
Знання, про яке досі йшлося, являє собою знання про певну предметну область і часто називається “модель світу”. Хоча даний вид знання в системах спілкування є також основним засобом розуміння, тут потрібне ще й додаткове знання. Це – знання про мову. Воно необхідне для перекладу питання з природної мови на мову внутрішнього представлення у системі й навпаки. Комплекс лінгвістичних засобів, що забезпечують такий переклад, зазвичай називається лінгвістичним процесором.
Таким чином, у системах спілкування застосовуються два види знання: знання про світ та лінгвістичне знання. Доповнюючи одне одного, вони забезпечують можливість перекладу питань з природної мови та їх розуміння. Знання у системі мають бути подані у вигляді, зручному для їх використання у формалізованих процедурах. Існують різні засоби такого подання.
Способи подання знань про світ
У загальному вигляді під знаннями, що використовуються в системах ШІ, зазвичай розуміють особливим чином організовані дані, поняття, відомості, що утворюють базу знань. За визначенням Л.Т. Кузіна – “це відомості, що відображають закономірності, що існують у предметній області, та дозволяють виводити нові факти, що мають місце в даному стані проблемного середовища, але не зафіксовані в базі даних, а також прогнозувати потенційно можливі стани”.
Для того, щоб знання можна було ефективно використовувати в системі, їх треба формалізувати. Для цього застосовується спеціальний математичний апарат.
В основі подання знання полягає логічна форма його вираження. У зв’язку з цим його елементарною одиницею можна вважати судження, або твердження. Сукупність тверджень про предмети, процеси, явища, що стосуються певної предметної області, утворює знання деякої системи. Для його подання зазвичай використовується апарат формальної логіки. Засоби подання знання, що базуються на застосуванні такого математичного апарату, називають логічними. Тут виділяють два способи: декларативний та процедурний.
Декларативне подання знань являє собою множину тверджень, які значним чином не залежать від того, де їх використовують. Воно складається з аксіом, усіх виведених на цей момент теорем і множини операторів, що подані правилами виведення.
У процедуральному поданні знання задаються у вигляді процедур їх перетворення для даної предметної області. При цьому поточний стан системи подається у вигляді спеціальних процедур, що обробляють локальні ділянки бази даних, яку спеціально організовано у вигляді, пристосованому для використання системою процедури доведення теорем.
Останнім часом все більш поширеними стають засоби подання знань, що називаються семіотичними. Така назва пояснюється тим, що опис зовнішнього світу тут здійснюється за допомогою природної мови. Сюди ж відносяться семантичні сітки та фрейми, які явно чи неявно протиставляються логічним засобам, зокрема численню предикатів. Але в обох цих підходах використовується певний загальний принцип, внаслідок чого вони виводяться один з одного.
Семантична сітка являє собою граф, у вершинах якого фіксуються найменування даних, а ребрам відповідають відношення, що встановлюються між ними. Якщо деяку предметну область можна подати набором двомісних предикатів, що групуються у блоки, що являють собою множину тверджень про якийсь об’єкт або явище, то її можна подати також у вигляді семантичної сітки. Це можливо тому, що бінарні предикати припускають подання за допомогою графів, у яких ребрам відповідають предикати, а вершинам аргументи. При цьому ребра спрямовані від першого аргументу до другого. Сукупність таких структур, що подані у вигляді графа, і утворюють сітку, що називається семантичною.
Семантичні сітки як засіб подання знань мають певні переваги перед декларативним та процедуральним поданням. Вони забезпечують досить легке розуміння, оновлення та засвоєння знань у відносно однорідній структурі. Окрім того, вони мають досить простий доступ до знань, а це безпосередньо пов’язано з загальною ефективністю роботи систем. Тут істотно спрощується процедура виводу рішення. Однак, для подання таких простих логічних відношень, як логічні зв’язки, квантори загальності та існування, семантичні сітки поступаються декларативному поданню, а для відображення динамічних та паралельних процесів – процедуральному. Поєднання вдалих прийомів з декларативного та процедурального подання з принципами, що використовуються у семантичних сітках, призвело до створення іншого виду семантичного способу подання – сіток фреймів. Їхньою особливістю є те, що тут використовуються модульні структури, що являють собою відносно самостійні блоки або одиниці.
Загальну ідея фреймового способу подання знань сформулював М.Мінський стосовно зорового сприйняття об’єктів. За визначенням М.Мінського, фреймом є один з перспективних видів об’єкта сприйняття, який можна формально подати деякою структурою у вигляді графа. Верхня вершина такого графа відповідає найменуванню об’єкта, а підпорядковані вершини – елементам цього об’єкта, що їх видно спостерігачеві з певної точки. Зміна положення об’єкта відносно спостерігача призводить до формування інших фреймів, оскільки видимими тут можуть бути інші елементи. За думкою автора, елементи, які стають при цьому невидимими, не зникають з пам’яті, а запам’ятовуються, що відображається і в формальному запису нових фреймів. Це має вираз в тому, що між такими елементами та найменуваннями нових фреймів встановлюється зв’язок з поміткою про те, він є неявним. В результаті ті самі елементи можуть повторюватися в різних фреймах. Запропонована автором форма запису фреймів дозволяє не дублювати такі елементи, а використовувати їх як спільні термінали для певної групи фреймів. Група фреймів, що пов’язані між собою, утворює систему.
Отже, фрейм – це деяка структура, що містить відомості про певний об’єкт і є цілісною та відносно автономною одиницею знання. За уявленням М.Мінського, у довгостроковій пам’яті людини зберігається великий набір систем фреймів, що використовуються, наприклад, під час розпізнання людиною зорових образів. З цією метою в пам’яті активується такий фрейм (або система), який найбільше відповідає гіпотезі про об’єкт сприйняття, що й забезпечує високу швидкість його розпізнання та осмислення.
Така уява про фрейми отримала в подальший розвиток та інтерпретацію. Фрейм зараз, як правило, ототожнюється зі стандартною, стереотипною ситуацією, що включає деяку множину конкретних однорідних ситуацій. Залежно від класу ситуацій розрізняють фрейми візуальних образів, фрейми-сценарії, семантичні фрейми і т. ін.
Структура фрейма включає три основних типи даних: поняття (назва фрейма), характеристика (назва термінала – вершини нижнього рівня), значення характеристики (заповнювач термінала). У зв’язку з цим можна вважати, що у фреймі реалізовано деякі загальні принципи, що властиві організації баз даних, де як одиниці виділяються об’єкти, характеристики та їхні значення, а також семантичним сіткам, у яких розрізняють абстрактний та конкретний рівень.
Завершуючи розгляд засобів подання знання про світ, варто відмітити, що в цілому жоден з них не має таких переваг, які б дозволили зовсім ігнорувати інші. Обрання того чи іншого засобу значною мірою залежить від конкретної предметної області задач, що розв’язуються, а також інших чинників.
Логіко-психологічні аспекти знання
Спроби відповісти на питання, що таке “знання”, призводять передусім до висновку, що це поняття належить до того класу явищ, що інтуїтивно здаються зрозумілими, але не можуть бути представлені у вигляді вичерпного та однозначного визначення. Ось чому в працях із штучного інтелекту демонструються різні конкретні засоби подання знання, але зазвичай відсутні будь-які розгорнуті його визначення. При цьому підкреслюють те, що знання, як і системи штучного інтелекту загалом, повинні виконувати роль моделі інтелекту людини. Але ж для того, щоб моделювати, треба мати принаймні гіпотетичні відомості про об’єкт моделювання. В ролі такого об’єкта в даному випадку виступає так звана “картина світу”, що існує в інтелекті людини.
Найбільш наочно це поняття розкривається на прикладі такого виду систем штучного інтелекту, як інтелектуальні роботи. Інтелектуальний робот, на відміну від різного роду маніпуляторів, характеризується автономністю та певною універсальністю. Це означає, що він може не лише виконувати одну операцію, а ще й вирішувати різні задачі, приймаючи при цьому самостійні рішення залежно від стану навколишнього середовища. Для цього він повинен орієнтуватися в цьому середовищі. Оснащений різними сенсорними датчиками, такий робот може сприймати дійсність, яка його оточує. Але одного сприйняття мало. Він повинен впізнавати об’єкти та ніби осмислювати їх, тобто постигати їхнє значення для діяльності, яку він виконує, пов’язувати їх з тими чи іншими конкретними своїми діями. Для цього він повинен мати у своїй пам’яті модель даної предметної області, яка й дозволяє йому розпізнавати об’єкти навколишнього середовища, їхні зв’язки, відношення, ситуації, що змінюються і т. ін. Питання полягає в тому, якою має бути ця модель, щоб забезпечити найефективніше виконання роботом завдань, а також його адекватне орієнтування в навколишньому середовищі. Очевидно, вона має бути подібною до моделі, що існує в інтелекті людини, оскільки саме людський інтелект є найвищою формою відображення дійсності. (Звичайно, це справедливо лише з точки зору людини – так само як для кульбаби найвищою формою відображення дійсності є саме її, кульбабине, сприйняття світу. Тобто, якщо існує інша, ще вища за людську форма відображення дійсності, вона все одно ніяк не зможе допомогти людині розширити сприйняття. Простіше кажучи, її для нас взагалі не існуватиме, оскільки ми не маємо можливості поглянути на це “збоку”, знаходячись у полоні своїх недосконалих органів почуттів та “обчислювальних потужностей” головного мозку. Але оскільки тут ідеться про моделювання саме людського інтелекту, ми погодимося з вищенаведеним твердженням, втім, зазначивши, що воно справедливе лише в межах галузі й не може претендувати на універсальність.)
Отже, для вдалого моделювання людського інтелекту необхідно мати певну сукупність відомостей, що в конструктивному плані характеризують модель світу, що формується в інтелекті. Такі відомості потрібно отримати з психологічних досліджень, що спрямовані на вивчення пізнавальних здібностей людини, таких, як мислення, пам’ять та ін. У зв’язку з цим звернемося до загальної психології.
У вітчизняній психології мислення традиційно знаходиться в центрі уваги дослідників. При цьому в нерозривному зв’язку з мисленням розглядається також знання, яке є результатом процесу мислення та одним із засобів його існування. Особливо це характерно для проблеми розуміння, що розглядається на матеріалі вирішення різних інтелектуальних задач.
Основна увага під час дослідження мислення концентрується на виді знання, що є результатом процесу мислення і являє собою нове знання, але не на самому цьому знанні, а на процесі його отримання, що звичайно і вважається ціллю будь-якого розумового акту. Тому переважно досліджуються операції мислення, етапи даного процесу, різні умови його успішного протікання, його види і т. д. Нове ж знання, щойно воно отримане, переходить у категорію минулого досвіду. Воно включається й по необхідності використовується у змісті пам’яті як один із засобів або умов виконання процесу мислення.
Таким чином, основною формою існування знання в інтелекті людини є форма минулого досвіду, який складає інформаційну базу мислення та існує в пам’яті у вигляді його змісту. Але тут виникає питання: чи можна все, що знаходиться у пам’яті, вважати знанням? Очевидно, ні. Така відповідь пов’язана з тим, що, незважаючи на вибраність, певну спрямованість мнемічних процесів, пам’ять все ж таки зберігає велику кількість інформації, що надходить до неї мимоволі. Ця інформація може тривалий час не актуалізуватися і не відтворюватися, не будучи достатньою мірою усвідомленою та осмисленою. Знанням, очевидно, є такий досвід, який є достатньою мірою осмисленим та включеним у якісь зв’язки та відношення з іншими елементами змісту пам’яті. Про це свідчить той факт, що легко актуалізується та відтворюється матеріал, який базується смислових зв’язках. Це означає, що знання в пам’яті людини зберігається в системному вигляді та має таку структуру, яка забезпечує оперативну перебудову під час включення елементів нового знання, а також його актуалізацію.
Але під час дослідження пам’яті власне ця структура не розглядається як об’єкт, оскільки основна увага тут, як і під час вивчення мислення, зосереджується на виявленні механізмів мнемічної діяльності: запам’ятовування, зберігання, відтворення, забування і т. д. Під час розгляду цих процесів вміст пам’яті позначається звичайно як деякий матеріал. Однак вивчення будь-якого процесу неможливе без виділення дискретних елементів, що беруть у ньому участь. В психології такі елементи виділяються та вивчаються. Це первинні образи, уявлення, поняття та ін. Вважається, що вони і є тим матеріалом, який міститься в пам’яті й яким оперує мислення. Але вони вивчаються самі по собі, переважно у зв’язку з вивченням сприйняття, а не як елементи деякої системи, зокрема знання.
Таким чином, можна зробити висновок, що в загальній психології, де пізнавальні здібності людини досліджуються автономно, знання як система, або модель світу, практично не вивчається. Це пов’язано з тим, що психологія вбачає свою задачу передусім у дослідженні процесів пізнавальної діяльності. Результати ж цієї діяльності вважаються об’єктом філософії, зокрема логіки.
Логіка, на відміну від психології, в центрі уваги якої перебуває окремий суб’єкт, має справу з так званим науковим знанням, що належить не окремій людині, а людству. В основі наукового знання полягає поняття, в якому знаходять відображення загальні, істотні та відмітні ознаки предметів, явищ дійсності. Зміст понять формується як результат діяльності мислення, яка в логіці розглядається як процес встановлення зв’язків та відношень між предметами та їх властивостями. Здійснюється такий процес у форму суджень та умовиводів.
Але логіка, обмежуючись розглядом одиниць типу суджень та понять, також не дає уявлення про структуру знання в цілому. Вважається, що знання як результат пізнавальної діяльності існує у вигляді системи понять, що формується тією чи іншою наукою.
Найповніше своє вираження система понять знаходить у сукупності наукових текстів. Але знання тут містяться не у власному “чистому” вигляді, а ніби у мовній “упаковці”. Для їх виділення необхідна певна інтелектуальна діяльність, що пов’язана зі сприйняттям тексту, його розумінням, співвідношенням понять з іншими текстами, що у свою чергу вимагає застосування відповідних знань.
Отже, ані традиційна психологія, ані логіка не дають відповіді на питання про те, що ж таке знання, якщо під знанням розуміти не окремі його елементи, а деяку цілісну систему, “картину”, або “модель світу”. Більш того, тут і не ставиться завдання вивчити цю “картину світу”.
Цю задачу було поставлено і практично зроблено основною в так званій когнітивній психології, де отримано повніші дані, що характеризують знання.
Проблема знання в когнітивній психології
Когнітивна психологія – один з основних напрямів у сучасній зарубіжній психології, який замінив біхевіорізм, який панував раніше. У центрі уваги когнітивної психології – пізнавальні процеси, що зближує її з традиційною психологією.
Основна відмінність полягає в тому, що пізнавальні процеси розглядаються тут під певним кутом зору, який визначається теоретичним положенням про те, що поведінка людини детермінована його знаннями про реальну дійсність. Тому проблема знання посідає у когнітивній психології центральне місце.
Суть деяких термінів когнітивної психології та обчислювальної техніки не є випадковим. Це пояснюється тим, що саме кібернетика мала вирішальний вплив на формування когнітивної психології як самостійної області дослідження.
Як відомо, в основі кібернетики полягає процес моделювання, основним інструментом якого є ЕОМ. Процес такого моделювання часто орієнтується на психологічні дані, що характеризують інтелектуальну діяльність людини. ЕОМ та модельовані системи ніби спрямовані на досягнення можливостей людини. В когнітивній психології навпаки – пізнавальні процеси, що виконуються людиною, трактуються за аналогією з процесами переробки інформації у складних обчислювальних пристроях. Тут використовується так звана “комп’ютерна метафора”, яка знайшла широке застосування у когнітивній психології. Комп’ютерна метафора виявилася вдалим методичним прийомом, що дозволив по-новому підійти до досліджень внутрішніх психологічних процесів. Нове полягає в тому, що у когнітивній психології за основу було взято не окремі пізнавальні здібності людини, що розглядаються автономно, як це має місце у традиційній психології, а єдиний процес переробки інформації, у якому знаходять вираження всі ці здібності. Внаслідок цього виявляється їх взаємодія, взаємопроникнення, взаємопроникнення, взаємозумовленість. При цьому домінуючу функцію починає виконувати пам’ять, яка розглядається не лише як якесь “сховище” інформації, але й як система, що бере активну участь в обробці інформації як на інтелектуальному, так і на сенсорному рівні, наприклад, у процесі зорового сприйняття. Це пов’язано з тим, що сприйняття тут розглядається як процес впізнавання, або розпізнавання образів. Впізнати чи розпізнати можна лише те, що вже було відомо у минулому. Тому сигнал, що надходить, повинен постійно співставлятися з тими одиницями, що вже є у пам’яті. Отже, хоча сприйняття здійснюється спершу на сенсорному рівні, воно все ж потребує включення пам’яті та мислення. Звідси й витікає уявлення про пам’ять як систему, в якій відбувається обробка сигналу, що надходить, яка передбачає його осмислення, розпізнання та включення до загальної структури пам’яті.
Когнітивна психологія, взявши за основу не окремі пізнавальні здібності людини, а єдиний процес переробки інформації, змогла поставити та правильно сформулювати задачу подання знання як деякої цілісної системи.
Лінгвістичні аспекти проблеми подання знання
В системах спілкування лінгвістичні аспекти знання звичайно розглядаються в плані представлення лінгвістичного знання, тобто знання про мову, що протиставляється знанню про світ. Реалізується таке знання у вигляді так званого лінгвістичного процесора. Його задача, як правило, полягає у здійсненні морфологічного та синтаксичного аналізу під час перекладу питання, що адресоване системі, з природної мови на мову внутрішнього представлення. Він є необхідним також при формуванні системою відповіді на запит. Втім, створення такого лінгвістичного процесора являє собою досить складну й самостійну проблему.
Зв’язок знання в цілому з системою мови існує на глобальному рівні. В цьому своєму стані в реальних інтелектуальних процесах, що отримують зовнішній вираз, він практично не реалізується. Зовнішнє вираження отримують лише окремі фрагменти знання, необхідні для розв’язання тієї чи іншої задачі. Це дозволяє вважати, що реально існує зв’язок на рівні конкретних елементів знання та конкретних мовних засобів, необхідних для їхнього зовнішнього подання, що знаходить відображення в тексті.
Пропонований підхід до побудови моделі знання, що базується на аналізі текстів, що стосуються певної предметної області, включає два основних етапи: 1) виокремлення та експліцитне подання структури змісту окремого тексту; 2) об’єднання окремих структур змісту конкретних текстів та побудова на цій основі загальної системи знання відповідної предметної області.
Ця процедура передбачає участь у ній людини, яка, спираючись на свої знання в даній предметній області, а також вміння аналізувати й розуміти текст, може здійснювати експліцитне представлення змісту окремих текстів та їх інтеграцію в цілісну систему знання. В межах даного підзмісту тексту, його структурних одиниць, їх співвідношення між собою, а також з одиницями поверхового рівня.
Література
«Лингвистическая прагматика и проблемы общения с ЭВМ». – М.: Наука, 1989. – 142 с. Под ред. Ю.Н.Марчука
Е.Ю.Кандрашина, О.Н.Очаковская, Л.А.Голубева «Экспериментальная вопросно-ответная система ВОСТОК-О. Программная реализация»