Національний університет "Києво-Могилянська Академія"
	Департамент Комп'ютерних Технологій Кафедра інформатики
Когнітологічні моделі вилучення експертних знань для створення експертних систем
	Реферат з курсу "Лінгвістичне забезпечення інтелектуальних систем" за весняний триместр 1999/2000 н. р. Студента ДКТ-5 Підгорного Свєтослава
	Викладач: доц. Штерн Ірен Борисівна
	Київ 2000

Що таке експертні системи?

Експертні системи — це програмні комплекси, що акумулюють досвід спеціалістів у деякій предметній області з метою його (досвіду) тиражування для консультацій менш кваліфікованих користувачів. Розробка ЕС — це галузь інформатики, що активно розвивається та спрямована на використання ЕОМ для обробки інформації у тих галузях науки та техніки, де традиційні математичні моделі моделювання малопридатні, де важливі смислова та логічна обробка інформації, досвід експертів. Експертні системи досить молоді — перші системи такого роду з'явилися у США в середині 70-х років. Натепер у світі нараховується декілька тисяч промислових ЕС, що дають поради при керуванні складними пунктами диспетчерів, постановці медичних діагнозів, пошуку несправностей у електронних пристроях тощо. Зараз легше назвати області, де ЕС не використовуються, ніж ті, де вони вже використовуються.

Головна відмінність ЕС від інших програмних засобів — це наявність бази знань, у якій знання зберігаються у вигляді записів на деякій мові представлення знань (МПЗ), що дозволяє легко змінювати та доповнювати базу знань у формі, що зрозуміла спеціалістам — розробникам ЕС. У звичайних програмах знання зашиті у алгоритм і тільки програміст (автор програми) може їх корегувати (якщо згадає, як побудована його програма).

До останнього часу саме різні МПЗ були центральною проблемою при розробці ЕС. Зараз існують десятки мов або моделей представлення знань. Найпоширеніші з них: продукції, семантичні мережі, фрейми, обчислення предикатів 1-го порядку, ОО мови програмування тощо. Для цих моделей існує відповідна математична нотація, розроблені системи програмування, що реалізують ці МПЗ. Вибір конкретної моделі визначається структурою знань у конкретній предметній області. Спочатку необхідно визначити цю структуру. Конкретизація елементів знань та їх взаємозв‘язків відбуваються у безпосередньому контакті зі спеціалістами предметної області — експертами. Цей процес називається здобуттям знань, а розробники ЕС, що займаються саме здобуттям та структуруванням знань, називаються інженерами по знаннях.

Одразу визначимо ті предметні області, де має сенс виділяти знання. Це області, де переважає емпіричне знання, де накопичення фактів випереджає розвиток теорії (медицина, геологія, фінанси тощо). Такі добре структуровані області як математика, фізика, теоретична механіка, мають у своїй основі розвинений математичний апарат для опису своїх закономірностей, що дозволяє проводити машинне моделювання з використанням традиційного алгоритмічного програмування (без виділення рівня знань). Знання важливі там, де визначення розмиті, поняття змінюються, ситуації залежать від багатьох контекстів, де є велика невизначеність, нечіткість інформації. Загалом, знання — це основні закономірності предметної області, що дозволяють людині вирішувати конкретні виробничі, наукові та інші задачі, тобто факти, поняття, взаємозв‘язки, оцінки, правила, евристики (фактичні знання), а також стратегії прийняття рішень у цій області (або стратегічні знання).

Структура та класифікація ЕС

ЕС — це складні програмні комплекси, що акумулюють знання спеціалістів у конкретних предметних галузях. Клас ЕС містить декілька тисяч різних програмних комплексів, які можна класифікувати по різному.

За задачею

ЕС інтерпретації даних визначають смисл даних.

ЕС діагностики відносять об‘єкт до деякого класу та визначають дефекти у деякій системі. Дефект — це відхилення від норми. Таке трактування дозволяє з єдиних теоретичних позицій розглядати дефекти обладнання у технічних системах, захворювання живих організмів та всілякі природні аномалії.

ЕС моніторингу орієнтовані на неперервну інтерпретацію даних у реальному часі та сигналізацію при виході деяких параметрів за допустимі значення.

ЕС проектування готують специфікації на створення об‘єктів з заданими властивостями.

ЕС прогнозування логічно виводять вірогідні наслідки з заданих ситуацій.

ЕС планування знаходять плани дій. У таких ЕС використовуються моделі поведінки реальних об‘єктів з тим, щоб логічно вивести наслідки дій, що плануються.

ЕС навчання — діагностують помилки при вивченні якої-небудь дисципліни за допомогою ЕОМ та підказують правильні рішення. Вони акумулюють знання про учнів та їх характерні помилки, потім, у роботі, вони здатні діагнозувати погане знання предметів у учнів та знаходити відповідні засоби для ліквідації (поганого знання).

Загалом, усі системи, що базуються на знаннях, можна розділити на системи, що вирішують задачі аналізу та синтезу. Основна відмінність задач синтезу у тому, що якщо у задачах аналізу множина можливих рішень може бути перерахована та включена у систему, то в задачах синтезу множина рішень будується з рішень компонент або підкомпонент.

За зв‘язком з реальним часом

Статичні ЕС розробляються у предметних областях у яких база знань та дані, що інтерпретуються на змінюються за час вирішення задачі.

Квазідинамічні ЕС інтерпретують ситуацію, що змінюється з деяким фіксованим інтервалом часу.

Динамічні ЕС працюють з даними, що змінюються під час вирішення задачі, часто у зв‘язку з датчиками об‘єктів, іноді у режимі реального часу з безперервною інтерпретацією даних, що надходять.

За ступенем інтеграції з іншими програмами

Автономні ЕС працюють безпосередньо в режимі консультацій з користувачем, тільки у випадку експертних задач, при рішенні яких не потрібні традиційні методи обробки даних.

Гібридні ЕС суміщають стандартні пакети програм та засоби маніпулювання знаннями. Це може бути інтелектуальна надбудова над пакетом прикладних програм або інтегроване середовище для вирішення складних задач з елементами експертних знань.

Незважаючи на зовнішню принаду гібридного підходу, розробка таких систем є задача на порядок складніше, ніж розробка автономної ЕС. Стиковка не просто різних пакетів, а й різних методологій створює комплекс теоретичних та практичних труднощів.

Етапи розробки ЕС

Процес розробки промислової ЕС можна розділити на шість етапів. Послідовність етапів не зовсім фіксована. Кожен наступний етап розробки може принести нові ідеї, що можуть вплинути на попередні рішення і навіть призвести до їх переробки.

Вибір проблеми

На цьому етапі необхідно знайти експерта, що хотів би співпрацювати при вирішенні проблеми, знайти колектив розробників, проаналізувати витрати та прибутки від розробки, підготовити детальний план розробки.

Правильний вибір проблеми мабуть найкритична частина розробки в цілому. Якщо вибрати неправильну проблему, можна довго проектувати задачу, яку ніхто не знає як вирішувати. Або ще гірше — розробити систему, що працюватиме, але непридатна для користувачів.

Під час вибору проблеми потрібно враховувати, що якщо знання, яке необхідне для вирішення проблеми, постійне, чітко формулюється й пов‘язано обчислювальною обробкою, то алгоритмічні програми, вирогідно, будуть найкращим засобом для вирішення таких проблем.

Для розробки ЕС потрібно отримати специфічні дані від експерта та ввести їх у систему. Невеликі системи можуть містити знання одного експерта, тобто пошук потрібного експерта — дуже важливий крок у створенні ЕС.

Під час розробки та наступного розширення системи інженер по знаннях та експерт працюють разом. Інженер по знаннях допомагає експерту структурувати знання, визначати поняття та правила, що необхідні для вирішення проблеми. Важливо, щоб їх співпраця була успішною, бо вони працюватимуть разом принаймні рік. Крім них у колектив розробників необхідно залучити потенційних користувачів та професійних програмістів.

Розробка прототипної системи

Прототипна система є урізаною версією ЕС, що демонструє правильність обраного підходу та призначена для перевірки правильності кодування фактів, зв'язків та стратегій роздумів експерта. У цей час потрібно ідентифікувати проблему, отримати знання, структурувати їх, формалізувати у термінах обраної мови представлення знань, реалізувати прототип ЕС та протестувати його. Реалізація може бути виконана за допомогою програмування на традиційних мовах (Паскаль, Сі), спеціальних мовах, що використовуються у задачах штучного інтелекту (Лісп, Пролог, FRL, SMALLTALK), або використовуючи інструментальні засоби розробки ЕС (СПЕИС, ПИЕС), чи пусті ЕС або оболонки (ЕКСПЕРТ, ФИАКР).

Дороблення прототипу до промислової ЕС

На цьому етапі потрібно додати велику кількість додаткових знань, евристик, розробити та адаптувати інтерфейси, за допомогою яких система буде спілкуватися з користувачем та експертом.

Оцінка системи

Після розробки промислової ЕС необхідно провести детальне тестування, до якого залучаються інші експерти для перевірки працездатності системи на різних прикладах. Перевіряється їх точність та корисність.

Стиковка системи

На цьому етапі ЕС стикується з іншими програмними засобами у середовищі де вона працюватиме, та проводиться навчання користувачів системи. Стиковка включає забезпечення зв‘язку з існуючими системами на підприємстві та з вимірювальними пристроями.

Підтримка системи

Часто після реалізації ЕС необхідно вносити корективи знань, що потребує продовження роботи з експертами. Термін розробки промислової ЕС — 1-4 роки.

Колектив розробників

Колектив розробників — це група людей, що відповідальна за розробку та створення ЕС.

Мінімальний склад КР — чотири людини: користувач, експерт, інженер по знаннях, програміст. Реально цей КР розростається до 8-10 людей, бо необхідно враховувати думку декількох користувачів, доводиться звертатися за допомогою до декількох експертів, використовувати, як системного, так і проблемного програміста.

Керівник КР — це інженер по знаннях, тому до його кваліфікації висуваються найвищі вимоги. Психологічні якості людини при співпраці мають велике значення, тому що створення атмосфери взаєморозуміння та довіри — один з основних факторів ефективності співпраці будь-якої творчої групи.

Користувач

До користувача висуваються найменші вимоги, бо користувача не вибирають. Він є якби замовником системи. Бажані якості: доброзичливість, вміння пояснювати, що він хоче від системи, відсутність психологічного бар‘єру при використанні обчислювальної техніки, цікавість до нового. Користувач мусить мати який-небудь базовий рівень кваліфікації, що дозволив би йому правильно розуміти рекомендації ЕС.

Експерт

Експерт дуже важлива людина у КР. Він задає рівень компетентності бази знань. Бажано щоб він був доброзичливим, здатним поділитися своїм досвідом, вмів пояснювати, мав зацікавленість у процесі розробки. Як правило, з кожним із експертів працюють окремо, щоб не було суперечок з приводу різних поглядів.

Програміст

Бажано щоб програміст був комунікабельний, зацікавлений у розробці, здатний відмовитися від традиційних навичок та засвоїти нові методи. Звичайно, він мусить мати практичні навички розробки програм.

Інженер по знаннях

За різними оцінками інженер по знаннях є однією з найдефіцитніших професій у світі. Стать не має значення, бо хоча чоловіки викликають більше довіри з боку експерту чоловіка, та більш високу мотивацію з боку експерту-жінки, інженер по знанням жінка, як правило, більш спостережлива до окремих деталей проекту. Інтелект мусить наближатися до найвищого за всіма оцінками.

Інженер по знаннях задає тон у спілкуванні з експертом, він веде діалог, від нього залежить його продуктивність. Делікатність, уважність, інтелігентність, ненав‘язливість, скромність, вміння слухати й задавати питання, комунікабельність й в той же час впевненість у собі — стиль спілкування інженера по знанням.

Теоретичні аспекти вилучення знань

Вилучення знань — це взаємодія експерта з джерелом знань, в результаті якої стає явним процес роздумів спеціалістів під час прийняття рішень, структура представлення ними знань про предметну область.

Тепер більшість розробників ЕС кажуть, що процес вилучення знань є найвужчим місцем у побудові промислових ЕС. Процес вилучення знань — це довга та кропітка процедура, у якій інженерові по знаннях, що озброєний спеціальними знаннями по когнітивній психології, системному аналізу, математичній логіці та ін., необхідно відтворити модель предметної області, якою користуються експерти для прийняття рішень. Часто, початкові розробники ЕС, що хочуть уникнути цієї процедури, задають питання: чи може експерт вилучити сам свої знання? По багатьом причинам це не бажано.

По-перше, більшість знань експертів — це результат багаточисленних нашарувань, ступенів досвіду. І часто знаючи, що з А слідує В, експерт не розуміє, що ланцюжок його роздумів був набагато довше, наприклад А  С, С  Е, Е  В.

По-друге, здавна відомо, що мислення діалогічне. І тому діалог інженера по знаннях та експерта — найбільш властива форма розкручування лабіринтів пам‘яті експерта, у яких зберігаються знання, що частково мають невербальний характер, тобто виражені не у формі слів, а у формі наглядних образів.

По-третє, експертові набагато складніше створити модель предметної області, через глибину та необмеженість інформації, що він знає. Багаточисленні причинно-наслідкові зв‘язки реальної предметної області являють складну систему, у якій виділити скелет або головну структуру іноді доступніше аналітикові, що має навички системної методології. Будь-яка модель — це спрощення, а спрощувати легше знаючи менше деталей.

Існує три аспекти вилучення знань: психологічний, лінгвістичний, гносеологічний.

Психологічний аспект

З усіх трьох аспектів вилучення знань психологічний є основним, бо він визначає успішність та ефективність взаємодії інженера по знаннях та експерта. Вилучення знань відбувається у процесі безпосереднього спілкування розробників системи. А у спілкуванні психологія є домінантою.

Спілкування або комунікація — це міждисциплінарне поняття, що позначає всі форми безпосередніх контактів між людьми від дружніх до статевих. Існує декілька десятків теорій спілкування, але єдине для всіх є те, що спілкування — складна та багатопланова процедура, неподільний процес циркуляції інформації, тобто сумісний пошук істини.

Можна поділити психологічний аспект на три шари.

Контактний шар

Практично всі психологи відмічають, що на будь-який колективний процес впливає атмосфера, що виникає у групі учасників. Існують експерименти, результати яких говорять, що часто дружня атмосфера у колективі більше впливає на результат, ніж індивідуальні здібності окремих членів групи. Особливо важливо, щоб у колективі розробників складалися кооперативні, а не конкурентні відношення.

Під когнітивним стилем людини розуміють сукупність критеріїв приорітетів під час вирішення задач та пізнання світу, специфічні для кожної людини. Особливо важливі такі характеристики когнітивного стилю, як:

• полезалежність — поленезалежність

• імпульсивність — рефлективність

• ригідність — гнучкість

• когнітивна еквівалентність.

Поленезалежність віддзеркалює здатність людини концентрувати увагу лише на тих аспектах проблеми, що необхідні для вирішення конкретної задачі, та вміння відкидати усе зайве, тобто не залежати від фону або поля, що оточує задачу. Поленезалежний експерт — знахідка для інженера по знаннях. Поленезалежні люди успішні у розумінні на 92%, а полезалежні — на 56%.

Під імпульсивністю тут розуміємо швидке прийняття рішень, а під рефлективністю — схильність до розсудливості. Обом, і експертові та інженерові по знаннях, бажано бути рефлексивними, хоча власний стиль змінити неможливо.

Ригідність характеризує здатність людини до зміни точок зору у відповідності до зміни ситуації. Ригідні люди не схильні змінювати свою структуру сприйняття, а гнучкі легко пристосовуються до нових обставин. Якщо експерт ще може бути ригідним, то інженерові по знаннях це протипоказано.

Когнітивна еквівалентність характеризує здатність людини до розрізнення понять та розбиття на класи та підкласи. Чим вужче діапазон когнітивної еквівалентності, тим більш тонку класифікацію здатна привести людина, тим більше понять та ознак вона може виділити.

Процедурний шар

Проблеми процедурного шару стосуються проведення самої процедури вилучення знань. Зупинимося на загальних закономірностях проведення процедури.

Ситуація спілкування. Бесіду з експертом краще проводити у невеликому приміщенні один на один. Освітлення, тепло, уют безпосередньо впливають на настрій. Чай або кава створюють дружню атмосферу. Для ділового спілкування найбільш прийнятна відстань від 1,2 до 3 метрів між співрозмовниками.

Реконструкція власних роздумів — нелегка праця і тому тривалість одного сеансу звичайно не первищує 1,5 — 2 години, бажано у першій половині дня. Відомо, що взаємна втома співрозмовників настає через 20 — 25 хвилин, тому у сеансі потрібні паузи.

Вік. Молдий вік дозволяє легше адаптуватися у спілкуванні та взяти роль слухача або учня.

Використання наглядних прикладів. Люди художнього типу легше спиймають зорову інформацію у формі малюнків, графіків, діаграм. Навпаки, експерти аналітичного типу краще розуміють мову формул та текстову інформацію. Але більшу частину інформації людина сприймає через зір, тому пораду активніше користуватися наглядним матералом можна вважати універсальною.

Число Інгве - Міллера. Людина краще всього сприймає речення довжиною 72 слова. Використовуючи у розмові в основному короткі фрази, можна зменшити втрату інформації з 20% до 4%.

Невербальна компонента спілкування. Вилученя знань відбувається найчастіше під час спілкування. Більша частина інформації поступає до інженера по знаннях у виразах природною мовою. Але його внутрішня мова набагато багатіше та різноманітніше. Тому використовують також невербальні засоби такі як інтонація, міміка, жести. Досвідчений інженер по знаннях намагається записувати цю додаткову інформацію.

Занотовування результатів. Є три способи фіксації ходу вилучення знань:

• запис на папір під час розмови — заважає розмові, важко встигати.

• магнітофонний запис дозволяє аналітикові проаналізувати увесь хід сеансу та свої помилки.

• запам‘ятовування з записом відразу після бесіди — тільки для людей з блискучою пам‘яттю.

Перший спосіб найбільш поширений, хоча другий — найкращий.

Когнітивний шар

Проблема когнітивної адекватності, мабуть, найменш вивчена на сьогодні. Насправді, яким чином аналітик може впевнитися, що поле знань, що він побудував відповідає моделі світу предметної області, якою користується експерт.

Пропонуємо декілька порад інженерові по знаннях з позиції когнітивної психології:

1. Не нав‘язувати експертові ту модель представлення, що більш зрозуміла аналітикові.

2. Намагатися виявити різні форми семантичної репрезентації, враховуюючи, що вони можуть суттєво відрізнятися у різних експертів.

3. Використовувати різні методи праці з експертом виходячи з того, що метод мусить підходити до експерта.

4. Чітко розуміти мету процедури вилучення або її головну стратегію, що може бути визначена як виявлення основних понятть предметної області та відношень між ними. Поняття та відношення — цеглинки будь-якої форми семантичної репрезентації.

5. Частіше малювати схеми, що відображують процес роздумів експерту.

6. Враховувати, що на ефективність процедури вилучення нечіткої інформації впливає форма питання. Інженер по знаннях мусить розуміти, що тією чи іншою формою питання він може полегшити чи ускладнити порівняння об‘єктів.

Лінгвістичний аспект

Мова — це складне та багатомірне поняття, тому виділимо три шари лінгвістичних проблем.

Проблема загального коду

Мови, на яких говорять аналітик та експерт є віддзеркаленням їх внутрішньої мови, бо більшість психологів вважають, що мова є основним засобом мислення. Мова аналітика складається з термінів предметної області, загальнонаукової термінології, побутової розмовної мови. Мова експерту складається зі спеціальної термінології, побутової мови, неологізмів (його професійний жаргон).

Якщо побутова та загальнонаукові мови у них збігаються, то для успішної взаємодії партнерам необхідно виробити деяку загальну мову чи код.

Це випрацювання загального коду починається з виписування аналітиком усіх термінів, що вживає експерт, та уточнення їх смислу. Далі потрібно згрупувати терміни та вибрати синоніми.

На цьому етапі аналітик мусить з увагою поставитись до усіх спеціальних термінів, намагаючись максимально зрозуміти їх смисл.

Понятійна структура

Більшість спеціалістів зі штучного інтелекту та когнітивній психології вважають, що основна властивість натурального інтелекту та пам‘яті — це зв‘язність усіх понять у деяку мережу. Тому для розробки бази знань потрібен не словник, а гіпертекстова енциклопедія, де усі поняття пояснені з посиланнями на інші терміни. Тому лінгвістична робота інженера по знаннях полягає у побудові таких зв‘язних фрагментів.

Словник користувача

Професійний рівень кінцевого користувача може не дозволити йому використати спеціальну мову предметної області у повному обсязі. Для розробки користувацького інтерфейсу потрібна додаткова обробка словника загального коду з поправкою на доступність та прозорість системи. Можна створити два словники — для професіоналів та простих користувачів. Цікаво, що при введенні системи в експлуатацію використовується в основному другий словник. Навіть професійні користувачі надають перевагу текстам на звичайній мові.

Гносеологічний аспект

Гносеологія — це розділ філософії, пов‘язаний з теорією пізнання, або теорією відображення дійсності у свідомості людини. Інженерія знань як наука двічі гносеологічна — спочатку дійсність відбиватється у свідомості експерта, а потім досвід експерта інтерпретується свідомістю інженера по знаннях, що є основою для побудови наступної інтерпритації — поля знань експертоної системи.

У процесі вилучення знань, аналітика в основному цікавить компонент, пов‘язаний з неканонічними індивідуальними знаннями експерта, бо предметні області саме з таким типом знань найчастіше потребують створення експертних систем.

Основними методологічними критеріями науковості, що дозволяють вважати науковим нове знання та спосіб його отримання, є внутрішня збалансованість та непротиречність, системність, об‘єктивність, історизм.

Внутрішня збалансованість у емпіричних областях, на перший погляд, просто не працює — у них факти часто не відповідають один одному, визначення протиречні, дифузні.

Модальність знань означає можливість його існування у різних категоріях, тобто у конструкціях існування та обов‘язковості. Таким чином, частина закономірностей можлива, інша обов‘язкова.

Можлива протиречність емпіричного знання — природній наслідок з основних законів діалектики. Вони часто є відправною точкою у роздумах експертів.

Неповнота знань пов‘язана з неможливістю повністю описати предметну область. Задача аналітика цю неповноту обмежити визначеними рамками повноти, тобто звузити границі предметної області або ввести ряд обмежень та допущень, що спростили б проблему.

Системність

Усі процеси та явища можна розглядати, як множину менших підмножин і навпаки, будь-які об‘єкти можна розглядати як елементи більш високих класів.

Об‘єктивність

Процес пізнання глибоко суб‘єктивний, тобто він суттєво залежить від особливостей самої людини. Тому, коректніше говорити про глибину розуміння, ніж про об‘єктивність знання. Розуміння — це складний та неоднозначний процес, що відбувається у глибинах людської свідомості й потребує мобілізації усіх інтелектуальних та емоційних здатностей людини. Люди, що швидко та успішно вирішують інтелектуальні задачі, більшу частину часу витрачають на розуміння її, в той час як погані вирішувачі швидко починають шукати розв‘язок й не можуть його знайти.

Історизм

Хоча більшість експертних систем дають горизонтальний зріз знань — без врахування часу, інженер по знанням мусить завжди розглядати процеси з урахуванням часових змін.

Методологічна структура знання може бути представлена як послідовність етапів, які розглянемо з позиції діяльності інженера по знаннях.

Опис та узагальнення фактів

Це сухий залишок бесід аналітика з експертом. Повнота ведення протоколів під час розмови та пунктуальна домашня робота над ними — залог продуктивного першого етапу пізнання.

Встановлення зв‘язків та закономірностей

У голові експерта зв‘язки встановлені, хоч часто і неявно. Задача інженера виявити каркас роздумів експерта. Реконструюючи роздуми експерта, інженер по знаннях може спиратися на дві найпопулярніші теорії мислення — логічну та ассоціативну. Логічними операціями є визначення, порівняння та розрізнення, аналіз, абстрагування, об‘єднання, класифікація, категоризація. Теорія асоциацій представляє мислення як ланцюжок ідей, пов‘язаних загальниими поняттями. Основними операціями такого мислення є асоціації, згадування, спроби та помилки, автоматичні реакції.

Будування ідеалізованої моделі

Для побудови моделі, що відображає представлення суб‘єкта про предметну область, потрібна спеціальна мова, за допомогою якої можна описувати та конструювати ті ідеалізовані моделі світу, які виникають у процесі мислення. Ця мова створюється поступово за допомогою категоріального апарату прийнятого у цій області, а також формально-знакових засобів математики і логіки. Для емпіричних предметних областей така мова поки-що не розроблена.

Пояснення та передбачення на основі моделей

Цей завершуючий етап структури пізнання є одночасно і частковим критерієм істиності отриманого знання. Якщо виявлена система знань експерта повна та об‘єктивна, то на її основі можна робити прогнози та пояснювати будь-які явища даної предметної області. Як правило, бази знань стаждають фрагмертарністю та модульністю компонентів. Все це не дозволяє створювати дійсно інтелектуальні системи, що могли б передбачати нові закономірності та пояснювати випадки, не вказані у явному вигляді у базі.

Література

1. Гаврилова Т.А., Червинская К.Р. Извлечение и структурирование знаний для експертных систем. — М.: Радио и связь, 1992. — 200 с.

2. Ларичев О.И., Мечитов А.И., Мошкович Е.М., Фуремс Е.М., Выявление експертных знаний. М.: Наука, 1989. — 128 с.