Объяснение в экспертных системах

При взаимодействии пользователя с экспертной системой в идеале должны существовать

три режима:

1) получение решения поставленных задач, когда

пользователь выступает как специалист-потребитель;

2) изменение и пополнение базы знаний, когда пользователь выступает в качестве эксперта;

3) извлечение полезной информации из базы знаний, в том числе для объяснения структуры экспертной системы и основных законов ее функционирования, когда пользователь выступает в качестве обучаемого.

Выше было рассмотрено функционирование экспертной системы в основном в первом режиме; § 5.4 посвящен второму режиму и, в частности, вопросам модификации базы знаний; здесь же рассмотрим некоторые вопросы, связанные с реализацией третьего режима как режима объяснения.

Как считают многие специалисты, способность к объяснению является одним из главных отличительных свойств экспертной системы и во многом определяет доверие к даваемым системой советам. Объяснение может служить нескольким целям, среди которых — возможность убедить пользователя в оправданности предпринятой последовательности рассуждений. Однако простое прослеживание экспертных правил, использованных в данном выводе, является одним из наименее удовлетворительных объяснений, которые может дать экспертная система. Более убедительно объяснение, основанное на фундаментальных принципах организации знаний в рассматриваемой предметной области. Однако реализация объяснения такого уровня практически недоступна современным экспертным системам.

По существу, подсистема объяснения должна уметь разъяснять пользователю .различные аспекты работы, отвечая в основном на вопросы типа «как», «почему» и «какие»:

— как получено данное решение?

— как использована данная информация?

— какое решение принято по определенной подзадаче?

— почему не использовалась данная информация?

— почему не использовалось данное правило?

— какие знания привлекались при получении данного решения?

— какие отношения существуют в базе знаний?

Формы ответа могут быть различными [23]:

— текст на редуцированном естественном языке, сопровождаемый схемами и рисунками;

— обратное развертывание дерева целей (трассы вывода) с указанием подцелей;

— вызов работающего правила или правила, связанного с данной подцелью;

— поиск в базе знаний и предъявление правил, являющихся ответом на вопрос.

Самый простой вид объяснения — ответы на вопросы о содержании базы знаний, однако чаще всего этого оказывается недостаточно. Пользователю необходимо понимать ход рассуждения. Однако возможность современных экспертных систем в этом отношении достаточно ограничена; у большинства из них объяснения даются в терминах целей и правил. Например, вопрос «Почему система сделала данный вывод?» на внутреннем языке системы интерпретируется так: «В каком из правил обнаружена такая-то цель и к какой цели приводит применение этого правила?»

Для пользователей же важна аргументация, основанная на глубинных причинно-следственных закономерностях данной предметной области. Разработка подобного рода систем объяснения, тесно связанная с наличием в системе метазнаний, является одним из центральных моментов экспертных систем нового поколения.