В настоящее время многие исследователи занимаются созданием устройств, моделирующих способность человека решать широкий круг разнообразных задач. Возникающая при этом принципиальная трудность заключается в том, что эти задачи часто ставятся не в формализованном виде, а путем показа нескольких примеров, указания аналогичных случаев, ссылок на некоторое сходство и т. п.
Разные авторы называют подобные устройства «узнающими», «ведущими эвристический поиск» и т. п. Данная книга не является ни учебником, ни, тем более, обзором многочисленных' работ, ведущихся в этих направлениях. Она содержит главным образом соображения, возникшие в результате совместной работы группы, в которую кроме автора входили М. Н. Вайнцвайг, В. В. Максимов, и М. С. Смирнов.
Выбор неформализованных задач в качестве объекта исследований создает трудности не только при построении устройств, способных решать эти задачи. Трудность возникает и при попытке теоретически оценить возможности того или другого устройства. Создается необычная для математики (разделом которой, по-видимому, целесообразно считать «проблему узнавания») ситуация,когда трудно доказать какие-либо теоремы, а приходится прибегать к эксперименту. Такое положение является, вероятно, временным, однако предпринятые до сих пор попытки формализовать постановку вопроса в проблеме узнавания приводили или к «выплескиванию ребенка» (подмене задачи узнавания другой более примитивной задачей), или к определениям, которые пока мало плодотворны, так как мы еще не умеем оговорить некоторые существенные ограничения.
Может возникнуть вопрос: а стоило ли писать книгу о столь неопределенном и неустоявшемся предмете? Автору кажется, что стоило. Дело в том, что сейчас, по-видимому, уже вырисовываются достаточно общие подходы к проблеме. С другой стороны, много людей, не дожидаясь появления строгой математической теории, начинает заниматься различными аспектами проблемы узнавания. Инженеры и психологи, физики и врачи, математики и физиологи сталкиваются с необходимостью понять или промоделировать такие функции мозга, как способность «находить сходство», «обобщать», «создавать абстрактные понятия», «действовать на основе интуиции» и т. п. Знакомство с уже проделанной работой может облегчить труд этих людей, сделать их поиск более целеустремленным, предостеречь от движения в мало перспективных направлениях.
Многие понятия вводятся в книге на интуитивном уровне. В принципе это может привести к недоразумениям. Для уменьшения
вероятности таких недоразумений нужно, чтобы запасы фактических сведений (на которых в значительной мере базируется интуиция) читателя и автора были близки между собой. Поэтому в книге приводится описание нескольких конкретных программ, в процессе работы над которыми формировались взгляды автора. Особое внимание уделяется неудачным блокам, так как именно выяснение причин неудач обычно помогает двигаться вперед.
Желание автора дать читателю конкретный материал для размышлений привело к тому, что описание программы Арифметика (на примере которой вводятся понятия признак, преобразование пространства рецепторов и т. п.) предшествует более абстрактному вопросу об имитации автоматом другого автомата, хотя, согласно принятой в книге логической схеме, именно имитация является «первичным» понятием.
Таким образом, порядок глав не всегда отражает внутреннюю структуру материала (да и вряд ли он сегодня может быть хорошо линейно упорядочен). Однако в тексте имеется очень много явных и неявных ссылок на ранее изложенные факты и соображения, поэтому есть смысл читать книгу подряд. Исключение, пожалуй, составляет глава VII о полезной информации, которая довольно естественно следует за главами V и VI, но вовсе не обязательно должна предшествовать главе VIII и потому практически без ущер-ба для понимания дальнейшего может быть пропущена при чтении.
Можно также рекомендовать читателю уже при чтении главы II ознакомиться с приложением 3 («задачник»). Это поможет ему почувствовать природу трудностей проблемы узнавания.
Одной из главных задач автора было обратить внимание читателя па взаимосвязь различных разделов проблемы узнавания между собой н на аналогии между проблемой узнавания и смежными областями. Разнообразие таких «точек соприкосновения» привело к тому, что разные аспекты одного и того же вопроса иногда обсуждаются в нескольких главах.
В создании описанных в книге программ, в экспериментах с ними и в психофизиологических опытах принимали участие Л. Дунаевский, Г. М. Зенкин н А. П. Петров, которым автор приносит искреннюю благодарность.
Автор глубоко признателен Э. М. Браверману, Р. С. Гутеру и Н. Д. Нюбергу, подробно ознакомившимся с рукописью и высказавшим ряд полезных замечаний.
Автору выпало счастье неоднократно обсуждать проблему узнавания с оригинальным, необыкновенно тонко чувствующим новые направления ученым М. Л. Цетлнным. Буквально за несколько дней до своей трагической скоропостижной кончины Михаил Львович прочел рукопись книги и дал много ценных советов. Светлая память об этом замечательном человеке в сердцах многих будет неразрывно связана с любыми вопросами, возникающими при исследовании организации сложного поведения, а значит, и с проблемой узка-в;Н!И«.
М. Бонгард 25.6 1966 г
Оглавление
Предисловие ................... 3
Введение ..................... 5
Глава I. Место узнавания в работе мозга........ 12
§ 1. Поведение и условные рефлексы......... 12
§ 2. Множество ситуаций и множество реакций..... 17
§ 3. Интуитивная постановка задачи узнавания..... 19
§ 4. «Творческие» задачи и узнавание......... 21
Глава II. Различные подходы............ 24
§ 1. Исходное описание объектов........... 24
§ 2. Запоминание материала обучения .... ..... 26
§ 3. Поиски близости в пространстве рецепторов..... 27
§ 4. Стандартное (не зависящее от конкретной задачи) преобразование пространства рецепторов. Перцептрон ... 31 § 5. Переменное (различное для разных задач) преобразование пространства рецепторов .......... 39
Глава III. Программа Арифметика........... 45
§ 1. Постановка задачи............... 45
§ 2. Формальное описание программы......... 48
§ 3. Содержательное описание признаков........ 52
§ 4. Эксперименты с программой........... 54
§ 5. Особенности алгоритма............. 6й
Глава IV. Узнавание и имитация........... 77
§ 1. Описание узнающей системы в терминах теории автоматов .................... 77
§ 2. Возможные причины плохой работы узнающей системы 78
§ 3. Поиск причины плохой работы узнающей системы . . 84
§ 4. Общая постановка задачи узнавания. Имитация ... 87 § 5. Интересные и неинтересные для проблемы узнавания
совокупности задач .............. 92
§ 6. «Самообучение» ............... 96
§ 7. Нечетко поставленные задачи и имитация...... 101
Глава V. Перебор................. 104
А. Перебор при экзамене............... 104
§ 1. Запоминание материала обучения......... 104
§ 2. Запоминание разделяющего правила........ 105
§ 3. Синтез названия класса............. 105
108 109 ПО
Б. Перебор при обучении...............
§ 4. Поиск разделяющего правила в фиксированном пространстве ..... . ..........
§ 5. Перебор при поиске преобразования пространства рецепторов..................
§ 6. Соответствие сложности описания классов материалу, данному для обучения. Постулат достаточности материала обучения ...............113
§ 7. Извлечение сведений из материала экзамена.....117
§ 8. «Развал на кучи»...............120
Глава VI. Синтез формул .............126
§ 1. «Открой закон»................126
§ 2. Случайный поиск закона................128
§ 3. Поведение человека и программы случайного поиска
при игре в «открой закон»...........129
§ 4. Пути сокращения перебора...........131
Глава VII. Полезная информация...........134
§ 1. Количество информации и полезность сообщения . . . 134
§ 2. Решающий алгоритм. Неопределенность......136
§ 3. Связь между неопределенностью и энтропией .... 137 § 4. Декодирование сигнала. Полезная информация .... 139 § 5. Пропускная способность канала связи для полезной информации ..................144
§ 6. Системы с обратной связью...........150
§ 7. Две функция условия задачи..........153
§ 8. Декодирование и узнавание...........154
•Глава VIII. Программа Геометрия...........158
! § 1. Уроки перцептрона........
§ 2. Структура программы Геометрия . . ,
§ 3. Эксперименты с программой.....
§ 4. Достоинства и недостатки Геометрии . . . § 5. «Самоорганизующиеся нервные сети» . . . Глава IX. Язык узнающей программы (словарь] .
§ 1. Язык перцептрона и язык человека........181
§ 2. Сильная имитация и короткие описания.......183
§ 3. Что позволяет создавать короткие описания ..... 186
§ 4. Словарь для геометрических задач........188
§ 5. Короткое кодирование без потери информации .... 193 § 6. «Развал на кучи» и схема программы для геометрических задач..................195
§ 7. Помогает ли человеку развал на кучи.......199
лава X. Язык узнающей программы [логика)......204
§ 1. В чем задача логического блока (коры)......204
§ 2. Поиск логической функции по частям........207
§ 3. Критерии отбора конъюнкций...........209
§ 4. Надежность признаков. Предрассудки.......212
§ 5. Алгоритм экзамена...............216
§ 6. Логика для геометрических задач (многоэтажная кора) 219
Глава XI. Ропь статистических критериев........227
§ 1. Непересекающиеся классы ...........227
§ 2. Пересекающиеся классы............ 228
§ 3. Выбор критерия...............232
§ 4. Доучивание .................234
§ 5. Оценка критериев отбора признаков........235
§ 6. Вопрос о независимости признаков........241
§ 7. «Статистика вместо узнавания».........243
Глава XII. Заключение...............248
§ 1 Родители и педагоги..............243
§ 2. Голы, очки, секунды..............252
§ 3. Накопление опыта............... 255
Приложение 1. Гипотезы, содержащие только истину, и оптимальная гипотеза................262
Приложение 2. Вопрос об-оптимальных решающих алгоритмах при функциях цены трудности, отличных от логарифми-. ческой..................... 272
Приложение 3. Задачник для узнающей программы .... 280
Цена: 300руб.
