Новая парадигма ИИ требует революции в понимании памяти

Источник: medium

Сергей Карелов

Иначе выход из тупика в области ИИ невозможен

"Память о прошлом создана не для того, чтобы помнить прошлое, она создана для предотвращения будущего. Память - это инструмент предсказаний"

Alain Berthoz (французский нейробиолог)

Понятно, что для этой темы нужен лонг-лонгрид. Но это пока еще не он, а его тизер.

1) В чем, собственно, тупик?

Если коротко, то вот в чем.

Осознан потолок возможностей машинного обучения, - автоматизация интеллектуальной рутины.
Крепчает понимание того, что для выхода на качественно иной уровень интеллектуальности машин (не важно, как его называть - общий ИИ и т.п.) нужны не просто иные технологические подходы (кои и так меняются каждое десятилетие вот уже полвека), а смена парадигмы.
Эта смена парадигмы сдерживается вовсе не отсутствием перспективных альтернатив существующей парадигме, а необходимостью отбить десятки миллиардов уже сделанных инвестиций и прагматичным нежеланием менять даже не синицу, а несущую золотые яйца курицу на гипотетического журавля без гарантий коммерческой состоятельности его заоблачных полетов.

2) Альтернативная парадигма уже существует?

Да существует. Это смена представлений о цели и функциональной организации разума (избегаю здесь термина интеллект во избежание вечной путаницы).

В когнитивной науке вместо старой парадигмы мозга уже довольно прочно обосновалась новая.

Согласно старой парадигме, разум работает подобно традиционному компьютеру - мозг пассивно ждет "входной информации" для "обработки символических представлений" и создания "выходных управляющих сигналов".

В новой парадигме, разум - это машина постоянных предсказаний. Мозг постоянно пытается делать выводы из несоответствий между сконструированными им моделями реальности и самого разумного агента и его чувствами, пытаясь выяснить причины этих несоответствий и минимизировать их путем корректировки моделей и/или практических действий в физической реальности.

3) В новой парадигме цель и механизм работы памяти принципиально иные, чем в старой.

Цель памяти - не передавать информацию с высокой точностью во времени, а направлять разумное принятие мозгом правильных решений.
При такой цели, ключевой функцией памяти становится вовсе не точность и длительность сохранения воспоминаний, а преднамеренное забвение - забывание информации, необходимое для ее генерализации.
Главная проблема здесь в том, что чрезмерно точная память мешает использовать воспоминания для обобщения их в новых ситуациях. Если воспоминания слишком точны и перегружены, их трудно использовать, чтобы делать прогнозы на будущие ситуации.

Например, если в вашей памяти хранятся мельчайшие подробности того, как вас укусила собака в парке (характеристики собаки - её размер, цвет, длина шерсти, лапы, уши и т. д., и характеристики ситуации - на дорожке, возле скамейки, под большим деревом, у фонаря и т. д.), вполне возможно, что вы не будете распространять на других собак и другие места осторожный страх, который может позволить вам избежать нового покусания. А это избегание и есть ваша истинная цель для оптимальной адаптации!

Значит нужно все детали забыть, оставив и генерализовав лишь главное.

Кроме того, среда постоянно меняется, и нужно уметь адаптировать воспоминания к этим изменениям. Воспоминания, которые слишком точно воспроизводят прошлое, могут ослабить способность представлять различные варианты будущего, делая поведение слишком негибким, чтобы справляться с изменяющимися условиями.

Посему:

Нужен механизм активного забывания, работающего на главную стратегию мозга - управление информацией через забывание.
Нужны разнообразные механизмы, позволяющие А) генерализовать воспоминания, Б) реструктурировать их, но при этом В) не затруднять доступ к ним.

В дополнение

Подробней о нейробиологии активного забвения и названных механизмах см. отлично написанную и хорошо иллюстрированную новую статью Тома Зигфрида со ссылками на источники.

А также мои предыдущие посты на эту тему.

________________________________

Если вам понравился этот пост - не забудьте:

- нажать "палец вверх";

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.