Винник Д.В. Объяснительная сила нейросетевого моделирования когнитивных функций
Объяснительная сила нейросетевого моделирования когнитивных функций Д.В. Винник МГУ им. Ломоносова, Москва, Россия dvvinnik@fa.ru Abstract: Thus, despite the attractiveness of philosophical connectionism, it should not be perceived as a constructive theory of the classical type of rationality, but rather as a heuristic natural philosophical view of the nature of the mind. Reflexive phenomenon, consciousness and self-consciousness, the ability to be an observer of one's own mental states at the most fundamental level, are all due to what we call the mind, the ability for logical thinking, including meta-reasoning. Как известно, одной из фундаментальных проблем систем искусственного интеллекта, основанных на нейросетевом машинном обучении и, часто отождествляемых с ними, является т.н. логическая или интеллектуальная непрозрачность, – нейронная сеть представляет собой модель системы типа «чёрный ящик», поскольку синаптическая матрица как результат обучения обычно является неинтерпретируемой или необъяснимой. Философы порой говорят о нечеловекомерности результатов машинного обучения. Разрешение или смягчение этой проблемы именуют «доверительным», «объяснимым» и, соответственно, – «интерпретируемым ИИ». Раскрыть содержания интеллектуальной непрозрачности как негативного теоретико-познавательного феномена пытаются с помощью теории параллельных алгоритмов, которой, если верить В.В. Воеводину [5, с.130], пока не существует. Автор утверждает, что к началу массового внедрения параллельной архитектуры не было никакой полной теории параллельных алгоритмов, аналогичной теории алгоритмов для последовательных вычислений. Боле того, – не было даже сколько-нибудь ясного представления, что же нужно понимать под параллельным алгоритмом: «отсутствовал какой-либо формальный математический аппарат, который можно было бы назвать параллельным аналогом машины Тьюринга. Скорее всего, именно эти причины привели к тому, что в течение долгого времени параллельные вычисления не удавалось сформировать как самостоятельную математическую науку, «и рассматривались они как совокупность каких-то полуэвристических, граничащих с искусством приемов приспособления алгоритмов к требованиям новой техники» [5, с.134-135]. Между тем, успешное воспроизведение множества когнитивных функций на нейронных сетях используется для объяснения работы мозга и сознания. Пределом концептуализации этих объяснений является философская концепция коннекционизма, которая претендует быть одной из теоретических форм философии сознания, основанных на так называемой «компьютерной метафоре» наравне с функционализмом, объясняющим соотношение мозга и сознания со аналогии с отношением между компьютером и компьютерной программой (алгоритмом). Коннекционизм противопоставил себя функционализму, поскольку критически относился к отождествлению физических и функциональных состояний, трактуемых как состояния, обладающие семантическим значением. Вот как описывает причины успеха коннекционизма П. Черчлэнд и Т. Сеновский: «Коннекционизм… освобождает нас от того, что Хофстедтер в 1982 году назвал «Булевым сном» — заблуждением, что все когнитивные функции являются манипуляциями с символами согласно правилам логики. В точности таким же образом он освобождает нас и от сна нейрофизиолога, который является верой в то, что ответы на интересующие нас вопросы станут однажды очевидными в результате изучения мельчайших особенностей каждого нейрона (морфологии, физиологии, связей и т.п.) коннекционизм преподносит нам чрезвычайно важный урок, что качества системы не доступны на одном единственном уровне системы» [10, p.367].
