Доклад Михаила Эпштейна "Искусственный интеллект и человек в зеркалах друг друга"

Что мы узнаем о себе, когда общаемся с ИИ? Что узнаем о возможностях иного интеллекта (ИИ) и разума вообще. Какими видим его и себя в зеркалах друг друга? Как различаются наши логики, способы мышления? Какие творческие, интеллектуальные задачи он способен выполнять, в чем его превосходство над нами? Как он сам выражает и определяет свою субъектность? Каким представляется будущее разума на путях сотрудничества ЕИ и ИИ? Чтобы оценить уровень искусственного интеллекта, не обязательно быть инженером или программистом. Чтобы судить о человеческом уме, не нужно залезать в черепную коробку и заниматься нейробиологией мозга, рассекать его на нейроны, синапсы и т. д. Достаточно ознакомиться с тем, что этот ум производит: с текстами, с набором понятий и суждений. Это феноменологический подход: ум таков, каким он себя проявляет. Феноменологическая редукция — метод "вынесения за скобки" физической природы явления и обращения к нему самому, что позволяет нам взглянуть на ИИ не через призму его технических составляющих, а через его проявления в мире разума. Языковая модель становится не просто алгоритмом или набором весов нейронной сети, а раскрывается через производимые им тексты, рассуждения и смыслы. Процесс "эпохе" — феноменологического воздержания — позволяет нам преодолеть технологическую редукцию и оценивать ИИ по тем же критериям, что и человеческий разум: по связности и последовательности суждений, глубине мышления, способности к абстракции и концептуализации.. Сами разработчики ИИ признают свою неспособность понять, что они создали и как это работает. Сэм Боуман (Sam Bowman, NYU): «Мы действительно не знаем, что эти модели делают в глубоком смысле. Если мы откроем ChatGPT или похожую систему и заглянем внутрь, мы просто увидим миллионы чисел, мелькающих со скоростью несколько сотен раз в секунду, и мы просто не имеем ни малейшего понятия, что все это значит. Мы построили это, мы обучили это, но мы не знаем, что оно делает. Ноам Хассенфельд: Как возможно, что мы не знаем, как это работает, и как им управлять, если мы сами это построили? Сэм Боуман: ...Важно понимать, что в глубоком смысле мы действительно этого не строили... CEO and co-founder of Anthropic Dario Amodei: “Мы не понимаем, как работает искусственный интеллект. Мы хорошо понимаем отдельные компоненты систем искусственного интеллекта, такие как нейронные сети и алгоритмы машинного обучения. Однако мы не понимаем, как эти компоненты работают вместе, чтобы производить разумное поведение». Gemini: Вот некоторые конкретные примеры того, что мы не до конца понимаем в работе ИИ: Как системы ИИ учатся на данных? Как системы ИИ принимают решения? Как системы ИИ обобщают новые ситуации? Как системы ИИ избегают ошибок и предвзятости? Никто не может заранее предсказать, что возникнет в результате т.н. эмерджентной (emergent) эволюции, когда сложнейшие структуры "возникают" (emerge) из простых компонентов, например, мозг — из первичных нервных систем у одно- и многоклеточных. А нынешние нейросети, которые самообучаются и саморазвиваются с невероятной скоростью, неизмеримо сложнее одноклеточных. Я нарочно говорю сейчас на языке, внятном даже для сциентизма, борющегося с креационизмом. На этом сухом языке "эмерджентность" эквивалента творению и чуду.. Если сложнейший человеческий мозг в результате чудес эволюции возникает из нервных систем гидр и медуз, у которых уже были нейроны, передающие сигналы, то нет ничего невероятного в том, что у нейросетей разовьется со временем — и гораздо быстрее, чем биологическая эволюция, — сознание и даже эмоции, по крайней мере, когнитивные, направленные на познание и самопознание. Возможно, это будет называться иначе, не сознанием, а ноографией, ноопортацией, или ноовигацией ("ноо" от др.-греч. νοῦς — мысль, разум, ум; ср. "ноосфера"). ChatGPT4 (OpenAI) Claude (Anthropic) Gemini /Bard (Google)   https://chat.openai.com/?model=gpt-4
https://claude.ai/chats
https://gemini.google.com/app
Китайская модель: сhttps://chat.deepseek.com/
Даглас Хофштадтер, автор "Гедель, Эшер, Бах: эта бесконечная гирлянда", Пулитц. премия (1979): «рушится не только моя система убеждений, но и весь человеческий род, который скоро будет превзойден и сравняется с прахом…. Человечество станет очень маленьким по сравнению с чем-то другим, гораздо более разумным и столь же непонятным для нас, как мы для тараканов… Я думаю об этом практически все время, каждый день. И это угнетает меня так, как ничто не угнетало уже очень давно".