ЛЕКЦИЯ 1. Коннекционизм vs Символизм.
- 04.10.26 г.
- 9772225665000 260167
Общие положения.
Мы начинаем курс с разговора о конфликте, который определил развитие искусственного интеллекта (ИИ) на десятилетия вперед. Долгое время существовало – и во многом продолжает существовать – два принципиально разных взгляда на то, что такое интеллект и как его воспроизвести в машине. Первый – символьный – утверждает, что мышление есть манипуляция символами по правилам. Второй – коннекционистский – настаивает на том, что интеллект возникает из массы простых, связанных элементов, а знание хранится не в правилах, а в весах связей.
Этот конфликт – не исторический курьез. Он живой, он определяет, какие системы создаются сегодня, и он же объясняет, почему современные языковые модели так впечатляют – и одновременно так ненадежны. Без понимания этого противостояния невозможно понять ни историю ИИ, ни его настоящее.
Итак, в предыдущем цикле лекций мы подробно разбирали символьный подход и увидели, почему он уперся в принципиальные ограничения. Теперь предстоит понять, какую альтернативу предложил коннекционизм и какую цену мы за эту альтернативу платим.
Вторая задача этой лекции – развеять распространенное заблуждение о том, что коннекционизм является «моделированием мозга». Это не так. Нейросеть – инженерная метафора, а не биологическая копия. Понимание этого различия критично: оно объясняет, почему нейросети могут быть могущественными и, одновременно, принципиально ограниченными.
1. Символьный ИИ: величественный замысел.
Символьный подход к искусственному интеллекту называют GOFAI – Good Old-Fashioned AI, «старый добрый ИИ». Это не насмешка, а уважительное обозначение первой большой парадигмы в истории дисциплины.
В основе GOFAI лежит простая и красивая идея: интеллект – это манипуляция символами по правилам. Если мы хотим, чтобы машина думала, нужно научить ее оперировать символами так же, как это делает логик, решающий задачу. Знания упаковываются в явные структуры: правила «если…то», деревья вывода, онтологии. Рассуждение превращается в цепочку логических шагов – от общего к частному. Дедукция, как в учебнике формальной логики.
В 1976 году А.Ньюэлл и Г.Саймон сформулировали программный тезис всей парадигмы – гипотезу физической символьной системы (Physical Symbol System Hypothesis). Ее формулировка звучит так: физическая символьная система обладает необходимыми и достаточными средствами для осуществления общего интеллектуального поведения.
«Необходимыми» – значит, без символов интеллекта не бывает. «Достаточными» – значит, если система умеет манипулировать символами, она уже интеллектуальна. Это сильное утверждение. Оно означает, что мозг – не важен, тело – не важно. Важна только правильная организация символов и правил.
Ньюэлл и Саймон были не философами, а практиками. Они создали программу Logic Theorist, доказавшую теоремы из «Principia Mathematica» Рассела и Уайтхеда, и General Problem Solver – универсальный решатель задач. Их работы казались доказательством гипотезы
Символьный ИИ дал миру впечатляющие результаты, которые были так или иначе рассмотрены раньше:
– экспертные системы,
– автоматическое доказательство теорем,
– шахматы и др.
Казалось, еще немного… и машина сравняется с человеком. Но этого не случилось.
При этом символьный ИИ пережил две волны кризиса.
Первая «зима» (конец 1960-х – 1970-е) - после доклада Лайтхилла (1973), критиковавшего британские исследования ИИ, и после сокращения финансирования в США и Великобритании интерес к символьным системам резко упал.
Потом был временный подъем (1980-е).
Вторая «зима» (конец 1980-х – 1990-е): крах рынка LISP-машин, провал японского проекта, осознание того, что «бутылочное горлышко знаний» так и не удалось расширить, и символьный подход вновь оказался в кризисе. Но он не умер, хотя стало понятно: одним им сыт не будешь.
К концу 1980-х годов стало ясно: символьный подход упирается в проблемы, которые не решаются наращиванием правил (аналогичная проблема сейчас и с нейросетевым ИИ: наращиваются мощности, а проблемы качественно не решаются). Эти проблемы – не технические, а принципиальные:
– проблема здравого смысла (машина не «знает» очевидных вещей о мире, если их специально не прописать),
– проблема фрейма (символьная система без явного указания не способна определить, какие факты релевантны, а какие нет),
– «бутылочное горлышко знаний» (узкая специализация не превращается универсальную).
2. Коннекционизм: альтернативный взгляд.
Исторически коннекционизм родился еще в 1940–50-е годы, пережил драматический крах в 1969 году и долгую «зиму», а затем триумфально вернулся:
- зарождение (1940–1950-е годы) – в 1943 году Уоррен Мак-Каллок и Уолтер Питтс предложили первую математическую модель искусственного нейрона, в 1949 году Дональд Хебб сформулировал правило, которое сегодня знают даже школьники, интересующиеся нейросетями: «клетки, которые возбуждаются вместе, связываются вместе», в 1958 году Фрэнк Розенблатт создает перцептрон – одну из первых обучаемых сетей, способную распознавать простые образы,
- крах 1969-го года – в 1969 году М.Мински и С.Пейперт, два титана символьного ИИ, публикуют «Перцептроны» – и математически доказывают: однослойная сеть принципиально не способна решать нелинейно разделимые задачи, и наступила «первая зима ИИ»,
- второе рождение (1980-е): алгоритм обратного распространения ошибки (Backpropagation) позволил обучать многослойные сети, а, значит, решать те самые нелинейные задачи, на которых споткнулся перцептрон. Но у второго рождения были и свои критики. В 1988 году Д.Фодор и З.Пайлишин опубликовали работу, в которой указали на фундаментальную слабость коннекционизма: он не способен объяснить систематичность мышления. Нейросеть не оперирует структурами, она оперирует статистикой,
- триумф (2000-е – настоящее время) – совпали три фактора: рост вычислительных мощностей (GPU, потом TPU), огромные наборы данных (ImageNet, интернет-корпуса) и новые архитектуры– сверточные сети (CNN), рекуррентные (RNN, LSTM), а затем трансформеры.
- в 2017 году статья «Attention is All You Need» представила архитектуру, которая открыла путь к большим языковым моделям, а в 2020-е GPT, BERT, Claude и их собратья демонстрируют то, что еще десять лет назад казалось фантастикой: машины пишут тексты, переводят, распознают изображения и речь, генерируют контент.
Что такое коннекционизм?
Коннекционизм – это направление в искусственном интеллекте, когнитивной науке и нейробиологии, рассматривающее интеллект как эмерджентное свойство большого количества простых связанных элементов – искусственных нейронов. Но никто не может показать пальцем на конкретный нейрон и сказать: «Вот здесь у нас записано, что Наполеон умер в 1821 году». Это знание размазано по миллионам весов. Такое представление называется распределенным.
Слово «эмерджентное» здесь ключевое: никто не закладывает интеллект в каждый нейрон по отдельности. Он возникает – как температура возникает из движения молекул, хотя ни одна молекула не «теплая».
Коннекционизм предложил такое решение: не программировать правила, а строить сеть из простых элементов и позволить ей учиться самой. Знания здесь не записываются в виде правил «если…то», а извлекаются из данных через обучение: сеть сама настраивает силы связей (веса) между нейронами, пока не начнет правильно решать задачу.
Формально нейросеть – это взвешенный направленный граф.
Вершины – искусственные нейроны.
Ребра – синаптические связи с числовыми весами.
Обучение – это подстройка весов под конкретную задачу на основе примеров: не программирование, а именно обучение.
Здесь необходимо сделать важную оговорку, которую часто забывают.
Коннекционизм – это инженерная метафора мозга, а не его копия.
Искусственный нейрон неизмеримо проще биологического. Мы берем только базовый принцип: вход → взвешенное суммирование → нелинейный выход. Все остальное – сложность дендритов, нейромедиаторы, тысячи типов клеток, глия, электрические синапсы – остается за бортом.
Это не недостаток, это осознанный выбор. Мы строим не мозг, а вычислительную систему, вдохновленную примером мозга. Различие принципиально: оно объясняет, почему нейросети могут быть могущественны – и одновременно принципиально ограничены. Они не «думают» так, как думает человек. Они вычисляют.
Чтобы яснее увидеть различие, полезно их поставить рядом и сравнить.
По обучению: мозг человека учится с одного-двух примеров (однократное знакомство), а искусственная нейросеть требует миллионов или миллиардов примеров.
По механизму: мозг человека работает на причинности и понимании, а искусственная нейросеть – на корреляции и прогнозировании паттернов.
По энергопотреблению: мозг человека потребляет около 20 ватт, а искусственная нейросеть при обучении – мегаватты.
По типу ошибок: мозг человека опирается на здравый смысл и логику, а искусственная нейросеть страдает от галлюцинаций и отсутствия понимания.
3. Сравнение парадигм.
3.1. Различия.
Основа. В основе символьного ИИ лежат логические правила (If-Then), а в основе нейросетевого ИИ – статистические закономерности в данных.
Знания. В символьном ИИ знания кодируются вручную инженерами (требуют огромных усилий), а в нейросетевом ИИ извлекаются автоматически из примеров.
Представление. В символьном ИИ представление знаний – это символы, деревья вывода и онтологии (структурированные схемы), а в нейросетевом ИИ – векторы и эмбеддинги (числовые массивы).
Процесс. В символьном ИИ процесс – это дедукция и логический вывод (от общего к частному), а в нейросетевом ИИ – прогнозирование паттернов и индукция (от частного к общему).
Сильная сторона символьного ИИ – прозрачность, объяснимость и строгость (мы можем проследить каждый шаг вывода), а сильная сторона нейросетевого ИИ – гибкость, работа с шумом и неопределенностью.
Слабая сторона символьного ИИ – негибкость, ручной труд и хрупкость (малейшее изменение правил требует перекодирования), а слабая сторона нейросетевого ИИ – «черный ящик», галлюцинации и зависимость от данных.
3.2. Почему это важно сейчас.
Сегодня мы живем в эпоху триумфа коннекционизма. ChatGPT, Claude, Gemini и др. – все они построены на нейросетях. Они пишут тексты, переводят, программируют, отвечают на вопросы. Кажется, что символьный подход окончательно проиграл.
Но это впечатление обманчиво, так как нейросетевой ИИ обладает существенными недостатками:
- галлюцинации - LLM уверенно выдают ложную информацию. Они придумывают несуществующие статьи, фальшивые ссылки, вымышленные биографии. Это не баг, а свойство архитектуры: модель не проверяет истинность – она генерирует статистически вероятное продолжение. Именно здесь символьная логика была бы полезна: она могла бы верифицировать факты,
- отсутствие логики - нейросети плохо справляются с многошаговыми логическими задачами. Они могут рассуждать правдоподобно, но не строго. Они не умеют доказывать теоремы так, как это делают символьные системы,
- «черный ящик» - никто не может объяснить, почему модель приняла то или иное решение. В медицине, юриспруденции, финансах это создает серьезные риски.
4. Пример.
Представьте, что вы разговариваете с ChatGPT. Вы спрашиваете: «Кто написал “Войну и мир”?» Модель отвечает: «Лев Толстой». Все правильно.
Но теперь вы спрашиваете: «Какую статью Есенин опубликовал в 1860 году в журнале “Русский поэт”?». И модель уверенно называет статью, которой не существует. Она придумывает название, придумывает содержание, придумывает страницы.
Почему это происходит? Потому что модель не знает, что такое «правда». Она знает только, какое продолжение текста статистически вероятно. Она видела миллионы статей, и она генерирует то, что похоже на статью. Но она не проверяет, существует ли она в реальности.
Это и есть цена отказа от символьной логики: гибкость – в обмен на надежность, возможность – в обмен на объяснимость.