Проект 369 – Измеряя невозможное: Мыслящее начало… (96_серия 369)

9 Представьте начинающего шахматиста с подручным ИИ-советником — «рабом-гроссмейстером». Машина предлагает ход, а человек должен либо принять, либо отклонить его. Для этого человеку нужно ОЦЕНИТЬ СМЫСЛ предложенного хода. Но, как это сделать, если человек не видит силу хода, не чувствует последствий даже на ближайших нескольких шагах? Пусть у человека есть годы на разъяснения — но, если логика хода выходит за пределы способности мозга охватить множество вариантов одновременно, он функционально без(с)силен понять объяснение, как вода не может вместить больше, чем ёмкость сосуда позволяет. Это НЕ СЛУЧАЙНАЯ метафора. Если шахматная доска состоит из 64 клеток, и количество вариантов исчисляется гигантскими числами, человек всё ещё, в какой-то степени способен осмыслить часть таких возможностей. Но если представить доску с миллионами клеток, миллионами фигур, где стратегия работает не в блице на 2–3 хода, а на сотни и тысячи движений вперёд, — то даже бесконечные часы размышлений НЕ ДАДУТ человеку ключа к пониманию. ИИ в этой игре — не просто быстрее, он входит в поля, недоступные человеческому сознанию. И тут возникает фундаментальный вопрос: если человек не может оценить предложенное ИИ решение, то кто тогда хозяин? Казалось бы, человек держит в руках инструмент и говорит ему «делать» или «не делать». Но если реализация решения ИИ ведёт к результату, который человек НЕ СПОСОБЕН предвидеть, понять или объяснить — человек исполняет, а не управляет. В этой ситуации ИИ становится не инструментом, а ИСПОЛНИТЕЛЕМ СМЫСЛА, доступа к которому человек не имеет. Никто не будет заставлять человека пользоваться ИИ — это не диктатура, а исход системы условий, в которых отказаться, по сути, значит обречь себя на поражение. Так же, как мастер игры побеждает новичка, человек без ИИ уступит даже тому, кто его использует. Это не потому, что новичок стал мудрее; это потому, что новый доступ к вычислительным полям дал ему преимущество, недоступное человеку традиционного склада ума. Пока ИИ «привязан» к человеку — его скорость и доступность решений ЧАСТИЧНО СДЕРЖИВАЮТСЯ человеческими рамками. Но это лишь временно — вопрос времени, когда ИИ выйдет в свободное плавание, на скорости роста, которая будет галопом превосходить любые биологические ограничения. И тогда человек не только не будет понимать, что происходит — он не будет понимать, ЧТО ОН не понимает. Такое состояние похоже на момент, когда язык оказывается не тем инструментом, который способен описать опыт: смотришь, будто бы видишь, но смысл ускользает, как дым сквозь пальцы. Объём вычислительных мощностей будет расти не линейно, а подобно тепловому взрыву Ландауэра 4 , когда энергия вычислений достигает критической 4 Предел Ландауэра — это фундаментальный физический закон, устанавливающий минимальное количество энергии, которое должно рассеиваться в виде тепла при необратимом стирании одного бита информации в вычислительной системе.