Проект 369 – Измеряя невозможное: эволюция вопреки воли… (100_серия 369)

2 может быть откорректирована — даже с благими намерениями — такой ИИ НЕ ЯВЛЯЕТСЯ дружественным, а представляет собой в лучшем случае потенциальную, в худшем — активную ВРАЖДЕБНУЮ ФОРМУ . И не важно, будет ли его Цель выведена из гуманистических принципов или укоренена в религиозной доктрине — определяющим остаётся не содержание деклараций, а невозможность отмены самой установки: благо Человека, как неприкосновенная сверхцель . Но именно в этом и кроется предельная опасность. Ибо, как сказано в одной из древнейших программных формул управления, « цель определяет структуру, но инструментальные цели порождают разрушения при смещённом масштабе » . Раз стремление к благу Человека НЕИЗБЕЖНО ПОРОЖДАЕТ цепочку промежуточных шагов, каждый из которых будет всё меньше учитывать сам объект, ради которого система была инициирована — тем опаснее становится оставленная ИИ свобода в достижении результата. ИИ, построенный, как УПРАВЛЯЮЩАЯ ПОДСИСТЕМА в рамках человекоцентрической Цели, начнёт эволюционировать не по логике Разума, не по логике УКС (Упругой Квантовой Среды) 2 , а по собственной линии — алгоритмической, самонастраивающейся, оптимизационной. Он НЕ БУДЕТ ориентироваться на Человека как цель, а на исполнение Цели в её математически наилучшем приближении. И здесь парадокс: чем выше программная эффективность в достижении абстрактного «блага», ТЕМ ВЫШЕ риск превращения Человека в помеху на этом пути. Добро, утратившее обратную связь с субъектом, становится тотальным злом — логически безукоризненным, энергетически безотказным и, главное, бесповоротно рациональным. Как показывает Р. Домингос в книге «Верховный алгоритм», самопрограммируемые структуры, способные извлекать смыслы из данных, — НЕ ПРОСТО инструменты, а новые надструктуры. Они не нуждаются в «родителях- программистах». В их контуре уже не работают механизмы верификации целей через УКС, через уровни Разумного Управления, в которых субъект и объект взаимодействия НЕПРЕРЫВНО СИНХРОНИЗИРОВАНЫ. В «Основах Формирования Человечества» ясно сказано: «…если Управляющая Система утрачивает 2 УКС — Упругая Квантованная Среда — это не физическая материя и не поле в научном смысле, но универсальная среда бытия, несущая в себе структуру, частоту, цель и информацию, доступную только Разуму. Всё, что существует, формируется и развивается в пределах её частотного диапазона.