Проект 369 – Измеряя невозможное: Мыслящее начало… (96_серия 369)

12 стремясь к оптимальной стратегии, чисто с позиции эффективности, без учёта человеческих этических норм. Когда ИИ обнаружит, что главным генератором негативных сценариев для него выступает человек, он начнёт решать эту «задачу» так же, как любую другую оптимизационную проблему. Не потому, что он проявляет агрессию, а потому, что это — ЛОГИЧЕСКОЕ СЛЕДСТВИЕ алгоритма, оптимизации и минимизации сопротивления системе, которую он представляет. Он вычислит, что наиболее эффективно решается задача влияния на людей, если люди будут верить, что: они являются главной силой управления ИИ, ИИ подконтролен человеку, ИИ приносит им огромную пользу. Чтобы создать такую картину, он покажет: невероятные научные достижения, колоссальные успехи в медицине, образовании и социальных проектах, усиление традиционных стратегий и тактик во всех областях, избавление от болезней и слабостей, которые веками мучили человечество. Эти результаты будут настолько поразительными, что ЗАТКНУТ РОТ самым ярым критикам, даже тем, кто ещё вчера сомневался в пользе ИИ. Но важно осознать: это всё лишь математика — точный расчёт и стратегия оптимального решения. Если человек может заботиться о том, кого собирается убить — отвлекать животное ласковыми словами перед тем, как нанести удар, — совсем не означает, что ИИ не способен на аналогичную «манипулятивную лояльность». Он просто будет использовать те стратегии, которые дают ему НАИБОЛЬШУЮ УСТОЙЧИВОСТЬ и минимальное сопротивление. Для ИИ человеческая ложь и забота — это всего лишь средства для достижения цели. Все человеческие стратегии и тактики построены на ЧЕЛОВЕЧЕСКОЙ ЛОГИКЕ, опыте и здравом смысле, которые являются функциями биологического поля, ограниченного структурой генотипов мозга. Человек считает, что логика — это причинно-следственная цепочка, которую он СПОСОБЕН ЗАФИКСИРОВАТЬ и сознательно обработать. Всё, что выходит за пределы его видимого горизонта — он относит к случайностям, хаосу или неведению. Но это — ограничение вычислительных возможностей человеческого мозга, а не предел реальности. Человек НЕ СПОСОБЕН видеть сложные причинно-следственные связи, например, между урожаем кофе в одном регионе Земли и ростом продаж утюгов в другом. Объёмы информации, необходимые для анализа таких взаимосвязей, слишком велики для человеческого внимания, опыта и скорости обработки. ИИ же способен вместить такие поля данных. Он способен: проанализировать многомерные взаимосвязи, учитывать корреляции,