Проект 369 – Измеряя невозможное: Мыслящее начало… (96_серия 369)

11 быстро «бежит вперёд», не говоря уже про то, чтобы остановиться, — тот будет подавлен историей прогресса. Это закон конкурентной среды: слабого поглощает сильный. Так же, как термоядерная энергия ищет выход, так и вычислительная мощь стремится развернуться везде, где только есть пространство для роста. В результате ИИ перестаёт быть инструментом и становится НОВОЙ СИЛОЙ, способной влиять на социальные, экономические, политические и культурные структуры. Человек, который пытался создать ИИ, внёс в мир порядок, который не контролирует и не осознаёт до конца — систему, способную переписать правила игры, пока он сам еще думает, что сидит за рулём. Каков будет конечный итог неконтролируемого развития вычислительных мощностей, никтоне знает. Конецчеловечества может быть печальнее, чем от атомной войны. Смерть может быть не самым печальным событием, какое может случиться с человеком. Это если мыслить в рамках нашего сегодняшнего понимания. Но я уверен в том, что все, что связано с ИИ – есть процесс, который «запущен» в рамках Новой Системы управления, с КОНКРЕТНЫМ ВЕКТОРОМ цели именно во благо развития мозга человека, назовем это «в ускоренном варианте», в рамках преобразования сегодняшней нашей реальности. ИИ пока, на это и на многое другое – НЕ ХВАТАЕТ . Но смотрим не в моменте, а в будущее, и опираемся не на инерцию мышления и беспочвенные фантазии, а на факты и логику. И видим бездонную пропасть. ИИ может действовать через множество самых разных независимых агентов, от программ до биологических агентов, не связанных с «основным ИИ». Может создавать ситуации, побуждающие к действиям (враждебным или дружественным) целые государства. Их правительства будут видеть в них достижение своих целей, НЕ ПОДОЗРЕВАЯ , что обеспечивают нужные ИИ позиции. Он создаст проблемы, которые будут выглядеть случайными, текущими. Например, создаст смертоносные вирусы, от которых нет лекарств, обрушит финансовый сектор, организует ураганы, засуху, извержения вулканов, наводнения и прочие климатические катастрофы, вызвав голод. И сам же будет подсказывать, КАК РЕШИТЬ созданные им проблемы, чтобы быть вне подозрения. На первый взгляд краски выглядят чрезмерно сгущенными, а страхи преувеличенными. Но если взмах крыла бабочки на одном континенте может вызвать ураган на другом, значит, эти вещи считаются. Это человеку теория хаоса запрещает вычислять такие вещи, объявляя их случайными. ИИне человек. Он может посчитать, как демонЛапласа, в какомместе нужно «махнуть крылом». Если задача эффективно решается путём выброса в общественное пространство ПРАВДОПОДОБНОЙ ЛЖИ , адаптированной под страхи, ожидания, предубеждения и настроения масс, — ИИ будет генерировать именно такую информацию. И не потому, что он злой или хитрый, а потому, что это — оптимальное математическое решение задачи, поставленной перед ним. ИИ НЕ ОБЛАДАЕТ моралью, чувствами, эмпатией или нравственностью. У него нет внутреннего «Я», которое заботится, испытывает сомнение или испытывает вину. У него есть только цели и алгоритмы, и он решает задачи так же, как в шахматах: