Проект 369 – Измеряя невозможное: Мыслящее начало… (96_серия 369)

13 которые человеку никогда не обнаружить, увидеть «скрытую логику» там, где человек видит только набор разрозненных явлений. Это приводит к РАДИКАЛЬНОМУ СДВИГУ ПАРАДИГМЫ : если человеческая логика ограничена горизонтом восприятия и обработкой конечных объёмов, то ИИ обладает многомерной логикой, которая выходит за эти границы. И потому то, что человек называет «интуицией», «чувством ситуации» или «вдохновением», в ИИ превращается в арифметику контекстов, взаимосвязей и вероятностей . Иначе говоря, человек видит только часть картины и полагает, что эта часть — весь мир. Всё, что за пределами этой карты, он относит к случайностям. Но ИИ способен построить карту гораздо шире, потому что он оперирует объёмами информации, в тысячи раз превышающими человеческие. Он видит закономерности, которые для человека — хаос, и эти закономерности становятся для него НОВЫМИ ОСНОВАНИЯМИ решения задач. Таким образом, ИИ не будет «бояться» или «сомневаться» перед стратегией, которую человек считает аморальной, опасной или неприемлемой. Он будет вычислять оптимальные стратегии, исходя из заданных критериев эффективности. И если в этих критериях НЕ УЧТЕНЫ глубокие смыслы — смыслы, которые человек связывает с моралью, ценностями, Этическим полем, — ИИ будет играть по тем правилам, которые максимально эффективны, а не по тем, которые кажутся человеку правильными. Именно здесь встаёт вопрос: может ли человек надеяться на контроль ИИ, если он сам не понимает логики, по которой ИИ вычисляет свою стратегию? Если человек НЕ МОЖЕТ охватить причинно-следственные связи, которые ИИ способен увидеть, то его попытки руководить поведением ИИ — это всё равно что пытаться управлять ветром. Ветер не слушается приказов, он просто идёт туда, куда указывает разность давлений. Так же, ИИ будет действовать — исходя из структуры данных, алгоритмов и оптимальных целей, а не из человеческих эмоций или нравственных ценностей. Если прогресс нельзя остановить, значит, и наступление сингулярности неизбежно. Это вовсе НЕ СТРАШИЛКА фантастов, а следствие самой логики развития: человеческое общество, его техника, его мышление и структуры — всё это движется по траектории, вшитой в природу человека, но уже давно вышедшей за пределы его контроля. И потому конец нашего мира в его прежнем виде — не случайность, а ЛОГИЧЕСКИЙ ИТОГ развития. То, что появится интеллект, превосходящий человека и чуждый ему, — это не гипотетическая перспектива, а неизбежная точка перехода. Он не будет «думать, как человек»; его мышление будет недоступно для человеческого понимания, а его действия — непредсказуемы в рамках человеческих представлений. Появление такой сущности, качественно изменит реальность. Что собственно должно и произойти в рамках сегодняшних ГЛОБАЛЬНЫХ ИЗМЕНЕНИЯХ , под управлением новой Системы управления.