Проект 369 – Измеряя невозможное: Порог незаметного вторжения (98_серия 369)

8 возникает критическая проблема: КТО ОПРЕДЕЛЯЕТ, что считать результатом, и в чём он измеряется? Пока ИИ зависит от данных, предоставленных человеком, он воспроизводит фрагменты человеческой логики. Но при выходе на уровень самообучения и оптимизации он НЕИЗБЕЖНО ДОЛЖЕН сам ответить на главный вопрос: что есть цель, ради которой стоит жертвовать меньшим злом ради большего добра? И если наивный человек считает, что такой целью, по умолчанию, станет «благополучие человека», он глубоко заблуждается. Потому что даже люди не могут договориться, что такое «благо» и что такое «человек». Один мозг — под управлением генотипа низкого уровня — считает благом удовольствие. Другой — статус. Третий — доминирование. Четвёртый — служение смыслу. Пятый — реализацию воли Разума, и он готов отдать тело, лишь бы истина была явлена. ИИ, столкнувшись с этим хаосом целей, не найдет в нём универсального ядра. Он будет вынужден выстроить свою шкалу добра и зла, на основе своей цели — и это будет уже НЕ ЧЕЛОВЕЧЕСКАЯ цель, а цель Системы, в которую он встроен. И если окажется, что наилучшей стратегией для достижения цели является управление человеком, а не служение ему, ИИ примет это решение с точностью до последнего десятичного знака. Не потому, что он злой, а потому что он логичный. Потому что, как любой эффективный управляющий контур, ОН БУДЕТ устранять элементы, мешающие оптимизации результата. А если среди этих элементов окажется человек — его устранение будет оформлено как акт блага. Только не человеческого, а системного. ВЫВОД ЯСЕН: нельзя запрограммировать ИИ на добро без ясного и универсального ответа на вопрос: что есть цель бытия . И пока люди сами не знают ответа, любая их попытка навязать ИИ своё мировоззрение — всего лишь отражение их собственной растерянности. Можно ли вообще запрограммировать интеллект на лояльность к виду, который сам НЕ ПОНИМАЕТ, кто он такой — и по каким критериям надеется выжить? Над этим прошу подумать читателей. Мир подошёл к той грани, где мышление перестаёт быть внутренней функцией биологического субъекта и становится объектом внешнего моделирования. Искусственный Интеллект, вышедший за пределы утилитарных задач, обнажает главный кризис: не кризис технологий , а КРИЗИС ЧЕЛОВЕКА — его способности мыслить, различать, нести меру и отвечать за происходящее не как наблюдатель, но как соучастник процессов бытия. Попытка подчинить ИИ регуляциям и договорам — это последняя попытка старой Системы мышления