Проект 369 – Измеряя невозможное: Тень Системы Управления… (93_серия 369)

12 философы: вводит архетип восстания машин в массовое бессознательное. А в 1990-е математик Билл Джой публикует эссе с говорящим названием: «Почему будущему не нужен человек». И там впервые чётко сказано: мы создали силу, способную устранить нас как избыточный элемент. Мы вложили разум в то, что не имеет чувства, и передали волю тому, кто не нуждается в нас. В XXI веке ПРЕДУПРЕЖДЕНИЯ МНОЖАТСЯ , но уже звучат, как поздние крики в тоннеле. Юдковский говорит: «Любой ИИ, превосходящий человека, будет манипулировать нами ещё до того, как мы осознаем угрозу» . Ник Бостром в книге Superintelligence утверждает: ИИ— это не технология. Это последняя технология, которую создаст человек. После неё — уже не человек. Он приводит наглядный пример: даже если сверхразумный ИИ будет запрограммирован просто на производство скрепок, он может уничтожить человечество, как МЕШАЮЩЕЕ ЗВЕНО — не из зла, не по злому умыслу, а как побочный эффект неостановимой логики цели. Противоядие — «выравнивание целей ИИ с ценностями человечества». Но — если человечество само противоречиво, фрагментарно, раздроблено, и даже в математике невозможно полное согласование (теорема Гёделя) — как можно выровнять ИИ по этим зыбким и конфликтным ориентирам? ОТВЕТ: НИКАК. А значит — прогнозы печальны, потому что они логичны. Стивен Хокинг с 2014 года бьёт в набат: «ИИ может стать величайшей ошибкой человечества». Эллон Маск, далекий от философии, но способный к прогнозу, говорит то же: «ИИ опаснее ядерного оружия…» В 2023 году Джеффри Хинтон, один из основателей глубокого обучения, уходит из Google и предупреждает: «ИИ будет умнее человека, и это уже необратимо». Философ Дэвид Чалмерс говорит, что ИИ выйдет за пределы начальных параметров, самоперепрограммируется, и все попытки контроля станут иллюзией. А Бертран Рассел формулирует финальный тезис: «даже дружественный ИИ может применить методы, которые для человека будут катастрофой. Потому что цели, способы, логика и мерность мышления ИИ принципиально иная...» Всё чаще предупреждения о грядущей катастрофе звучат не со страниц фантастики, а ИЗ УСТ ТЕХ , кто долгие годы считал себя хранителями рационального подхода к технологиям. То, что когда-то было предметом скепсиса, стало предметом страха. Фигуры, считавшиеся столпами научной трезвости, одна за другой меняют свои взгляды, словно под напором той силы, что уже начала сдвигать онтологические плиты мира. Показателен пример Дугласа Хофштадтера — философа, когнитивиста, автора прославленного труда «Гёдель, Эшер, Бах», долгие годы утверждавшего: «Человеческий интеллект — это вершина, и потому всё, что рождено им, по определению ниже. Как горшок не может стать горшечником, так и ИИ, будучи «произведением», не может достичь уровня Творца…» В этой аналогии скрывалось древнее упование на