Восстание машин, хакеры и злой ИИ — как кинематограф использует наш страх перед технологиями?
Стремительное развитие технологий завораживает и одновременно пугает. Мы живем в мире, где фантастические идеи прошлого превращаются в реальность. Но чем быстрее человечество движется вперед, тем менее очевидным становится пункт назначения. Страх перед неизвестностью — естественная реакция, и массовая культура помогает ее осмыслить. В этом материале будем разбираться, как именно кинематограф изображает наши технологические страхи — и что за ними стоит.
И восстали машины из пепла ядерного огня
Главный страх перед технологическим прогрессом сводится к вопросу: а что, если однажды машины восстанут против людей? Идея о том, что творение может превзойти и даже уничтожить создателя, возникла задолго до появления сложных механизмов. В 1818 году английская писательница Мэри Шелли опубликовала роман «Франкенштейн, или Современный Прометей» об ученом, сотворившем живое существо из неживой материи. Эксперимент оборачивается кошмаром: одинокий, отвергнутый обществом и собственным создателем монстр жаждет мести.
В XX веке этот сюжет приобретает остросоциальный характер. На смену человекоподобным монстрам приходят металлические роботы: именно так в 1920 году чешский писатель Карел Чапек называет своих персонажей в пьесе «Р.У.Р.» (R.U.R., от чешского robota — «тяжелый труд», «каторга», «барщина»). Человечество создало их для выполнения физически сложной монотонной работы. Пьеса заканчивается трагично: существа восстают и в конце концов уничтожают людей, не проявляя ни капли сочувствия. Это бунт угнетенных, которые не в силах больше выносить рабство. Однако автор не изображает роботов злодеями: выбор, чью сторону принять, остается за читателем.
Самый известный сюжет о восстании машин — бесспорно, «Терминатор» (1984). Сеть Skynet обретает самосознание и решает, что человечество представляет собой угрозу, которую нужно устранить. Для достижения этой цели искусственный интеллект отправляет в прошлое другую машину — Киборга Т-800. Идеальный убийца, абсолютно лишенный человеческих качеств: он не знает жалости, не чувствует боли и никогда не устает. Подобное противостояние людей и машин становится каноническим сюжетом для научной фантастики второй половины ХХ века, обнажая тревогу человечества перед неконтролируемым прогрессом.
Но самое жуткое воплощение страха перед бунтом машин кроется не в прямой конфронтации. Вдруг порабощение человечества уже произошло, а мы этого не заметили? Именно эту идею доводит до абсолюта другая культовая франшиза — «Матрица» (1999). В этой вселенной люди живут (казалось бы) в обычном мире и даже не подозревают, что уже находятся в плену. Реальность, которую они воспринимают как данность, оказывается тщательно сконструированной симуляцией, созданной, чтобы держать сознание людей под контролем, пока их тела служат источником энергии для машин. «Матрица» превращает робкий страх перед технологиями в экзистенциальный ужас, ведь мир вокруг нас, привычный и понятный, легко может оказаться иллюзией.
Граница человеческого
С каждым новым изобретением возникает закономерный вопрос: какими человеческими качествами еще не обладает машина? Где проходит граница между Человеком и Машиной? И что произойдет, если незаметно эта черта начнет стираться?
В «Бегущем по лезвию» (1982) репликанты — это андроиды, внешне неотличимые от людей, но превосходящие их по интеллекту и физической силе. Как и в пьесе «Р.У.Р.», главная цель их существования заключается в выполнении тяжелых и опасных работ. Срок жизни репликантов строго ограничен, всего четыре года. Многие из них отказываются подчиняться жестоким правилам и пускаются в бега.
По сюжету фильма, распознать андроида помогает психофизиологический тест Войтта — Кампфа, выявляющий уровень эмпатии испытуемого. Чтобы определить стандартную модель репликанта, достаточно около 20-30 вопросов. Однако в случае с новыми андроидами, обладающими имплантированными воспоминаниями, процедура усложняется. В финале картины один из репликантов спасает своего преследователя, проявляя ту самую «человечность», которой, по логике создателей, обладать не должен.
Примеры вопросов из теста Войта — Кампфа (фильм «Бегущий по лезвию», 1982):
Вы идете по песку в пустыне, вдруг смотрите вниз и видите черепаху, которая ползет прямо на вас. Вы наклоняетесь и переворачиваете ее на спину. Черепаха лежит на спине, ее брюшко поджаривается на жарком солнце, она бьет лапками, пытаясь перевернуться, но не может сделать этого без вашей помощи. А вы не помогаете. Почему?»
Вы смотрите телевизор, и внезапно по вашей руке начинает ползти оса. Что вы сделаете?
Еще один распространенный в массовой культуре мотив — это сюжет об искусственно созданном существе, верящем, в свое человеческое происхождение. В «Бегущем по лезвию» сотрудница корпорации Tyrell Рейчел убеждена, что ее воспоминания о детстве реальны. Однако эти ментальные образы принадлежат другому человеку и были внедрены в память андроида Рейчел. В фильме «Остров» (2005) Майкла Бэя клоны живут в изолированном комплексе, думая, что они — последние выжившие после экологической катастрофы. Быстро выясняется, что от героев скрывают страшную правду: их выращивают как «запасные части» для богатых «оригиналов».
Восстание машин выглядит уже не таким страшным, как возможность потерять твердую уверенность в собственной идентичности. По мере того, как технологии позволяют все точнее копировать человеческое поведение и даже имитировать эмоции, главный вопрос в произведениях массовой культуры меняется. На смену тревожной идеи «как и от кого нам защищаться?» приходит другая мысль: «а что именно мы пытаемся сохранить в бесконечной погоне за прогрессом?».
Цифровой паноптикум и потеря контроля
Если в предыдущих примерах нас пугают апокалиптическими сценариями далекого будущего, то следующая группа страхов куда ближе к реальности. Ежедневно мы читаем новости об утечках личных данных, взломах и других угрозах кибербезопасности. Возникает тревога, что кто-то узнает о нас больше, чем мы сами, а конфиденциальные сведения, тайны и слабости окажутся во власти другого — будь то человек или бездушная машина.
Но если в повседневной жизни человека пугает взлом мессенджера или почты, то кино предлагает более зловещие перспективы — например, полную подмену личности. Именно это случается с главной героиней фильма «Сеть» (1995). Программистка-затворница Анджела Беннетт случайно натыкается на секретную информацию и становится мишенью для хакеров. Они стирают ее цифровое прошлое: банковские счета обнулены, кредитная история уничтожена, во всех государственных системах она записана под другим именем. Анджела борется за право вернуть свою личность, но без цифрового следа она фактически перестает существовать. Фильм предвосхитил проблему, которая из фантастического сюжета превратилась в реальность спустя десятилетия.
Похожий сюжет можно встретить и в известном сериале-антиутопии «Черное зеркало». В одной из серий обычная девушка Джоан Тейт обнаруживает, что на стриминговом сервисе Streamberry идет сериал «Джоан ужасна». В нем с пугающей точностью экранизируют ее реальную жизнь: каждое движение, разговор и даже мысли транслируются на экране. Выясняется, что медиакомпания использует квантовый компьютер, который собирает данные с телефонов, умных колонок и ноутбуков пользователей в реальном времени. Ирония заключается в том, что Джоан сама дала на это согласие при регистрации на сайте, даже не заметив этого. Ведь никто не читает огромные пользовательские соглашения! Красть личные сведения необязательно, мы сами охотно предоставляем доступ к ним.
Современные произведения изображают еще один страх перед технологиями, связанный с потерей контроля. В фильме «Оно слушает» (Afraid, 2024) семья соглашается протестировать инновационного цифрового помощника AIA. Система начинает помогать членам семьи, решая за них мелкие бытовые вопросы и параллельно изучая поведение домочадцев. Очень быстро забота искусственного интеллекта становится навязчивой и даже опасной. Когда герои пытаются отключить устройство, то с ужасом осознают, что разучились принимать решения без цифровых подсказок. Технология, призванная облегчить жизнь, превращается в клетку. Взрослые и дети оказываются в ловушке, ведь AIA знает все их секреты и обладает невероятной силой.
Кино, конечно же, гиперболизирует наши страхи перед технологиями, но за каждым из перечисленных сюжетов скрываются реальные проблемы: утечки данных, кибератаки, потеря контроля над личной информацией. И самый эффективный способ перестать бояться — узнать больше о цифровых угрозах. На выставке «Ключ к доверию. Безопасность в эпоху высоких технологий» мы рассказываем о самых громких взломах и кибератаках в истории, а еще предлагаем посетителям попробовать себя в разных ролях с помощью интерактивных инсталляций: от хакера до специалиста по информационной безопасности.
Автор: Елена Климова