«ИИ-контент не должен превращаться в «слоп». Анна Титовец — о культе нейросетей, длинных тире и дружбе с чатом-GPT

Было время, когда казалось, что цифровой мир существует отдельно от реальности. Сегодня эта граница почти исчезла. Мы работаем, дружим, творим, распоряжаемся деньгами и храним секреты в пространстве, которое невозможно потрогать, — однако последствия наших действий там вполне реальны.

Основная экспозиция Музея криптографии рассказывает о том, как человечество на протяжении тысячелетий училось хранить тайны, защищать информацию и выстраивать доверие. Автор этой концепции — куратор музея и медиахудожница Анна Титовец. В дни открытия выставки «Ключ к доверию. Безопасность в эпоху высоких технологий» мы поговорили с Анной об уязвимости человека в цифровой среде, массовом использовании нейросетей и новой интернет-этике. А еще обсудили, как диалог искусства и технологий помогает нам заново осмыслить мир, меняющийся почти неуловимо быстро.

МК: На днях в Музее криптографии открылась новая выставка, посвященная отношениям человека с новыми технологиями. Музей не впервые касается этой темы: в основной экспозиции целый зал рассказывает о цифровой эпохе и хакерстве — контент остается актуальным уже пять лет. В чем секрет этого феномена?

А.Т.: Действительно, сейчас технологии и гаджеты меняются со стремительной скоростью. Но есть важный нюанс: любые технологии создаются людьми и для людей. Именно поэтому логика остается прежней даже при их быстрой смене. Американский криптограф и специалист по информационной безопасности Брюс Шнайер как-то сказал: «Безопасность — это процесс, а не продукт».

Зал «Криптография в цифровую эпоху» рассказывает не о «последнем самом крутом гаджете» и не просто об истории, а о логике процессов, самой идее безопасности и принципах шифрования, которые пока что в своей сути не поменялись. Кроме того, этот и другие залы делает актуальными сам подход к подаче информации — мы всегда отталкиваемся от повседневной жизни и интересов обычных людей.

Музейная экспозиция, построенная вокруг этих принципов, способна оставаться актуальной годами. Но и даже если посмотреть на конкретные примеры стандартов шифрования — многие удивятся, что, например, алгоритм AES, который представлен у нас в экспозиции, был введен в упортребление еще в 2001 году, до сих пор остается одним из самых распространенных в мире и повсеместно используется практически в любой цифровой коммуникации.

МК: Новая выставка рассказывает о современных реалиях, в которых простые пользователи и целые корпорации могут стать жертвами киберпреступлений. Насколько, по вашему мнению, развитие ИИ-технологий повлияло на деятельность хакеров?

А.Т.: Должна признать, что я не супер специалист в нюансах современной кибербезопасности, в разрезе изменений, связанных с повсеместным внедрением нейросетей. Когда мы готовили основную экспозицию музея, ИИ был совсем другим и о нем не говорили почти совсем. Но очевидно, что с появлением таких пользовательских ИИ-инструментов, как ChatGPT, Claude или Codex, киберпреступники получили гораздо более расширенные возможности.

Теперь злоумышленники могут написать вредоносную программу или разработать атаку с помощью довольно простых текстовых запросов, то есть промптов. Для этого больше не нужно годами учиться кодингу или по кусочкам собирать информацию.

Не говоря уже о простоте создания дипфейков, просто фейков и многого другого. Впрочем, и инструменты кибербеза тоже расширились симметричным образом.

МК: На днях на моих глазах развернулся бурный спор: один человек был уверен, что ИИ — автономная система, способная сознательно принимать решения. Его оппонент тем временем доказывал, что нейросети — просто инструмент в руках человека. Анна, чью сторону вы бы выбрали?

А.Т.: Строго говоря, то, что вы описываете, — это существующая и пока что скорее утопическая теория о так называемом общем искусственном интеллекте (AGI). Это и страшилка, и одновременно «сладкая греза» ученых, работающих с ИИ-системами. Несмотря на действительно впечатляющие успехи, пока что такая идея остается лишь теорией.

МК: Сейчас нейросети, роботов, даже бытовую технику пытаются все больше очеловечить. Ты начинаешь доверять «умным» технологиям свои секреты, в гневе срываешься на голосового помощника и смеешься над его ответами. Есть ли, по-вашему, в этом что-то жуткое, неестественное?

А.Т.: «Я тут обсудила с ChatGPT, и вот что он мне сказал» — мои друзья теперь довольно часто так говорят. ИИ-чат-боты стали собеседниками, психологами, партнерами — кем угодно. Это правда. Антропоморфизация — а это научное название очеловечивания технологий — совершенно естественная история для людей, и так происходило с самого начала появления технологий, которые взаимодействуют с человеком и чат-ботов. Ну ведь иначе нам будет странно, непонятно и страшно. Но одновременно встает вопрос о доверии. Ведь таким образом машины действительно очень легко втираются к нам в доверие, и если чересчур забыться, то здесь открывается немного зловещее окно возможностей.

МК: Кстати, о секретах. Распространенная сейчас ситуация: человек разоткровенничается с ChatGPT, вывернет душу наизнанку, а потом начинает переживать, что его тайны куда-то сольют. У вас или ваших друзей бывало такое?

А.Т.: Я думаю, такие опасения вполне естественны и, конечно, возникают у многих.

Как говорил один знакомый из кибербеза: «Все, что попало в интернет, вам уже не принадлежит». Это немного утрированно, но доля правды тут, естественно, есть.

МК: А как вы относитесь к «бытовому» ИИ-контенту? Сегодня люди не только советуются с нейросетями, но и пишут с их помощью «трогательные» тексты, составляют деловые письма. Как найти здесь границу этики?

А.Т.: А вы использовали ИИ для написания этих вопросов? :) Я не вижу ничего плохого в использовании ИИ-помощников для решения самых разнообразных повседневных задач. И тут вопрос, вероятно, даже не в этике, а в том, насколько быстро и эффективно человек научится работать с нейросетями, чтобы результат не превращался в «слоп» (слово года по версии американского словаря Merriam-Webster, означающее низкокачественный цифровой контент, по сути — ИИ-помои). Лично меня, когда я вижу те самые длинные тире и определенный, неприкрыто узнаваемый «иишный» дух текстов или визуала, это, конечно, скорее раздражает.

МК: Похожая ситуация с видео и фото. Порой листаешь соцсети и уже плохо понимаешь, где фейк, а где «человеческий» контент. Случалось вам поверить, например, какому-то дипфейку?

А.Т.: Уверена, что да. Даже сама того не зная. Технологии дипфейков, особенно в умелых руках, когда авторы не забывают подчищать «иишные» артефакты или создавать фейковые метаданные, уже сейчас почти совершенны.

МК: Как бы хорошо технологии ни изображали живой мир и ни притворялись человеком, одна из их сильнейших сторон — сухость и объективность. Помните серию «Черного зеркала», где у людей в смартфонах было приложение-рейтинг, которое их оценивало? В зависимости от цифры в этом рейтинге человек имел доступ к местам для развлечений и работы, к определенному виду транспорта, даже к общению с теми или иными людьми. Думаете, мы тоже однажды перейдем к такой системе? Может, мы уже в ней?

А.Т.: Вообще говоря, рейтинговая система уже много лет негласно управляет нашей жизнью. Ваш рейтинг в такси, кредитная история, профессиональная репутация, черные списки, которые составляют государство или профсообщества, — все это, конечно, не так тотально, как в «Черном зеркале», но косвенно подобные системы оценок по разным шкалам давно стали нашей повседневностью.

Алгоритмическая система оценки социальной эффективности, кстати говоря, уже введена в некоторых регионах Китая. Это, правда, все еще не единая централизованная система рейтинга (пока что), но людей там уже оценили по 389 правилам и распределили по уровням от AAA до D.

МК: Кажется, единственное, что может противостоять этой объективизации, — искусство, доступное каждому вне зависимости от статуса и направленное в самое сердце зрителя или слушателя. Как, по вашему мнению, ИИ повлиял на то самое «человеческое» в идее и функции искусства?

А.Т.: Мне кажется, технологии генеративного ИИ как раз максимально подсветили «человеческое» и проблематизировали само понятие: а где и что, вообще говоря, представляет собой человек, и что считать его творческой идеей, уникальным способом мышления?

МК: В мае в Музее криптографии прошла медиалаборатория, посвященная детскому видению будущего. На встрече многие ребята признались, что боятся исчезновения живого общения, и предложили людям меньше пользоваться гаджетами. Что вы думаете о таком предложении?

А.Т.: Это очень любопытный результат лаборатории. Интересно, при этом, не взрослые ли сами повлияли на картину мира детей и передали им свою усталость и тревогу от использования гаджетов?

Я плохо отношусь к любым манифестам в духе «давайте что-нибудь ограничим ради общего блага», если речь не идет о каких-то патологических процессах и зависимостях.

Мне кажется, гораздо важнее не насильно что-то ограничивать, запрещать и прятать, а учить людей — и особенно детей — самостоятельно критически мыслить, уметь фокусироваться на важном, расставлять приоритеты и чувствовать структуру своей жизни.

МК: В качестве финального аккорда представим ситуацию: через сотни лет историки изучают быт человека первой половины XXI века. Что покажется им самым странным в наших убеждениях и страхах?

А.Т.: Наверное, суеверие, что если черная кошка перебежит дорогу, то обязательно случится что-то плохое. :)

Беседовала: Полина Улискина