Клуб «Секреты стаи слонов»

Новый разговорный клуб Музея криптографии приглашает специалистов научно-технических и инженерных профессий, предпринимателей в сфере технологий и технологических энтузиастов на утренние семинары выходного дня, организованные «Слономойкой» — сообществом людей, которые развивают передовые технологии для России, руководствуясь принципами экологичных отношений.

Ведущая клуба — Алиса Фадеева, лидер сообщества «Слономойка», международный IT-рекрутер, автор канала «Мы вам перезвоним».

Расписание встреч:

19 января, 12:00

Открытый подкаст: «Выгорание в IT: технологии и методики, которые нас разрушают и как с ними бороться. Удаленка или гибрид, а что выберете вы и почему?»

На встрече вместе с экспертами обсудим, что такое выгорание и почему чаще всего от него страдают специалисты сферы IT, поговорим о влиянии личных особенностей, рабочих условий и цифровой культуры на психоэмоциональное состояние сотрудников. Разберемся, как удаленная работа и высокая неопределенность могут привести к эмоциональному истощению, а также поделимся практическими советами по профилактике выгорания, созданию здорового рабочего пространства и важности социальной активности для поддержания психоэмоционального баланса.

Спикер:
Саша Русанова, руководитель проектов крупного банка, ex head of community в ИТ, автор канала https://t.me/kruasanova_as и подкасты про пересечение технологий, профессий и реальной жизни.

Приглашенный эксперт:
Димар Кабикеев, практикующий психолог, специалист коррекции тревожных и депрессивных расстройств, магистр факультета клинической психологии Российского национального исследовательского медицинского университета имени им. Н. И. Пирогова.

26 января, 12:00

Мастер-класс «В чем заключается искусство публичных выступлений?»

На мастер-классе вместе с экспертом рассмотрим главные аспекты публичных выступлений:

Тщательная подготовка: как сформулировать тему и ключевые идеи выступления, чтобы оно было успешным.

Четкая структура: как его структурировать, чтобы донести информацию эффективно.

Коммуникация с аудиторией: как взаимодействовать с публикой, учитывая ее настроение и реакцию.

А также наметим основные тренды:

Использование технологий: виртуальные выступления, которые становятся все более популярными, требуют от ораторов новых навыков.

Эмоциональное воздействие: умение вызывать эмоции у слушателей — важный элемент успешного выступления.

Приглашенный эксперт:

Мия Зарринг, основательница и преподаватель школы техники речи, имеет более чем 22-летний опыт публичных выступлений, в том числе на больших площадках, таких как стадион «Спартак» и ледовая арена «Динамо», международный DJ, продюсер, актриса, телеведущая (НТВ, Россия-1)

Прошедшие встречи:

15 декабря, 12:00

Открытый подкаст: «Препарирование ИИ: как интерпретировать модели и зачем это для безопасности»

Современные системы искусственного интеллекта часто работают как «черные ящики», что затрудняет понимание их решений и создает риски — от генерации некорректных рекомендаций до утечек данных и манипуляций. На встрече вместе с экспертами поговорим о том, как методы объяснимого ИИ (Explainable AI, XAI) помогают раскрыть внутренние механизмы моделей машинного обучения, таких как большие языковые модели (LLM). Обсудим, как интерпретация помогает управлять поведением моделей, выявлять уязвимости и повышать безопасность.

Почему это важно?
Интерпретация моделей становится критически важной частью кибербезопасности. Она позволяет выявлять предвзятость, предотвращать jailbreak-атаки и управлять знаниями моделей (особенно в корпоративной и государственной среде).

Что нового нашли исследователи?
Исследования Anthropic показали, что нейроны LLM могут быть полисемантичными, но группируются в фичи — структуры, отвечающие за конкретные знания и поведение. Некоторые из этих фичей связаны с безопасностью, включая манипуляции, подхалимство и генерацию небезопасного кода.

Какие возможности открываются?
Управление фичами моделей через технологии, такие как LASER и activation steering, позволяет корректировать их поведение, бороться с утечками данных и снижать риски в чувствительных задачах.

Практическая безопасность.
Управление активациями может предотвратить утечки информации, даже если модель обучена на конфиденциальных данных. Управление активациями моделей также помогает минимизировать последствия inference-атак, при которых злоумышленник может извлечь конфиденциальную информацию, используя доступ к модели. Например, удаляя из модели знания о чувствительных данных или ограничивая генерацию числовых и именных сущностей, можно снизить риски утечки.

Встреча будет полезна исследователям, инженерам по информационной безопасности, дата-саентистам и всем, кто интересуется развитием Explainable AI и безопасностью AI-систем.

Ведущий:

Борис Захир, эксперт по безопасности моделей машинного

обучения и их применению в сфере информационной безопасности, аспирант МГТУ им. Н. Э. Баумана

8 декабря, 12:00

Открытый подкаст: «Безопасность LLM: prompt-атаки и защита от них»

На встрече вместе с экспертами обсудим, что такое prompt-атаки и как злоумышленники конструируют вредоносные запросы, поговорим о prompt-инъекциях и джейлбрейках LLM — специфических типах кибератак, при которых злоумышленники вводят вредоносные инструкции в запросы к LLM, а также об уязвимостях архитектуры LLM, позволяющих реализовать эти атаки. Рассмотрим примеры успешных атак и разберемся, почему они работают, к чему могут привести и какие существуют методы защиты.

Риски и последствия:

Риск небезопасной интеграции с RAG

Риск компрометации цепочки поставок

Риск извлечения данных обучения

Риск использования отравленных данных

Риск неточной и смещенной генерации

Риск неконтролируемого потребления ресурсов моделью

Риск чрезмерной автономомии агентов

И другие

Методы защиты:

Мониторинг и фильтрация аномалий: постоянный мониторинг входных и выходных данных LLM для выявления необычных зависимостей, использование эвристик (как rebuff) и моделей-фильтров (как llama guard)

Контроль доступа: ограничение возможности агентных LLM и RAG по доступу к конфиденциальным данным и операциям

Safety pretrain и finetune: выравнивание моделей на этапе обучения и внедрение в них защитных механизмов по реагированию на опасные запросы

Red Teaming: регулярное тестирование моделей на компрометацию джейлбрейками

Интерпретация поведения моделей и управление их знаниями для предотвращения утечек конфиденциальной информации и их нежелательного поведения

Ведущий:

Борис Захир, эксперт по безопасности моделей машинного обучения и их применению в сфере информационной безопасности, аспирант МГТУ им. Н. Э. Баумана

24 ноября, 12:00

Открытый подкаст: «Природа небезопасности машинного обучения (ML): скрытая угроза»

На встрече вместе с экспертами поговорим об уязвимостях ML-моделей, о различных типах атак, эффективных стратегиях защиты ML-моделей и их применении в реальных сценариях, о том, появятся ли в сфере кибербезопасности новые профессии, связанные с искусственным интеллектом, а также обсудим, существует ли риск для российских организаций, использующих ML.

Ведущий:

Борис Захир, эксперт по безопасности моделей машинного обучения и их применению в сфере информационной безопасности, аспирант МГТУ им. Н. Э. Баумана

17 ноября, 12:00

Открытый подкаст: «Апгрейд: искусственный интеллект организаций»

Прогресс в области больших языковых моделей (LLM) движется семимильными шагами. Сегодня технология стала уже достаточно устойчивой и активно внедряется в рабочую среду. Крупный бизнес и корпорации находят отличное применение LLM для решения собственных задач. 

На встрече вместе с экспертами поговорим, зачем нужны on-premise LLM, в чем их особенность и какие вызовы стоят перед командой внедрения. Разберем ключевые технологии, которые позволяют строить свои решения на основе open-source. А также обсудим перспективы внедрения AI в крупных организациях и узнаем, через сколько лет эксперты ожидают увидеть появление компаний, которыми полностью управляет ИИ.

Ведущий:

Артур Самигуллин, руководитель команды аналитики ML моделей в отделе R&D 

Приглашенные эксперты:

Ярослав Шуваев, основатель компании по внедрению AI для организаций и академии по разработке цифровых продуктов, автор телеграм-канала https://t.me/yaroslav_shuvaev, 20+ лет опыта в цифровой разработке, 10+ лет опыта внедрения и запуска инновационных цифровых продуктов в корпорациях

Лола Александрова, CEO проекта по популяризации и внедрению ИИ, разработала и запустила линейку продуктов на базе LLM в крупнейшем российском IT-холдинге, преподаватель, консультант, ментор, автор канала https://t.me/ai_nomica

10 ноября, 12:00

Открытый подкаст: «Жить с роботом или/и с котиком: правовые особенности и риски для жизни человека. Темная сторона робототехники»

На встрече вместе с экспертами обсудим, как сбои в работе роботов могут повлиять на безопасность простых людей, что надо сделать, чтобы предотвратить кибератаки на системы управления роботами и защитить пользователей от последствий ошибок автоматизированных систем, а также поговорим о правовой и цифровой гигиене и разберемся, как защитить себя в условиях растущей автоматизации и цифровизации.

Эксперт: 

Ярослав Свиридов, эксперт в области цифрового права 

Секретный эксперт:

Филипп Гостев, эксперт в области мобильной робототехники

20 октября, 12:00

Амбиции: мечты или реальность ХХI века?

На встрече поможем инженерам и техническим специалистам разобраться, каковы их амбиции, и через развитие мягких навыков прийти к реализации собственного потенциала.

Обсудим, как приобрести такие мягкие навыки, как способность к актуализации, критическое мышление, рефлексия и смена фокусов, которые так нужны для реализации личной стратегии. А также поговорим о том, как применить

полученные знания в своей жизни уже завтра. Каждый сможет поделиться одним шагом для реализации своих амбиций, который он намерен предпринять после дискуссии.

Эксперт:

Александр Захаров, лидер группы разработки сверхвысоконагруженного сервиса, ИТ-менеджер с 20+ летним опытом, квалифицированный магистр MBA по профилю менеджмент в IT

Секретный эксперт:

Анастасия Быкова, Scrum-мастер и DevRel, автор канала «IT’s soft skills. За пределами кода»

13 октября, 12:00

Экологическая сессия. Проблемы загрязнения и антропогенные воздействия на озера — миф или реальность? Как может быть использована технология блокчейн для создания прозрачных систем управления водными ресурсами?

Обсудим актуальность проблемы загрязнения озер. Как антропогенные воздействия на водоемы влияют на экосистемы, биоразнообразие и местные сообщества? Какие социально-экономические последствия могут возникнуть в результате исчезновения озер? Поговорим о роли технологии блокчейн в создании прозрачных систем управления водными ресурсами и расскажем, как с помощью смарт-контрактов можно автоматизировать распределение воды, отслеживать ее использование и предотвращать перерасход.

Эксперт:

Петр Колосов, эксперт Всероссийского общества охрана природы, руководитель международных экологических проектов

Секретный эксперт:

Дмитрий Кузьмин, архитектор систем информационной безопасности, блокчейн-эксперт

22 сентября, 12:00

Мастер-класс по взлому умной колонки от экспертов сообщества «Слономойка» 

Мастер-класс — это интерактивный формат, направленный на глубокое изучение определенной темы, развитие навыков и обмен опытом. 👨‍🏫 Участники активно вовлечены в процесс обучения: дискутируют, выполняют практические задания, работают в группах. 

Мастер-класс идеально подходит для:

• Повышения квалификации: обучение новым технологиям, инструментам, подходам.
• Генерации идей и поиска решений: совместная работа над кейсами, мозговые штурмы.
• Обмена опытом и лучшими практиками: создание платформы для обмена знаниями внутри компании или отрасли.

Это практическое занятие отлично подойдет студентам, которые всегда хотели почувствовать себя реальными хакерами. А какими — это уже вам решать. 

Главная задача мастер-класса — рассказать о том, что такое состязательные атаки на ИИ, и практически, в режиме реального времени, рассмотреть некоторые из примеров атак на умной колонке, оценить их успешность и применимость.

На занятии планируем рассмотреть следующие методы audio-adversarial:

Для участия необходимо:

Ноутбук с GPU, python интерпретатором, IDE (vscode or other)

Ведущие:

Борис Захир, эксперт в безопасности моделей машинного обучения и их применения в ИБ, аспирант МГТУ им. Н. Э. Баумана

Артем Семенов, эксперт по безопасной разработке приложений, делает процесс разработки машинного обучения безопасным.

15 сентября, 12:00

Раздвигая границы возможного: исследования и перспективная разработка в машинном обучении

С появлением технологий у человечества началась технологическая гонка: кто создаст и внедрит более совершенную технологию — тот получит конкурентное преимущество. В современной индустрии выделяют специальную область перспективных разработок и трансфера технологий — Research and Development, R&D.

У R&D-команд — особая специфика, которая состоит из высокого уровня неопределенности, — нельзя точно спланировать, что тот или иной эксперимент даст нужный результат к определенному сроку, а гарантирующая нужный результат исследовательская статья, опубликованная в научном журнале, на 100% воспроизводима.

На встрече расскажем, как происходит работа ML исследователей в R&D-командах, чем она отличается от обычной работы дата-саентистов, обсудим какие есть трудности и как с ними справляться.

Встреча отлично подойдет интересующимся машинным обучением и искусственным интеллектом, а также специалистам ML любого уровня. Особо актуальна будет тем, кто работает или рассматривает для своей карьеры переход в область исследований и перспективных разработок.

Ведущий:

Артур Самигуллин, руководитель команды аналитики ML моделей в отделе R&D.

Приглашенный эксперт:

Дмитрий Валетов, инженер машинного обучения и преподаватель Института компьютерных наук и математического моделирования.

Секретный эксперт

08 сентября, 12:00

Личная стратегия для наращивания и реализации своего потенциала

Остается три месяца для исполнения целей, которые мы себе ставили на 2024 год. Поэтому мы в сообществе «Слономойка» считаем, что важно и полезно встретиться и обсудить личную стратегию.

Личная стратегия — это описание целевого состояния человека и способов его достижения, последовательности действий и необходимых для этого ресурсов. 

Мы поговорим о своих подходах к работе с личной стратегией. А дальнейшее обсуждение в сообществе поможет структурировать действия и отыскать необходимые ресурсы для реализации личных целей участников.

Встреча будет полезна всем — специалистам, предпринимателям и студентам, особенно тем, кто заинтересован в личностном развитии и росте своего потенциала. Присоединяйтесь, чтобы влиться в среду единомышленников для наращивания и реализации своего потенциала. 

Ведущий:

Артур Самигуллин, руководитель команды аналитики ML моделей в отделе R&D 

Приглашенный эксперт:

Павел Шершнев, CEO IT-компании (получили статус МТК недавно), занимается цифровизацией недвижимости, в том числе интерактивной навигаций

Секретный эксперт