60 просмотров

Студенты ФИТЭ прошли интенсив Студкемпа Яндекса по математике в ИИ

Опубликовано sarfti

На X Студкемпе Яндекса по математике в ИИ, который проходил с 10 по 21 ноября в Санкт-Петербурге на базе Санкт-Петербургского государственного университета (СПбГУ), студенты факультета информационных технологий и электроники (ФИТЭ) СарФТИ НИЯУ МИФИ учились понимать математические модели, которые лежат в основе ИИ, а также проектировать новые.

Второкурсники Макар Колпаков (гр. ВТ-24) и Иван Фоломкин (гр. ИТ-24) прошли отбор, преодолев конкурс среди пяти тысяч претендентов на обучение, были приглашены к участию в Студкемпе от Яндекс Образования по математике в ИИ.

Первая неделя программы была посвящена теории — введению в случайные процессы и байесовские методы, методы эвристической оптимизации и не только. Со второй недели участники начали работать над командными проектами. Последние дни интенсива организаторы посвятили мастер-классам по презентации результатов исследований.

Ребята рассказали о своих первых впечатлениях:

— Мы успешно прошли конкурс на Студенческий кемп Яндекс Образования по направлению «Математика в ИИ», куда со всей России отбирали всего 100 человек из более чем 5 000 претендентов. Первым этапом было решение Яндекс Контекста, состоявшего из шести заданий: двух по математике и четырёх на алгоритмы, и нам удалось решить их все на максимальный балл. На следующем этапе, собеседовании, мы также успешно справились с поставленными задачами. Мероприятие проходит на базе СПбГУ и Школы анализа данных (ШАД) Яндекса, а преподают здесь молодые учёные из лаборатории Маркова, которые параллельно являются сотрудниками Яндекса. Программа кемпа разделена на две части: первая неделя посвящена интенсивному обучению, а вторая — созданию и защите проектов. В рамках занятий мы уже погружаемся в такие актуальные темы как использование LLM для ресёрча, байесовский анализ данных, цепи Маркова, ветвящиеся процессы, работа с PyMC, случайные графы: методы построения и свойства, переход от классических SSM к архитектуре Mamba, инфраструктура для LLM, диффузионные модели и ТВА. На следующей неделе будем защищать проект!

Ребята высоко оценивают эффективность системы занятий от экспертов Яндекса и интереснейшие задачи, сплоченность команды, в составе которой они выступали и смогли показать высокий результат, и благодарят своих преподавателей с кафедры высшей математики СарФТИ за прочный фундамент знаний, постороенный благодаря их урокам. Итак, наступила третья неделя занятий — подготовка к защите проектов:

— Тема нашего проекта — «Иерархическое рассуждение рекурсивных моделей с Mamba». Перед нами стояла интересная задача: исследовать, как будет работать Transformer модель (TRM), если вместо слоя внимания (attention) добавить архитектуру Mamba. Тема оказалась действительно масштабной, и ее проработка потребовала очень много времени. Несколько дней ушло только на разбор теории, затем последовали реализация и обучение модели. На защите мы выступили отлично, и наша команда чувствовала себя по-настоящему сильной. Этого бы не случилось без слаженного взаимодействия команды и полного понимания задачи. Отдельная наша благодарность менторам, которые нам очень помогали. Эта образовательная программа действительно классная, она дала нам уникальный и неповторимый опыт работы над реальными задачами на стыке исследования и прикладной математики. Большое спасибо Марии Ивановне Коньковой и Надежде Викторовне Прокофьевой за ту прочную базу, которая позволила нам пройти через отбор на участие в этом студенческом кемпе и успешно проявить себя в нём!

Организаторами образовательного мероприятия выступают АНО ДПО «Образовательные технологии Яндекса» и ООО «Яндекс» при поддержке СПбГУ.

Благодарим Макара Колпакова и Ивана Фоломкина за предоставленные содержательные отчеты и фотографии! Всегда рады за наших студентов, которые находят возможность так продуктивно и с большой пользой представлять себя и свой вуз на всероссийском уровне!