29 октября в Кыргызстане стартовала регистрация на онлайн-интенсив LLM Scaling Week от Школы анализа данных. В рамках воркшопов эксперты-практики Яндекс поделятся инженерными подходами к работе с большими языковыми моделями. 

LLM Scaling Week пройдет с 10 по 14 ноября в онлайн-формате. Участие бесплатное. Зарегистрироваться можно до 13 ноября на официальной странице.

 Программу интенсива разработали эксперты Яндекс. Интенсив может быть полезен студентам профильных направлений и смежных технических специальностей (учащимся на факультетах информатики и компьютерных наук, прикладной математики, робототехники и пр.), ML-инженерам и исследователям, которые хотят уйти от экспериментов на одной GPU, и опытным разработчикам, желающим узнать больше об актуальных концепциях работы с большими моделями.

 Доступ к интенсиву и видеоматериалам от экспертов получат все зарегистрированные участники. Видеотрансляции будут проходить на русском языке.

LLM Scaling Week продолжает  серию проходивших ранее интенсивов от Школы анализа данных. В этом году внимание участников будет сосредоточено на производительности и масштабировании LLM-систем: от распределенного обучения и оптимизации вычислений до ускорения инференса и устранения системных узких мест. Формат предусматривает видеопрезентации от экспертов, Q&A-сессии и финальное тестирование для получения сертификата.

 В рамках интенсива выступят ведущие специалисты направления YandexGPT –  одного из крупнейших проектов компании в области генеративных моделей:

• Михаил Хрущев, руководитель группы претрейна YandexGPT
  Тема: «Арифметика глубокого обучения»
• Александр Мазитов, руководитель команды исследования архитектуры YandexGPT
  Тема: «Mixture of Experts»
• Владислав Савинов, руководитель команды инфраструктуры обучения YandexGPT
  Тема: «Ускоряем обучение за счёт FP8 и Triton»
• Степан Каргальцев, ведущий разработчик, Яндекс
  Тема: «Коммуникации в распределённом обучении и инференсе»
• Роман Горб, руководитель команды ускорения инференса YandexGPT
  Тема: «Inference challenges».

Развитие технологий искусственного интеллекта во всем мире усиливает потребность в инженерных знаниях и обмене профессиональным опытом. LLM Scaling Week создает пространство, где инженеры и исследователи из разных стран могут познакомиться с подходами, применяемыми в проектах Яндекс, и расширить свое понимание современных ML-инфраструктур.

Маалыматты талдоо мектебинин интенсив курсуна катталуу башталды: Яндекс тилдик моделдер менен кантип иштей тургандыгын студенттер жана адистер менен бөлүшөт.

29-октябрда Кыргызстанда онлайн-интенсив LLM Scaling Week Маалыматтарды талдоо мектебинен каттоо башталды. Воркшоптордун алкагында, Яндекстин эксперт-практиктери ири тилдик моделдер менен иштөөнүн инженердик ыкмалары менен бөлүшүшөт.

LLM Scaling Week 10-ноябрдан 14-ноябрга чейин онлайн форматта өтөт. Ага катышуу акысыз. 13-ноябрга чейин расмий веб-сайттан катталууга болот.

Интенсивдин программасын Яндекстин эксперттери иштеп чыгышкан. Бул интенсив тиешелүү тармактагы жана ага байланыштуу техникалык тармактардагы студенттерге (информатика, компьютердик илим, колдонмо математика, робототехника ж.б. факультеттердин студенттери), ML инженерлерге жана GPU негизиндеги эксперименттерден оолак болууну каалаган изилдөөчүлөргө жана чоң моделдер менен иштөөнүн учурдагы концепциялары жөнүндө көбүрөөк билгиси келген тажрыйбалуу иштеп чыгуучуларга ылайыктуу.

Интенсивге жана эксперттердин видео материалдарына бардык катталган катышуучулар кире алышат. Видео берүүлөр орус тилинде өтөт.

LLM Scaling Week маалыматтарды талдоо мектебинин мурда өткөрүлгөн интенсивдүү курсунун сериясын улантып жатат. Бул жылы катышуучулардын көңүлүн бөлүштүрүлгөн окутуу жана эсептөөнү оптималдаштыруудан баштап, инференсти тездетүүгө жана системанын тоскоолдуктарын жоюуга чейин: LLM-системаларынын иштешине жана масштабына бурушат. Формат эксперттик видео презентацияларды, Q&A-сессияларды жана сертификат алуу үчүн жыйынтыктоочу тестирлөөнү камтыйт.

Интенсивдин алкагында, курста компаниянын генеративдик моделдер жаатындагы эң ири долбоорлорунун бири болгон YandexGPT компаниясынын алдыңкы эксперттери катышат:

• Михаил Хрущев, YandexGPT претрейндер тобунун жетекчиси
  Тема: «Тереңдетип окутуунун арифметикасы»
• Александр Мазитов, YandexGPT архитектурасын изилдөө тобунун жетекчиси
  Тема: «Mixture of Experts»
• Владислав Савинов, YandexGPT окутуу инфраструктурасынын тобунун жетекчиси
  Тема: «FP8 жана Triton менен окутууну тездетүү»
• Степан Каргальцев, Яндекстин жетектөөчү иштеп чыгуучусу
  Тема: «Бөлүштүрүлгөн окутууда жана инференстеги коммуникациялар»
• Роман Горб, YandexGPT инференсти тездетүү тобунун жетекчиси
  Тема: «Inference challenges».

Дүйнө жүзү боюнча жасалма интеллект технологияларынын өнүгүшү инженердик билимге жана кесиптик тажрыйба алмашууга болгон муктаждыкты күчөтүүдө. LLM Scaling Week ар кайсы өлкөлөрдөгү инженерлер жана изилдөөчүлөр Яндекс долбоорлорунда колдонулган ыкмалар жөнүндө билип, заманбап ML-инфраструктуралары жөнүндөгү түшүнүктөрүн кеңейте турган мейкиндикти түзөт.