Трансформер, часть 1. Лекция 4 по NLP

Главная нейронная сеть в мире искусственного интеллекта – Transformer. Разбираем основные строительные блоки. В следующей лекции соберем их в единую архитектуру. 00:00 Вступление 1:00 Transformer! 01:17 Архитектура Transformer: компоненты 02:54 Метод нормализации в Transformer: Layer Normalization 06:45 Блок Scaled Dot-Product Attention 21:44 Блок Multi-Head Attention 37:10 Feed-Forward Layer Евгений Разинков -- к.ф.-м.н., руководитель отдела машинного обучения и компьютерного зрения Группы компаний FIX, преподаватель Казанского федерального университета, кофаундер и директор по науке компании Pr3vision Technologies, CEO парфюмерного AI-проекта http://scented.ai
Информация о лекциях: http://razinkov.ai
Телеграм-канал с анонсами лекций и материалами по машинному обучению: https://t.me/razinkov_ai