TabR: Unlocking the Power of Retrieval-Augmented Tabular Deep Learning (Иван Рубачёв)

Семинар научно-учебной лаборатории компании Яндекс Задачи машинного обучения на табличных данных широко распространены и важны. Мы в Yandex Research активно работаем над применением методов глубинного обучения к задачам с табличными данными. На семинаре мы расскажем о нашей новой работе (https://arxiv.org/abs/2307.14338)
в этой области. Обсудим: насколько оправданы retrieval-augmented модели на табличных данных; важные модификации механизма внимания в контексте retrieval-augmented моделей для табличных данных ведущие к новой модели - TabR; продолжение позитивного тренда для глубинного обучения на табличных данных; в частности интересные результаты на бенчмарке из недавней статьи Why do tree-based models still outperform deep learning on tabular data? (https://arxiv.org/abs/2207.08815).
Докладчик: Иван Рубачёв, младший научный сотрудник научно-учебной лаборатории компании Яндекс. Научно-учебная лаборатория компании Яндекс: https://cs.hse.ru/big-data/yandexlab/
ФКН: https://cs.hse.ru
​​ Подписывайтесь на нас в социальных сетях: 📍 https://vk.com/cshse
​​/ 📍 https://t.me/fcs_hse
📍   / cs_hse​