Условная энтропия и взаимная информация

Поддержать канал донатом: https://www.donationalerts.com/r/matt...
https://yoomoney.ru/to/410011342416371
Всем привет. Сегодня продолжаем серию выпусков по теории информации. На этот раз рассмотрим такие понятия как условная энтропия и взаимная информация. Это небольшое, но очень важное дополнение к математическим концепциям, которые объяснялись в прошлых четырёх выпусках. Ключевые слова: условная энтропия, взаимная информация, теория информации, теория вероятностей, математика, функция потерь, машинное обучение, искусственный интеллект, conditional entropy, mutual information