Функция Softmax подробно объяснена с помощью 3D-визуализации
Функция softmax часто используется в машинном обучении для преобразования выходных данных последнего слоя нейронной сети (логитов) в вероятности. В этом видео я объясняю, как работает функция softmax, и даю некоторые практические рекомендации по её использованию в более многомерных моделях. Помимо использования функции softmax для классификации, она также используется в моделях, использующих внимание, например, в моделях-трансформерах. Функция softmax очень похожа на сигмоиду, за исключением того, что она обобщена для более многомерных моделей. Если вам также интересно узнать больше о сигмоиде, посмотрите моё предыдущее видео о ней, ссылка на которое приведена ниже. Моё предыдущее видео: «Почему мы используем сигмовидную функцию в нейронных сетях для бинарной классификации»: 📼 • Why Do We Use the Sigmoid Function for Bin... Моё другое видео: «Наглядное объяснение производной сигмоиды и функции Softmax»: 📼 • Derivative of Sigmoid and Softmax Explaine... Код на GitHub для визуализации изменения значений логарифма, передаваемых в функцию Softmax, со временем в процессе обучения модели с помощью стохастического градиентного спуска (SGD) или оптимизатора Adam: 💻 https://github.com/elliotwaite/softma...
Двумерный график функции Softmax в Desmos для 4 классов: 📈 https://www.desmos.com/calculator/drq...
Трёхмерный график функции Softmax в GeoGebra для 2 классов (с производными и гауссианами): 📈 https://www.geogebra.org/classic/qhdd...
Трёхмерный график softmax для 3 классов (с производными) в GeoGebra: 📈 https://www.geogebra.org/classic/ps9g...
Трёхмерный график softmax с гауссианами для 3 классов в GeoGebra: 📈 https://www.geogebra.org/classic/vgwa...
Трёхмерный график формы входного пространства softmax для 4 и 5 классов в GeoGebra: 📈 https://www.geogebra.org/classic/emjn...
Присоединяйтесь к нашему сообществу в Discord: 💬 / discord Свяжитесь со мной: 🐦 Twitter: / elliotwaite 📷 Instagram: / elliotwaite 👱 Facebook - / elliotwaite 💼 LinkedIn - / elliotwaite 🎵 Kazukii - Return → / ohthatkazuki → https://open.spotify.com/artist/5d07M...
→ / officialkazuki
