WebLLM: Как сделать AI чат-бот в браузере за 15 минут [Frontend]

В этом видео мы создаем полноценный AI чат-бота с WebLLM прямо в браузере! Без серверов, без отправки данных на сервера - только локальная нейросеть на вашем компьютере при помощи ReactJS и TypeScript. 💥Исходный код + важная информация по настройке - https://t.me/xlok1e/44
📖 Документация WebLLM: https://webllm.mlc.ai/docs/
💻Список доступных моделей: https://mlc.ai/models
00:00 - Приветствие 00:39 - Введение в WebLLM, WebGPU и WebAssembly 01:20 - Преимущества локального подхода 02:03 - Разница между локальным и серверным подходом 03:05 - Подготовка UI чат-бота 04:17 - Написание логики работы с моделью, ее настройка 09:00 - Написание логики взаимодействия с моделью для получения ответов 15:20 - Результат, общение с моделью 16:03 - Количество затраченных токенов 16:16 - Заключение