Задолбали разные API у GPT, Claude и Ollama? Вот решение
Сейчас расскажу, как с помощью LiteLLM можно создать универсальный API для всех языковых моделей — GPT-4, Claude, Mistral, Ollama и других. У тебя будет один endpoint и множество провайдеров поддержка function calling, логов, rate limits, fallback все настройки через привычный yaml подойдет как для pet-проектов так и для продакшена Это must-have инструмент, если ты работаешь с LLM и не хочешь зависеть от одного поставщика. Ссылка на сайт — https://www.litellm.ai
Ссылка на гит — https://github.com/BerriAI/litellm
Поставь лайк, пиши вопросы в комментариях — поддержи меня! ----------------------------------------------- 👨🏫 Более 15 лет я работаю в айти, из них около 10 занимаюсь преподаванием, научил массу людей — научу и тебя! Хочешь научится программировать как боженька, получить работу мечты и зарабатывать много $$$, консультация БЕСПЛАТНО. ➕ в Директ за консультацией Мой Instagram / burm.alex p.s. можно также писать в телеграм, https://t.me/AlexBurm