LiteLLM — open source AI-шлюз с единым интерфейсом для вызова более 100 LLM-провайдеров, включая OpenAI, Anthropic, Gemini, Bedrock и Azure, в формате OpenAI. Его можно развернуть самостоятельно.
Шлюз с открытым исходным кодом LiteLLM, унифицирующий вызовы к более чем сотне языковых моделей, стал жертвой атаки на цепочку поставок. Хакеры TeamPCP модифицировали защитный модуль Aqua Security Trivy, который затем загрузили в LiteLLM без проверки идентификатора, получив права администратора и установив вредоносное ПО.