🧠 Mastra — фреймворк на TypeScript для создания AI-агентов

⚡ Ассистенты, RAG, наблюдаемость, интеграции

📌 Что умеет Mastra (1.9K⭐ на GitHub):

🔗 Унифицированный интерфейс для LLM
— Поддержка OpenAI, Anthropic, Gemini и других через Vercel AI SDK
— Потоковые ответы, переключение моделей без боли

🛠 Агенты с действиями и инструментами
— LLM сам выбирает действия
— Доступ к функциям, внешним API, инструментам, базе знаний
— Работа с типизированными функциями (Tools), валидация аргументов

🔄 Сценарии и графы (Workflows)
— Состояния, циклы, ветвления, ожидание человека
— Обработка ошибок, повторы, вложенные сценарии
— Визуальный редактор + поддержка кода
— Встроенный OpenTelemetry для трейсинга

📚 RAG-пайплайны
— Создание базы знаний: чанкинг, эмбеддинги, векторный поиск

🔌 Интеграции с внешними сервисами
— Автоматическая генерация типизированных API-клиентов
— Можно использовать как инструменты или шаги в сценариях

🧪 Оценка (Evals) LLM-ответов
— Поддержка: модельная, по правилам, статистическая
— Баллы от 0 до 1, с возможностью кастомных промптов и логики

🔧 GitHub

#TypeScript #AIagents #RAG #OpenAI #Gemini #Mastra #DevTools

Держать 16 разных API-ключей только ради тестов разных LLM - то ещё удовольствие.

freellmapi решает это проще: один OpenAI-compatible endpoint для бесплатных tier’ов от Google, Groq, Cerebras, NVIDIA и ещё 14 провайдеров.

Что внутри:

* около 1.7B токенов в месяц суммарно
* роутер выбирает лучшую модель под запрос
* при rate limit автоматически переключается на другого провайдера
* ключи хранятся в зашифрованном виде
* интерфейс совместим с OpenAI API

По сути, это единая точка входа для экспериментов с разными LLM без ручного жонглирования ключами и лимитами.

15.9K звёзд на GitHub, а я почему-то наткнулся только вчера.

https://github.com/tashfeenahmed/freellmapi

⭐ 15.9K

#OpenSource #DevTools