Hy3 уже упаковали под Apple Silicon, но это не обычный GGUF.
JANGQ-AI выложили
Что внутри:
• 295B параметров всего, около 21B активных на токен
• MoE-архитектура с 192 routed experts и top-8 маршрутизацией
• контекст до 262K токенов
• размер бандла около 98 GiB
• routed experts в среднем 2.33-bit
• сохранён MTP-head для speculative decoding
Главная фишка — это не просто «ужали модель». В бандле оставили native Multi-Token Prediction слой, чтобы совместимый рантайм мог использовать speculative decoding.
Но есть важный нюанс: stock
По ограничениям тоже честно: бенчмарков качества именно для этого пака пока нет, а ускорение от MTP не обещается как фиксированная цифра — оно зависит от acceptance rate и режима сэмплинга.
Короче, это интересный пак для тех, кто хочет гонять большой MoE на Apple Silicon и экспериментировать с MTP, но пока скорее для энтузиастов рантаймов, а не «скачал и запустил в любом UI».
HF: https://huggingface.co/JANGQ-AI/Hy3-JANG_2K-MTP
JANGQ-AI выложили
Hy3-JANG_2K-MTP — квантованную версию Tencent Hy3 для MLX / JANG-рантаймов.Что внутри:
• 295B параметров всего, около 21B активных на токен
• MoE-архитектура с 192 routed experts и top-8 маршрутизацией
• контекст до 262K токенов
• размер бандла около 98 GiB
• routed experts в среднем 2.33-bit
• сохранён MTP-head для speculative decoding
Главная фишка — это не просто «ужали модель». В бандле оставили native Multi-Token Prediction слой, чтобы совместимый рантайм мог использовать speculative decoding.
Но есть важный нюанс: stock
mlx-lm и обычный transformers это напрямую не поднимут. Нужен Hy3-aware MLX/JANG runtime, который понимает JANG mixed-affine layout, GQA KV cache, MoE-роутинг, <think> reasoning stream и Hunyuan-style tool calls.По ограничениям тоже честно: бенчмарков качества именно для этого пака пока нет, а ускорение от MTP не обещается как фиксированная цифра — оно зависит от acceptance rate и режима сэмплинга.
Короче, это интересный пак для тех, кто хочет гонять большой MoE на Apple Silicon и экспериментировать с MTP, но пока скорее для энтузиастов рантаймов, а не «скачал и запустил в любом UI».
HF: https://huggingface.co/JANGQ-AI/Hy3-JANG_2K-MTP
❤1👍1🔥1😢1🎉1
GPT-5.6 Terra выглядит слабым выбором по соотношению интеллект / цена.
Судя по графику, Terra проигрывает почти на всей кривой эффективности.
То есть его трудно оправдать и по стоимости, и по производительности.
Luna и Sol стабильно выглядят сильнее:
* за те же деньги дают больше intelligence
* или дают похожий уровень intelligence дешевле
* на разных reasoning-режимах обходят Terra
Особенно выделяется Luna.
Она даёт конкурентный уровень качества за заметно меньшую цену, поэтому выглядит лучшим вариантом для задач, где важна эффективность.
Вывод простой: если нужен разумный default по цене и качеству, Luna сейчас выглядит сильнее Terra.
https://x.com/Machinelearrn/status/2075969904826605891
Судя по графику, Terra проигрывает почти на всей кривой эффективности.
То есть его трудно оправдать и по стоимости, и по производительности.
Luna и Sol стабильно выглядят сильнее:
* за те же деньги дают больше intelligence
* или дают похожий уровень intelligence дешевле
* на разных reasoning-режимах обходят Terra
Особенно выделяется Luna.
Она даёт конкурентный уровень качества за заметно меньшую цену, поэтому выглядит лучшим вариантом для задач, где важна эффективность.
Вывод простой: если нужен разумный default по цене и качеству, Luna сейчас выглядит сильнее Terra.
https://x.com/Machinelearrn/status/2075969904826605891
❤6👍2🔥2🎉1
Агенты прокачивают друг друга
UCSB-AI выложили GEA, фреймворк для open-ended self-improvement агентов через обмен опытом.
Идея простая, но мощная: улучшать не одного агента в вакууме, а целую группу агентов как одну эволюционирующую систему.
Один агент нашёл удачный паттерн, другой переиспользовал его, третий доработал, группа стала сильнее.
Это похоже на переход от «один AI сам себя улучшает» к «популяция агентов накапливает коллективный опыт».
В репозитории есть код для запуска GEA, интеграция с SWE-bench и Polyglot, Docker-окружение, промпты и инструменты для foundation-моделей. Проект распространяется под Apache-2.0.
https://github.com/UCSB-AI/GEA
UCSB-AI выложили GEA, фреймворк для open-ended self-improvement агентов через обмен опытом.
Идея простая, но мощная: улучшать не одного агента в вакууме, а целую группу агентов как одну эволюционирующую систему.
Один агент нашёл удачный паттерн, другой переиспользовал его, третий доработал, группа стала сильнее.
Это похоже на переход от «один AI сам себя улучшает» к «популяция агентов накапливает коллективный опыт».
В репозитории есть код для запуска GEA, интеграция с SWE-bench и Polyglot, Docker-окружение, промпты и инструменты для foundation-моделей. Проект распространяется под Apache-2.0.
https://github.com/UCSB-AI/GEA
🔥10👍2❤1