Python/ django
59.4K subscribers
2.48K photos
192 videos
48 files
3.21K links
по всем вопросам @haarrp

@itchannels_telegram - 🔥 все ит каналы

@ai_machinelearning_big_data -ML

@ArtificialIntelligencedl -AI

@datascienceiot - 📚

@pythonlbooks

РКН: clck.ru/3FmxmM
Download Telegram
Hy3 уже упаковали под Apple Silicon, но это не обычный GGUF.

JANGQ-AI выложили Hy3-JANG_2K-MTP — квантованную версию Tencent Hy3 для MLX / JANG-рантаймов.

Что внутри:

• 295B параметров всего, около 21B активных на токен

• MoE-архитектура с 192 routed experts и top-8 маршрутизацией

• контекст до 262K токенов

• размер бандла около 98 GiB

• routed experts в среднем 2.33-bit

• сохранён MTP-head для speculative decoding

Главная фишка — это не просто «ужали модель». В бандле оставили native Multi-Token Prediction слой, чтобы совместимый рантайм мог использовать speculative decoding.

Но есть важный нюанс: stock mlx-lm и обычный transformers это напрямую не поднимут. Нужен Hy3-aware MLX/JANG runtime, который понимает JANG mixed-affine layout, GQA KV cache, MoE-роутинг, <think> reasoning stream и Hunyuan-style tool calls.

По ограничениям тоже честно: бенчмарков качества именно для этого пака пока нет, а ускорение от MTP не обещается как фиксированная цифра — оно зависит от acceptance rate и режима сэмплинга.

Короче, это интересный пак для тех, кто хочет гонять большой MoE на Apple Silicon и экспериментировать с MTP, но пока скорее для энтузиастов рантаймов, а не «скачал и запустил в любом UI».

HF: https://huggingface.co/JANGQ-AI/Hy3-JANG_2K-MTP
1👍1🔥1😢1🎉1
GPT-5.6 Terra выглядит слабым выбором по соотношению интеллект / цена.

Судя по графику, Terra проигрывает почти на всей кривой эффективности.

То есть его трудно оправдать и по стоимости, и по производительности.

Luna и Sol стабильно выглядят сильнее:

* за те же деньги дают больше intelligence
* или дают похожий уровень intelligence дешевле
* на разных reasoning-режимах обходят Terra

Особенно выделяется Luna.

Она даёт конкурентный уровень качества за заметно меньшую цену, поэтому выглядит лучшим вариантом для задач, где важна эффективность.

Вывод простой: если нужен разумный default по цене и качеству, Luna сейчас выглядит сильнее Terra.

https://x.com/Machinelearrn/status/2075969904826605891
6👍2🔥2🎉1
Агенты прокачивают друг друга

UCSB-AI выложили GEA, фреймворк для open-ended self-improvement агентов через обмен опытом.

Идея простая, но мощная: улучшать не одного агента в вакууме, а целую группу агентов как одну эволюционирующую систему.

Один агент нашёл удачный паттерн, другой переиспользовал его, третий доработал, группа стала сильнее.

Это похоже на переход от «один AI сам себя улучшает» к «популяция агентов накапливает коллективный опыт».

В репозитории есть код для запуска GEA, интеграция с SWE-bench и Polyglot, Docker-окружение, промпты и инструменты для foundation-моделей. Проект распространяется под Apache-2.0.

https://github.com/UCSB-AI/GEA
🔥10👍21