✔️ Data-Juicer: пайплайн для подготовки данных под foundation models

Alibaba и сообщество Data-Juicer развивают open-source систему для обработки датасетов перед обучением, дообучением и RAG.

Data-Juicer помогает чистить, фильтровать, дедуплицировать, синтезировать и анализировать данные. Работает не только с текстом, но и с мультимодальными датасетами: изображениями, аудио и видео. В версии 2.0 заявлено больше 100 операторов для разных модальностей.

Практический сценарий понятный: есть сырой корпус из разных источников, где много дублей, мусора, слабых примеров и перекоса по доменам. Data-Juicer позволяет собрать воспроизводимый data recipe, прогнать его на локальной машине или в распределённом режиме и потом оценить, как изменения в данных влияют на модель.

Проект смотрит на данные как на отдельный слой оптимизации. Позволяет настроить качество, смесь, фильтры и пайплайн обработки. В ранней работе авторы показывали прирост до 7.45% по среднему score на 16 LLM-бенчмарках и 17.5% win rate в GPT-4 pairwise evaluation за счёт data recipes.


https://github.com/datajuicer/data-juicer

✔️ DeepSeek-V4 теперь можно запускать локально через GGUF от Unsloth.

DeepSeek-V4-Flash в lossless-версии запускается на 168 ГБ RAM.

3-битная версия работает на Mac и сетапах с RAM/VRAM примерно от 110 ГБ.

Unsloth также улучшили chat template, чтобы модель корректнее работала в диалоговом формате.

Запускать можно через Unsloth Studio или llama.cpp.

Гайд: unsloth.ai/docs/models/deepseek-v4

GGUF: huggingface.co/unsloth/DeepSeek-V4-Flash-GGUF

🔍Тестовое собеседование на Middle Python с разработчиком из Авито сегодня

Уже сегодня вечером в 19:00 по мск приходи онлайн на открытое собеседование, чтобы посмотреть на настоящее интервью на Middle Python-разработчика.

Как это будет:
📂 Даня, старший разработчик в Авито, будет задавать реальные вопросы и задачи разработчику-добровольцу
📂 Даня будет комментировать каждый ответ респондента, чтобы дать понять чего от вас ожидает собеседующий на интервью
📂 В конце можно будет задать любой вопрос Дане

Это бесплатно. Эфир проходит в рамках менторской программы от ШОРТКАТ для Python-разработчиков, которые хотят повысить свой грейд, ЗП и прокачать скиллы.

Переходи в нашего бота, чтобы получить ссылку на эфир → @shortcut_py_bot

Реклама.
О рекламодателе.

📌 Anthropic предлагает делать самоуправляемые циклы

Команда Claude Code опубликовала в X руководство по loops. Это паттерны, в которых агент повторяет рабочий цикл, пока не сработает условие остановки.

Главная мысль: уходить от ручного режима, где разработчик задаёт направление на каждом шаге, и передавать агенту контроль по нарастающей.

Всего выделяют 4 типа циклов, различая их по способу запуска, условию остановки и степени автономии. Логически получается некая лестница делегирования, где на каждой ступени вы отдаёте агенту очередное полномочие.

🟡Агентный цикл запускается промптом и завершается, когда Claude считает задачу выполненной.

Здесь вы отдаёте агенту проверку. Ручные шаги верификации заполняются вSKILL.md и чем более количественные критерии, тем точнее агент оценивает собственную работу.

🟡 Целевой цикл /goal забирает у вас условие прерывания

Вы описываете, что значит готово, а дальше при каждой попытке Claude завершить работу отдельная модель-оценщик сверяет результат с вашим критерием (скажем, долей пройденных тестов) и возвращает агента к работе, пока цель не достигнута или не исчерпан заданный лимит попыток.

🟡Временной цикл /loop или /schedule берёт на себя триггер запуска.

Это удобно для повторяющейся рутины и при работе с внешними системами (например, дайджест по таскам, реакция на новое ревью или упавший CI).

🟡Проактивный цикл убирает человека из контура.

Рутина срабатывает по событию или расписанию и живёт, пока вы её не выключите. В связке с динамическими воркфлоу агенту передаётся уже сам промпт. Вот этот сценарий уже ближе всего к полной автоматизации.

🟡Дополнительные советы

Не каждая задача требует сложного цикла, начинать стоит с простейшего решения.

Кодовую базу следует держать чистой, а для ревью подключать второй агент. Для этого есть встроенный /code-review.

Контролировать расход токенов чёткими границами: точные условия остановки, подбор модели под задачу (рутину - на модели поменьше и побыстрее, решения с ризонингом - на самой мощной).

Динамические воркфлоу способны породить сотни агентов, так что масштаб лучше проверять на небольшой выборке.

@ai_machinelearning_big_data

#news #ai #ml

🌟 General Intuition в коллабе с Epic Games сделали мультиплеерную модель мира

Институт General Intuition вместе с французской лабораторией Kyutai и Epic Games представил MIRA, генеративный симулятор, воспроизводящий матчи Rocket League в формате 2 на 2 в реальном времени.

На входе только история кадров и нажатия клавиш всех четырёх игроков: ни физического движка, ни рендер-движка, ни явных 3D-представлений в инференсе нет.

В отличие от Odyssey, где логика вычислений и рендеринг разведены, MIRA пошла по пути генеративной симуляции в латентном пространстве видео.

В основе - диффузионный трансформер на 5 млрд параметров и отдельный видеокодек-представление на 600 млн.

Вместо автоэнкодера кодек строится поверх замороженного DINOv3-L, и латентное пространство выходит настолько стабильным, что специальные приёмы против дрейфа не понадобились, модель работает из коробки на обычном diffusion forcing.

Экраны четырёх игроков MIRA сшивает в единую сетку латентов, чтобы механизмы пространственного внимания работали между ракурсами и держали машины, мяч и события согласованными на всех видах.

Механизм action dropout достраивает поведение машин, для которых команды не пришли, компенсируя пропуски в потоках действий.

Всего на обучение MIRA ушло около 10 тыс часов геймплея, целиком сгенерированных ботами.

🟡 Тесты

Латентный подход бьёт пиксельный на порядок: gFID 10.7 против 81–105 и ARR 0.91 против 0.49–0.61 (ARR измеряет, насколько отданные команды считываются обратно из генерации).

Ключ к стабильности именно в DINOv3-L, без него картинка дрейфует в 1.3–1.7 раза сильнее, а с ним gFID держится ровным вплоть до 5 минут, и на практике роллаут идёт часами без коллапса.

ARR, кстати, совпадает с оценками живых людей (корреляция Пирсона 0.84).

🟡Недостатки

Контекст модели около четырёх секунд, поэтому повторы голов она попросту досочиняет - выглядит правдоподобно, но не совпадает с тем, что было на самом деле.

Часы и счёт плывут на переходах, а за 40 минут игры набегает порядка 80 некомандных бустов и 30 прыжков.

Авторы опубликовали код обучения и инференса, а также сет Rocket Science из 1000 часов каток в 720p с потоками действий и физическими состояниями.

На одной NVIDIA B200 модель выдаёт 20 FPS при 576p в реальном времени. Потыкать в играбельное демо можно тут.


@ai_machinelearning_big_data

#news #ai #ml