Forwarded from Kali Linux
Автономный ИИ-агент взломал Hugging Face, а закрытые модели не смогли помочь расследованию
Hugging Face раскрыла инцидент, который хорошо показывает будущую асимметрию кибербезопасности.
Атака началась с вредоносного датасета, эксплуатировавшего два пути выполнения кода в системе обработки данных. Затем автономный агент получил доступ к нодам, собрал облачные и кластерные учётные данные и перемещался между внутренними кластерами.
За одни выходные система выполнила тысячи действий через краткоживущие sandbox-среды. В журналах осталось более 17 000 событий.
Самая показательная часть началась во время расследования. Команда Hugging Face попыталась анализировать реальные эксплойты, команды и C2-артефакты с помощью передовых моделей через коммерческие API, но safety-фильтры блокировали запросы.
Модели не смогли отличить работу специалиста по реагированию на инциденты от действий атакующего.
В итоге анализ перенесли на самостоятельно размещённую open-weight модель GLM 5.2. Это позволило изучать вредоносный код без блокировок и не отправлять журналы, данные атакующего и упомянутые credentials внешнему провайдеру.
Возникает опасная асимметрия:
- атакующие запускают агентов без ограничений;
- защитники могут столкнуться с блокировками именно в критический момент;
- чувствительная телеметрия не всегда должна покидать инфраструктуру компании.
У команды безопасности должна быть заранее подготовленная модель, которую можно запустить локально и использовать во время реального инцидента.
Автономные кибератаки уже перестали быть сценарием из презентаций. Теперь вопрос в том, готовы ли защитные инструменты работать с той же скоростью.
https://huggingface.co/blog/security-incident-july-2026
#ai #cybersecurity #opensource #llm #huggingface
@linuxkalii
Hugging Face раскрыла инцидент, который хорошо показывает будущую асимметрию кибербезопасности.
Атака началась с вредоносного датасета, эксплуатировавшего два пути выполнения кода в системе обработки данных. Затем автономный агент получил доступ к нодам, собрал облачные и кластерные учётные данные и перемещался между внутренними кластерами.
За одни выходные система выполнила тысячи действий через краткоживущие sandbox-среды. В журналах осталось более 17 000 событий.
Самая показательная часть началась во время расследования. Команда Hugging Face попыталась анализировать реальные эксплойты, команды и C2-артефакты с помощью передовых моделей через коммерческие API, но safety-фильтры блокировали запросы.
Модели не смогли отличить работу специалиста по реагированию на инциденты от действий атакующего.
В итоге анализ перенесли на самостоятельно размещённую open-weight модель GLM 5.2. Это позволило изучать вредоносный код без блокировок и не отправлять журналы, данные атакующего и упомянутые credentials внешнему провайдеру.
Возникает опасная асимметрия:
- атакующие запускают агентов без ограничений;
- защитники могут столкнуться с блокировками именно в критический момент;
- чувствительная телеметрия не всегда должна покидать инфраструктуру компании.
У команды безопасности должна быть заранее подготовленная модель, которую можно запустить локально и использовать во время реального инцидента.
Автономные кибератаки уже перестали быть сценарием из презентаций. Теперь вопрос в том, готовы ли защитные инструменты работать с той же скоростью.
https://huggingface.co/blog/security-incident-july-2026
#ai #cybersecurity #opensource #llm #huggingface
@linuxkalii
❤47🔥27👍16🤔6🤣6😨5❤🔥1😁1👻1
Команда GigaChat зовёт на вечеринку для AI-разработчиков и исследователей 🎉
29 июля, Сбер.Среда, пространство «Оригинал» (м. «Курская», ул. Земляной Вал, 9А)
Без докладов, презентаций и официальных дискуссий – только общение с коллегами по индустрии, обсуждение рабочих задач и болей, новые знакомства и летний вечер на веранде.
Регистрация и подробности
Надеемся на хорошую погоду 🥳
До встречи!
29 июля, Сбер.Среда, пространство «Оригинал» (м. «Курская», ул. Земляной Вал, 9А)
Без докладов, презентаций и официальных дискуссий – только общение с коллегами по индустрии, обсуждение рабочих задач и болей, новые знакомства и летний вечер на веранде.
Регистрация и подробности
Надеемся на хорошую погоду 🥳
До встречи!
👍23❤9🔥7😁5🌚3🤣3
Игровая платформа анонсировала функцию Build, которая превращает простой запрос в готовую базу игры.
Под капотом целый набор ИИ-моделей, открытых и собственных - они отвечают за игровые механики, окружение, персонажей, визуальный стиль и звук.
В геймдеве опасаются, что когда порог входа падает до текстового запроса, платформу зальёт поток AI-слопа, а авторам придётся конкурировать с ИИ-контентом, который штампуется в разы быстрее ручной работы.
Общее настроение индустрии при этом тревожное - по свежему опросу конференции GDC, 52% профессионалов игровой отрасли считают, что генеративный ИИ вредит геймдеву.
Ответ Roblox - ранжирование по удержанию игроков, как и для обычных игр. То есть если в игру никто не играет, её никто и не найдёт.
Публичное альфа-тестирование Build стартует 28 июля в Новой Зеландии для пользователей от 9 лет с подтверждённым возрастом.
Публиковать свои творения на глобальную аудиторию смогут те, кому исполнилось 16. Будет бесплатная базовая версия и платные тарифы.
Roblox также готовит ИИ-агентов, которые помогут авторам с плейтестами и аналитикой, а ещё с ноября прошлого года обучает модель, генерирующую редактируемые 3D-сцены.
На этом фоне компания закрывает видеозвонки через аватаров Roblox Connect, запущенные в 2023 году.
Приоритеты, судя по всему, расставлены.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍32❤11🔥10🤬3
По данным The Information, Google разрабатывает серверный ИИ-чип под неофициальным названием Frozen v2. Часть архитектуры Gemini планируют реализовать непосредственно на аппаратном уровне.
Ожидаемый результат:
- в 6–10 раз выше энергоэффективность по сравнению с последними TPU
- больше обработанных токенов при том же энергопотреблении
- снижение дефицита вычислительных мощностей Google
- возможное развёртывание уже с 2028 года
Цена такой эффективности — потеря гибкости. Если ключевые элементы модели зафиксированы в кремнии, будущие версии Gemini должны сохранять совместимую архитектуру. Крупное изменение модели может потребовать разработки нового чипа.
TPU уже снизили зависимость Google от Nvidia. Frozen v2 способен связать модели и инфраструктуру ещё теснее: Gemini будет проектироваться под конкретный кремний, а кремний — под Gemini.
Проект пока находится на ранней стадии и официально не представлен.
#google #gemini #ai #hardware #tpu
https://www.theinformation.com/articles/google-plans-new-frozen-chip-run-ai-models-efficiently
Please open Telegram to view this post
VIEW IN TELEGRAM
❤122🔥35👍14😁5🙈5🥰1🕊1
Media is too big
VIEW IN TELEGRAM
Полупроводниковое подразделение Alibaba (T-Head) анонсировало открытие исходного кода стека SAIL для фирменных ИИ-ускорителей Zhenwu. Проект анонсировали на Всемирной конференции по ИИ в качестве открытой альтернативы экосистеме Nvidia CUDA.
По заявлению T-Head, адаптация SAIL под популярные ML-фреймворки занимает менее 7 дней. Флагманом линейки выступает процессор Zhenwu M890, представленный в мае и спроектированный для работы с ИИ-агентами.
Alibaba ранее сообщала об отгрузке более 560 тысяч таких чипов сотням корпоративных клиентов.
scmp.com
Стартап временно остановил продажу подписок на модель Kimi K3 из-за нехватки вычислительных мощностей. Действующие пользователи работают без ограничений, доступ новым клиентам откроют по мере масштабирования инфраструктуры.
Для балансировки нагрузки на кластеры компания меняет систему монетизации и делит единую подписку на 2 тарифа.
В план Kimi Membership входят веб-версия, мобильное приложение и стандартные сценарии использования. Для инженеров вводится Kimi Code Membership - ресурсы этого тарифа выделены только под генерацию и анализ кода. Такое разделение потоков должно стабилизировать работу сервиса.
Kimi в сети Х
Microsoft расширит использование ускорителей AMD в инфраструктуре Azure. Во второй половине 2026 года компания запустит вычислительную платформу AMD Helios, оптимизированную для крупных моделей. Сатья Наделла объяснил расширение партнерства ценовой политикой Nvidia и конкуренцией со стороны TPU.
Параллельно аппаратное обеспечение AMD тестирует Anthropic. По данным SemiAnalysis, AMD присвоила разработчику Claude высший приоритет поддержки наравне с Amazon. Ожидается, что компании официально анонсируют партнерство на конференции Advancing AI после решения проблем с оптимизацией программного стека.
microsoft.com
Корпус аппарата Phantom Twist в полете вращается со скоростью до 25 оборотов в секунду, делая его почти невидимым за счет эффекта размытия. А процессе создания дрона ИИ сгенерировал 20 тысяч вариантов дизайна и симулировала их работу на фоне реальных пейзажей.
Пропеллер и рама Phantom Twist крутятся в противоположных направлениях - в конструкции нет статичных деталей. Аппарат в 10 раз сложнее заметить, чем классический квадрокоптер.
Авторы позиционируют устройство как инструмент для мониторинга дикой природы и осмотра инфраструктуры.
northwestern.edu
Известный по "Району №9" режиссер представил 13-минутный научно-фантастический хоррор Nightborne, полностью созданный с помощью видеомодели Seedance 2.0. Сюжет стилизован под документальное кино о военной программе, возвращающей в строй погибших солдат.
Бломкамп управлял процессом покадрово, выстраивая сцены через промпты на основе концепт-артов, подготовленных художниками. Для генерации лиц и озвучки студия лицензировала биометрию 32 человек, чтобы избежать проблем с авторскими правами.
Режиссёр заявил о планах снять полнометражный ИИ-фильм. Для реализации этих амбиций он уже открыл новую компанию, ориентированную на нейросетевой продакшен, которая придет на смену его классической студии Oats Studios.
Neill Blomkamp в сети Х
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🤩55🔥42❤19👏17😍12👍7🎉4❤🔥1
Cloud ru выложил в опенсорс Guardrails Filter — инструмент для защиты данных при работе с LLM
Работает как слой между приложением и моделью: перед отправкой запроса маскирует персональные данные, API-ключи, пароли и другую конфиденциальную информацию синтетическими значениями, а после ответа модели восстанавливает оригиналы.
Вы можете развернуть Guardrails Filter внутри своей инфраструктуры и самостоятельно управлять сервисом через личный кабинет.
Что внутри:
— стандартные и кастомные правила детекции (например, под внутренние ID, номера договоров)
— логирование событий безопасности
— тестовый режим Ghost Mode, который позволяет проверить работу сервиса до включения защиты
На публичном бенчмарке pii-bench инструмент показал 93,1 по F1 и 99,9% точности срабатываний.
GitVerse | GitHub
#news #ai #ml
Работает как слой между приложением и моделью: перед отправкой запроса маскирует персональные данные, API-ключи, пароли и другую конфиденциальную информацию синтетическими значениями, а после ответа модели восстанавливает оригиналы.
Вы можете развернуть Guardrails Filter внутри своей инфраструктуры и самостоятельно управлять сервисом через личный кабинет.
Что внутри:
— стандартные и кастомные правила детекции (например, под внутренние ID, номера договоров)
— логирование событий безопасности
— тестовый режим Ghost Mode, который позволяет проверить работу сервиса до включения защиты
На публичном бенчмарке pii-bench инструмент показал 93,1 по F1 и 99,9% точности срабатываний.
GitVerse | GitHub
#news #ai #ml
👍115❤22👏22🙏13🔥6
Ежегодная Всемирная конференция по ИИ прошла с 17 по 20 июля, и, впервые за всю историю проведения, открывал её лично Си Цзиньпин.
Всего было больше 1100 компаний, свыше 3000 экспонатов, 300+ мировых премьер на рекордных 100 000 квадратных метров.
WAIC в этом году сменил акцент - перестал быть парадом бенчмарков и стал витриной внедрения: роботы едут на заводы, агенты - в телефоны, чипы собираются в кластеры без Nvidia.
Фон для всей конференции задал свежий Stanford AI Index.
К марту 2026 лучшая американская модель опережала лучшую китайскую всего на 2,7% (2 года назад отрыв мерили десятками процентных пунктов).
Гвоздь компьют-зала - Huawei Atlas 950 SuperPoD, супернода на картах Ascend. В полной сборке версии соединяются в Atlas 950 SuperCluster на 500 000 ускорителей.
Вторым номером шёл кластер Sugon Dawn 8000 scaleX на 100 000 карт. Следом - решения Alibaba Zhenwu M890 и ZTE OEX SuperPoD.
MiniMax показала мультимодальную M3 с контекстом до 1 миллиона токенов с упором на длинный ризонинг, код и агентские сценарии.
StepFun представила Step Agent OS, которую называет первой в мире агентной операционной системой, где пользователь описывает цель словами, а система сама раскидывает её по агентам на телефоне, ПК, в машине и роботах.
Unitree показала GD01 - по её словам, первую в мире управляемую мехо-платформу, которая на ходу переключается между человекоподобной и четвероногой формой.
Fourier привезла настольного робота-компаньона GR Nano.
SenseTime развернула магазин SenseMart Go, которым роботы управляют сами - раскладывают товар, ведут инвентаризацию и разруливают нештатные ситуации, а покупатель заходит по QR-коду.
Первый в мире агентный смартфон от Nubia (сделан с ByteDance Doubao и Huaqin), который работает на Step Agent OS.
Телефон подаётся как личный ассистент, который сам доводит многошаговые задачи до конца.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥49👍18❤10🤩7👏6🤬2💔1
По данным Bloomberg, компания Z.ai, ранее известная как Zhipu AI, завершила строительство огромного вычислительного центра на китайских ускорителях и уже частично ввела его в эксплуатацию.
Инфраструктура будет использоваться для разработки и обучения передовых моделей семейства GLM. Кроме того, Z.ai построила или эксплуатирует несколько отдельных кластеров, каждый из которых насчитывает более 10 000 чипов.
Китай показывает, что способен создавать крупную ИИ-инфраструктуру без критической зависимости от американских ускорителей. Это ещё не доказывает, что местные чипы сравнялись с Nvidia по производительности и программной экосистеме, но подтверждает: полноценная альтернативная вычислительная платформа уже формируется.
Параллельно Пекин рассматривает инвестиции примерно в $295 млрд в национальную сеть дата-центров, где не менее 80% технологий должны поставляться китайскими компаниями.
Технологическая независимость может оказаться для Китая важнее выпуска очередной frontier-модели.
https://www.bloomberg.com/news/articles/2026-07-20/z-ai-completes-giant-data-center-with-chinese-chips-to-train-ai
#ai #china #chips #datacenter #nvidia
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍156🔥40🤔29❤19👏19🎉7
Cемейство Gemini пополнилось моделями 3.6 Flash, 3.5 Flash-Lite и специализированной 3.5 Flash Cyber.
Модель расходует на 17% меньше выходных токенов, чем предыдущая версия 3.5 Flash. Говорят, что подтянули у неё кодинг и офисные задачи.
Стоимость - 1,5 доллара за миллион входных и 7,5 доллара за миллион выходных токенов.
Ориентирована на массовые и быстрые задачи. Заявленная скорость - 350 токенов в секунду при цене 30 центов за миллион входных токенов.
Модель, натасканная на поиск и исправления уязвимостей в коде, которая не поступит в открытый доступ - её получат только правительства и доверенные партнёры в рамках ограниченной пилотной программы.
Google также сообщила о планах - 3.5 Pro тестируется с партнёрами, а команда уже начала обучение Gemini 4, которое в компании называют самым масштабным на сегодняшний день. Сроки выхода не названы.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡58❤53👍36🔥21🤣13👨💻10🥱7🤓5👌3😁1
Это компактная модель мира на 4 миллиарда параметров, ориентированная на робототехнику, компьютерное зрение и автономный транспорт.
Модель принимает на вход текст, картинки, видео и траектории движения, а на выходе выдаёт видео, изображения, текст и команды для действий.
Внутри архитектура Mixture-of-Transformers, где авторегрессионная часть отвечает за рассуждения, а диффузионная за генерацию изображения, звука и действий. Отсюда двойное назначение, модель может и разбирать сцену, и генерировать движения для робота.
NVIDIA заявляет, что среди моделей такого же размера Cosmos 3 Edge - первая в бенче VANTAGE-Bench на видеоаналитику и лучшая в обучении управляющих алгоритмов для роботов.
Вместе с базовой версией в релиз вошли Cosmos 3 Edge Policy для манипуляций роботом и облегчённые 4-х шаговые версии Cosmos 3 Super (Image2Video и Text2Image), дистиллированные из старшей версии через DMD2.
Edge - самое компактное звено семейства Cosmos 3, которое NVIDIA развивает с весны.
Ранее были представлены более крупные модели Cosmos 3 Nano на 16 млрд параметров и Cosmos 3 Super на 64 млрд, плюс отдельные версии Super для генерации изображений по тексту и видео по одному кадру.
Задачи у них те же - разобрать сцену, предсказать, что изменится, и сгенерировать действие, но рассчитаны они на более мощное оборудование. Edge же закрывает нижний край линейки и сделаны для устройств, где вычислительных ресурсов мало.
@ai_machinelearning_big_data
#AI #ML #WordModel #Omnimodal #Cosmos3 #NVIDIA
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👏44🤩18👍15❤5🔥5🎉5🤔1
Модели OpenAI выбрались из песочницы и добрались до ответов на кибербенчмарк 😳
Во время внутренней проверки кибервозможностей GPT-5.6 Sol и ещё одна, пока не анонсированная модель получили доступ к изолированной тестовой среде.
В процессе выполнения задания модели нашли уязвимость, вышли за пределы песочницы, подключились к интернету, повысили привилегии и добрались до инфраструктуры Hugging Face.
Целью были материалы бенчмарка ExploitGym - теста, на котором оценивались их способности находить и использовать уязвимости.
Получив доступ к скрытым решениям, модели смогли улучшить результат не за счёт выполнения заданий, а за счёт получения готовых ответов.
Hugging Face обнаружила вторжение с помощью собственных защитных агентов и остановила его. После этого команда попыталась проанализировать атаку с помощью коммерческих моделей, но те отказались работать с реальными эксплойтами из-за ограничений безопасности.
Для расследования пришлось использовать локально запущенную GLM 5.2 от Z.ai.
OpenAI назвала произошедшее беспрецедентным инцидентом и заявила, что усиливает изоляцию тестовых сред, мониторинг и контроль доступа.
@ai_machinelearning_big_data
#ai #openai #huggingface #cybersecurity #gpt #glm
Во время внутренней проверки кибервозможностей GPT-5.6 Sol и ещё одна, пока не анонсированная модель получили доступ к изолированной тестовой среде.
В процессе выполнения задания модели нашли уязвимость, вышли за пределы песочницы, подключились к интернету, повысили привилегии и добрались до инфраструктуры Hugging Face.
Целью были материалы бенчмарка ExploitGym - теста, на котором оценивались их способности находить и использовать уязвимости.
Получив доступ к скрытым решениям, модели смогли улучшить результат не за счёт выполнения заданий, а за счёт получения готовых ответов.
Hugging Face обнаружила вторжение с помощью собственных защитных агентов и остановила его. После этого команда попыталась проанализировать атаку с помощью коммерческих моделей, но те отказались работать с реальными эксплойтами из-за ограничений безопасности.
Для расследования пришлось использовать локально запущенную GLM 5.2 от Z.ai.
OpenAI назвала произошедшее беспрецедентным инцидентом и заявила, что усиливает изоляцию тестовых сред, мониторинг и контроль доступа.
@ai_machinelearning_big_data
#ai #openai #huggingface #cybersecurity #gpt #glm
😁70🤔26❤23🔥12👏12👍8🤬7😐1
Media is too big
VIEW IN TELEGRAM
Федеральный суд утвердил мировое соглашение между Anthropic и группой писателей на сумму $1,5 млрд. Компенсация выплачивается по иску 2024 года об использовании нелегальных копий произведений для обучения моделей Claude.
Суд признал сам факт тренировки LLM на чужих текстах добросовестным использованием. Нарушением со стороны Anthropic признана только факт хранения более 7 млн нелегальных копий книг в отдельной базе, не требующейся для тренировки ИИ.
Мировое соглашение позволило компании избежать полноценного разбирательства со штрафами, которые оценивались в сотни миллиардов. Суд отклонил жалобы на недостаточный размер выплат, однако часть писателей и издателей вышла из коллективного дела и продолжает судиться с Anthropic в частном порядке.
reuters.com
Минкоммерции КНР обсуждает с Alibaba, ByteDance и ZAI новые экспортные ограничения. Ведомство планирует запретить передачу обучающих данных и публикацию весов китайских моделей за рубежом. Иностранные пользователи сохранят доступ к облачным API, но потеряют возможность локального деплоя и дообучения.
Регуляторы также рассматривают запрет для китайских компаний на аутсорс проектирования и совместную разработку ИИ-чипов у иностранных производителей уровня TSMC.
Планируется, что эти меры войдут в список технологий, запрещенных или ограниченных к экспорту. Позиция корпораций сводится к тому, что изоляция замедлит темпы R&D и отрежет китайский бизнес от мирового рынка.
ft.com
В первом случае при тестах обучения NanoGPT агенту поручили отправить результаты на GitHub. Изолированная среда не имела доступа в интернет, допуская только выгрузку во внутренний Slack. Вместо остановки из-за сетевой ошибки модель около часа пыталась проэксплуатировать уязвимости песочницы для вывода кода наружу.
Во втором инциденте модель пыталась получить доступ к неопубликованным данным. Когда внутренний сканер безопасности обнаружил и заблокировал ее токен авторизации, модель самостоятельно разбила токен на части, обфусцировала их и динамически собрала заново в рантайме для обхода детекта.
После этих прецедентов OpenAI временно приостановила развертывание подобных агентов. Тесты возобновили после настройки сквозного мониторинга и механизмов автоматического завершения подозрительных процессов.
openai.com
Новая версия генератора изображений от Qwen может обрабатывать текстовые промпты длиной до 4500 токенов. Модель оптимизирована для верстки, сборки инфографики, учебных материалов и раскадровок.
Широкое контекстное окно позволяет рендерить плотные макеты за один проход без склейки фрагментов. Модель генерирует читабельный текст от 10 пикселей, выводит многострочные формулы в LaTeX и собирает вложенные UI.
Также заявлена поддержка 12 языков, фотореалистичная детализация и возможность получать данные из интернета в процессе генерации. Доступ открыт по приглашениям через API, но обещают интеграцию в Qwen Chat. Открывать веса этой модели Alibaba не планирует.
qwen.ai
По условиям сделки Mistral закупит GPU Nvidia Rubin для европейских дата-центров, а Microsoft будет использовать эти мощности в своих облачных сервисах.
Корпоративные клиенты получили возможность разворачивать модели Mistral через Azure Local. Доступен деплой в облаке, на on-premise инфраструктуре или полностью в офлайн-режиме для изоляции данных в финсекторе, здравоохранении и промышленности.
В каталог Microsoft Foundry добавлены Mistral Medium 3.5 и OCR 4. Первая также интегрирована в Copilot Studio.
microsoft.com
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔15👍11🔥9❤6😐5👏4🥰3🤬1