LLM уже находят реальные memory safety баги в Rust-коде.
И, что неожиданно, это работает очень хорошо.
Сергей Давыдов, руководитель Rust Secure Code Working Group, использовал GPT-5.5 и Claude Opus для аудита unsafe-блоков в популярных Rust-крейтах.
В итоге нашлись десятки реальных багов:
• use-after-free
• чтение за пределами буфера
• data races
• неправильные реализации Send / Sync
Все находки проверялись через miri, чтобы убрать ложные срабатывания.
Почему в Rust это работает лучше, чем в C?
• unsafe явно помечен и изолирован, поэтому LLM сразу понимает, где искать
• miri может точно подтвердить, настоящий баг или нет
• не нужно отслеживать data flow по всей кодовой базе, как часто бывает в C
Получается, дизайн Rust случайно сделал его почти идеальным языком для LLM-аудита безопасности.
Стоит прочитать всем, кто думает про AI в security tooling.
https://gist.github.com/Shnatsel/eb0a4be79a0657e4eb67c4f085f991bc
https://shnatsel.medium.com/the-unreasonable-effectiveness-of-llms-for-auditing-rust-code-d4df8bf0afd3
#Rust #RustLang #MemorySafety #Security #LLM
И, что неожиданно, это работает очень хорошо.
Сергей Давыдов, руководитель Rust Secure Code Working Group, использовал GPT-5.5 и Claude Opus для аудита unsafe-блоков в популярных Rust-крейтах.
В итоге нашлись десятки реальных багов:
• use-after-free
• чтение за пределами буфера
• data races
• неправильные реализации Send / Sync
Все находки проверялись через miri, чтобы убрать ложные срабатывания.
Почему в Rust это работает лучше, чем в C?
• unsafe явно помечен и изолирован, поэтому LLM сразу понимает, где искать
• miri может точно подтвердить, настоящий баг или нет
• не нужно отслеживать data flow по всей кодовой базе, как часто бывает в C
Получается, дизайн Rust случайно сделал его почти идеальным языком для LLM-аудита безопасности.
Стоит прочитать всем, кто думает про AI в security tooling.
https://gist.github.com/Shnatsel/eb0a4be79a0657e4eb67c4f085f991bc
https://shnatsel.medium.com/the-unreasonable-effectiveness-of-llms-for-auditing-rust-code-d4df8bf0afd3
#Rust #RustLang #MemorySafety #Security #LLM
👍35🤔9💊7🔥5
Amazon Kani для Rust получил академическую статью, принятую на ASE 2026. 🦀
Kani пытается формально доказать корректность Rust-кода математически.
Что умеет:
* доказывать отсутствие panic, overflow и нарушений memory safety
* проверять, что `unsafe`-код действительно безопасен
* гонять 16 000+ harness’ов на каждый commit в Rust standard library
* находить баги, которые раньше не видели в промышленных Rust-проектах
Главное отличие простое:
fuzzing пытается найти баги через множество входных данных.
Kani проверяет свойства кода формально, в рамках заданного harness’а.
Kani интегрирован в CI стандартной библиотеки Rust.
Каждый commit в
🔗 arxiv.org/abs/2607.01504
Kani пытается формально доказать корректность Rust-кода математически.
Что умеет:
* доказывать отсутствие panic, overflow и нарушений memory safety
* проверять, что `unsafe`-код действительно безопасен
* гонять 16 000+ harness’ов на каждый commit в Rust standard library
* находить баги, которые раньше не видели в промышленных Rust-проектах
Главное отличие простое:
fuzzing пытается найти баги через множество входных данных.
Kani проверяет свойства кода формально, в рамках заданного harness’а.
Kani интегрирован в CI стандартной библиотеки Rust.
Каждый commit в
std проходит формальную проверку.🔗 arxiv.org/abs/2607.01504
❤18👍11🔥9👏2
Borrowed & Owned
Новый open-source каталог для изучения Rust.
Внутри собраны книги, видео, курсы, репозитории, блоги и другие материалы по Rust.
Что есть:
• поиск и фильтры
• learning paths
• категории и теги
• страницы отдельных ресурсов
• starter kits для быстрого старта
• changelog новых материалов
• dark / light theme
• добавление ресурсов через GitHub
По сути, аккуратная база знаний для тех, кто учит Rust и не хочет тонуть в случайных ссылках.
https://github.com/panditdhamdhere/borrowed_and_owned
Новый open-source каталог для изучения Rust.
Внутри собраны книги, видео, курсы, репозитории, блоги и другие материалы по Rust.
Что есть:
• поиск и фильтры
• learning paths
• категории и теги
• страницы отдельных ресурсов
• starter kits для быстрого старта
• changelog новых материалов
• dark / light theme
• добавление ресурсов через GitHub
По сути, аккуратная база знаний для тех, кто учит Rust и не хочет тонуть в случайных ссылках.
https://github.com/panditdhamdhere/borrowed_and_owned
👍19🔥5🫡3👏1