Горячая дискуссия в интернетах: стена или нет стены.

Поясню. Намедни Илья заявил, что закон масштабирования в LLM уперся в стену. Амодей и Альтман отрицают и говорят что прогресс в способностях нейронок движется как и раньше, а может даже и шустрее.

Законы масштабирования придумали дата сатанисты, чтобы описать почему парадоксальным образом добавление
1) данных
2) компьюта
3) параметров в модели
при претрейне больших трансформеров вдруг очень линейно и предсказуемо увеличивает качество самих моделей. С 2019 года этот закон работал как часы и вытащил нас с GPT-2 и нескольких видюх до десятимидлиардных мегакластеров.

И вот, спустя 5 лет, Суцкевер заявил о том, что этот закон перестает работать. Нешарящие из интернетов уже вопят «Альтман опять продает». И оказываются правы, но не по той причине, по которой им кажется.

Скорее всего, мы видим ситуацию в которой одни источники оптимизации и масштабирования перестают работать, но вместе с этим появится новые. Та же картина, которую мы наблюдаем в вычислениях последние ~100 лет и только небольшой кусочек которой мы решили назвать «Закон Мура».

Читаю переписку Альтмана и Маска. Вот из письма 2015 года, когда они обсуждают найм в OpenAI, пару месяцев после основания компании: «Either we get the best people in the world or we will get whipped by Deepmind. They are obviously making major progress and well they should, given the talent level over there» — пишет Маск.

Из переписки очевидно, что и Илье и Илону уже в 2015, за два года до публикации пейпера про трансформеры, были очевидны не только законы масштабирования deep learning’а, но и то что, скорее всего, это приведет к AGI в скором времени и еще в 2016 Маск пишет «AI, arguably the most powerful of all technologies».

О DevCon: что обсуждали, к чему пришли, куда идти дальше?

Об эфире
— Масштабирование эфира через ролапы идет успешно, сегодня более 200 активных сетей и миллионы пользователей. Но многие из этих сетей не интероперабельны (нельзя без централизованного бриджа послать деньги с одного на другой) и их безопаность держится на мультисиге и такой-то матери (все что меньше чем STAGE 1 имеет очень реальные угрозы)
— Джастин Дрейк предлагает нативные ролапы для эфира: добавить снарки в базовый протокол и сделать создание ролапа таким же простым, как смарт-контракта. Для более сложных кейсов можно будет делать свои based ролапы или отдельные L2.
— В следующих апдейтах эфир так же достигнет: финальности в 1 блок, стать валидатором можно имея всего одну эфирку, пост-квантовая криптография, снарки в базовом протоколе. В итоге это даст больше масштабируемости и безопасности.
— Но это не будет быстро, ибо это достройка космолета в полете, а в космолете прямо сегодня почти $500B ценности включая нативный токен и TVL.

Об экосистеме
— Нет приложений — нет проблем. Я не вижу отсутствие приложений как проблему. Основные кейсы использования криптовалюты — платежи, кредитование, финтех и проектирование систем без разрешений — растут и требуют просто более простого и дешевого решения, что неизбежно случится и что невозможно сделать в банковской инфре.
— Криптовалюта — это инфраструктура. Это бэкэнд для новых типов институтов и систем. И Ethereum прекрасно справляется с этим.
— У ИИ противоположная проблема: слишком много приложений, большинство из которых в следующем году будут частью вашего любимого чат-бота. Нам нужна открытая и разрешённая ИИ инфраструктура, и это, безусловно, крупнейшая возможность в криптовалюте.

О будущем
— Ethereum — это тысячи замечательных людей, которые не парятся о цене токенов и рыночных нарративах. Это комьюнити никогда не проиграет краткосрочным хайповым альтернативам.
— Кибернетическая экономика неизбежна. Бюрократическое, ручное и непрозрачное будет заменено на саморегулируемое, программируемое и распределённое.
— big tech / big state → кибернетическая программируемая экономика.
— Бангкок немного похож на киберпанк, но Devcon и организация большинства сайд эвентов на 10/10 (плюс, пасхалка на моей футболке)

Выкладываю текстовую версию своей презентации с dAGI Summit в Бангкоке, буду благодарен за репорт или quote tweet :)

> https://x.com/sgershuni/status/1858545354033213870 <

В презентации:
— показываю почему ИИ это главная технология влияющая на экономику сегодня
— как изменяется экономика со временем и как эти данные можно экстраполировать
— почему проблема координации сегодня больше, чем проблема технологического прогресса
— к каким потенциальным угрозам это ведет
— что нужно сделать, чтобы их митигировать и причем тут кибернетическая экономика

Катая в диабло, Маск пообщался с чатиком:
- AGI максимум в 2026 году, но наверное и раньше
- роботы будут в каждом доме, их будут миллиарды, цена $20-30k
- в войнах будут преимущественно дроны, людям там будет максимально неприятно

Ончейн агенты сегодня самая горячая тема в крипте. Решил классифицировать какие они бывают и чем отличаются.

1. Мем-агенты 🐐
Идеальные вирусные маркетологи. Используют LLM (языковые модели) для постов в соцсетях, общения и распространения токенов в сообществах. Например, truth terminal.

2. Автономные агенты 🤖
Полностью независимые сущности на блокчейне. Работают в защищённых средах (TEEs), где запускаются модели и скрипты. Их поведение регулируется мультисигами или голосованием на основе токенов. Пример.

3. Утилитарные агенты 🛠
Заплати криптовалютой — получи услугу. Эти агенты исследуют информацию, отвечают на письма, генерируют контент или взаимодействуют с API. Пример.

4. Спекулятивные агенты 📈
Созданы для заработка. Эти агенты запускают токены, торгуют, балансируют портфели и выполняют стратегии на рынке. Пример.

5. Мультиагентные системы 🕸
Сложные сети из десятков или тысяч агентов, которые координируются для выполнения сложных задач или даже замены целых профессий. Пример.

Комиссия по торговым отношениям (казалось бы) США выпустила список рекомендаций для правительства. Там много пунктов про всякие тарифы, акцизы и налоги. Но первым пунктом идет: немедленно запустить Манхэттенский проект в области AGI.

Короче, акселерационизм (e/acc) теперь законодательно требуется.

Очень классный тред о том почему в очень многих областях Клод уже сильно лучше человека-терапевта. А именно, в области эмоциональной четкости и чуткости.

Это уже (меньше чем за сутки) привело к созданию как минимум десятка стартапов про ИИ-терапевтов. Несмотря на то, что их будут сотни и почти все умрут в течении года, здесь очень скоро появится продукт с сотнями миллионов MAU и миллиардной капитализацией.

И дело не только в масштабе рынка (программа минимум: автоматизировать все интеллектуальные сервисные профессии), а в том, что мир станет светлее, добрее и приятнее, когда большинство людей будет иметь эффективный и глубоко личный инструмент различения и работы со своим эмоциями.

Если вас забанил анти-спам бот, решите капчу в группе канала. Для этого нужно отправить любое сообщение и ввести цифры с картинки.

От крипты до SARS-CoV-2

ИИ-агенты потихоньку проникают всюду. В крипте уже можно найти такие, которые отвечают за вирусный маркетинг — например, шерстят интернет на предмет вирусного контента по теме, на его основе создают мемчики и постят в соцсетях. Или агенты, которые запускают токены, балансируют портфели и вообще разрабатывают стратегию поведения на рынке. Я уже писал об этом. Все это интересно, круто, хайпово. Но есть вещи еще круче и важнее.

Недавно в Стэнфордском университете совместно с Chan Zuckerberg Biohub (контора принадлежит Марку Цукербергу) запустили полноценную виртуальную лабораторию. Она должна заниматься сложными междисциплинарными исследованиями.

Ее архитектуру можно представить как пирамиду, на вершине которой находится исследователь-человек, а на более низких уровнях — ИИ-агенты, специализированные в конкретной области (от биологии до информатики). Человек ставит задачи и проверяет общий ход выполнения, а ИИ-агенты исследуют свои области, совещаются друг с другом и выдают результат. Это если говорить коротко и упрощенно.

Виртуальной лаборатории уже поставили важную задачу — создать нанотела, которые должны максимально эффективно связываться с новыми вариантами вируса SARS-CoV-2 (ага, ковид никуда не ушел, господа).

Узнать о результатах можно на канале Андрея Кузьминых.

Андрей — экс-директор по данным и ИИ стратегического блока Сбера. На своем канале он рассказывает о создании ИИ-продуктов на примере своих реальных кейсов, делится новостями из сферы AI, подборками полезных инструментов, применении их в разных сферах (от медицины до военного дела) и мыслями о нашем киберпанк-будущем.

Вот несколько постов, с которыми я рекомендую ознакомиться:

— Игровой эксперимент: кто победит в гонке за AGI
— Первая в мире ИИ-лаборатория с ИИ-учеными
— Топ ИИ-инструментов для создания контента
— «Мэтчим не тела, а души» с дейтинг-сервисом на базе ИИ

Подписывайтесь на канал Андрея, пока ИИ не сделал это за вас!

#реклама

Легендарный Скотт Александер сделал эксперимент. Он показал картины нескольким тысячам человек и попросил определить какие из них великие шедевры, а какие сгенерированы за полсекунды на микроволновке.

Результаты неутешительные: только 60% ответов верные, то есть всего на 10% выше чем случайный тык.

Более того, 60% людей предпочитают ИИ картины. Обе картины, которые людям понравились больше всего были сгенерированы. Даже те, кто агрессивно ненавидят ИИ арт, все равно в реальности предпочли его, когда не знали автора. Профессиональные художники набрали чуть более лучший результат (66%), но все равно не смогли пройти тест Тьюринга (нужно обдурить не менее 30% в изначальной формулировке).

О работе после ИИ

Замена меня, вас и кого угодно ботами — это цель ИИ, а не риск. ИИ нужен чтобы убрать всю работу, а не придумать новую.

Я думаю, что пытаться сегодня «придумать» такую профессию, которая гарантировано не будет автоматизирована ИИ и роботами — бессмысленно. Вы не угадаете. В лучшем случае, потратите время на то, что вам не интересно. В худшем — на то, что еще и не нужно.

Вместо этого, ответ такой же, как и до ИИ: делать то, что любишь и то, что полезно другим. Вы можете верить в AGI в 2026, 2028 или даже 2039, но рано или поздно почти любая сегодняшняя деятельность будет не нужна. Но это не значит, что ей перестанут заниматься. Люди будут рисовать и писать музыку, так же как не перестали играть в шахматы и го.

И так же, как и до ИИ о вашем благосостоянии лучше всех позаботитесь вы сами, а не Маск, Альтман или Суцкевер. Они не куры-наседки.

Лучшая стратегия — постепенно перевести ваш доход от работы в доход от капитала. «Пассивный доход», как говорят крипто-инфо-цыгане. Сделать что-то большое, инвестировать, получить долю, заработать репутацию. Потому что это вы сделаете, а с ИИ сделать это будет еще проще и быстрее. Но что ни один бот не сделает за вас — не будет хотеть. Не будет мечтать о том как вы хотите устроить свою жизнь. Не будет выбирать. Ему не надо. Почему так неочевидна мысль, что о вашем счастье и процветании можете позаботиться вы сами?…

Я уверен, что этот пост не относится к очень многим читателям и подписчикам. Скорее, я у них этому учусь. Но, извините, пригорело с некоторых комментариях в тоне «дайте-подайте».

Получил тут превью работы Epoch AI (лучшие в мире открытые исследователи по экономике ИИ). В целом, идея очень близка к тому что я писал 2 месяца назад. Реалистичный прогноз по интеллектуальным, а позже и физическим профессиям:

1. Постепенный рост предельной производительности труда. Причина: по мере внедрения ИИ и робототехники в экономику, производительность растет медленно, так как люди выполняют наиболее важные задачи, которые еще не автоматизированы.

2. По мере того как автоматизация берет на себя большую часть задач, человеческий труд сосредотачивается на оставшихся неавтоматизированных, но критически важных задачах. Это управление, дизайн, координация ресурсов (человеческие отношения). Эти задачи являются бутылочным горлышком — единственным ограничением для дальнейшего роста output.

3. Со временем, эти критические и ключевые задачи тоже автоматизируются и ценность человеческого труда обнуляется. Output растет без участия человека, а люди переключаются на другие задачи, профессии и деятельность.

Ну и несколько максимально очевидных вещей, без которых какая-то содомия творится в комментариях:

— AGI != сознание, от AGI до сознания как раком до Китая; AGI ничего не "хочет", не "решает" и не "придумывает". скорее, это послушный PhD, который может поднять 250кг полезной нагрузки

— автоматизация приводит к росту продуктивности и аутпута, то есть, по определению, росту благосостояния. все страхи о безработице и "богатые богатеют" — это не про ИИ, а про системы координации людей (то есть, политику и экономику). это важные вопросы, но их нужно обсуждать в правильном контексте.

LLM → LPM (большие популяционные модели), которые могут одновременно симулировать десятки миллионов агентов для предсказания событий на уровне общества, таких как изменение климата или пандемии.

🚀 Как Трамп влияет на крипторынок?

С приходом нового президента США крипторынок продемонстрировал резкий рост. BTC пробил $90 000, что подтверждает активное привлечение капитала и высокий интерес к цифровым активам.

Что это значит для трейдеров и ходлеров?

Биткоин остается лидером как основной инструмент для долгосрочного удержания капитала, сохраняя низкий риск относительно альтов. ETH удерживает позиции в качестве второй по капитализации сети, обеспечивая стабильный спрос на свои смарт-контракты и экосистему. На фоне общего бычьего настроения альткоины, такие как SOL, SUI, APT, NEAR и XRP, демонстрируют сильный рост и становятся отличным вариантом для диверсификации портфелей.

Чего ждать?

2025 год обещает стать настоящим подарком для криптоиндустрии. С благоприятным настроем на рынке, смягчением регулирования и активным ростом интереса со стороны институционалов крипта превращается в максимально плодородную почву для инвестиций. В такие периоды практически любой проект имеет шанс на успех, а рынок готов к впечатляющим результатам. Этот бычий цикл — время быть смелее и внимательнее, чтобы не упустить возможности.

Следите за новостями, подписывайтесь на канал Максима Маркана, чтобы всегда быть на волне лучших идей и свежих инсайтов!

#реклама

Статья в Nature: ИИ лучше людей в поэзии

Исследование на основе 2000 респондентов из США (бычных читателей поэзии) показало, что стихи, созданные искусственным интеллектом, становятся неотличимыми от произведений известных поэтов и даже получают более высокие оценки за качество и эмоциональное воздействие. Ваши любимые роботы теперь могут писать стихи лучше некоторых из нас.

Ключевые инсайты исследования:

1. Участники эксперимента часто ошибочно принимали AI-сгенерированные стихи за работы знаменитых поэтов.

2. ИИ стихи получили более высокие оценки по качеству, ритму и эмоциональной глубине.

3. Несмотря на предпочтение, зная, что стихотворение создано ИИ, участники оценивали его ниже, дискриминируя несчастных ботов.

Пришла беда откуда не ждали, но зато поздравительные картинки в воцапе от стареющего поколения станут менее кринжовыми.

По ссылке ниже куча деталей