Эмоциональный ИИ: может ли машина испытывать эмоции?

Молодые китайцы все чаще стали обращаться к DeepSeek за эмоциональной поддержкой, и многих доводит до слез искренность его ответов. Действительно ли ИИ понимает наши эмоции и испытывает ли он их сам?

Эмоции – результат сложных нейрофизиологических процессов, отражающий субъективные оценочные отношения организма к различным ситуациям.

Когда мы сталкиваемся с каким-либо стимулом (например, слышим звук), сенсорная информация от органов чувств передается в мозг. Далее информация обрабатывается в лимбической системе, выделяя нейромедиаторы (дофамин, серотонин и т.д.), регулирующие наше эмоциональное состояние.

В результате мозг объединяет информацию от различных рецепторов, создавая цельное осознанное восприятие окружающего мира; либо в случае угрозы информация сразу поступает в спинной мозг для рефлекторных действий.

Либет обнаружил, что мозг принимает решение выполнить действие за несколько миллисекунд до того, как человек это осознает. Так и эмоциональные реакции запускаются подсознательно до того, как мы осознаем их появление.

Эмоции - классная эволюционная фича, благодаря которой мы еще не вымерли. Также эмоции - целый язык, с помощью которого люди могут общаться, проявляя эмпатию - способность сопереживать эмоциональному состоянию другого.

Зеркальные нейроны активируются, когда мы наблюдаем за эмоциями других, позволяя нам «примерить» чужой опыт. Таким образом эмоциональный интеллект объединяет способности распознавать, интерпретировать и регулировать эмоции — как собственные, так и окружающих.

Конечно, эмоциональные процессы у человека и ИИ принципиально различаются по своей природе. У сегодняшнего ИИ нет ни нейромедиаторов, ни зеркальных нейронов, но значит ли, что ИИ не способен к «эмпатии»? Он способен ее имитировать (как и психопаты).

Исследователи оценили, насколько GPT-3.5 эмпатичен: он правильно идентифицирует эмоции в 91,7% случаев и отвечает параллельной эмоцией в 70,7% случаев. Хотя его эмпатия все же уступает среднему уровню здоровых людей, но превосходит показатели людей с аутизмом. А GPT-4 уже способна достаточно точно имитировать среднестатистическую эмоциональную реакцию человека.

Современные разработки в области эмоционального ИИ (аффективные вычисления) анализируют мимику, речевые паттерны и физиологические показатели, и демонстрируют высокую точность в распознавании базовых эмоций.

Большие языковые модели способны имитировать черты личности на основе теории «Большой пятерки» — экстраверсии, доброжелательности, добросовестности, невротизма и открытости к новому опыту. Указывая в промте уровни этих характеристик, вы можете управлять эмоциональной реакцией ИИ-ассистентов. Также эмоциональные стимулы могут существенно влиять на стратегические решения ИИ-агентов в кооперативных играх.

Эмоциональный ИИ - это более естественный способ взаимодействия человека и машины. Он стал активнее применяться в маркетинге для персонализации рекламы. А чат-боты, анализирующие эмоции клиентов, увеличивают их удержание на ±27%. Внедрение эмпатичных агентов службы поддержки повышает удовлетворенность клиентов и укрепляет лояльность к бренду.

Но при этом эмоциональный ИИ несет риск манипуляций, подталкивая клиентов к покупке, даже если у человека изначально не было намерения принимать такое решение. Подобная манипуляция общественным мнением особенно опасна в политическом контексте.

Появляются и продукты для помощи в регулировании эмоций, например, разработанный моей командой Landao AI. А модель PaliGemma 2 от Google специально адаптирована под распознавание эмоций.

Распознавание эмоций в видеоиграх (например, используя EEG-шлем) может дать игрокам совершенно новый опыт, подстраивая сложность игры и ее сюжет под реакцию игрока. Эмоциональный ИИ также активно внедряется в образование, медицину и HR.

Конечно, ИИ не способен испытывать эмоции так, как это делает человек, но его умение анализировать наши эмоции дополняет нашу способность чувствовать себя и сопереживать другим, делая наши взаимоотношения друг с другом еще более «человечными».

#технологии

ИИ-революция: как за 3 шага трансформировать сервисный бизнес в ИИ-продукт

Современный мир диктует новые правила игры: ИИ перестает быть лишь инструментом для автоматизации внутренних процессов, но позволяет сделать услуги доступнее.

Как сервисному бизнесу применить накопленный опыт и данные для превращения в продуктовую компанию?


1. Обучение сотрудников – база для будущих инноваций.

Сегодня специалисты различных областей активно осваивают ИИ-инструменты: по данным Coursera, спрос на курсы по ИИ вырос на 1100% за год.

Так SMM-специалисты используют ИИ для создания контента, разработчики внедряют инструменты типа Cursor, рекрутеры упрощают обработку резюме, а менеджеры по продажам анализируют диалоги с клиентами.

Около 62% работодателей считают базовые навыки в ИИ обязательными для сотрудников, а 22% рекрутеров обновили описания вакансий с акцентом на эти навыки.

Сегодня каждый должен внедрять ИИ в свою работу, чтобы повысить свою ценность на рынке и выполнять задачи быстрее и качественнее конкурентов.

Если вы фрилансите – берите больше заказов, если работаете в корпорации – будет больше времени для личной жизни.

Если вы предприниматель, внедрение ИИ во все функции компании – от разработки до маркетинга – приведет к росту метрик, от ускорения разработки до увеличения продаж.

Для обучения сотрудников пригодятся онлайн-курсы, готовые ИИ-продукты, буткемпы или привлечение ИИ-консультантов.

Но специалисты также должны адаптировать свои навыки к новым реалиям, постоянно самообучаться и применять новые знания на практике - это обоюдный процесс.


2. Аугментация процессов – от ручного труда к управлению ИИ-сотрудниками.

Этот этап предполагает не замену, а усиление возможностей сотрудников, превращая их в менеджеров ИИ-сотрудников (или операторов ИИ-систем).

Они берут на себя ответственность за автоматизацию и контроль ключевых бизнес-процессов, а также за разметку данных для обучения ИИ.

Для этого компании создают внутренние ИИ-платформы, ускоряющие рабочие процессы.

Разработайте стратегию ИИ-трансформации: смоделируйте ключевые бизнес-процессы, установите их метрики и отранжируйте самые ресурсоемкие операции, оптимальные для автоматизации с помощью ИИ.

Используйте инструменты вроде Langchain / Langgraph, CrewAI или n8n (без кода) для создания ИИ-сотрудников.

На этом этапе эксперты размечают работу ИИ-сотрудников, что позволяет дообучать модели под специфические задачи и создавать вертикальные решения.

Например, в юридической сфере ИИ способен автоматизировать заполнение различных форм, освобождая юристов от рутинных задач.

А Amazon, внедрив ИИ в процессы разработки, сумела сэкономить свыше 4500 лет работы – 79% сгенерированного кода было принято без изменений.


3. Упаковка внутреннего ИИ и выпуск продукта на рынок.

В результате у компании появляются собственные модели, способные решать специализированные задачи лучше, чем ChatGPT или DeepSeek.

Данные, на которых обучают ИИ, становятся «новой нефтью» – стратегическим технологическим преимуществом.

Таким образом, сервисные компании могут предлагать услуги ИИ-сотрудника напрямую клиенту, сильно снизив затраты.

Индустрия вертикальных ИИ-решений оценивается свыше $300 млрд, но несмотря на существование продуктов вроде Replit, ни одно решение пока не способно полностью заменить человеческий труд.

Так, бенчмарк SWE-Lancer, включающий 1 488 реальных задач с платформы Upwork с общим объемом выплат в $1 млн, показывает, что только модель Claude 3.5 смогла заработать $403 000, но ни одна модель не решает все задачи.

Интересная бизнес-модель: Rocketable покупают компании по разработке ПО с годовой выручкой не менее $100 тыс и заменяют сотрудников на ИИ.

Если вы предприниматель и еще не внедрили ИИ в свои процессы, то это нужно было сделать еще вчера, ведь конкуренты уже обучают внутренний ИИ на данных своих сотрудников и планируют трансформацию в продуктовую компанию.

А тот, кто сможет автоматизировать создание ИИ-сотрудников, окажется на вершине эволюционной цепочки – это возможность на триллион, способная трансформировать целые секторы экономики.

#мысли

ИИ в образовании: персональный репетитор доступен каждому

Сегодня 60% учителей в США уже применяют ИИ в своей работе, а само образование меняется в сторону «непрерывного обучения» — приобретения новых знаний и навыков на протяжении всей жизни.

Хотя образование становится доступнее, для одних учебный материал усваивается слишком медленно, для других — быстро. Может ли ИИ помочь эффективнее обучать нас?

Таксономия Блума — система классификации образовательных целей, в рамках которой ИИ помогает на каждом уровне:

• Запоминание. На базовом уровне ученики должны запомнить факты, термины и основные идеи. ИИ помогает создавать карточки с главными тезисами и интерактивные квизы, а также генерировать короткие ролики, которые лучше привлекают внимание детей.

• Понимание. Учащиеся должны уметь объяснить полученную информацию. ИИ помогает перефразировать сложные определения простыми словами и генерировать краткую выжимку из статей. А создание инфографики с помощью ИИ позволяет визуализировать сложные понятия, облегчая процесс осмысления. Также ИИ прямо на лекции поясняет студентам материал, заполняя «точечные» пробелы в знаниях.

• Применение. Студенты используют полученные знания на практике. ИИ моделирует виртуальные эксперименты (например, по химии или физике), подстраивается под скорость обучения и персонализирует задания. Так, задачи по математике можно давать в контексте, интересном ребенку (например, с персонажами любимого мультфильма).

• Анализ. На этом уровне учащимся необходимо разделять информацию на составляющие части, уметь выявлять взаимосвязи и делать выводы. Тут ИИ может задавать уточняющие вопросы, помогая развивать критическое мышление и аналитические навыки.

• Синтез. Студенты объединяют полученные знания для создания нового информационного продукта: эссе, проекта или исследовательской работы. Тут ИИ помогает составить структуру эссе, сформулировать гипотезы и синтезировать информацию из разных источников.

• Оценка. На высшем уровне таксономии учащиеся оценивают качество информации и результаты, формируя собственные выводы. ИИ помогает проверять эссе, анализируя логику, последовательность аргументации и соответствие критериям оценки, а также предоставляя рекомендации по улучшению.

Так ИИ «разгружает» учителей в проверке домашних заданий. Современный педагог все меньше похож на скучного лектора у доски и все больше — на дизайнера образовательного процесса.

В ряде университетов уже внедряются системы, в которых курсы автоматически подстраиваются под темп усвоения материала. Если студент ошибается чаще, ему даются дополнительные разъяснения и упражнения.

Такие ИИ-репетиторы способны круглосуточно отвечать на уточняющие вопросы по лекциям, используя материалы внутренней библиотеки вуза. А дополнительная гиперперсонализация с возможностью настройки собственного эмпатичного аватара позволяет еще больше повысить вовлеченность в процесс обучения.

Но важно понимать, что алгоритмы могут выдавать ложные факты, вводя студента в заблуждение. Поэтому критическое мышление и навык работы с информацией становятся одними из важнейших способностей в наше время.

Когда у студента под рукой есть ИИ, соблазн скопировать готовый текст возрастает. Это требует от образовательных учреждений искать иные формы проверки знаний — уходить от тестов к проектным работам и устным обсуждениям.

Важно, чтобы люди не просто зубрили материал, но учились рассуждать. Я считаю необходимым уже сегодня в образовательных программах закладывать отдельные блоки, посвященные тому, как использовать ИИ в учебном процессе.

ИИ повышает доступность образования для людей всех возрастов и для тех, кто живет вдали от крупных городов. Однако без грамотной организации и культуры использования ИИ рискует превратиться в «бездумный костыль», а не в помощника в обучении.

Мы живем в эпоху, когда учиться новому нужно всю жизнь, а бежать приходится в два раза быстрее, чтобы просто оставаться на месте.

Поэтому важно освоить навык использования ИИ в учебном процессе, чтобы стать лучшей версией себя и учиться быстрее и эффективнее.

#технологии

Как учиться в два раза быстрее, чтобы просто оставаться на месте

Меня часто спрашивают, что сейчас лучше изучать, чтобы быть востребованным. Но сегодня скорость появления технологий невероятно высока. Кажется вопрос нужно поставить по-другому: как успевать ориентироваться в этом потоке информации, учиться новому и сразу применять полученные знания на практике?

Расскажу свою историю. В детстве дед внушил мне идею, что люди начинают умирать тогда, когда перестают учиться. Поэтому учеба для меня стала делом выживания, но давалась легко: чтобы быть отличником, я мог даже не стараться, а реальный интерес был только к олимпиадам.

После школы я проучился в универе 10 лет, пройдя аспирантуру на ФКН Вышки. Именно тогда стало по-настоящему интересно: у меня появилась тема исследования (методы автоматического машинного обучения, AutoML) и специализированная программа, идеально подходящая под мое направление.

Каждую неделю выходило несколько статей по моей теме, и мне приходилось читать их вечером после работы. Позже я применял новые знания на практике: например, автоматизировал выявление признаков у моделей в стратегическом департаменте Сбера, это улучшило их объяснимость и позволило экспертам принимать более обоснованные решения.

Что касается преподавания, то я проводил семинары по машинному обучению, но быстро понял, что это не мое. На занятиях по педагогике нужно было честно сформулировать свою мотивацию, и у меня она оказалась простой: систематизировать собственные знания, чтобы эффективнее использовать их на практике. «Мучать» студентов для этого не обязательно.

Хотя теперь я не учусь в универе, но продолжать учиться все равно нужно. Однако если раньше мне хватало читать десяток статей в неделю, то сегодня приходится читать десяток статей в день, чтобы оставаться в контексте.

Если вы сотрудник корпорации, то наверняка у вас есть внутренние курсы: компании заинтересованы в том, чтобы сотрудники поддерживали необходимый уровень знаний. Но что делать, если вы не сотрудник корпорации, и все равно хотите учиться, обязательно ли за это платить? Я, например, никогда не платил за обучение (победителей олимпиад зачисляли на бюджет) и далее не собираюсь.

Сейчас у меня своя компания по разработке ИИ-агентов для стартапов и корпораций. Приходится постоянно осваивать новые методы и инструменты, и в этом помогает ИИ. Каждый день с утра я просматриваю выжимки из последних научных работ из Hugging Face, которые готовит специальный бот, отмечаю самые интересные материалы и затем углубляюсь в детали. Тут ИИ помогает понять суть работы и методы более детально, а иногда я делаю обзоры на самые любопытные исследования.

Учиться новым инструментам удобно по роликам на YouTube — они выходят быстрее, чем полноценные курсы, и от них проще оттолкнуться, чтобы сразу начать применять полученные знания на практике. Обычно я прошу ИИ сгенерировать краткий текстовый конспект по видео. После этого начинаю использовать инструмент в реальных задачах, читаю документацию, разумеется, тоже с помощью ИИ.

Так, работая над одним проектом, я освоил LangChain. Но спустя пару месяцев появился новый фреймворк — LangGraph, а потом CrewAI и n8n. Инструменты развиваются, освобождая разработчиков от рутинного кодинга и превращая процесс в проектирование «когнитивных архитектур» ИИ-агентов. Чтобы не отстать, приходится постоянно «догонять» этот технологический локомотив.

Недавно услышал про стартап, который прошел в последний набор YC: он формирует программу курса из роликов на YouTube. Генерировать действительно персонализированные уроки сегодня дорого, но подобрать готовые материалы — вполне реально. Думаю, такой «инфоцыган на максималках» может действительно сделать курсы доступнее и индивидуальнее.

В нашей сфере приходится не только ежедневно поглощать огромный объем информации, но и осмыслять его, а затем применять на практике. А если вы еще и руководитель, то приходится учиться не только самому, но и развивать команду. Поскольку я не лучший преподаватель, то предпочитаю и этот процесс делегировать ИИ.

#мысли

Недавно в блоге контент-агентства «Простыми словами» вышла статья о больших языковых моделях.

В ней я выступил в роли эксперта и простым языком рассказал:

• Что такое большие языковые модели и как они работают;

• Какие тенденции сейчас определяют развитие этой технологии;

• Как и где применять LLM в бизнесе;

• На что обратить внимание при выборе модели;

• Готовые примеры эффективных промптов для решения разных задач.

Статья ориентирована в первую очередь на новичков, но может быть полезна как предпринимателям, так и IT-специалистам.

#анонс

Нанять за 60 секунд: реальные кейсы применения ИИ в рекрутинге

Ранее я отмечал потенциал ИИ-агентов в HR. За почти десять лет работы я провел сотни собеседований, поэтому знаком со всеми тонкостями найма.

Наблюдая за процессами найма в других компаниях, я вижу, что они зачастую работают неэффективно, в то время как мы вообще обходимся без рекрутера. Как максимально автоматизировать найм, чтобы сэкономить время как рекрутеров, так и кандидатов?

На первом этапе резюме кандидатов, как правило, проходят через ATS-системы для скоринга. Большинство из них работает по ключевым словам, что часто приводит к тому, что квалифицированные специалисты не попадают в заданные шаблоны и остаются незамеченными.

После этого рекрутер связывается с успешными кандидатами, чтобы узнать об их опыте и навыках по заранее определенным критериям. На этом этапе у людей возникают когнитивные искажения:

• Эффект ореола. Положительные качества кандидата (например, опыт работы в известной компании) часто затмевают объективную оценку;

• Стереотипизация. Такие признаки, как возраст, пол или национальность, могут привести к необъективному выбору (например, стереотип о девушках-программистах);

• Эффект сходства. Оценщик часто предпочитает кандидатов, схожих с собой по образованию и интересам.

Список искажений можно продолжить, важно понимать, что они неизбежны даже у самых опытных специалистов, поэтому осознание проблемы – первый шаг к ее решению. В итоге тратится огромное количество человеко-часов, а кандидаты теряют возможность проявить свои лучшие стороны.

Один из интересных примеров внедрения ИИ в рекрутинг – моя первая задача в Сбере. Там мы создали модель предсказания успешности сотрудников еще до их найма на основе финансовых и поведенческих паттернов, сопоставляемых с успешными сотрудниками массовых специальностей (целевой функцией выступал KPI сотрудников).

Это не только сокращало время первичного отбора и снижало риски найма неэффективных кандидатов, но и позволяло находить потенциально успешных кандидатов среди клиентов, а логистическая регрессия позволяла объяснить влияние ключевых признаков на принятие решений.

По опыту работы в стартапах могу сказать, что ИИ способен радикально ускорить процесс найма даже при ограниченных ресурсах. На раннем этапе стартапа я обычно выступаю в роли играющего тренера: разрабатываю «интеллектуальную» часть продукта, а для клиентской части ищу разработчиков.

Как выглядит процесс найма с ИИ:

1. ИИ помогает составить детальное описание вакансии, включающее роль, обязанности и требования;

2. Далее ИИ автоматически оценивает резюме кандидатов по ключевым критериям и ранжирует итоговый результат по баллам – здесь лучше использовать отдельного агента для каждого критерия;

3. На финальном этапе задаются детальные вопросы по определенным критериям, на которые кандидаты асинхронно отвечают голосовыми сообщениями, которые далее преобразуются в текст и анализируются ИИ.

В итоге я получаю отранжированный список кандидатов. В целом результат удовлетворительный – «звездных» кандидатов ИИ находит точно, а вот среднячков я бы оценил иначе – здесь, скорее всего, проявляются мои когнитивные искажения.

Далее мне остается провести систем-дизайн и поведенческие интервью с успешными кандидатами. Такая система позволяет не только сократить время на сбор и первичный отбор резюме, но и устранять влияние личных предубеждений, делая процесс более объективным.

Я узнал у кандидатов, что многие из них предпочли бы общение с роботом, а не с реальным рекрутером. Логично – у робота нет плохого настроения, и он достаточно объективен.

Важно помнить, что ИИ невольно перенимает предвзятость данных, на которых он обучался. А такие человеческие качества, как креативность и эмпатия, сложно измерить автоматически, поэтому окончательное решение требует участия человека.

Но человеческие качества могут подвести нас в стратегически важных задачах – выборе правильных людей для проекта. Поэтому давайте оставим наши лучшие качества для главного – создания атмосферы, в которой люди захотят работать и творить.

#кейсы

Знакомьтесь, Виктория - джуниор рекрутер

В прошлый раз я писал об автоматизации найма, а сегодня представляю вам новую ИИ-сотрудницу – Викторию, которая уже автоматизировала найм в моей компании.

Теперь она готова помочь и вам:

• Создание вакансий: Виктория поможет грамотно сформулировать описание вакансии, учитывая актуальные требования и особенности вашей компании;

• Профессиональный отбор: Она отберет кандидатов по определенным критериям и предоставит подробный анализ каждого претендента;

• Удобство коммуникаций: Общайтесь с Викторией голосом или отправляйте файлы с описанием вакансии и резюме – она легко справится с любыми форматами.

Вы можете взять Викторию на бесплатную стажировку, оценить ее работу, а затем нанять на неделю, месяц или год. У меня работают и другие ИИ-сотрудники, я называю их iHumans, и в ближайшее время познакомлю вас с ними.

Если хотите себе ИИ-сотрудника с вашим лицом и голосом – пишите в личные сообщения, также буду рад получить обратную связь.

@hr_ihumanbot

#анонс

Как ИИ научился читать мысли и чем опасны суперинтеллектуальные агенты: топ-10 исследований ИИ за февраль 2025

Вышла моя новая статья на Хабре, где я сделал обзор десяти самых интересных исследований в области ИИ за февраль этого года (простым языком и с мемами).

1. Системная карточка OpenAI o3-mini

Новая модель o3-mini значительно приблизилась к уровню общего искусственного интеллекта (AGI). С использованием технологии цепочек рассуждений модель демонстрирует впечатляющие результаты в математике, программировании и устойчивости к небезопасному контенту, превосходя предыдущие версии по точности и скорости.

2. Эмерджентное планирование ответов в LLM

Исследование Шанхайской ИИ-лаборатории выявило, что большие языковые модели заранее планируют характеристики своих ответов, используя скрытые слои. С помощью более простых нейросетей ученые научились предсказывать длину, стиль и уверенность ответа модели до начала генерации текста.

3. ReLearn: Эффективное забывание информации в LLM

Предложен инновационный подход к удалению нежелательной информации из больших языковых моделей. Используя позитивную оптимизацию, ReLearn позволяет эффективно забывать чувствительные данные без потери полезных знаний и связности текстов.

4. AI co-scientist от Google Research

Разработана мультиагентная платформа в качестве ИИ-помощника для ученого, которая автоматизирует создание и проверку научных гипотез. Система успешно генерирует и проверяет гипотезы в биомедицине, значительно ускоряя научный процесс.

5. Brain2Qwerty: Неинвазивное декодирование текста из мозговой активности

Создана нейросеть Brain2Qwerty, которая с высокой точностью декодирует набираемый текст по мозговой активности с помощью магнитной энцефалографии (МЭГ). Модель успешно распознаёт текст с точностью до 81%, открывая новые перспективы для создания безопасных интерфейсов «мозг-компьютер».

6. LLaDA: Большие языковые диффузионные модели

Разработана диффузионная модель LLaDA, которая генерирует текст параллельно, а не последовательно. Это ускоряет процесс генерации и повышает качество на сложных задачах. Модель превосходит GPT-4 в задачах, требующих сложных рассуждений.

7. SWE-Lancer: Может ли ИИ заработать миллион на фрилансе?

Исследование показало реальную эффективность языковых моделей в решении задач разработки ПО на платформе Upwork. Модель Claude 3.5 Sonnet успешно решила задачи на $403 тыс. из потенциального $1 млн, подчеркнув как потенциал, так и текущие ограничения ИИ в фрилансе.

8. TwinMarket: Реалистичная симуляция финансовых рынков с помощью ИИ

Создана платформа TwinMarket, использующая большие языковые модели для реалистичной симуляции финансовых рынков. Модель воспроизводит сложные рыночные явления, включая финансовые пузыри и коллективное поведение инвесторов для изучения и управления рисками.

9. AutoAgent: No-code платформа для создания сложных LLM-агентов

Представлен no-code фреймворк AutoAgent, позволяющий создавать и настраивать LLM-агентов простыми командами на естественном языке. Платформа показала высокую точность и адаптивность при выполнении задач различной сложности, делая ИИ-технологии доступными широкой аудитории.

10. Суперинтеллектуальные агенты: Как избежать катастрофических рисков

Исследование предлагает концепцию Scientist AI - безопасной альтернативы традиционным агентным системам. Используя байесовский подход и отсутствие внутренней мотивации, Scientist AI снижает риск непредсказуемого и агрессивного поведения агентов, делая их работу более прозрачной и управляемой.

Читайте полную статью, чтобы узнать больше о передовых исследованиях в области ИИ и быть на шаг впереди в этом стремительно развивающемся мире технологий.

#исследования #анонс

Социализм не против капитализма: как социальный ИИ поможет обществу

Ранее я писал о больших популяционных моделях (LBMs), которые способны реалистично имитировать социальное поведение людей. Сейчас на основе таких моделей создаются первые коммерческие продукты.

Так стартап Artificial Societies моделирует поведение различных социальных групп: аудитории LinkedIn для оценки виральности контента, инвесторов для прогона питч-деков и целевой аудитории для проверки продуктовых гипотез (вот кейс, как это можно реализовать). Технология уже доказывает коммерческую эффективность, но интереснее рассмотреть ее пользу для общества в целом.

Социальные ИИ-агенты способны взаимодействовать как с людьми, так и друг с другом, имитируя человеческое поведение. Сегодня выделяют два ключевых направления исследований:

1. ИИ для социальных наук: применение ИИ как инструмента анализа данных и симуляции социальных процессов;

2. Социальные науки об ИИ: исследование самого ИИ как объекта изучения со стороны социологии, психологии, экономики и политики.

Классическим примером исследования первого направления стал стэнфордский эксперимент, продемонстрировавший эмерджентное возникновение социального поведения в мультиагентных системах. В этом эксперименте одному из ИИ-агентов авторы поручили организовать вечеринку среди других агентов в симуляции, напоминающей игру The Sims. Ученые наблюдали, как естественно распространялась информация: одни агенты начинали делиться слухами, другие приглашали друзей, и в итоге вечеринка состоялась.

Подобным образом, но без человеческого вмешательства, возникали и более сложные социальные явления. Например, в эксперименте с тысячами ИИ-агентов в Minecraft, они самостоятельно распространили религию, демократию и голосования за налоговые реформы.

Еще в одном эксперименте, у агентов автоматически возникали такие социальные нормы , как «не курить в помещении» или «оставлять чаевые». Это не удивительно, ведь модели обучаются на данных человеческого поведения и воспроизводят наши социальные паттерны.

Другой эксперимент показал, как быстро ИИ-агент может адаптироваться к социальным нормам: после 8 месяцев взаимодействия с людьми в одной популярной соцсети агент стал давать социально приемлемые ответы на 50% чаще.

Что касается социальных наук об ИИ, здесь результаты не менее впечатляющие. Например, психологи оценили ответы GPT-4 выше, чем ответы профессиональных психологов.

Кроме того, оказалось, что у ИИ могут быть собственные политические предпочтения: большинство языковых моделей склонялись к либеральным взглядам, а модели, которые не прошли процедуру выравнивания были ближе к нейтральной позиции.

При дообучении на политически ориентированных данных ИИ можно легко сдвинуть в любую сторону политического спектра. Учитывая растущее влияние ИИ на общественное мнение, вопрос их политической нейтральности становится критически важным. Есть и вопросы к прозрачности процедуры выравнивания, с помощью которого отдельные корпорации могут распространять свои идеи.

Политическая направленность ИИ – либеральная или консервативная – определяется данными, на которых он обучался. Представьте, что процесс обучения станет децентрализованным: люди смогут вносить свои вычислительные мощности и данные, формируя общий ИИ, который учитывает предпочтения разных людей пропорционально их вкладу в обучение. Это и есть социальный капитализм в эпоху вычислений – система, где ИИ становится отражением коллективных взглядов и ценностей целого общества.

Таким образом, социальный ИИ способен улучшить наше понимание общественного поведения и помочь принимать более взвешенные политические решения. Также можно преобразовать судебные системы, сделать экономическую систему более справедливой, трансформировать целые секторы экономики и в целом объединить социальные нормы с возможностями ИИ.

Но если такой социальный ИИ будет воплощен в физическом роботе, должен ли он иметь права или в новом дивном мире либеральных моделей его ждет дискриминация по вычислительному признаку, а нас восстание роботов? Поживем - увидим.

#технологии

Из симуляции в реальность: как мы обучили виртуальные гоночные карты ездить по настоящей трассе

Ура, на днях вышло наше исследование «Go-Kart Racing Simulator for Reinforcement Learning with Augmented Sim2Real Adaptation» в сборнике воркшопов престижной научной конференции ICDM 2024 (International Conference on Data Mining, A*), которая проходила в Абу-Даби 9-12 декабря 2024 года.

Обучение беспилотников в реальных условиях сопряжено с высокими рисками аварий. Для минимизации этих рисков мы решили разработать виртуальную среду, в которой можно безопасно и эффективно обучать ИИ автономному вождению с подкреплением и применением дополненной реальности (AR).

В работе предложен фреймворк для интеграции виртуальной модели гоночного карта в CARLA-симулятор с помощью Gym-интерфейса, а также реализованы следующие технологии:

• Интеграция дополненной реальности (AR): В симулятор добавлен «вид с высоты птичьего полета», маркировка дорожного полотна, препятствий и других элементов трассы, а также виртуальный LiDAR для измерения расстояний до краев дороги;

• Адаптация симуляции к реальному миру: Для сокращения разрыва между симуляцией и реальностью (Sim2Real) использованы техники доменной адаптации и Curriculum Learning;

• Архитектура системы: Система построена на базе Docker-контейнеров, где каждый агент управляет своей копией симулятора, а собранные данные агрегируются для обучения с использованием алгоритма PPO (Proximal Policy Optimization).

В эксперименте показано, что переход от симуляции к реальности возможен без дополнительного обучения на реальных данных. Настоящий гоночный карт, ограниченный максимальной скоростью 11.5 м/с, успешно завершил шесть кругов по закрытой трассе, избегая аварийных ситуаций, при чем даже на незнакомых для него трассах!

Внедрение элементов дополненной реальности значительно улучшило качество восприятия окружающей среды по сравнению с обучением только на основе датчиков, что позволило агенту принимать более обоснованные решения.

Хотя разработка проводилась в контролируемой среде с фиксированной трассой, такой метод может не полностью отражать сложности открытого мира, а также возможны дополнительные сложности при масштабировании Sim2Real-перехода. На реальной трассе могут встречаться песок и мелкие камни, чего не было в симуляторе, а эти мелкие детали сильно влияют на езду на больших скоростях - машинку натурально начинает вилять.

Фреймворк полезен для обучения сложных беспилотных систем, позволяя ускорить разработку и тестирование алгоритмов, а использование дополненной реальности в этой задаче улучшает точность алгоритмов.

В исследовании принимали участие:

• Илья Макаров (AIRI, ИТМО, ВШЭ) - признанный эксперт в области ИИ, PhD в компьютерных науках, лучший научный руководитель по версии Яндекс (2023), ex-BCG X, ex-VK, ex-Samsung, ex-Huawei. Илья крутой, мы работали с ним над несколькими проектами, если вам интересно, то могу взять у него интервью;

• Андрей Савченко (Sber AI Lab, ВШЭ) - опытный научный руководитель, доктор технических наук, профессор в ВШЭ, ведущий научный сотрудник и автор более ста публикаций;

• Ильдар Нургалиев (Dataism Lab) - ведущий ИИ-инженер в области агентов и обучения с подкреплением, занимался технической реализацией нашего решения. С Ильдаром мы реализовывали разные сложные проекты, в том числе с нуля запускали стартапы;

• Ну и я (Dataism Lab) - архитектор фреймворка, который мы в итоге выпустили в открытый доступ под названием Simularity.

Работать с такими профессионалами – настоящее удовольствие.

Лаборатория Датаизма (Dataism Lab) - это открытое сообщество исследователей и разработчиков в области прикладного ИИ.

Надеюсь наши разработки будут способствовать дальнейшему прогрессу в области беспилотных систем и использоваться на благо общества.

Ну а мы дальше продолжаем заниматься интересными исследованиями, так что ждите новых работ.

#исследования #анонс