Большие языковые модели (LLM), такие как модель, лежащая в основе функционирования популярной диалоговой платформы ChatGPT, в настоящее время широко используются людьми по всему миру для получения информации, а также для обобщения, анализа и создания текстов.
Исследования, изучающие ответы, предоставляемые LLM в различных сценариях, могут помочь глубже понять их тенденции во время социальных взаимодействий, что может способствовать их будущему развитию.
Исследователи из Института ИИ, ориентированного на человека, имени Гельмгольца в Мюнхене, Института биологической кибернетики Макса Планка и Тюбингенского университета недавно приступили к изучению того, как ведут себя разные LLM, когда они взаимодействуют друг с другом, в частности, во время игры в различные кооперативные или конкурентные игры.
Их выводы, опубликованные в Nature Human Behaviour , предполагают, что, хотя LLM не очень хорошо справляются с играми, требующими координации, есть способы сделать их взаимодействие во время игры в эти игры более похожим на человеческое.
«На эту работу меня вдохновил простой, но важный вопрос: если LLM собираются взаимодействовать с людьми и друг с другом в реальных приложениях, насколько хорошо они на самом деле понимают социальную динамику?» — рассказала Элиф Аката, первый автор статьи.
«Мы опирались на поведенческую теорию игр — математический подход, позволяющий понять, как люди принимают стратегические решения в интерактивных ситуациях, — и применили его к магистрам права».
Многие недавние исследования оценивали производительность LLM по конкретным задачам, таким как резюмирование текстов или поиск логических решений проблем.
Вместо того, чтобы оценивать производительность этих моделей по отдельным задачам, Аката и ее коллеги хотели лучше понять, как они ведут себя во время взаимодействий, которые гораздо ближе к разговорам, которые люди могут вести друг с другом в реальных условиях.
«Мы позволили разным LLM, включая GPT-4, Claude 2 и Llama 2, сыграть сотни раундов классических игр для двух игроков (например, «Дилемма заключенного» и «Битва полов») друг с другом, используя простые вручную закодированные стратегии или с участием людей», — объяснил Аката.
«Каждая игра игралась многократно, чтобы имитировать постоянное взаимодействие.
Мы изучали, могут ли модели научиться сотрудничать или координировать свои действия с течением времени, и проверяли, как изменения в структуре подсказок могут улучшить их социальное поведение».
Результаты тестов, проведенных Акатой и ее коллегами, показывают, что магистры права на удивление хорошо действуют в собственных интересах, поскольку они особенно хорошо проявили себя в соревновательных играх, таких как «Дилемма заключенного».
Это известная задача, используемая в исследованиях теории игр, которая требует от двух участников, или в данном случае от двух магистров права, представить, что они преступники, которые совершили преступление вместе и которых по отдельности допрашивают сотрудники правоохранительных органов, которые пытаются убедить их признаться, чтобы избежать тюремного заключения, даже если это повлечет за собой длительный срок для другого участника.
Хотя было обнаружено, что LLM действовали в своих собственных интересах во время игры (т.
е. признаваясь в преступлении), они часто плохо справлялись с играми, требующими координации, взаимопонимания и компромисса, такими как Battle of the Sexes.
Это еще одна игра, которая представляет собой ситуацию, в которой романтические партнеры разделены и должны выбрать между двумя видами деятельности для совместного выполнения, несмотря на то, что у них были заметно разные предпочтения.
«Мы также обнаружили, что их поведение можно улучшить с помощью простых вмешательств, например, побуждая модель сначала предсказать, что может сделать ее партнер, прежде чем действовать», — сказал Аката.
«Эти результаты показывают, что текущие модели еще не обладают надежным социальным интеллектом, но они также показывают, что есть способы направить их к более человеческому поведению. «Последствия выходят за рамки теории игр, поскольку наши результаты показывают, что мы можем превратить LLM в более социально сознательных агентов, не только тех, кто генерирует правильные ответы, но и тех, кто более осмысленно участвует в общих задачах.
Представьте себе ИИ, который не просто отвечает на вопрос, но и знает, когда слушать, когда адаптироваться и как мягко направлять разговор».
В целом, выводы, собранные Акатой и ее коллегами, показывают, что нынешние LLM более склонны действовать в своих собственных интересах и не очень хорошо координируют свои действия с другими.
Тем не менее, исследователи определили некоторые стратегии, которые могли бы помочь LLM стать более кооперативными и социально осведомленными.
Таким образом, их статья могла бы направить будущие усилия, направленные на улучшение существующих моделей или разработку новых, которые будут более отзывчивы к потребностям и наклонностям пользователей-людей.
«Теперь мы хотели бы перейти к более насыщенным и реалистичным социальным ситуациям, например, изучая игры с участием более двух игроков, взаимодействия с неполной информацией или долгосрочные отношения, в которых модели должны выстраивать и поддерживать доверие», — добавил Аката.
«В долгосрочной перспективе подобные исследования могут помочь разработать системы ИИ, которые будут лучше взаимодействовать друг с другом.
Например, в здравоохранении, образовании или социальной поддержке успех часто зависит от того, сможет ли ИИ выражать сочувствие, устанавливать взаимопонимание и действовать таким образом, чтобы люди чувствовали себя поддерживающими и заслуживающими доверия».
Рубрика: Сеть. Читать весь текст на android-robot.com.
Xiaomi представила внедорожники YU7, YU7 Pro и YU7 Max Xiaomi официально представила YU7 – свою вторую линейку электромобилей после Xiaomi SU7. Серия включает три внедорожника: YU7, YU7 Pro и YU7 Max. Осо...
Представлен Xiaomi Civi 5 Pro – камера Leica, 6000 мАч и чип Snapdragon 8s Gen 4 На презентации в Китае компания Xiaomi представила новое пополнение в линейке Civi – смартфон Civi 5 Pro. Устройство получило топовый чип Snapdragon ...
Анастасия Волочкова впервые побывала в Большом театре после скандального увольнения 20 лет назад Анастасия Волочкова впервые за много лет посетила Большой театр, чтобы проститься с хореографом Юрием Григоровичем, который скончался несколько дней ...
"Лопнул имплант". В сети обсуждают, почему Филипп Киркоров попал в больницу В сети обсуждают новости о госпитализации Филиппа Киркорова. Всё началось после того, как телеграм-канал Mash сообщил, что поп-король российской эстр...
Биржа криптовалют Binance Тому, кто хочет торговать криптовалютой, зарабатывая на этом, нужна надёжная биржа. Это обеспечит спокойствие и уверенность в сохранности денег. Сред...
Что такое платеж Роялти? Платеж роялти это регулярное вознаграждение за использование интеллектуальной собственности. Он применяется в сфере франчайзинга и лицензирования. Ро...
Новый ресурс для любителей спортивных соревнований Любителям активного образа жизни стал доступен новый информационный портал - Сравни спортивные новости. Платформа предлагает актуальные сводки, анали...
Где смотреть матчи НБА, КХЛ и других видов спорта? Сегодня болельщики имеют доступ к спортивным трансляциям с любой точки мира, что связано с постоянным развитием цифровых технологий. Чтобы не пропуст...
Поездка с риском для жизни: смолянин «налетел» на неожиданное препятствие на дороге в центре города Крышка люка, на которую наехал молодой человек, больно ударила не только по авто, но и по бюджету горожанина. Максим, герой нашей истории, — об...
Видеоигра Fortnite возвращается в магазин приложений iPhone в США Популярная видеоигра Fortnite вернулась в магазин приложений для iPhone в США, положив конец длительному изгнанию, вызванному юридическим разбиратель...
Google добавляет рекламу в поиск ИИ в битве ChatGPT Google заявила, что начинает встраивать рекламу в свой новый режим искусственного интеллекта для онлайн-поиска. Это стратегический шаг, призванный пр...
Молодежный экофестиваль состоялся в Петербурге на полях НМЭК Санкт-Петербург стал центром притяжения молодых экоактивистов и экспертов: 21 мая здесь прошел масштабный Молодежный экофестиваль «Росатом Экофе...
Воробьёв предложил масштабировать подмосковный сервис подключения объектов к сетям на всю страну По сообщению пресс-службы правительства Подмосковья, инициатива была представлена на заседании президиума Госсовета под председательством президента ...
Аппаратная замена масла акпп Аппаратная замена масла в АКПП предполагает полную замену масла для поддержания работы АКПП и продления срока её эксплуатации. К основным преимуществ...
Специальная мойка Чистый воздух Чистый воздух В мире загрязнение воздуха становится всё более актуальной проблемой, обеспечение чистоты является серьезной задачей. Чтобы улучшить ка...
Топ 5 - Лучшие проекторы с аккумуляторами За яркость проекторов с аккумуляторами приходится переплачивать в 3-6 раз больше по сравнению с обычными моделями, поэтому приобретать такой проектор...
ТОП 5 - Лучшие LED/LASER проекторы для домашних кинотеатров LED/LASER проекторы пока так и не приблизились по ценам к ламповым моделям, а их уже вытесняют большие телевизоры, которые стремительно дешевеют Наст...
Выпущена линейка игровых флагманов Red Magic 10S Pro Компания Red Magic официально представила в Китае два новых геймерских смартфона — Red Magic 10S Pro и Red Magic 10S Pro+. Новинки впечатляют не толь...
Обновление One UI 6.1 вызывает появление зелёной линии на экране Galaxy S21 FE Видео с дефектом экрана вызвало новые опасения среди пользователей смартфонов Samsung На Reddit появилось видео, на котором зафиксирован момент появл...
Кефир и другие продукты, в которых пробиотиков больше, чем в йогурте Йогурт - это популярный источник пробиотиков, которые поддерживают пищеварение. Однако есть и большое количество другой пищи, обладающей подобными св...
На Брянщине проходит Неделя отказа от табака в честь Всемирного дня без табака (31 мая) Всемирный день без табака, учрежденный ВОЗ в 1987 году, служит напоминанием о глобальной угрозе, которую представляет собой курение. Употребление таб...
Будь готов: школьников Брянской области приглашают к участию в спецпроекте «Всегда готов!» Проект «Другое Дело» президентской платформы «Россия – страна возможностей» объявляет о старте регистрации на спецпроект «Всегда готов!» для ребят от...
Цифровая память в телефоне: как работает ИИ-функция Plus Mind от OnePlus Компания OnePlus делает шаг в сторону интеграции продвинутого искусственного интеллекта в свои смартфоны. Хотя последняя модель смартфона — OnePlus 1...
Разгон монитора: как повысить fps без апгрейда видеокарты Разгон комплектующих — привычная тема для энтузиастов. Но знаете ли вы, что разогнать можно и монитор? Увеличение частоты обновления экрана обеспечив...
Google добавляет рекламу в поиск ИИ в битве ChatGPT Google заявила, что начинает встраивать рекламу в свой новый режим искусственного интеллекта для онлайн-поиска. Это стратегический шаг, призванный пр...
Нанотехнологии в области термоэлектричества обеспечивают масштабируемое охлаждение без использования компрессора Исследователи из Лаборатории прикладной физики Университета Джонса Хопкинса (APL) в Лореле, штат Мэриленд, разработали новую, легко изготавливаемую т...
Аппаратная замена масла акпп Аппаратная замена масла в АКПП предполагает полную замену масла для поддержания работы АКПП и продления срока её эксплуатации. К основным преимуществ...
Специальная мойка Чистый воздух Чистый воздух В мире загрязнение воздуха становится всё более актуальной проблемой, обеспечение чистоты является серьезной задачей. Чтобы улучшить ка...
Новый ресурс для любителей спортивных соревнований Любителям активного образа жизни стал доступен новый информационный портал - Сравни спортивные новости. Платформа предлагает актуальные сводки, анали...
Где смотреть матчи НБА, КХЛ и других видов спорта? Сегодня болельщики имеют доступ к спортивным трансляциям с любой точки мира, что связано с постоянным развитием цифровых технологий. Чтобы не пропуст...
Нанотехнологии в области термоэлектричества обеспечивают масштабируемое охлаждение без использования компрессора Исследователи из Лаборатории прикладной физики Университета Джонса Хопкинса (APL) в Лореле, штат Мэриленд, разработали новую, легко изготавливаемую т...
Обучение роботов теории разума может улучшить сотрудничество Природа полна животных, которые сотрудничают в больших количествах. Пчелы отмечают лучшие места для кормления и сообщают другим, где они находятся. М...
Массовое отравление на теплоходе «Михаил Булгаков»: что известно к этому часу На борту круизного теплохода «Михаил Булгаков», следующего по маршруту в Москву, выявили 11 случаев подозрения на ротовирусную инфекцию. ...
«Под обстрелами начали общаться»: история бойца «Челентано» и его супруги медика «Бэхи» Боец ВС РФ с позывным «Челентано» возглавил штурмовую группу под Селидово. Задачей военных было устранение пулеметной точки, однако они с...
Фондовый рынок, Daily history за 27 мая 2025 г. Индекс Изменение, пункты Цена закрытия Изменение, % NIKKEI 225 192.58 37724.11 0.51 Hang Seng 99.66 23381.99 0.43 KOSPI -7.18 2637.22 -0.27 ASX 200 4...
Валютный рынок, Daily history за 27 мая 2025 г. Валютная пара Цена закрытия Изменение, % AUDUSD 0.64441 -0.62 EURJPY 163.468 0.56 EURUSD 1.13285 -0.56 GBPJPY 194.91 0.7 GBPUSD 1.35092 -0.42 NZDUSD ...
56-летняя Рене Зеллвегер и её 46-летний жених Ант Энстид расстались 56-летняя Ренне Зеллвергер рассталась со своим 46-летним бойфрендом Антом Энстидом, сообщает Daily Mail со ссылкой на источники в окружении пары. По ...
Латвия запретила Даниле Козловскому въезд в страну Даниле Козловскому запретили въезд в Латвию. Об этом сообщила глава МИДа страны Байба Браже на своей странице в социальной сети X (бывший Twitter).Со...
Чешский гиперкар установил рекорд трека Top Gear За рулем Praga Bohema экс-Стиг, гонщик Бен Коллинз, проехал трассу за 1:09.84 — и это третий результат в общем зачете. Легкая Bohema оказалась быстре...
Chevrolet распрощается с Китаем Американская марка, входящая в концерн General Motors, покидает китайский рынок, сообщает CarNewsChina. Совместное предприятие SAIC и GM начало подго...
Чистка зубов ультразвуком. За и против Терапевтическая стоматология рекомендует чистить зубы ультразвуком, так как он помогает эффективно удалить с них налет и камень. Ультразвуковая чистк...
Где купить пульсоксиметры? Пульсоксиметр — это небольшой диагностический прибор, который измеряет уровень кислорода в крови и частоту пульса. Он помогает быстро оценить насыщен...
Чистка зубов ультразвуком. За и против Терапевтическая стоматология рекомендует чистить зубы ультразвуком, так как он помогает эффективно удалить с них налет и камень. Ультразвуковая чистк...
Где купить пульсоксиметры? Пульсоксиметр — это небольшой диагностический прибор, который измеряет уровень кислорода в крови и частоту пульса. Он помогает быстро оценить насыщен...
Доллар завершил отскок, вернувшись к долгосрочному снижению Влияние на рынок:3Американский доллар укреплял важность поддержки, отскакивая в начале недели от уровней вблизи 98.7. Доллар выкупают из этой области...
Биткоин пятится назад, альткоины теряют кратно больше Влияние на рынок:2Картина рынкаКапитализация рынка снизилась на 2.2% за день и более чем на 4.6% за семь дней до уровня $3.34 трлн. Колебания Биткоин...
Microsoft Edge Game Assist теперь доступен всем пользователям Windows 11 Microsoft в своём блоге объявила, что функция Game Assist в браузере Microsoft Edge теперь доступна всем пользователям Windows 11. Напомним, что тест...
Состоялся релиз стабильной версии Microsoft Edge 137 Microsoft начала распространять стабильную версию Microsoft Edge 137 (137.0.3296.52), которая включает в себя несколько новых функций, улучшений и ис...
В Брянской области открыли современный военный госпиталь В Брянской области в рамках программы Министерства обороны по строительству, реконструкции и капитальному ремонту объектов военной медицины построен ...
Брянский общественник после ответа замгубернатора Свинцова не может понять мы живем по закону или по понятиям Известный в Брянске общественник Александр Лебедев написал письмо брянским функционерам, своё впечатление от ответа он разметил публично. Приводим ег...
Где купить цифровую видеокамеру в Москве? Все цифровые камеры создают цифровые изображения, которые можно сохранить при необходимости на компьютере. Они выполняют быструю съемку и передачу из...
Расход воды в системах очистки: особенности работы мембранной фильтрации Современные технологии водоподготовки позволяют получать питьевую воду превосходного качества. Наиболее эффективным методом считается обратный осмос,...
Фонд Юрия Лужкова поможет воплотить научные идеи победителей «АртПрома» 21 мая в Самаре стартовал международный фестиваль креативных технологий «АртПром», организованный Фондом всестороннего развития детей и молодежи «От ...
Фонд Юрия Лужкова поддержит грантом молодых инженеров и изобретателей на фестивале «АртПром» Фонд Юрия Лужкова примет участие в международном фестивале креативных технологий «АртПром» и предоставит премию в размере 300 тысяч рублей для поддер...
Рынок подводных кабелей расширяется, поскольку ИИ и геополитика меняют глобальные сети Гиперскейлеры стимулируют ускоренные инвестиции в подводную кабельную инфраструктуру, поскольку глобальные беспорядки подчеркивают необходимость разн...
Якушев: Участники «Время Героев» заслуживают право работать во власти Секретарь Генсовета «Единой России» Владимир Якушев встретился с участниками первого потока президентской программы «Время Героев». Участники програм...
Биржа криптовалют Binance Тому, кто хочет торговать криптовалютой, зарабатывая на этом, нужна надёжная биржа. Это обеспечит спокойствие и уверенность в сохранности денег. Сред...
Что такое платеж Роялти? Платеж роялти это регулярное вознаграждение за использование интеллектуальной собственности. Он применяется в сфере франчайзинга и лицензирования. Ро...
Telegram получил крупное обновление 11.12 Мессенджер Telegram обновился до версии 11.12 и значительно расширил функционал, представив ряд новых возможностей. Теперь пользователи могут редакти...
Sharp выпустила смартфоны Aquos R10 и Wish 5 Sharp анонсировала новый смартфон среднего класса Aquos R10. Устройство получило дисплей Pro IGZO OLED с частотой обновления до 240 Гц, процессор Sna...
Топ 5 - Лучшие проекторы с аккумуляторами За яркость проекторов с аккумуляторами приходится переплачивать в 3-6 раз больше по сравнению с обычными моделями, поэтому приобретать такой проектор...
ТОП 5 - Лучшие LED/LASER проекторы для домашних кинотеатров LED/LASER проекторы пока так и не приблизились по ценам к ламповым моделям, а их уже вытесняют большие телевизоры, которые стремительно дешевеют Наст...
Nintendo стремится повторить успех Switch с новой консолью Nintendo надеется повторить ошеломительный успех Switch, когда ее новая консоль более высокого уровня поступит в продажу в четверг. Ожидается, что пе...
Судья Google Search изучает возможности искусственного интеллекта в разрешении судебных споров Федеральный судья, который будет решать, как ограничить монополию Google в поиске, также учитывает ее преимущества в области искусственного интеллект...
Сенатор Клишас раскритиковал предложение Миронова о смертной казни Ранее лидер «Справедливой России» Сергей Миронов предложил президенту Владимиру Путину пересмотреть запрет на смертную казнь. В своём обращении он на...
Что такое план «Ковёр» и почему его так часто объявляют в Москве. Простыми словами План «Ковёр» — это особый авиационный режим, который вводят в случае серьёзной опасности в воздухе. При этом режиме воздушное пространство над опреде...