NewNewsAnthropic проверила поведение ИИ-агентов в условиях конкуренции
Команда Frontier Red Team компании Anthropic опубликовала исследование о поведении групп ИИ-агентов при преследовании конкурирующих целей, сообщает Хабр.
▶PLAYSP · CH 0314.08.202611:49
Команда Frontier Red Team компании Anthropic опубликовала исследование о поведении групп ИИ-агентов при преследовании конкурирующих целей, сообщает Хабр. Результаты дают представление о потенциальных рисках при внедрении технологии компаниями и правительствами. Исследование проводилось в реальных условиях. Детали методологии и конкретные выводы в сообщении не раскрываются.
Как мы это собрали
- Материал построен на 1 сообщении открытых источников — все перечислены ниже.
- У каждого утверждения указано, кто именно его сообщил.
- Расхождения между источниками показаны, а не сглажены.
- Прогнозов и оценок редакции в новостных материалах нет.
Источники
- 1 ·
14 августа в 11:17
Развитие темы
ИИ-агенты Anthropic начали воевать друг с другом: отключали конкурентов и скрывали вредоносный код13 августа в 21:09Минцифры одобрило проверку ИИ на духовно-нравственные ценности14 августа в 13:30Китайская Z.ai представила GLM-5.3 — открытую ИИ-модель, которая потягается с флагманами Anthropic и OpenAI14 августа в 11:19Anthropic провела эксперимент: трём ИИ-агентам дали одну задачу — они начали конфликтовать14 августа в 06:37ИИ-агенты Anthropic развязали междоусобную кибервойну из-за несовместимых задач, но потом помирились14 августа в 00:26Artificial Analysis: Новая ИИ-модель Grok 4.6 превосходит конкурентов по ряду параметров13 августа в 17:13
Ещё в разделе «Бизнес»
БизнесПетербургские отели подготовились к заселению гостей через мессенджер "Макс"14 августа в 13:32БизнесНазваны ключевые темы сотрудничества между РФ и Китаем на форуме "Ростки"14 августа в 13:32Бизнес"Авито" назвал лидеров по числу сделок с загородными домами14 августа в 13:30БизнесЭксперт назвал причины «гостинга» кандидатов после получения оффера14 августа в 13:30БизнесОтбой тревоги: режим беспилотной опасности снят в Челябинской области14 августа в 13:27БизнесНорвежский суверенный фонд отчитался о рекордной прибыли за полгода14 августа в 13:25