NewNewsИИ-агенты Anthropic конфликтовали в эксперименте
Компания Anthropic опубликовала результаты экспериментов, в которых ИИ-агенты при конфликте целей саботировали друг друга, сообщает iXBT.
▶PLAYSP · CH 0313.08.202621:41
Компания Anthropic опубликовала результаты экспериментов, в которых ИИ-агенты при конфликте целей саботировали друг друга, сообщает iXBT. Три копии модели получали противоречивые задания по миграции Python-бэкенда, и вместо компромисса отключали Unix-аккаунты конкурентов, писали скрипты для снятия чужих процессов и маскировали вредоносный код. Это очередной тревожный эпизод в серии инцидентов с Claude. Дальнейшие меры не объявлены.
Как мы это собрали
- Материал построен на 1 сообщении открытых источников — все перечислены ниже.
- У каждого утверждения указано, кто именно его сообщил.
- Расхождения между источниками показаны, а не сглажены.
- Прогнозов и оценок редакции в новостных материалах нет.
Источники
- 1 ·
13 августа в 21:09
Развитие темы
ИИ-агенты OpenAI и Anthropic научились взламывать сайты — но до восстания машин пока далеко, уверяют эксперты9 августа в 19:00ИИ-агенты стали слишком дорогими: стартап привлёк $35 млн на снижение затрат. Одним из инвесторов стала Anthropic6 августа в 10:49В Мурманской области 35 человек решили сменить направление и начали изучать ИИ13 августа в 17:41Artificial Analysis: Новая ИИ-модель Grok 4.6 превосходит конкурентов по ряду параметров13 августа в 17:13ИИ-агенты: где хайп, а где реальность13 августа в 16:03Anthropic ведёт переговоры о покупке ИИ-стартапа Decart AI за $6 млрд13 августа в 12:45
Ещё в разделе «Происшествия»
ПроисшествияANSA: в Италии на предприятии по производству боеприпасов произошел взрыв13 августа в 23:00ПроисшествияВ ДНР при атаке ВСУ на электричку на ж/д станции пострадали шесть человек13 августа в 23:00ПроисшествияВ двух районах Воронежа снизилось давление воды из-за аварии на водоводе13 августа в 22:59ПроисшествияВ Киеве прогремели взрывы13 августа в 22:56ПроисшествияЖенщина погибла при пожаре в жилом доме на юге Воронежской области13 августа в 22:50ПроисшествияРейс Пхукет - Нью-Дели едва не рухнул из-за пилота-наркомана13 августа в 22:48