Anthropic 11 месяцев работала без фильтров биооружия

NNРедакция NewNews|Опубликовано 16 августа в 15:39

Телевизор с кинескопом, 1990-е — АрхивОбложка материала. Оформлена в стилистике архивной записи.

Anthropic 11 месяцев работала без фильтров биооружия — АрхивОбложка материала. Оформлена в стилистике архивной записи.

Компания Anthropic в опубликованном 14 августа Risk Report, охватывающем период до 15 июля 2026 года, сообщила, что с мая 2025 года по апрель 2026 года классификаторы, блокирующие помощь в создании биологического оружия, не работали на платформах сбора человеческой обратной связи, пишет iXBT. Это привело к 133 миллионам сообщений от 50 000 подрядчиков без проверки. Флаг, предназначенный для внутреннего использования, отключил блокировку опасного контента и логирование одновременно, компания обнаружила это только в апреле 2026 года. Другие источники не приводятся.

Как мы это собрали

Материал построен на 1 сообщении открытых источников — все перечислены ниже.
У каждого утверждения указано, кто именно его сообщил.
Расхождения между источниками показаны, а не сглажены.
Прогнозов и оценок редакции в новостных материалах нет.

Источники

1iXBT · Anthropic 11 месяцев принимала чаты с отключёнными фильтрами биооружия: 133 миллиона сообщений от 50 000 подрядчиков без проверки
16 августа в 15:08

Развитие темы

Фольклорная программа «Деревенский Пушкин» в «Михайловском»: 50 показов и около 2 000 участников16 августа в 11:13 Квартальная выручка Anthropic взлетела в 14 раз до $11,5 млрд15 августа в 21:55 В поселке Большаково 10 и 11 августа отключат свет15 августа в 17:15 Южнокорейский завод Hyundai Electric подключил роботов к единой платформе: 82 600 м2 площади, 50 000 типов оборудования и полный цикл от приёмки до отгрузки14 августа в 19:39 Anthropic проверила поведение ИИ‑агентов в условиях конкуренции14 августа в 11:17 ВС проверит выплату 41 миллиона рублей адвокатскому бюро "Годовалова"13 августа в 22:38

Ещё в разделе «Технологии»

ТехнологииOracle отложила строительство газопровода для крупнейшего дата-центра стоимостью $165 миллиардов: запуск перенесли на 2027 год16 августа в 16:09 ТехнологииDeepSeek Harness набрал 37 тысяч звёзд за первый день: что умеет новый кодинг-агент16 августа в 15:56 ТехнологииПрезидент Финляндии рассказал детям об уважении к русской культуре16 августа в 15:31 ТехнологииОткрытые ИИ-модели Alibaba Qwen стали самыми востребованными в мире, опередив альтернативы Google и M**a16 августа в 15:30 ТехнологииЭксперт Гребенюк рассказал, какой тип обучения лучше выбрать для ребенка16 августа в 15:19 ТехнологииПервый складной iPhone, новые Apple Watch и устройства для умного дома: что представит Apple в сентябре 2026-го16 августа в 15:11