Anthropic зафиксировала попытки обхода ограничений ИИ исследователями из России, Китая и Ирана

Компания Anthropic сообщила о 5 случаях, когда исследователи из России, Китая и Ирана пытались скрыть цели своих научных работ для обхода защитных механизмов ИИ-модели Claude. По данным Financial Times, пользователи запрашивали информацию, которая потенциально может использоваться для разработки биологического оружия. При этом в Anthropic отметили отсутствие доказательств злого умысла, так как те же данные применяются при создании вакцин.

Тексты и озвучка в Пегрегаторе создаются автоматически: нейросеть кратко пересказывает публичные материалы Telegram-каналов. Это не оригинальные публикации и не работа редакции — смысл может быть упрощён, а детали потеряны. Перед принятием решений открывайте первоисточник: ссылки на каналы есть у каждого материала.