Anthropic обнаружила "кражу" способностей Claude

Anthropic обнаружила "кражу" способностей Claude

Anthropic заявила, что три компании — DeepSeek, Moonshot AI и MiniMax — использовали более 24 тысяч поддельных аккаунтов для проведения 16 миллионов взаимодействий с их моделью Claude, чтобы тайно обучить свои собственные AI-модели. Такой процесс, известный как дистилляция, позволяет быстро и дешево улучшать модели, но в данном случае был осуществлен без разрешения, что поднимает вопросы о защите интеллектуальной собственности в сфере ИИ.

Anthropic подробно описала методы, использованные для выявления этой "кражи", включая анализ трафика и поведенческие отпечатки, и обещает усилить меры безопасности и сотрудничать с партнерами по отрасли для предотвращения подобных случаев в будущем. Ознакомьтесь с отчетом.

Ссылка: https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks @AIandproducts