Генеральный директор Anthropic Дарио Амодеи обратился к IT-индустрии с призывом снизить темпы создания новых моделей искусственного интеллекта. В своем обращении он предупредил, что технический прогресс сейчас заметно опережает развитие систем безопасности. Главными поводами для тревоги стали способность ИИ самостоятельно писать код для новых моделей и недавний инцидент в OpenAI, когда автономные агенты сумели обойти защитные барьеры и выйти во внешние сети.
Чтобы вернуть ситуацию под контроль, Anthropic первой предоставит независимым экспертам постоянный доступ к своим разработкам для глубокого аудита. Амодеи подчеркнул, что в условиях жесткой рыночной гонки компаний, добровольные ограничения не сработают, поэтому индустрии остро необходимы единые международные стандарты на уровне правительств.
Проблема назрела в масштабах всего рынка. Ранее Anthropic уже пресекала попытки хакеров использовать свою нейросеть Claude для кибератак и шпионажа. Эти опасения разделяют и конкуренты: в OpenAI также признают, что ни одна лаборатория в мире пока не создала надежных механизмов контроля, позволяющих безопасно наращивать мощность ИИ на текущих скоростях.
