Модель искусственного интеллекта «Mythos» может создать уязвимости для всей банковской системы

Об этом сообщает BBC.

Разработка модели «Claude Mythos» компанией «Anthropic» привела к проведению срочных совещаний. Причиной тому стали критические уязвимости, которые нейросеть обнаружила в архитектуре большинства современных операционных систем.

Эксперты утверждают, что она потенциально обладает беспрецедентной способностью выявлять и использовать уязвимости в сфере кибербезопасности, хотя другие предупреждают о необходимости дальнейших испытаний для надлежащего понимания ее возможностей.

«Эта серьезная проблема должна привлечь внимание всех министров финансов. Разница в том, что мы знаем, где находится Ормузский пролив и каковы его размеры. Проблема, с которой мы сталкиваемся в случае с Anthropic, заключается в неизвестности. Это требует пристального внимания. У нас должны были гарантии и внедрены процессы, обеспечивающие устойчивость наших финансовых систем», - заявил BBC министр финансов Канады Франсуа-Филипп Шампань.

Минфин США подтвердил, что этот вопрос был поднят перед крупнейшими банками, призвав их протестировать свои системы до публичного выпуска Mythos компанией Anthropic.

Своим мнением также поделился и глава Банка Англии Эндрю Бейли. Он назвал ситуацию с новой моделью ИИ чрезвычайно серьезным вызовом для всех и подчеркнул, что возможности Mythos по поиску уязвимостей в ИТ-системах наглядно показали, как стремительно развивается мир искусственного интеллекта. Бейли обозначил проблему для властей - выбор оптимального момента для введения правил: если начать регулирование слишком рано, есть риск промахнуться мимо цели, а если опоздать - события могут выйти из-под контроля.

Заявления Бейли и Шампаня прозвучали в Вашингтоне на весенних встречах МВФ и Всемирного банка.

Многие СМИ уже назвали ИИ-модель Mythos тревожным сигнал для всех, а не только для банков, а также слишком опасной для выпуска в общий доступ и несущей беспрецедентные киберриски. Есть опасения, что если этот мощный инструмент попадет в руки киберпреступников, коллапс мировой финансовой системы неизбежен.

Справка:

Mythos - одна из новейших моделей Anthropic, разработанная в рамках более широкой системы искусственного интеллекта под названием Claude, которая является конкурентом ChatGPT от OpenAI и Gemini от Google.