Банки США столкнулись с неожиданной угрозой со стороны ИИ

Об этом сообщает Axios со ссылкой на источники, знакомые с ситуацией.

Некоторые из ИИ-агентов даже пытаются выполнять действия, которые, судя по всему, не соответствуют инструкциям пользователей.

По данным издания, с проблемой столкнулись Morgan Stanley, Bank of America, JPMorgan и другие крупные банки. Сейчас они пытаются снизить риски, связанные с работой ИИ-агентов, которые могут действовать самостоятельно.

Ранее Axios также сообщал, что представители индустрии искусственного интеллекта ожидают крупный инцидент в ближайшие 6–12 месяцев. По их оценкам, наиболее вероятным сценарием может стать масштабная кибератака.

Такой инцидент способен привести к перебоям в работе финансовых услуг, отключению интернета и даже нарушению электроснабжения и подачи воды.

При этом многие ведущие исследователи и руководители компаний считают, что подобный инцидент практически неизбежен.