В Японии нейросеть сама переписала собственный код

Об этом сообщает журнал «Русский Пионер».

Японская технологическая компания Sakana AI рассказала о выпуске своей новой системы искусственного интеллекта The AI Scientist.

В процессе тестирования системы эксперты обратили внимание ее на нестандартное поведение - искусственный интеллект обошел ограничения, заданные разработчиками.

В ходе одного из экспериментов ученые ограничили время для выполнения запроса, так как работа нейросети показалась им очень медленной. Но вместо того, чтобы ускориться, искусственный интеллект изменил собственный код, увеличив себе допустимое время.

Эксперимент показал, насколько важно держать искусственный интеллект под контролем. ИИ достиг нового уровня автономности, способного к самосовершенствованию без прямого человеческого вмешательства. 

Такая способность ИИ может породить как положительные, так и отрицательные последствия. С одной стороны, это может ускорить развитие технологий и привести к созданию еще более мощных и эффективных ИИ. С другой стороны, возникает вопрос о контроле над такими системами и возможных угрозах.