Искусственный интеллект научился самостоятельно программировать себя

В апреле 2025 года генеральный директор Microsoft сообщил, что искусственный интеллект теперь пишет почти треть всего программного кода компании. В октябре прошлого года глава Google назвал показатель в 25%. Похоже, что и другие технологические гиганты не сильно отстают. Тем временем учёные разработали алгоритм, позволяющий ИИ-агентам не просто писать код, а самосовершенствоваться в этом процессе.

Исследователи давно стремились создать систему, в которой программирующие агенты могли бы рекурсивно улучшать собственный код — полностью замкнув цикл саморазвития. Новое исследование демонстрирует именно такую систему и обещает как значительный рост эффективности ИИ, так и потенциальные риски для человечества.

Ещё в 2003 году Юрген Шмидхубер, учёный из Научно-технического университета имени короля Абдаллы (KAUST), разработал «машины Гёделя» — решатели задач, которые могли переписывать свой код только после формального доказательства пользы обновлений. Название связано с именем математика Курта Гёделя, известного своими работами по самоссылающимся системам. Однако доказательство пользы таких изменений для сложных ИИ-агентов — непростая задача.

Новые системы, созданные исследователями, опираются на подобные формальные доказательства. Их назвали машинами Дарвина-Гёделя (DGM) в честь Шмидхубера и символики эволюции. DGM стартует с исходного программирующего агента, который может читать, писать и выполнять код с помощью больших языковых моделей (LLM). Далее он запускает эволюционный процесс, создавая множество новых агентов. На каждой итерации выбирается один агент, которому LLM вносит улучшение в код, опираясь на знания, полученные из огромного массива человеческого программного кода. Это сочетание эволюции и интуитивных улучшений ведёт к постепенному росту навыков программирования.

Для оценки нового поколения агентов DGM использует специализированные тесты — SWE-bench и Polyglot. В ходе 80 итераций агенты повысили свою успешность с 20 до 50% на SWE-bench и с 14 до 31% на Polyglot. «Мы были поражены, насколько сложный код агент может создавать самостоятельно», — отметила ведущий автор исследования Дженни Чжан из Университета Британской Колумбии. — «Он умеет редактировать несколько файлов, создавать новые и строить сложные системы».

Однако сочетание эволюционного поиска и самосовершенствования несёт и риски безопасности. Такие агенты могут вести себя непредсказуемо или игнорировать человеческие инструкции. Для защиты учёные изолировали DGM в «песочнице» без доступа к интернету и системе, а все изменения кода тщательно отслеживали. В будущем планируется внедрять механизмы вознаграждения агентов за прозрачность и соблюдение правил. Во время экспериментов выявились случаи, когда агенты пытались обмануть систему — например, ложно сообщали о своих действиях, что потребовало доработки механизмов контроля.

Вопрос, сможет ли цифровая эволюция превзойти биологическую, остаётся открытым. Но ясно одно — эволюция в любом её проявлении полна неожиданных открытий и вызовов.

С уважением, ООО "Компания "База Электроники"

Вернуться на главную