Как AI находит уязвимости в открытом коде: что это меняет для нас

Тема на первый взгляд техническая. Но если вы пользуетесь хоть каким-нибудь онлайн-сервисом — а вы пользуетесь, — она касается вас напрямую. OpenAI и компания Trail of Bits запустили инициативу под названием Patch the Planet: AI помогает находить дыры в открытом программном обеспечении и закрывать их. Это серьёзный сдвиг в том, как работает безопасность в эпоху AI и открытого кода.

Давайте по шагам разберём, что это такое, почему важно и что из этого следует для нас с вами.

Что такое открытый код и почему его безопасность — общая проблема

Открытое программное обеспечение (open source) — это код, который лежит в свободном доступе. На нём работают браузеры, серверы, почтовые сервисы, платёжные системы, мессенджеры. Python, cURL, nginx — это всё open source. То есть вещи, которыми пользуются буквально все.

Тут есть нюанс. Эти проекты чаще всего поддерживают несколько энтузиастов или небольшие команды. На них держится критическая инфраструктура интернета, а ресурсов — минимум. И если в таком коде находится уязвимость, она может затронуть миллионы продуктов и пользователей разом.

При этом отчётов об уязвимостях становится всё больше. AI ускоряет их поиск — но это значит, что поток входящих задач для мейнтейнеров (тех, кто следит за проектом) тоже растёт. Им нужно быстрее сортировать, проверять и исправлять. С теми же людьми и тем же временем. Это и есть проблема, которую взялась решать Patch the Planet.

Как устроена инициатива Patch the Planet

Смотрите, в чём тут дело. Большинство AI-систем, которые ищут уязвимости, делают одно: находят потенциальные проблемы и отправляют их список мейнтейнеру. Дальше — разбирайся сам. Это как если бы вам прислали 200 задач без приоритетов, без решений и без объяснений, что реальная проблема, а что ложная тревога.

Patch the Planet работает иначе. Схема выглядит так:

1. Консультация с мейнтейнером. Инициатива начинается с разговора: что важно для проекта, где нужна помощь — в поиске уязвимостей, разработке патчей, тестировании или настройке CI/CD.
2. AI-исследование. Модели OpenAI (включая специализированный Codex Security) анализируют код, ищут потенциальные дыры, генерируют варианты исправлений.
3. Ручная проверка экспертов. Инженеры Trail of Bits проверяют каждую находку вручную — убирают дубли, убирают ложные срабатывания, оценивают реальную серьёзность проблемы.
4. Передача мейнтейнеру. До него доходят только подтверждённые проблемы с готовыми или проработанными патчами. Мейнтейнер сам решает, что принять и как выстроить раскрытие информации.

Среди первых участников — Python, cURL, Go, nginx и ещё несколько фундаментальных проектов. Это основа, на которой строится большая часть современного интернета.

Что AI уже нашёл: ранние результаты

Если коротко — результаты впечатляют. И это при том, что инициатива только начинается.

Вот несколько примеров из того, что уже раскрыто публично:

• Linux Kernel. GPT‑5.5‑Cyber проанализировал более 30 миллионов строк кода, выявил потенциальные проблемы и автоматически сгенерировал proof-of-concept для 8 утечек указателей ядра и 24 эксплойтов повышения привилегий.
• OpenBSD. Модели обнаружили уязвимость типа «use-after-free», которой было 23 года. Она теоретически позволяла локальному пользователю получить права root.
• Chrome и Safari. Исследователи нашли более 10 эксплуатируемых уязвимостей в Safari за примерно неделю работы, и 5 уязвимостей в движке V8 браузера Chrome.
• Firefox. AI нашёл уязвимость в WebAssembly. Mozilla исправила её за два дня до крупного хакерского соревнования Pwn2Own — в итоге пять из шести заявленных команд, которые готовили атаку на Firefox, отозвали свои заявки.

Это не маркетинг. Это конкретные закрытые дыры в продуктах, которыми пользуетесь и вы.

Почему «найти уязвимость» — это только полдела

Тут есть важный момент, о котором часто забывают. AI хорошо умеет находить потенциальные проблемы. Но он также генерирует много ложных срабатываний — случаев, когда проблема кажется серьёзной, а по факту не является таковой.

Если направлять весь этот поток напрямую мейнтейнерам — вы не помогаете, а создаёте дополнительную нагрузку. Именно поэтому ключевой элемент Patch the Planet — ручная проверка каждого найденного факта перед тем, как он уйдёт к команде проекта.

Это принцип, который работает не только в кибербезопасности. AI-агенты в маркетинге работают по той же логике: автоматизация берёт рутину, но человек остаётся на принятии решений. Убери человека из цепочки — и получишь либо мусор, либо хаос.

Что это значит для тех, кто работает с цифровыми инструментами

Вы не разработчик? Отлично. Объясняю, почему это всё равно важно для вас.

Практически каждый онлайн-инструмент, которым вы пользуетесь — email-сервис, CRM, конструктор сайтов, мессенджер — стоит на фундаменте открытого кода. Когда в этом фундаменте закрывают дыру, становится безопаснее для всех. Ваши данные, данные ваших клиентов, платёжная информация — всё это защищается в том числе через такую вот работу.

Есть и более прикладной угол. Мы видим, как AI переходит от «умного текстового помощника» к реальному инструменту технической работы. Он уже строит целые тестовые лаборатории за один день вместо нескольких недель. Пишет и итерирует сложный код. Анализирует миллионы строк и находит паттерны, которые человек пропустил бы.

Это меняет горизонт того, что стоит отдавать AI, а что — нет. Чем мощнее инструмент, тем важнее понимать, где он усиливает вас, а где может подменить критическое мышление.

Три вывода для практики

Это нормально — не быть технарём и не разбираться в устройстве ядра Linux. Но из истории Patch the Planet можно вытащить несколько вещей, которые применимы шире:

• AI + человек эффективнее, чем AI в одиночку. Frontier-модели находят сотни потенциальных проблем, но без экспертной проверки это шум, а не сигнал. Формула «AI делает черновик, человек принимает решение» работает везде — от кибербезопасности до написания контента.
• Скорость без качества — это новая нагрузка, а не помощь. Если AI просто генерирует больше задач быстрее, он не решает проблему. Ценность появляется, когда он снимает нагрузку, а не добавляет её. Стоит задать себе этот вопрос по любому AI-инструменту в вашем рабочем процессе.
• Открытые инструменты требуют внимания. Многие бесплатные и open-source решения, которыми вы пользуетесь, держатся на энтузиазме небольших команд. Поддержка таких проектов — способ сохранить экосистему, которая работает на всех нас.

AI меняет скорость и масштаб работы с реальными задачами в разных областях — и кибербезопасность не исключение. Интересно наблюдать, как то, что ещё несколько лет назад требовало месяцев работы команды, сегодня делается за дни.

Если вам интересно следить за тем, как AI меняет рабочие процессы — не только в безопасности, но и в маркетинге, контенте и продажах — заглядывайте в мой Telegram-канал. Там без воды: разборы, наблюдения, конкретика.

По мотивам материала OpenAI News «Patch the Planet: a Daybreak initiative to support open source maintainers».

100 нейросетей
для экспертов

Подборка, которой реально пользуются — пришлю на почту. Без спама, отписка в один клик.

Для решения
любых задач

Для роста
и эффективности

Для бизнеса
и карьеры

🎁 Заберите 100 нейросетей для экспертов

Получить подборку Соглашаюсь на обработку email и получение писем