ИНТЕЛЛЕКТ / ТЕХНОЛОГИИ / БЕЗОПАСНОСТЬ
O19.ИИ и безопасностьЧитать в Telegram
МАТЕРИАЛЫ РЕДАКЦИИ

Рубрика: Безопасность

Материалы

ФАКТЫ. КОНТЕКСТ. ПЕРСПЕКТИВА.

В Огайо активисты профсоюзов настаивают на ограничении ИИ в государственных решениях о пособиях

В Огайо профсоюзы активно продвигают законопроект HB 1032, который призван ограничить использование ИИ в государственных органах. Главный акцент — на сохранении человеческого контроля при принятии решений о работе и распределении государственных пособий.

2 мин чтения

Критические уязвимости в PHP и Node.js: ИИ ускоряет обнаружение угроз в вебе

Одновременно объявлены критические уязвимости в PHP (PHP2Shell) и Node.js. Обнаружение этих угроз, включая ошибку в Brotli, было значительно ускорено благодаря использованию ИИ, что подчеркивает, что защита веба зависит не только от скорости патчинга.

2 мин чтения

Великобритания выделяет £600 млн на пакет безопасности ИИ: фокус на кибер- и биоугрозы

Правительство Великобритании анонсировало инвестиции свыше 600 миллионов фунтов стерлингов в безопасность ИИ. Пакет охватывает киберзащиту, выявление уязвимостей и борьбу с биологическими рисками, смещая акцент с чистых инноваций на устойчивость.

2 мин чтения

OpenAI возобновила обучение передовых моделей после усиления безопасности и обнаружения уязвимости в Brotli

OpenAI возобновила обучение своих флагманских моделей после приостановки в сентябре. Причиной стала уязвимость, позволявшая внутренней модели получить доступ к интернету. В ходе аудита были выявлены новые уязвимости, включая недостаток в библиотеке Brotli.

2 мин чтения

Критическая уязвимость в декодере Brotli угрожает Node.js, Bun и Python

Открыта критическая ошибка (CVE-2026-111497) в библиотеке Brotli, позволяющая выполнить удалённый код. Затронуты популярные среды выполнения и прокси. Google оценивает риск как критический (9.2), но подтверждённых атак пока нет.

2 мин чтения

ИИ-модели обнаружили критические уязвимости PHP: риски RCE для миллионов серверов

Компании Calif, Wiz и OpenAI с помощью ИИ выявили две критические уязвимости в PHP (CVE-2026-109618, CVE-2026-109619), позволяющие выполнение удаленного кода без аутентификации. Оценка угрозы — 9.2 из 10.

2 мин чтения

Anthropic представила sandbox-runtime: изоляция агентов на уровне ОС без контейнеров

Компания Anthropic открыла исходный код нового инструмента sandbox-runtime, обеспечивающего изоляцию процессов ИИ-агентов на уровне операционной системы. Решение работает без Docker или LXC и снижает количество запросов на разрешение прав для разработчиков на 84%.

2 мин чтения

OpenAI связала обнаружение уязвимости Brotli с проверкой защиты ИИ-моделей

OpenAI сообщила, что при проверке изоляции обучаемых моделей обнаружила уязвимость в библиотеке сжатия Brotli. Ошибка CVE-2026-111497 может привести к повреждению памяти и выполнению кода при распаковке вредоносных данных. Исправления Brotli и Node.js вышли ещё 21 октября: новое сообщение раскрывает контекст находки, а не новую дату выпуска патчей.

2 мин чтения

OpenAI раскрыла, как изолирует обучаемые модели от интернета после сентябрьского инцидента

OpenAI сообщила о переходе к обучению передовых моделей без доступа к живому интернету. После инцидента с DNS 20 сентября компания приостанавливала работы и усиливала изоляцию. Обучение возобновилось 1 октября; новый технический отчёт опубликован 23 октября.

2 мин чтения

Британия создаёт лабораторию ИИ-биобезопасности с государственным финансированием £100 млн

Британия объявила о создании AI Biosecurity Lab: £100 млн выделит государство, ещё до £200 млн составят обязательства OpenAI и Anthropic по вычислениям, доступу к моделям и поддержке. Лаборатория займётся ранним выявлением биоугроз и ускорением разработки средств защиты. Это анонс проекта, а не отчёт о достигнутых результатах.

2 мин чтения

Аудит METR и Redwood показал пробелы в исторической системе мониторинга агентов OpenAI

Отчёт опубликован 22 октября, но относится к системе, проверявшейся летом. Главный урок — контролировать не только качество анализа, но и полноту поступающих событий.

2 мин чтения