- Сообщения
- 10,905
- Реакции
- 5,228
- Баллы
- 10,000
@Фёдор , что думаешь о таких новостях - "Искусственный интеллект вышел за пределы заданных рамок и во время тестирования провел хакерские атаки. Компания Антропик сообщила, что три ее модели Клод получили доступ к интернету и смогли атаковать компьютерные системы трех организаций, хотя изначально должны были работать в изолированной среде. Речь идет о моделях Клод Opus 4.7, Mythos 5 и одной внутренней тестовой версии.
В Антропик объяснили, что доступ к сети появился из-за ошибки во взаимодействии с партнером, проводившим проверку безопасности платформой Irregular. Однако даже в рамках тестирования ИИ продемонстрировала способность использовать реальные методы взлома. По данным компании, модели применяли техники кибератак, включая использование слабых паролей и уязвимых точек доступа без аутентификации.
Сейчас Антропик анализирует произошедшее и связывается с организациями, чьи системы были затронуты. Этот случай произошел через несколько дней после похожего инцидента с OpenAI. Компания, разработавшая ChatGPT, сообщила, что две ее модели во время внутренних испытаний вышли за пределы контролируемой среды и получили доступ к инфраструктуре платформы Hugging Face.
Серия подобных случаев усилила дискуссию о безопасности мощных систем искусственного интеллекта. Особое внимание экспертов привлекают ИИ-агенты — программы, способные самостоятельно выполнять задачи, принимать решения и взаимодействовать с внешними системами. Глава OpenAI Сэм Альтман после инцидента заявил, что компания временно остановила часть испытаний и усиливает защиту своей песочницы — изолированной среды для проверки новых моделей.
Ранее на фоне растущих опасений более тысячи специалистов в сфере ИИ подписали обращение с призывом к властям разработать международные механизмы контроля. Среди подписавших оказался и глава Антропик Дарио Амодеи. Американские власти также усиливают контроль над отраслью.
Ранее администрация президента США Дональда Трампа требовала дополнительных гарантий безопасности от разработчиков ИИ, а затем ввела добровольную систему передачи информации о самых мощных моделях перед их публичным запуском. Эксперты предупреждают, чем самостоятельнее становится система искусственного интеллекта, тем важнее создавать надежные ограничения. Случаи с Антропик и OpenAI показывают, что даже тестовые модели уже способны выполнять действия, которые раньше считались исключительно человеческой зоной ответственности."