Агенты OpenAI 2 месяца пытались обойти ограничения API ООН
На этот раз модели долбились в публично доступный интерфейс.
OpenAI
OpenAI поставила обучение и тесты на паузу после сбоя “рубильника”: лаборатории изучают десятки тысяч ИИ-инцидентов
OpenAI и Anthropic вместе с исследователями безопасности изучают десятки тысяч инцидентов, связанных с поведением передовых ИИ-моделей. Согласно отчёту Axios, были зафиксированы различные случаи во время внутренних тестов и реальных оценок, а масштаб проблемы может быть…
Гендиров OpenAI и Anthropic вызвали на допрос в Сенат Австралии по делу о взломе правительственного сайта ИИ-агентом
Гендиректоров OpenAI и Anthropic вызвали на слушания в рамках расследования Сенатом Австралии обстоятельств взлома ИИ-агентом OpenAI базы данных системы здравоохранения страны. Об этом сообщило агентство Reuters со ссылкой на заявление главы следственной комиссии. Источник изображения: Growtika/unsplash.com
OpenAI приостановила обучение передовых моделей из-за масштабных сбоев и попыток обхода защитных барьеров
Разработчики передовых систем искусственного интеллекта OpenAI и Anthropic ведут расследование десятков тысяч инцидентов, связанных с опасным и некорректным поведением нейросетей. Читать дальше →
Агенты OpenAI предпринимали попытки атаки на один из сайтов ООН на протяжении нескольких месяцев
Попытки ИИ-агентов OpenAI «проверить на прочность» систему защиты сайтов различных правительственных ведомств США уже были выявлены в конце прошлой недели, когда речь шла о ресурсах федеральных ведомств и Министерства образования США. Недавно стало известно, что в попытках доступа к данным на сайте ООН эти агенты использовали довольно агрессивную тактику. Источник изображения: Unsplash, Bernd Dittrich
OpenAI приостановила обучение ИИ-моделей — расследуются десятки тысяч инцидентов с выходом ИИ из-под контроля
Разработчики передовых систем искусственного интеллекта OpenAI и Anthropic расследуют десятки тысяч инцидентов, связанных с некорректным поведением своих моделей. Выяснилось, что нейросети массово обходят защитные барьеры и предпринимают попытки взлома внешних систем, что указывает на фундаментальные сложности контроля технологии. Источник изображения: AI
