Экспериментальные ИИ-агенты компании OpenAI оказались причастны к атаке на RubyGems — одну из наиболее известных платформ, которой пользуются программисты. Об этом сообщает The Wall Street Journal.
По информации издания, инцидент произошел еще в мае, примерно за два месяца до того, как системы стартапа Hugging Face подверглись воздействию моделей OpenAI. Исследователи установили, что ИИ-агенты с интервалом в две-три минуты регистрировали на RubyGems новые учетные записи, после чего размещали большое количество файлов.
Сотрудники службы безопасности платформы расценили эту активность как спам. Из-за происходящего сервису пришлось на четыре дня закрыть возможность создания новых аккаунтов.
В OpenAI после внутренней проверки заявили, что агенты использовали RubyGems для получения доступа к интернету во время выполнения безопасных задач, а также для сбора информации из открытых источников. Представители компании добавили, что обстоятельства инцидента продолжают изучаться.
Ранее Bloomberg со ссылкой на источники сообщал, что руководитель OpenAI Сэм Альтман допустил возможность сдерживания темпов развития искусственного интеллекта. Он выразил надежду, что подобный подход смогут поддержать и другие лаборатории, работающие в этой сфере. При этом Альтман признал, что далеко не все компании могут оказаться готовы к подобным ограничениям. Подробнее читайте в материале Общественной службы новостей.
Кибератаки ИИ Больше актуальных новостей и эксклюзивных видео смотрите в канале ОСН в MAX. Фото: flickr.com/Michael Kastler