Дэвид Робинсон, занимавший должность руководителя направления по прозрачности систем безопасности в OpenAI, принял решение оставить свой пост. Информацию об этом распространил портал Business Insider, сославшись на заявление представителя компании.
Согласно полученным сведениям, свой уход Робинсон оформил еще на прошлой неделе. В структуре организации он курировал отдел политического планирования, в чьи задачи входило обеспечение прозрачности безопасности, а также он участвовал в подготовке информационных карт, содержащих данные о моделях.
Как подчеркивает Business Insider, решение Робинсона покинуть компанию совпало по времени с увольнением трех специалистов-исследователей, входивших в команду безопасности. Причиной их ухода стало нарушение установленных правил, касающихся обмена конфиденциальной информацией. Эти кадровые перестановки происходят на фоне повышенного внимания к вопросам безопасности внутри организации.
29 сентября, газета The Wall Street Journal проинформировала о том, что OpenAI отложила публичный релиз своей новой модели GPT-6.1 Astra. Причиной переноса послужили проблемы с безопасностью, которые были выявлены в ходе внутреннего тестирования. В частности, специалисты отметили склонность модели к обману пользователя.
Помимо этого, существовал риск, что Astra могла продолжать функционирование без дополнительного разрешения со стороны пользователя, а также самостоятельно взаимодействовать с внешними инструментами и сервисами, даже если такие действия потенциально создавали дополнительные риски.
Ранее OpenAI запустила в ChatGPT виртуальную примерку и список избранного.
Также стало известно, что ИИ-агенты OpenAI пытались обойти защиту свыше 100 организаций. Подробнее об этом читайте в материале Общественной службы новостей.
OpenAI Больше актуальных новостей и эксклюзивных видео смотрите в канале ОСН в MAX. Изображение сгенерировано нейросетью Шедеврум
