Специалист в сфере искусственного интеллекта и управления знаниями Владимир Лещенко в комментарии для телеканала «360» перечислил три обстоятельства, из-за которых нейросети нередко формируют некорректные либо полностью вымышленные ответы на запросы аудитории.
Первую причину собеседник издания связал с обучающими наборами данных. Когда в исходной информации присутствовала ошибка, алгоритм не способен её распознать и воспринимает собственный ответ как правильный.
«Данные, на которых они работают, — очень часто данные интернета, каких-то чатов, возможно, литературных произведений», — отметил Лещенко.
Второй фактор — архитектура самой модели и заложенный в неё механизм переработки сведений. Третий — формулировка запроса: от того, как пользователь построит вопрос, напрямую зависит реакция системы.
Эксперт добавил, что вымышленные ответы появляются и при нехватке информации — тогда модель начинает креативить. Отдельные системы при отсутствии данных сообщают: «У меня нет данных, я не могу дать такой ответ». Итог, по словам Лещенко, определяется настройками.
Как ранее писала Общественная служба новостей, искусственный интеллект может стать благом для человечества, но только при условии ответственного и контролируемого использования.
IT-аналитик Владимир Ульянов заявил о рисках полной недоступности сайтов из-за капчи.
Больше актуальных новостей и эксклюзивных видео смотрите в канале ОСН в MAX. Фото: Кузьмичёнок Василий/Агентство «Москва»
