Минцифры предложило проект закона о регулировании искусственного интеллекта (ИИ) в России. Как нововведения отразятся на развитии нейросетей и что это означает для зарубежных программ, разбиралась Москва 24.
Свод нейроправилФото: 123RF.com/dragoscondrea
Минцифры опубликовало проект федерального закона о государственном регулировании искусственного интеллекта в России. Документ вынесен на общественное обсуждение и в случае принятия может вступить в силу с 1 сентября 2027 года.
В частности, планируется впервые закрепить само понятие ИИ в законодательстве, а также ввести определения суверенной, национальной и доверенной моделей нейросетей. Действие закона будет распространяться на разработчиков подобных технологий.
Среди ключевых требований – осуществление всех стадий обучения моделей ИИ исключительно на территории России. Также разработчиков планируют обязать исключать дискриминационные алгоритмы и блокировать создание противоправного контента. Кроме того, при разработке и внедрении искусственного интеллекта должны учитываться традиционные российские духовно-нравственные ценности: жизнь, достоинство, права и свободы человека, патриотизм, гражданственность, служение Отечеству и ответственность за его судьбу.
Документ вводит и обязательную маркировку фото-, видео- и аудиоматериалов, созданных ИИ. Крупные соцсети обяжут проверять ее наличие, а при отсутствии – самостоятельно маркировать или удалять подобный контент. Граждане получат право оспаривать решения компаний, принятые с использованием ИИ, в досудебном порядке, а также право на компенсацию вреда, причиненного неправомерным использованием технологий.
В аппарате вице-премьера – руководителя аппарата правительства Дмитрия Григоренко подчеркнули важность прозрачных правил работы с подобными технологиями.
Дмитрий Григоренко вице-премьер – руководитель аппарата правительства
По словам Григоренко, документ предусматривает создание отдельных требований для применения ИИ в госуправлении и других "чувствительных сферах", тогда как в коммерческом секторе обязательные требования вводиться не будут.
Ранее стало известно, что в Москве ИИ применяется более чем в 120 проектах: медицине, транспорте, ЖКХ, образовании и госуслугах. Причем используются как традиционный, так и генеративный искусственный интеллект, порой дополняя друг друга, обеспечивая как стабильную работу городских систем, так и поиск нестандартных решений, подчеркнули в департаменте информационных технологий города.
Новые ограничения?Фото: depositphotos/dedivan1923
Проект федерального закона, касающийся основ регулирования ИИ, в том виде, в котором представлен сейчас, кардинально изменит правила игры на рынке нейросетей. Таким мнением в разговоре с Москвой 24 поделился первый зампред комитета Госдумы по информационной политике, информационным технологиям и связи Антон Ткачев.
Антон Ткачев первый зампред комитета Госдумы по информационной политике, информационным технологиям и связи
По его словам, для использования в госорганах и критической инфраструктуре модели ИИ должны войти в "реестр доверенных". В таком случае потребуется обработка данных исключительно на российских серверах и сертификация от ФСБ, что автоматически закрывает этот сегмент для зарубежных облачных сервисов.
"Им на смену должны прийти суверенные модели, разработанные и обученные только в России. Для массовых сервисов с аудиторией от 500 тысяч человек вводится обязанность открывать представительства в России и модерировать контент по российским законам. Невыполнение грозит блокировкой", – пояснил Ткачев.
Он пояснил, что все видео, фото и тексты, созданные нейросетями, подлежат обязательной маркировке: владельцы сервисов обязаны встраивать видимую для зрителя плашку (например, в углу экрана) и машиночитаемую метку.
"Крупные онлайн-платформы (с аудиторией от 100 тысяч человек) должны проверять контент и либо ставить метку сами, либо удалять материал. За удаление такой маркировки планируется ввести ответственность", – добавил депутат.
Кроме того, законопроект перекладывает на бизнес ответственность за "воспитание" нейросетей: разработчики и владельцы обязаны тестировать модели на риски, документировать логику работы и нести ответственность, если нейросеть нарушила закон, а они "должны были это предвидеть".
"Для зарубежных IT-гигантов наступает эпоха жесткого "приземления" с риском потери рынка, для российских разработчиков открывается окно возможностей в госсекторе, а для зрителей главным изменением станет повсеместная маркировка ИИ-синтезированного контента. Впрочем, это только проект закона. К нему есть ряд вопросов, необходимы и уточнения", – заключил Ткачев.
В то же время эксперт по информационной безопасности Алексей Горелкин в разговоре с Москвой 24 обратил внимание, что обсуждаемый документ еще не принят и, следовательно, еще будет видоизменяться.
"Сейчас можно говорить только о самом векторе, направлении мысли, и на данном этапе оно очень хорошее. Прежде всего, законопроект вводит четкие формулировки того, что такое искусственный интеллект, и регулирует терминологию, что крайне важно, потому что сейчас используются разные понятия, не всегда одинаково их понимают", – пояснил эксперт.
При этом в дальнейшем документ может стать основой для других нормативных актов, предположил Горелкин.
Алексей Горелкин эксперт по информационной безопасности
Он привел в пример случаи, когда при команде "нарисуй родное" программы создавали "не березки, а индейцев", потому что "native" для американцев – это коренное население Америки.
"Таких ситуаций немало. Поэтому внедрение собственных дата-сетов и создание глубоко кастомизированных, дообученных именно на отечественных данных моделей было бы крайне полезно", – уточнил Горелкин.
По его мнению, в нынешней версии законопроекта речь больше идет об этичности – чтобы искусственный интеллект не применялся во вред.
"Он выглядит как нечто среднее между концепцией развития, набором этических норм и глоссарием. В ходе публичных обсуждений документ, скорее всего, будет сильно изменен, но сам вектор крайне хороший. Приятно, что Минцифры слышит, что говорят российские разработчики, причем не только крупные игроки", – отметил эксперт.
В то же время Горелкин убежден, что мера не направлена на блокировку зарубежных сервисов. При этом российские алгоритмы ИИ уже активно используются повсеместно – в умных колонках, поисковиках, браузерах, чатах. Они конкурируют с зарубежными аналогами, хотя во многих вопросах все же пока вынуждены догонять их. Вероятно, мера даст импульс, чтобы российские разработчики начали задавать тренды сами, резюмировал Горелкин.
Веткина Анастасия
