Kazan Digital Week 2024: на сессии МойОфис обсудили регулирование ИИ и безопасность технологий

9 сентября МойОфис, российская компания-производитель офисного программного обеспечения для совместной работы с документами и коммуникаций, провела партнерскую сессию «Регулирование ИИ и аспекты безопасности искусственного интеллекта» в рамках Kazan Digital Week. В рамках мероприятия представители лидирующих ИТ-компаний, науки и крупнейших российских организаций обсудили возможные сценарии применения технологий ИИ в различных секторах экономики.

Модератор сессии, член Правления АРПП «Отечественный софт», заместитель генерального директора РЕД СОФТ, Рустам Рустамов рассказал, что сегодня технологии искусственного интеллекта развиваются, их активно внедряют в различных технологических областях экономики: генеративные модели уже могут создавать тексты, изображения, аудио- и видеозаписи. Однако, возможности ИИ – сценарии его использования – сейчас гораздо шире: с помощью искусственного интеллекта можно, например, снизить процент брака на производстве или повысить качество работы сотрудников. При этом рост популярности ИИ приводит и к возникновению вопросов, которые еще предстоит проработать, в том числе связанных с аспектами безопасности и регулирования.

Отвечая на вопрос, как МойОфис видит применение технологий ИИ в офисном ПО и каких успехов вендор добился в этом направлении, генеральный директор МойОфис Вячеслав Закоржевский рассказал, как технологии искусственного интеллекта используются в продуктах российского вендора. «Около полутора лет назад мы выделили отдельную команду, которая начала заниматься разработкой и внедрением ИИ в наши решения и придумывать сценарии применения ИИ в каждом из наших продуктов. Тогда мы поставили себе несколько ключевых задач: оптимизировать работу пользователя, ускорить бизнес-процессы клиентов и повысить эффективность организаций», – отметил генеральный директор МойОфис. Вячеслав подробно рассказал про сценарии использования ИИ в МойОфис и поделился результатами бета-тестирования технологий ИИ, которое проводилось летом 2024 года. Так, решение позволило расширить возможности работы с текстовым контентом – например, пользователям стали доступны функции оперативного анализа и генерации данных. Всего, по словам Вячеслава, в меню решения были доступны пять групп сценариев с использованием возможностей нейросети.

Вице-президент по цифровизации и информационным технологиям АО «ТВЭЛ» Евгений Гаранин рассказал об опыте применения искусственного интеллекта на предприятиях Топливной компании Росатома. На сегодняшний день в ней одновременно реализуется свыше 80 крупных проектов по цифровизации. Важную часть составляют проекты по внедрению решений из современного технологического стека. Так, для реализации промышленных задач создаются системы контроля качества продукции, мониторинга и прогнозирования технического состояния производственного оборудования. На корпоративном уровне искусственный интеллект уже внедрен во многие процессы, такие как закупки, казначейство, обращение с научно-технической документацией и так далее. «Топливная компания уже долгое время занимается непрерывным процессом цифровизации. Благодаря этому нам удалось накопить существенное количество данных, которые сегодня позволяют нам заниматься внедрением инструментов по повышению эффективности на базе ИИ. На сегодняшний день по ряду корпоративных функций у нас наблюдается существенный рост в производительности труда за счет использования искусственного интеллекта. Так, например, мы практически полностью автоматизировали закупочный процесс в компании за пределами написания технических заданий: сбор торгово-коммерческих предложений, формирование чек-листов, проверка документов. Следующий шаг – использование GPT для формирования ТЗ», – отметил Евгений Гаранин.

Про особенности использования искусственного интеллекта в документообороте и деятельности регионального министерства и в органах государственной власти рассказал министр цифрового развития и связи Саратовской области Владимир Старков. Во время своего выступления на конференции министр подчеркнул важность применения ИИ-технологий в своей деятельности и обратился к производителям программного обеспечения, включая офисные вендоры, с просьбой сертифицировать системы, предназначенные для помощи государственным органам в управлении документооборотом. По его мнению, необходимо уделить внимание безопасности, чтобы гарантировать надёжность этих систем при работе с конфиденциальными государственными документами, а также упростить доступ к инструментам ИИ.

Денис Турдаков, к.ф.-м.н, руководитель исследовательского центра доверенного искусственного интеллекта ИСП РАН, рассказал, какими методиками нужно пользоваться, чтобы ИИ был безопасным. Эксперт отметил, что угрозы возможны на всех этапах жизненного цикла машинного обучения. «Широкое внедрение технологий ИИ невозможно без всестороннего анализа рисков их применения. На секции мы обсудили фундаментальные проблемы, связанные с безопасностью применения этих технологий. Рад видеть, что все больше людей осознают важность этой темы», – подытожил эксперт ИСП РАН.

Сергей Зудин, директор по развитию бизнеса SberDevices, рассказал о возможностях генеративного искусственного интеллекта, влияющих на повышение эффективности компаний в целом и каждого отдельного сотрудника. В своём выступлении Сергей привел в пример несколько сценариев использования больших языковых моделей в различных отраслях экономики. «Внедрение в бизнес-процессы таких сервисов, как GigaChat, позволяет экономить ресурсы и повышать лояльность сотрудников и клиентов одновременно», — отметил эксперт от SberDevices. Сергей подчеркнул положительное влияние генеративного ИИ на бизнес и рекомендовал компаниям интегрировать технологии искусственного интеллекта в свои рабочие процессы.

В Холдинге T1 поделились информацией о внедрённых в компании технологиях и платформах искусственного интеллекта. По мнению эксперта Сергея Голицына, руководителя направления Т1 ИИ Холдинга Т1, сегодня мы наблюдаем культуру внедрения цифровых платформ и доступ к сложным платформенным решениям. В настоящее время в стране наблюдается значительный разрыв в уровне цифровизации финтеха по сравнению с другими отраслями экономики. По его мнению, другим отраслям удастся сократить этот разрыв в течение 3–5 лет. «В России создана прочная база для развития экономики, основанной на данных. В перспективе это позволит организациям обрабатывать огромные массивы информации, быстрее принимать качественные решения и сделает работу процессов более результативными и прозрачными. При этом переход предприятий к эффективному использованию данных невозможен без решений на базе ИИ, — отметил Сергей Голицын, руководитель направления Т1 ИИ Холдинга Т1.

O2Consulting по заказу НЦРИИ в 2023 году разработал «Индекс ИИ-зрелости регионов», оценивающий проникновение ИИ в госсекторе. Генеральный директор Филипп Данько поделился результатами и рассказал, насколько государственные организации готовы к внедрению новых технологий. «Было собрано более 20 тысяч анкет, по итогам анализа которых выявлено, что только 13% РОИВ в среднем используют ИИ, при этом 56% из них применяют лишь простейшие решения, такие как чат-боты. Более того, развитие ИИ не системно – 91% регионов не разрабатывает стратегии использования ИИ». Эксперт также отметил, что «основным вызовом исследования являлась корректная оценка эффектов от внедрения ИИ, т.к. он зависит от типа используемого ИИ, бизнес-процессов и сфер применения – и все это необходимо корректно учитывать».

В «Лаборатории Касперского» отметили, что видят большой потенциал в применении технологий ИИ в кибербезопасности. «"Лаборатория Касперского" использует машинное обучение уже больше 15 лет. Сегодня решения компании обнаруживают 411 тыс. новых образцов ВПО в день, безусловно, 99% выявляется автоматически. В нашем случае технологии не заменяют специалистов, а освобождают их от рутинных задач и позволяют сконцентрироваться на изучении более сложных киберугроз, – сказал Джабраил Матиев, директор по маркетингу «Лаборатории Касперского» в России и странах СНГ. – При этом важно учитывать, что и злоумышленники активно используют нейросети и другие подобные инструменты в своих атаках, в том числе фишинговых, поэтому компаниям важно помнить о необходимости усиливать кибербезопасность, внедрять комплексные защитные решения и обучать сотрудников».

Сессия прошла в рамках международного форума Kazan Digital Week, который проходит в Казани с 9 по 11 сентября. Форум проводится уже в пятый раз и является площадкой для обмена научно-технической информацией, консолидации научно-технологических активов и решения задач импортозамещения и импортоопережения. Участники форума представляют производителей и пользователей цифровых технологий, программного обеспечения и высокотехнологичной продукции.