«AI и человек: угроза или благо?» — таким вопросом задались ведущие специалисты в области искусственного интеллекта в ходе панельной сессии на форуме Digital Almaty 2025, где обсудили ключевые вопросы этики, безопасности и регулирования ИИ.

Эксперты рассмотрели важные аспекты прозрачности и безопасности использования ИИ в Казахстане, включая контроль за его применением и международные практики, направленные на соблюдение этических стандартов. В ходе обсуждения были выделены как преимущества, так и потенциальные риски искусственного интеллекта.

По словам экспертов, с распространением искусственного интеллекта в Казахстане может возрасти и угроза нарушения конфиденциальности персональных данных. Это наносит значительный ущерб как отдельным пользователям, так и государству в целом. Согласно данным МВД РК, в 2024 году казахстанцы потеряли 45 млрд тенге из-за интернет-мошенничества, причем в 98% случаев они сами добровольно передавали мошенникам свои данные.

«Киберпреступность растет неимоверными темпами не только в Казахстане, но и во всем мире. Искусственный интеллект даст еще больше возможностей, в том числе преступникам, если мы не будем готовы к новым угрозам. Мошенники уже используют технологии дипфейков, позволяющие подделывать видео- и аудиозаписи, что представляет серьезную угрозу для безопасности информации. Важно задуматься о деанонимизации в интернете, ведь каждый должен нести ответственность за распространяемые данные», — подчеркнул вице-министр внутренних дел Республики Казахстан Сакен Сарсенов.

Среди участников сессии были эксперты из разных стран, включая Тодзю Дюк (Великобритания), основателя и генерального директора компаний Bedrock AI и Diverse AI. Она не только руководит успешными AI-компаниями, но и активно продвигает этические стандарты в разработке искусственного интеллекта. В своей книге «Building Responsible AI Algorithms» она представила структуру обеспечения прозрачности, справедливости, конфиденциальности и надежности в алгоритмах ИИ.

«Искусственный интеллект развивается с бешеной скоростью и предлагает множество преимуществ, но пока они не стали доступны широкому обществу. Среди ключевых сфер его применения — борьба с голодом и улучшение здравоохранения, реагирование на кризисные ситуации, повышение безопасности, поддержка людей с ограниченными возможностями. Однако вместе с этим возникают серьезные риски: социальное неравенство, нарушение конфиденциальности, предвзятость алгоритмов и даже угрозы национальной безопасности. Поэтому важно выработать ответственный подход к использованию ИИ, разработать механизмы прозрачности, подотчетности и соблюдения этических норм, чтобы технология приносила пользу всему обществу», — отметила Тодзю Дюк.

В обсуждении также приняли участие CEO Flowsell.me Даурен Макенов, руководитель лаборатории машинного интеллекта Yandex Александр Крайнов, технический директор Kscooters Иван Кононов и директор TargetAI Limited Дамир Жаримбетов. Модератором сессии выступил Игорь Рогов, председатель Комиссии по правам человека при Президенте Республики Казахстан.

Спикеры сошлись во мнении, что для безопасного и эффективного развития ИИ необходимо внедрение четких принципов регулирования, включая контроль за обработкой данных, защиту от манипуляций и минимизацию негативного влияния на энергоресурсы. Также важно обеспечить справедливость алгоритмов, исключить дискриминационные механизмы и разработать надежные системы проверки ИИ перед массовым внедрением.

Не менее важными темами стали подготовка специалистов к работе с ИИ и влияние технологий на культуру, медиа и коммуникации. Спикеры также обсудили трансформацию рынка труда: станет ли ИИ угрозой для традиционной занятости или будет инструментом, дополняющим человеческие усилия? Было подчеркнуто, что важно найти баланс между автоматизацией и сохранением человеческого вклада.

Напомним, что 31 января – 1 февраля в Алматы, в выставочном комплексе «Атакент», проходит международный форум Digital Almaty 2025. Тема мероприятия — «Industrial AI: технологии для новой эры». Форум организован Министерством цифрового развития, инноваций и аэрокосмической промышленности РК, Министерством иностранных дел РК, акиматом Алматы и АКФ «Парк инновационных технологий».

Пресс-служба МЦРИАП РК

Справочная информация: Digital Almaty - это традиционная диалоговая площадка для обсуждения цифровой повестки, новых стратегий цифровой трансформации и трендов в сфере цифровых технологий. Форум проводится уже в седьмой раз, начиная с 2018 года. 

Организаторами мероприятия являются Министерство цифрового развития, инноваций и аэрокосмической промышленности РК, Министерство иностранных дел РК, Акимат города Алматы и Astana Hub. 

Генеральный спонсор: Freedom Bank

Золотые спонсоры: Yandex.Kazakhstan, Казахтелеком, Kaspi Bank; Серебряный спонсор: Freedom Telecom; Бронзовые спонсоры: Halyk Bank, CITIX

Индустриальный партнер: Kcell; Официальный партнер: Noventiq & Microsoft & Lenovo & Softclub; Технологические партнеры: Hikvision Kazakhstan, Битрикс24; Инновационный партнер: VK Cloud.; Партнёры по цифровым сервисам: Tele2, ALTEL

Генеральный информационный партнер: Телеканал 24KZ

Информационные партнеры: Ulysmedia, DKN World News, Zakon.kz, BAQ.kz, El.kz, Baige News, BizMedia, Profit, BES Media, Digital Business, Er10, The Steppe, We project, TheTech, Sxodim, Qazaqpress, TheHodl, Central Asia Cronos, AlemInform, Optimism, QR News, Mobilaser.

Источник: Министерство цифрового развития, инноваций и аэрокосмической промышленности Республики Казахстан