В Министерстве культуры и информации разрабатывают систему на основе искусственного интеллекта для автоматического выявления дипфейков и поддельного контента, передаёт Сentralmedia24.
Об этом сообщил вице-министр культуры и информации Евгений Кочетов во время круглый стола в Мажилисе на тему о применение искусственного интеллекта в социальной сфере.
По его словам, в интернете растёт объём противоправного контента с использованием технологии ИИ. Технологии подделки голосов и создания фейковых изображений и видео используют в мошеннических схемах.
«Мы создаём цифровую инициативу по автоматическому выявлению фейкового контента и определению дипфейков. Эта технология основана на искусственном интеллекте и уже показывает эффективность в борьбе с онлайн-наркоторговлей», — сказал Кочетов.
Одна из таких систем уже работает. Платформа на основе ИИ «Мерген» отслеживает интернет-магазины наркотиков. Она умеет находить их по прямым и косвенным признакам и автоматически блокировать. На этой неделе система закрыла уже 5000-й такой ресурс.
Теперь в министерстве обучают LLM-модель, чтобы добавить функции выявления дипфейков.
«С помощью искусственного интеллекта мы расширяем перечень тем, подлежащих мониторингу. Алгоритмы смогут анализировать контент, выявлять признаки противоправности и автоматически направлять его на блокировку. Эта работа уже внедряется в практику», — добавил он.
Ранее в МВД поясняли, что использование дипфейков для обмана граждан может подпадать сразу под несколько статей Уголовного кодекса — 190 УК РК «Мошенничество», 147 УК РК «Незаконное использование персональных данных» и 274 УК РК «Распространение заведомо ложной информации». В зависимости от ущерба и последствий за такие действия грозят крупные штрафы, ограничение или лишение свободы сроком до семи лет.
