Создание дипфейков может стать уголовным преступлением в Казахстане. Об этом рассказала депутат мажилиса Екатерина Смышляева на презентации законопроекта "Об искусственном интеллекте".
«Как правило, ответственность наступает не за создание самого дипфейка, а за последствия, то есть урон деловой репутации или экономические вопросы, мошенничество. Считалось, что самое грамотное регулирование дипфейка было в Европейском акте, но сейчас учёные дают оценку, что непонятно, какая степень изменения того или иного контента считается допустимой. Когда мы используем Photoshop, это тоже меняет оригинальность снимка. Какой процент изменений доступен, если мы на нашем телефоне отсняли и у нас есть инструмент улучшить изображение?», - поинтересовалась Смышляева.
При этом, по словам депутата, за дипфейки уже можно применять статьи Административного и Уголовного кодекса. Но они связаны со вторичным составом.
"Сам дипфейк - нет, а вот его содержание, если он оскорбил честь и достоинство человека, манипулировал общественным мнением или привел к мошенническим действиям и повлек материальный ущерб, то за вторичную часть уже применяется ответственность. Применяется в этом случае как отягчающее обстоятельство - использование информационных технологий. У нас уже такая статья есть. Но в части проработки состава - давайте через месяц", - пояснила депутат.
Парламентарий добавила, что если в дипфейк вкладывается дезинформация, то следует предусмотреть наказание.
"Уже на сегодня в законопроекте имеется запрещённое видение искусственного интеллекта. В частности запрет на распространение манипулятивных систем искусственного интеллекта, к которым дипфейки тоже относятся. Обеспечение прозрачности тоже здесь поможет в части защиты персональных и биометрических данных тоже важно, потому что для создания хорошего дипфейка нужно иметь определённый объём информации. В целом законопроект предлагает ряд мер. Мы не вносим пока уголовную ответственность за отдельный состав, но я полагаю, что в рабочей группе мы можем это предложение обсудить, ориентируясь на уже действующий международный опыт", – заключила Смышляева.
Дипфейк — это технология, основанная на искусственном интеллекте и машинном обучении, которая позволяет создавать поддельные видео, аудио или изображения, которые выглядят как настоящие. С её помощью можно создавать видео, на которых человек говорит или делает то, чего на самом деле не говорил и не делал.
В основе таких видео обычно лежат нейронные сети, которые обучаются на больших наборах данных, содержащих изображения или записи нужного человека. Это позволяет нейронным сетям синтезировать максимально реалистичные изображения или голоса, что делает их неотличимыми от настоящих.
«Как правило, ответственность наступает не за создание самого дипфейка, а за последствия, то есть урон деловой репутации или экономические вопросы, мошенничество. Считалось, что самое грамотное регулирование дипфейка было в Европейском акте, но сейчас учёные дают оценку, что непонятно, какая степень изменения того или иного контента считается допустимой. Когда мы используем Photoshop, это тоже меняет оригинальность снимка. Какой процент изменений доступен, если мы на нашем телефоне отсняли и у нас есть инструмент улучшить изображение?», - поинтересовалась Смышляева.
При этом, по словам депутата, за дипфейки уже можно применять статьи Административного и Уголовного кодекса. Но они связаны со вторичным составом.
"Сам дипфейк - нет, а вот его содержание, если он оскорбил честь и достоинство человека, манипулировал общественным мнением или привел к мошенническим действиям и повлек материальный ущерб, то за вторичную часть уже применяется ответственность. Применяется в этом случае как отягчающее обстоятельство - использование информационных технологий. У нас уже такая статья есть. Но в части проработки состава - давайте через месяц", - пояснила депутат.
Парламентарий добавила, что если в дипфейк вкладывается дезинформация, то следует предусмотреть наказание.
"Уже на сегодня в законопроекте имеется запрещённое видение искусственного интеллекта. В частности запрет на распространение манипулятивных систем искусственного интеллекта, к которым дипфейки тоже относятся. Обеспечение прозрачности тоже здесь поможет в части защиты персональных и биометрических данных тоже важно, потому что для создания хорошего дипфейка нужно иметь определённый объём информации. В целом законопроект предлагает ряд мер. Мы не вносим пока уголовную ответственность за отдельный состав, но я полагаю, что в рабочей группе мы можем это предложение обсудить, ориентируясь на уже действующий международный опыт", – заключила Смышляева.
Дипфейк — это технология, основанная на искусственном интеллекте и машинном обучении, которая позволяет создавать поддельные видео, аудио или изображения, которые выглядят как настоящие. С её помощью можно создавать видео, на которых человек говорит или делает то, чего на самом деле не говорил и не делал.
В основе таких видео обычно лежат нейронные сети, которые обучаются на больших наборах данных, содержащих изображения или записи нужного человека. Это позволяет нейронным сетям синтезировать максимально реалистичные изображения или голоса, что делает их неотличимыми от настоящих.