Дийпфейк и AI – зловеща комбинация в смартфони и съзнанието на хората

Ролята на изкуствения интелект (AI) в масовите комуникации, механиката и разпространението на дезинформация, генерирана в него. Това са част от темите, които се разглеждаха на семинар, организиран от Асоциацията на европейските журналисти в София. В него участва и Иван Атанасов, главен редактор на „Сакарнюз“.
Лектори бяха Мамука Киркитадзе от Zinc Network’s Investigations & AI Team и Али Махмоуд, от Central Europe Media Program (CEMP), Zinc Network

Какво е дийпфейк и как фунционира?
Дийпфейк (от английски: deepfake – словосливане на думите „дълбок“ и „фалшив“). Това е видео, при което в устата на човек се вкарват думи и изрази, които не е казвал.
От десетилетия се манипулират видеа, но сега става много бързо защото се прави с високотехнологичен компютър. Колкото е по-висока резолюцията им, по-близко до действителността ще бъде създаденото видео.
Дийпфейковете вече могат да се генерират и от изкуствен интелект. Донал Тръмп, Барак Обама, Джо Байдън и други известни личности вече имат такива.
Има видеа, при които Риши Сунак, премиер на Англия, рекламира награда от 25 000 лири, ако си инсталирате някакво приложение.
Освен дийпфейковете има и манипулирани видеа. В Турция например Ердоган използва подобен при предизборната си пропаганда, като промени видеото на опонента му Кемал.
Подобни видеа имат опустошителен ефект в бавно развиващите се страни и у хората с по-ниско ниво на дигитална грамотност.
Защо се разпространяват подобни фейкове?
Те имат цел да заблудят хората и да се спечелят пари. Това е пропаганда, прави се преди избори, за финансова печалба, измами, подвеждащи статистики на икономиката, което се отразява на акции.
Има 4 вида дийпфейкове – аудио, видео, фото и текстове. Доказано, че едва половината от слушащите могат да идентифицират, че аудиото е манипулирано.
Подобни фалшификати са много по-плашещи и могат да се отразят на изборите. Най-важно е моментът на публикуване на видеата. За пример в Словакия бе тиражиран подобен запис в момент, когато пропагандата бе забранена. Пуснаха разговор, че министри уж заговорничат за изборите. Минути преди това, руската служба за разузнаване писа, че кандидатът, който е изгубил изборите е слуга на Америка и чрез него САЩ се опитват да влияят на страната. Пуснаха друг запис, при който точно преди изборите през 2023 година президентката говори за някакви магически инвестиции.
В Словакия проруска партия спечели и тези записи изиграха важна роля за това.
Словакия е опитна площадка, там са пускани и други дийпфейкове.
Има и по-евтини варианти
Освен дийпфейк има и чийпфейк (cheap fake). Това са видеа с по-малка резолюция. При тях хората се движат странно, бавно, има такъв клип с Нанси Пелоси, в който тя изглежда като пияна.
Чийп фейковете също така имат голямо въздействие при избори сред хората с ниска дигитална грамотност.
Подобни манипулации поставят сеериозния въпрос какво ще стане, ако има реални видеа, а хората мислят, че са фалшиви. Това се случи в Буча, Украйна, където много хора мислеха, че ужасните кадри от там са манипулирани.
Как да разпознаме дийпфейк
Има много програми, даже и безплатни, но не всеки може да проверява всеки клип, за който се съмнява.
При манипулирането на снимки например на AI все още му е трудно да прави ръце, понякога ги прави с 6 пръста, не може да създаде подходящ фон зад изображението. Не се справя добре с надписите, очите на портретите винаги са в една точка.
Но това е технически проблем, който вероятно ще бъде решен.
Другата част от обучението бе чрез кратко въведение в OSINT, обхващащо цикъла на разузнаване за провеждане на разследвания и насърчаване на осведоменост за основна оперативна сигурност.
На семинара бяха разгледани приложения, където AI използва и технологията за търсене на Google, предлагайки на журналистите рационализиран подход за пресяване на огромни количества текст, аудио, изображения и видео файлове.
По време на семинара, в който участваха журналисти от централни медии, бяха придобити умения за механиката и разпространението на дезинформация, генерирана от AI, за идентифициране и излагане на такова съдържание.

Колко са опасни: Европарламентът прие първия в света закон, регулиращ изкуствения интелект
С продължили почти три години преговори, ЕС направи предпоследната крачка към приемането на първото в света законодателство, регулиращо изкуствения интелект (ИИ). В него се казва, че системите за изкуствен интелект са допустими след анализ, класифициращ ги според риска, който представляват за потребителите. Различните нива на риск означават повече или по-малко регулиране.
Със закона се установяват задължения за доставчици и потребители в зависимост от нивото на риск, разделени в четири категории: системи с неприемлив риск, които ще бъдат забранени, с висок риск, които ще трябва да отговарят на определени изисквания. Описват се задълженията на авторите, пускащи генеративни приложения, и за тези с ограничен риск.
Българският евродепутат от ЕНП Ева Майдел, която работи по приемането на закона, каза в пленарната зала в Страсбург, че с него “бъдещето на ИИ става по-демократично, по-безопасно и по-конкурентоспособно, но само ако се прави правилно.

Предишното обучение на журналисти от „Сакарнюз“ бе семинар на тема: „Ромите отвъд стереотипите: работилница за ефективно отразяване в медиите“. В двудневното обучение взеха участие журналисти, репортери, студенти по журналистика и редактори, които се интересуват от правата на човека и етичното отразяване.
На събитието адвокат Диляна Гитева и експерт Теодора Крумова по интригуващ начин представиха културата, историята и традициите на ромите, въпроса свързан с антиромските нагласи и расизма.
Във втората част от семинара репортерът Мария Милкова и журналистът Мария Черешева запознаха участниците с това какъв е правилният начин да се отразяват чувствителни теми.

Сакарнюз