Зображення зроблено Джованою Флек, використовується з дозволу.

Цей звіт є частиною проєкту Data Narratives, проєкту Civic Media Observatory, метою якого є виявлення та розуміння дискурсу щодо даних, що використовуються для управління, контролю та політики в Сальвадорі, Бразилії, Туреччині, Судані та Індії. Детальніше про проєкт читайте тут та дивіться наш публічний набір даних.

Потужні актори, уряди та корпорації активно формують наративи про штучний інтелект (ШІ) для просування конкуруючих бачень суспільства та управління. Ці наративи допомагають встановити, у що вірить громадськість і що слід вважати нормальним або неминучим у застосуванні ШІ в їхньому повсякденному житті — від спостереження до автоматизованого прийняття рішень. У той час як публічні повідомлення представляють системи штучного інтелекту як інструменти для прогресу та ефективності, ці технології все частіше використовуються для моніторингу населення та позбавлення громадян можливості участі в політичному житті безліччю способів. Цей наративний виклик штучного інтелекту ускладнюється багатьма різними культурними цінностями, програмами та концепціями, які впливають на те, як штучний інтелект обговорюється в усьому світі. Врахування цих відмінностей має вирішальне значення в контекстах, в яких дані посилюють нерівність, несправедливість або недемократичне врядування. Оскільки ці системи продовжують впроваджувати уряди з історією репресій, для організацій громадянського суспільства стає критично важливим розуміти та протидіяти наративам про штучний інтелект, які легітимізують недемократичне застосування цих інструментів.

Спираючись на основу, закладену Unfreedom Monitor, ми провели дослідження Data Narratives щодо дискурсу даних у п'яти країнах, які стикаються з різними загрозами демократії: Судані, Сальвадорі, Індії, Бразилії та Туреччині. Щоб краще зрозуміти відносини цих країн зі штучним інтелектом, стимулами та стратегіями захисту суспільних інтересів, корисно контекстуалізувати ШІ як наратив даних. Управління штучним інтелектом за своєю суттю передбачає управління даними і навпаки. Системи штучного інтелекту покладаються на величезні обсяги даних для навчання та експлуатації, тоді як системи штучного інтелекту набувають розбірливості та цінності, оскільки вони широко інтегровані в повсякденні функції, які потім генерують величезні обсяги даних, необхідних для роботи.

Термінологія штучного інтелекту як наратив і перешкода

Сам термін «штучний інтелект» є спірним. Традиційні визначення штучного інтелекту — такі як те, що встановлено Законом ЄС про штучний інтелект — намагаються надати політикам необхідний простір для встановлення ефективної політики управління; однак ці спроби майже завжди зазнають невдачі через ненавмисне виключення деяких систем з-під нагляду через варіативність форм і функцій так званих інтелектуальних систем в цілому. Підходи до визначення штучного інтелекту також різняться залежно від галузі. Це ілюструють дані опитування, в яких вчені-комп'ютерники зосереджуються на технічних функціях системи, тоді як політики натомість зосереджуються на метафоричних зв'язках між системними аспектами, які, на їхню думку, схожі на людське мислення та поведінку. Це демонструє, як навіть термін «штучний інтелект» має наратив. Ми починаємо розуміти це, приймаючи широке використання популярних засобів масової інформації поряд з урядовими та дослідницькими.

Глобальне розмаїття наративів термінології штучного інтелекту відображає міжнародну різницю в культурних цінностях і пріоритетах. Багато мов приписують цим системам слово «інтелект», але культури різняться за своїми уявленнями про те, що включає в себе інтелект. Просте використання терміну «інтелект» приписує технології людські якості, які можуть створити хибне уявлення про ШІ як про автономний і потужний, а не як про інструмент, розроблений і контрольований людьми-акторами. Антропоморфні дескриптори штучного інтелекту можуть приховувати базову інфраструктуру та бізнес-інтереси, що стоять за його розробкою, — і вводити громадськість в оману, спонукаючи її генерувати неправильні висновки про те, як працює технологія і чи слід їй довіряти в конкретних випадках використання. Отже, наративи про штучний інтелект, які використовують антропоморфні описи, можуть запобігти публічній критиці систем штучного інтелекту.

Мову, яка приписує більше інтелекту, ніж здатна система, можна розуміти під наративами, що обрамляють корпорації, які продають ці інструменти. Оскільки передові системи штучного інтелекту, особливо генеративний ШІ, вимагають величезних обчислювальних ресурсів та інфраструктури, яку може дозволити собі лише кілька компаній, влада над розробкою штучного інтелекту була зосереджена у великих технологічних компаніях, таких як Google та Microsoft. Це технічне домінування дає цим компаніям перевагу над наративами про системи штучного інтелекту, просуваючи наративи, які свідчать про те, що їхній привілейований контроль над цією технологією є суспільним благом через обіцянки, що це «демократизує штучний інтелект» для всіх. Насправді, ці моделі абсолютно не здатні демократизувати знання в рівних частинах, тому що ці технології не можуть відрізнити факт від вигадки у своїх результатах, щоб виправдати навіть ліберальне визначення «знання», а також тому, що вони надають різні реакції різним людям через природу ідентифікаційної інформації, закодованої в мові користувачів. Популярність генеративного штучного інтелекту ще більше розширює корпоративний вплив США в інших країнах, формує питання, які порушуються, і діалог на платформах соціальних мереж, а також визначає, які дослідження фінансуються.

Представлення систем штучного інтелекту як інтелектуальних є ще складнішим і переплітається з сусідніми наративами. У США наративи про штучний інтелект часто обертаються навколо протилежних тем, таких як надія та страх, часто поєднуючи дві сильні емоції: екзистенційні страхи та економічні прагнення. У будь-якому випадку вони припускають, що технологія потужна. Ці наративи сприяють ажіотажу навколо інструментів штучного інтелекту та їхнього потенційного впливу на суспільство. Ось деякі приклади:

• «Гонка озброєнь штучного інтелекту» між Сполученими Штатами та іншими світовими державами, зокрема Китаєм.
• Штучний інтелект є рушійною силою економічного зростання та трансформаційним агентом, що змінює суспільство.
• Штучний інтелект – загроза для праці.
• Штучний інтелект як інструмент на благо суспільства.
• Штучний інтелект – це неминуча сила, яка потребує термінового регулювання.
• Якщо ви не використовуєте штучний інтелект, ви будете відставати.
• Штучний інтелект є демократизуючою силою, яка знижує бар'єри для входу в глобальний масштаб.

Багато з цих обрамлень часто представляють ШІ як нестримну силу, що прискорюється. Хоча цей наратив може викликати ажіотаж та інвестиції в дослідження штучного інтелекту, він також може сприяти відчуттю технологічного детермінізму та відсутності критичного ставлення до наслідків широкого впровадження ШІ. Контрнаративів багато, і вони розширюються на мотивах стеження, ерозії довіри, упередженості, впливу на роботу, експлуатації праці, використання з високим ризиком, концентрації влади та впливу на навколишнє середовище, серед іншого.

Ці наративні рамки в поєднанні з метафоричною мовою та образами, що використовуються для опису штучного інтелекту, сприяють плутанині та відсутності знань громадськості про технологію. Позиціонуючи штучний інтелект як трансформаційний, неминучий і необхідний інструмент для національного успіху, ці наративи можуть формувати громадську думку та політичні рішення, часто таким чином, що надають пріоритет швидкому впровадженню та комерціалізації.

Основні наративи, що зустрічаються в нашому дослідженні

Ви можете натиснути на таблицю нижче, щоб орієнтуватися в розповідях, які ми дослідили та описали в наступному розділі:

Бразилія

Дискусія навколо штучного інтелекту в Бразилії в першу чергу зосереджена на регуляторних заходах і набрала обертів, оскільки цього року (2024) Бразилія приймала G20 і провела низку підготовчих і супутніх заходів, пов'язаних з питаннями управління даними, таких як NetMundial+10. Ключовим нормативним актом, який обговорювався, був законопроєкт 2338/2023, який спрямований на встановлення національних стандартів для розробки, впровадження та відповідального використання систем штучного інтелекту. Окрім цього законопроєкту, є також галузеві законодавчі пропозиції, такі як криміналізація порнографічних діпфейків, а також цілеспрямовані дії, як-от резолюції Верховного суду виборів 2024 року щодо штучного інтелекту та виборів.

У цьому контексті наш дослідник виділив три основні наративи. Перший наратив, який полягає в тому, що Бразилія повинна залишатися в авангарді регулювання нових технологій, охоплює нинішній лівий уряд Бразилії та бажання членів громадянського суспільства повернутися до авангарду регулювання нових технологій, як це було у 2014 році, з «Marco Civil da Internet» (Бразильська рамкова рамка громадянських прав для Інтернету). Другий наратив, Бразилія повинна регулювати штучний інтелект, щоб уникнути відставання, також випливає з почуття терміновості регулювання, але просувається консервативним правим крилом, Ліберальною партією (ЛП), він надає пріоритет сприянню безпечному бізнес-середовищу, яке процвітає завдяки інноваціям у сфері штучного інтелекту. Третій наратив, Регулювання штучного інтелекту перешкоджає інноваціям у Бразилії, висунутий неоліберальним правим крилом країни, оприлюднює думку про те, що регулювання штучного інтелекту перешкоджатиме розвитку індустрії штучного інтелекту в Бразилії.

Індія

У листопаді 2023 року діпфейкове відео зі штучним інтелектом актора Рашміки Манданни, яке поширилося в соціальних мережах, викликало значну дискусію в Індії про регулювання штучного інтелекту. Підтвердження маніпулювання зображеннями призвело до дискусій про роль уряду в боротьбі з діпфейками ШІ та пом'якшенні потенційної шкоди. Ця дискусія поширилася на занепокоєння щодо впливу штучного інтелекту на вибори, що спонукало уряд попередити платформи про діпфейки штучного інтелекту та випустити рекомендації щодо саморегулювання та маркування контенту, створеного штучним інтелектом. Ці заходи послідували за публічними зверненнями прем'єр-міністра Нарендри Моді, в яких наголошувалося на загрозах, які становлять діпфейки штучного інтелекту, та їхній потенційній шкоді для громадян.

Під час першої фази дискусії, одразу після публікації відео з діпфейком на основі штучного інтелекту, наш дослідник виділив два основні наративи. Перший наратив, Уряд Індії прагне зробити Інтернет безпечним для своїх громадян, рекламував загальні дії уряду у формі регулювання щодо боротьби з дезінформацією, мовою ненависті та переслідуваннями в Інтернеті. Другий наратив, Реакція уряду Індії на діпфейки зі штучним інтелектом є заплутаною та реактивною, стверджується такими організаціями, як Фонд свободи Інтернету, який ставить під сумнів реактивні заходи уряду та вважає їх вжитими без обґрунтованої оцінки різних пов'язаних проблем.

Пізніше наш дослідник намітив ще три наративи, коли фокус переключився на вибори. Перші два наративи, Діпфейки на основі штучного інтелекту, будуть використовуватися антинаціональними акторами Індії і Творці діпфейків зі штучним інтелектом і платформи, на яких вони розміщуються, є справжніми рушійними силами маніпуляцій на виборах, запропоновані урядом, мають на меті звинуватити опозиційні партії, платформи соціальних мереж і людей, які стоять за створенням діпфейкових відео, за дезінформацію зі штучним інтелектом, не сприяючи чіткому регулюванню, спрямованому на боротьбу з цим. Третій наратив, Вирішення проблеми дезінформації штучного інтелекту в Індії має виходити за рамки заборони та видалення контенту, який також просувають такі організації, як Фонд свободи Інтернету, вимагає більш ефективної реакції від уряду, який розглядає питання політичної відповідальності та зміцнює медіасистему.

Судан

Громадянська війна в Судані, що триває з квітня 2023 року, глибоко вплинула на всі аспекти суданського суспільства. У травні 2023 року Збройні Сили Судану (ЗСС) використовували національну телевізійну станцію для поширення дезінформації, стверджуючи, що відео з Мохамедом Хамданом Дагало (Хемедті), командиром Сил швидкої підтримки (RSF), було згенероване штучним інтелектом, і що Хемедті мертвий. Однак Хемедті знову з'явився в липні 2023 року в записаному відео зі своїми силами, опублікованому RSF у X (раніше Twitter), яке прихильники ЗСС використовували, щоб підкріпити свою розповідь про його смерть, стверджуючи, що «RSF використовує діпфейки зі штучним інтелектом для військового обману». У січні 2024 року авторитет ЗСС був підірваний, коли Хемедті публічно з'явився з кількома африканськими лідерами під час турне регіоном.

У розпал цього перетворення штучного інтелекту на озброєння наш дослідник наніс на карту три ключові наративи. Перший наратив, як згадувалося вище «RSF використовує діпфейки зі штучним інтелектом для військового обману», який просувають ЗСС та його прихильники, має на меті дискредитувати RSF, пов'язуючи їх із діпфейками зі штучним інтелектом і звинувачуючи їх в обмані людей, змушуючи думати, що їхній командир Хемедті все ще живий. Другий наратив, Об'єднані Арабські Емірати та Ізраїль використовують штучний інтелект для просування свого порядку денного в Судані, який також просувають прихильники ЗСС, стверджує, що Об'єднані Арабські Емірати використовували штучний інтелект для прийняття свого порядку денного в Судані, щоб посилити RSF, завдаючи шкоди репутації ЗСС. Ізраїль та ОАЕ посилили співпрацю в галузі інновацій у сфері штучного інтелекту, яка розширилася після їхньої мирної угоди в рамках Авраамових угод. RSF, яка має міцні зв'язки з ОАЕ, в минулому прагнула налагодити незалежні відносини з Ізраїлем поза офіційними державними каналами.

Третій наратив, RSF не використовують діпфейки зі штучним інтелектом для військового обману, які просувають RSF та їхні прихильники, заперечує звинувачення ЗСС і заперечує використання діпфейків зі штучним інтелектом для військового обману у своїх онлайн-операціях.

Туреччина

У Туреччині ажіотаж є домінуючим фактором під час обговорення штучного інтелекту, проте штучний інтелект часто неправильно розуміють і ставляться до нього як до магічного рішення. Багато установ державного та приватного секторів звертаються до штучного інтелекту, щоб створити технічно підкований, прогресивний та об'єктивний образ, використовуючи його як захист від звинувачень у упередженості чи відсталості. Однак оптимізм різко контрастує з розчаруванням або жорстоким досвідом, який багато турків відчувають з використанням штучного інтелекту у своєму повсякденному житті.

У цьому зіткненні уявлень наш дослідник намітив два наративи. Перший наратив, «Штучний інтелект», є неупередженим і сам по собі може вирішити багато проблем турецького народу, висунутих правлячою партією, опозицією і навіть федерацією футболу країни, зображує штучний інтелект завжди неупередженим, об'єктивним і кращим за системи, створені людиною, незалежно від того, чому/як і де він використовується. Другий наратив, Штучний інтелект створює більше проблем, ніж вирішує, стверджується неявно і демонструє загрози використання ШІ, включаючи загострення існуючих соціальних проблем і створення нових.

Прогалина в розмові

Наративи, які помітили наші дослідники, також демонструють відсутність у розмовах. Найочевидніший випадок – у Сальвадорі, де не було знайдено ключових наративів, що обговорюють ШІ. Наше дослідження вказує на те, що теми управління даними, які процвітають у соціальному діалозі Сальвадору, – це переважно криптовалютна політика та питання захисту даних.

Питання захисту даних також є факторами дискусії навколо управління даними в Індії, Судані та Туреччині. Проте в будь-якій з цих країн занепокоєння з приводу витоку або неправильного використання даних людей пов'язане зі штучним інтелектом. Здається, немає розмов про джерело даних, які використовуються для підтримки систем штучного інтелекту, і наслідки, які можуть мати або не мати на приватність людей, навіть у країнах, де обговорюються можливі регулювання. Те саме відбувається і з дискусіями про потенційний вплив штучного інтелекту на зайнятість — жодні місцеві наративи не обговорюють загрози чи можливості, які штучний інтелект може надати людям на їхніх робочих місцях.

Наративи, відображені в нашому дослідженні, також дають мало оптимізму або чітких позитивних асоціацій зі штучним інтелектом. Лише в Туреччині штучний інтелект представлений як ефективний інструмент, хоча він переважно містифікований і використовується в дискурсі та як комунікаційна тактика для маскування неефективності.

Робота наших дослідників також не показує впливу наративів у суспільствах досліджуваних країн щодо можливого впливу штучного інтелекту на військовий чи поліцейський потенціал країн, на відміну від США. Лише в Туреччині та Сальвадорі наші дослідники знайшли активні розмови про можливе шпигунство з боку їхніх урядів. Проте в будь-якому з цих інцидентів наративи, відображені на карті, пов'язують проблему зі штучним інтелектом. Те ж саме відбувалося і з порушеннями прав людини; дискусій про те, як ШІ може запобігти або полегшити їм, не було зареєстровано.

Наше дослідження також не виявило глибоких соціальних дискусій про можливості, які штучний інтелект надає авторитарним лідерам, які зараз перебувають при владі або бажають отримати доступ до влади. Здається, ведуться невеликі дискусії про те, чи може вона загострити уявлення про відсутність незаперечної істини і як ця атмосфера недовіри є шкідливою для демократій.

Висновок: зміна наративу ШІ

Організації громадянського суспільства, які хочуть захищати демократію та права людини, повинні краще розуміти наративи про штучний інтелект у всьому світі. Зараз ми побачили перші вибори під впливом генеративного штучного інтелекту. Алгоритмічний авторитаризм і використання штучного інтелекту для репресій є широкими, включаючи пропаганду глибоких фейків, стеження, модерацію контенту, кібервійну та зброю штучного інтелекту. Регіональний фокус на конкретних загрозах ШІ та політиці щодо ШІ існує, але необхідні ширші громадські наративи про вплив ШІ на демократію та права людини. Дослідження, проведене в рамках Data Narratives Observatory, показує, що регіональні дискусії часто не враховують критично важливих зв'язків між системами штучного інтелекту, управлінням даними та владою. Існує потреба у зміні наративу та створенні наративної інфраструктури. Погляд на ШІ як на частину екосистеми даних, а не як на інтелект, може допомогти протистояти шкідливим і надмірно спрощеним наративам про штучний інтелект. Це також може допомогти ознайомити громадськість з даними та правами на штучний інтелект, оскільки політика щодо штучного інтелекту залежить від управління даними. Цей взаємозв'язок особливо важливий, якщо розглядати зростання штучного інтелекту та роль, яку ШІ відіграє в процесі спостереження.

Наше дослідження виявляє значні прогалини у глобальному дискурсі щодо штучного інтелекту. У Сальвадорі соціальний діалог щодо управління даними зосереджений на політиці криптовалют і захисті даних, з мінімальною увагою до штучного інтелекту. Діпфейки штучного інтелекту та їх використання в дезінформації обговорюються в таких країнах, як Бразилія, Індія та Судан, але в них рідко розглядаються наслідки штучного інтелекту для конфіденційності даних або працевлаштування. Оптимізм щодо штучного інтелекту є рідкісним явищем, за винятком Туреччини, де штучний інтелект просувається як рішення, хоча часто поверхнево. Дискусії про вплив штучного інтелекту на військові та поліцейські можливості, права людини та його потенціал підтримувати авторитарні режими або підривати демократичні цінності особливо відсутні, що підкреслює необхідність більш всебічної та критичної взаємодії з соціальним впливом штучного інтелекту в усьому світі.

Перспективні підходи до управління штучним інтелектом можуть бути посилені за допомогою методів, які поважають силу наративів навколо центральних питань. Орієнтовані на громаду ініціативи з управління даними та штучним інтелектом, такі як Connected by Data та мережі суверенітету корінних даних, такі як Te Mana Raraunga, демонструють, як колективне управління може кинути виклик корпоративному контролю та державному нагляду. Нещодавно також були зроблені такі зусилля, як аналітичний брифінг Fostering a Federated AI Commons Ecosystem, натхненний роботою Coding Rights, який закликає G20 підтримувати екосистему штучного інтелекту, яка наголошує на штучному інтелекті для конкретних завдань, орієнтованому на спільноту та спрямованій на стримування влади технологічних монополій. Mozilla Foundation відстежує набагато більше ініціатив щодо обробки даних, які розширюють можливості спільнот.

Ці ідеї можуть бути потужними, але їхній успіх залежить від завоювання підтримки в різних спільнотах. Дослідження наративів показують, що вони можуть ефективно впливати на суспільні результати, але проблеми виникають при спробах розвивати наративи на низовому рівні. Без навмисної зміни наративу домінуючі наративи ШІ можуть посилитися та призвести до:

• Корпоративні наративи про штучний інтелект, які завищують можливості штучного інтелекту, вводять в оману та збивають з пантелику очікування, що ускладнює регулювання;
• Нормалізація більшого нагляду та втрати процесу прийняття рішень людьми, що керується державними наративами;
• Спрощені наративи про штучний інтелект, такі як ті, що поляризують ШІ як загрозу або ШІ як рішення, можуть відволікати від запобігання реалістичним ризикам і перевагам;
• Видобувні практики та концентрація влади в ландшафті штучного інтелекту залишатимуться заплутаними;
• Альтернативні бачення розвитку та управління штучним інтелектом, орієнтованого на спільноту, управління даними та роботи зі спільним штучним інтелектом будуть боротися за популярність.

Ці результати підкреслюють критичну потребу в розширених дослідженнях наративів про штучний інтелект — для їх документування, а також для допомоги громадянському суспільству в розробці ефективних контрнаративів і стратегій. Документація має вирішальне значення для того, щоб дозволити суспільствам створювати наративні інфраструктури, які кидають виклик корпоративному контролю та державному нагляду. Найкраща спроба спільнот протистояти репресіям за допомогою штучного інтелекту має інтегрувати тонке розуміння того, як різні спільноти концептуалізують та обговорюють штучний інтелект для створення повідомлень, які знаходять відгук на місцевому рівні та сприяють загальному внеску в ширший, глобальний рух. Починаємо з розуміння існуючих наративів. Ми використовуємо ці знання, щоб допомогти спільнотам розпізнавати та протистояти неправомірному використанню систем штучного інтелекту. А вони, у свою чергу, можуть використовувати цю інформацію для просування своїх альтернативних бачень управління штучним інтелектом, зосереджених на правах людини та демократичних цінностях.