Ілюстрація Джафара Сафатлі для UntoldMag. Використано з дозволу

Ця публікація Донателли Делла Ратта була вперше опублікована UntoldMag 14 серпня 2024 року. Ця відредагована версія перевидана на Global Voices в рамках угоди про обмін контентом.

«Деколонізація ШІ» стала мантрою, яку повторюють різні інституції — від академічних установ до культурних майданчиків по всьому світу. Оскільки розвиток штучного інтелекту формує глобальні публічні дебати з надмірною похвалою або абсолютним терором, з'явилися побоювання, що він має тенденцію відтворювати колоніальну динаміку експлуатації та видобутку.

Однак, хоча внутрішній механізм, за допомогою якого нова форма цифрового колоніалізму реанімується за допомогою технологій, заснованих на даних, був значною мірою розкритий і засуджений, стратегії протидії йому залишаються менш зрозумілими.

Аміра Каваш, палестинсько-іраксько-американська художниця та дослідниця, чиї міждисциплінарні проєкти потужно позиціонують її мистецьку практику в критичних дослідженнях штучного інтелекту, кидає виклик дискримінаційному та репресивному технологічному сектору.

Untold Mag (UM): Що насправді означає деколонізація ШІ і як ми можемо впровадити її на практиці?

Аміра Каваш (АК): Деколонізація ШІ — це багаторівнева робота, що вимагає реакції проти філософії «універсальних обчислень» — підходу, який є широким, універсалістським і часто переважає над локальним. Ми повинні протиставити йому різноманітні та локалізовані підходи, зосереджуючись на праці, екологічному впливі, тілах і втіленні, феміністичних рамках згоди та насильстві, притаманному цифровому розриву.

Таке цілісне мислення має пов'язувати військове використання технологій на основі штучного інтелекту з їхнім, на перший погляд, безневинним, повсякденним застосуванням у додатках і платформах. Досліджуючи і розкриваючи внутрішній зв'язок між цими видами використання, ми можемо зрозуміти, як нормалізація повсякденного застосування ШІ іноді легітимізує більш екстремальне і військове використання цих технологій.

У самій інфраструктурі ШІ закладені нормалізовані шляхи та рутинні способи насильства, наприклад, спосіб, у який підказки (письмові інструкції або запити, які ми даємо штучному інтелекту) перетворюються на реальні образи. Цей процес може сприяти дегуманізації людей, перетворюючи їх на легітимні мішені, роблячи їх невидимими.

Візьмемо для прикладу Палестину: коли я експериментувала з простими підказками на кшталт «палестинська дитина в місті» або «палестинська жінка, що йде», згенеровані штучним інтелектом зображення часто зображували сценарії, які нормалізують насильство проти палестинців. Дитину показують такою, що тікає від будівлі, яка руйнується, на тлі повного міського спустошення. Руйнування відбувається повсюдно, але винуватець цього насильства, Ізраїль, ніколи візуально не притягується до відповідальності.

Ці зображення, створені штучним інтелектом, сприяють формуванню наративу за замовчуванням, в якому без контексту і підстав палестинці зображуються як такі, що живуть у вічній розрусі. Такі зображення увічнюють упереджений і шкідливий наратив, ще більше закріплюючи нормалізацію насильства проти них як результат ще більшої дегуманізації.

Те, що я називаю «футуроцидом» палестинського народу, випливає зі складної взаємодії між тим, як навчаються дані — шляхом широкомасштабного вишкрібання інтернету і поглинання всіх існуючих стереотипних уявлень, що циркулюють в мережі, — і тим, як ці дані узагальнюються, роблячи їх начебто «універсальними». Створюючи патерни та моделі, ШІ викристалізовує категорії.

Палестинське місто, створене за моїми підказками, ризикує стати «тим самим» палестинським містом — квінтесенцією, застиглою сутністю, де страждання перетворюється на суто візуальний об'єкт, який нескінченно комерціалізується за допомогою генеративного ШІ у всіх його формах і аспектах. Ці травматичні наслідки відбуваються без видимого винуватця, що призводить до окупації без окупанта. Це дзеркальне відображення фільму жахів: чисте спустошення без причини або сенсу, лише безглузде насильство і травма.

UM: Якби ми хотіли зруйнувати колоніальні основи, закладені у створенні та структурі ШІ за замовчуванням у тому вигляді, в якому він існує сьогодні, з чого б ми могли почати?

АК: Я вважаю, що ми повинні починати з дуже маленьких, локальних прикладів. Наприклад, я працюю над тим, щоб залучити реальні культурні інституції до створення наборів даних, таким чином розробляючи висококваліфіковані та персоналізовані моделі для навчання ШІ, не вишукуючи їх в інтернеті. Такий підхід допомагає протистояти експлуатації, яка зазвичай лежить в основі створення та навчання цих технологій, а також є причиною більшості упереджень.

Деколонізація ШІ означає усунення цього експлуататорського аспекту і перехід до більш кураторської, ремісничої праці та практик догляду.

Звісно, такий підхід не є масштабованим, і, можливо, в цьому полягає частина проблеми. Сприйняття цифрового як квінтесенції можливого масштабування робить його за замовчуванням колоніальним, комерційним і комерціалізованим. Можливо, деколонізація штучного інтелекту, як проект, за своєю суттю є нездійсненним — машинне навчання, в його нинішній структурі та концепції, пропонує мало місця для деколоніальних практик.

Однак, співпрацюючи з реальними установами, такими як університети та культурні центри, для створення навчальних наборів даних, ми можемо вирішити принаймні один рівень проблеми: збір даних. Існує багато рівнів, задіяних у роботі штучного інтелекту, і всі вони повинні бути враховані при спробі його «деколонізації».

Почати зі збору даних — важливий перший крок, але ми повинні визнати, що комплексний підхід вимагатиме уваги до кожного рівня процесу. Наприклад, навіть якщо інформація зібрана чесно, ретельно опрацьована і отримана згода, навчальна модель сама по собі може бути експлуататорською. Перетворення даних на ярлики і категорії та їхня універсалізація за своєю суттю є проблематичним і значною мірою є частиною колоніальної спадщини. Він може увічнити упередження і зміцнити шкідливі структури, незалежно від чесності початкового збору даних.

Для мене було б корисно подумати про ШІ в рамках критичних архівних практик. Дані є цінним ресурсом минулого, на якому будується майбутнє знання. Розуміння штучного інтелекту як продовження архівної практики дозволяє нам критично оцінити, як ми збираємо, класифікуємо та використовуємо дані, гарантуючи, що ми підходимо до них з такою ж обережністю, згодою та контекстуальною обізнаністю, як і до будь-якого іншого архівного матеріалу. Завжди існують критерії відбору та організаційні принципи, зумовлені вибором.

Щоб створити деколоніальний або антиколоніальний архів, ми повинні прийняти феміністичні перспективи і включити інші форми знання, окрім традиційних, мовних. Як художниця, я працюю з нетрадиційними формами знання та навчання, які є нематеріальними та ефемерними, а отже, менш схильними до формалізації та комерціалізації. І все ж, якби ми по-справжньому деколонізували ШІ, чи залишився б він тим самим об'єктом, чи став би чимось зовсім іншим?

Зображення «Всі погляди на Рафаха», створене штучним інтелектом, яке стало вірусним в Instagram у травні 2024 року. Зображення з Вікісховища. Суспільне надбання.

UM: Як ви оцінюєте роль генеративного ШІ в поширенні інформації про геноцид у Газі? Чому штучна картинка «Всі погляди на Рафаха» стала вірусною, тоді як так багато доказових зображень, що свідчать про масове вбивство, залишилися поза увагою громадськості?

АК: Вірусності цього зображення, згенерованого штучним інтелектом, сприяло багато елементів. По-перше, читабельний текст, вбудований у зображення, дозволив йому обійти цензуру сучасних платформ, що сприяло швидкому поширенню. По-друге, люди, ймовірно, сприймали його як «безпечне» зображення — воно є санітарно чистим і не містить відвертого насильства, що робить його більш прийнятним для широкого розповсюдження.

Візуальні образи живуть у безпечному просторі, який є простором ШІ, а не Палестини. Видалення конкретного контексту створює комфортну дистанцію для глядачів. З палестинської перспективи це дуже проблематично, оскільки сприяє колоніальному процесу дегуманізації та стирання місцевого населення. Палестинців викреслюють із зображення, так, ніби їхній життєвий досвід не заслуговує на довіру або взагалі не береться до уваги.

Заклик також є проблематичним: «Всі очі на Рафаха» — що він насправді означає? Він не закликає до дій і не ставить під сумнів особисту волю. Він не закликає вас протестувати, звертатися до свого депутата чи вимагати санкцій проти Ізраїлю. Він не підштовхує вас до конкретних дій, він дуже пасивний. Весь світ дивиться, стає свідком геноциду в режимі реального часу, що може бути більш витонченою формою кліктивізму. Зробити абсолютний мінімум — просто поділитися зображенням — дає хибне відчуття того, що ти зробив свій внесок, що ти «щось зробив».

Звичайно, позитивним моментом є те, що 50 мільйонів людей поділилися ним на різних платформах. Однак палестинці не хочуть бути вірусними і водночас невидимими. Нам потрібно, щоб вірусність працювала на нас, щоб покласти край насиллю.

Що сталося б, якби ці технології на основі штучного інтелекту були використані для утвердження майбутнього палестинців, а не для їхнього знищення? Це питання керує моєю практикою. Технології є невід'ємною частиною дискурсу про майбутнє, і ми, палестинці, повинні бути частиною майбутнього. Ми повинні брати участь у його формуванні, а не бути викресленими з нього.