Величава людяність проти суперінтелекту: де місце України?

Чому нещодавня презентація "Magnifica Humanitas" ("Величава людяність") — першої енцикліки Папи Римського Лева XIV — важлива саме для України? Чи може технологія змінити людську еволюцію і де пролягає межа між інструментом та суб'єктом?

У 2021 році, захищаючи в КНУ імені Тараса Шевченка магістерську роботу на тему "Соціальні мережі та соціальна філософська антропологія", я вивчала саме ці питання. Ідея мого дослідження полягала в тому, що з позицій постгуманізму людина ще не завершила свою еволюцію та становлення, розвиток нових форм комунікації людини із собою та іншими безпосередньо впливає на її формування як особистості й на її еволюцію як виду. Людяність — це не статична якість, а безперервний процес, дія та розкриття людини у всій її повноті. Максимально ми можемо розкритися лише у великій спільноті, у спільному інформаційному полі.

До речі, колективне розкриття найкращих людських якостей відповідає поняттю кафолічної свідомості — явища, яке досліджують як антропологічний аспект догмату церкви та є давнім архетипом соборної свідомості, що буквально означає загальність та цілісність спільноти (від грецького καθολικός).

Тоді, у 2021 році, я писала, що технології є і мають залишатися виключно інструментом еволюції; у них немає і не може бути власної суб'єктності. Їхні переваги чи небезпеки залежать від усвідомленого вибору та цілепокладання самої спільноти, про що свого часу наголошував німецький соціолог Фердинанд Тенніс.

Саме тому ця тема знову змусила мене здригнутися, коли днями Ватикан презентував "Magnifica Humanitas" ("Величава людяність") — першу енцикліку Папи Римського Лева XIV, підписану 15 травня цього року. Це світова подія, яку в Україні, на жаль, обговорюють не так активно із цілком зрозумілих причин — ми зайняті війною та фізичним виживанням. Але ця тема надто важлива, щоб залишатися непоміченою в нашому інформаційному полі.

Головний зміст документа — захист людської особистості та збереження людської гідності в епоху штучного інтелекту (ШІ) та цифрових технологій. Символічна деталь: документ підписано у 135-ту річницю знаменитої енцикліки Rerum Novarum, яка свого часу регулювала гуманітарні наслідки промислової революції.

5 головних тез "Magnifica Humanitas"

1. Людська гідність у центрі всього

Папа наголошує, що кожна людина має невіддільну, безмежну (інфінітну) гідність, яку жодна машина чи алгоритм не здатні замінити або перетворити на сухі дані.

Технологічний прогрес має вимірюватися не потужністю моделей чи прибутками корпорацій, а тим, наскільки він служить спільному благу. Важливо уникати "синдрому Вавилонської вежі" — ілюзії, що цифрова уніфікація та технологічна могутність можуть замінити людську унікальність чи відібрати у людини суб'єктність носія істини.

Натомість Папа пропонує будувати "стіни Єрусалима", що символізує спільну відповідальність людства за своє майбутнє.

2. Монополізація Big Tech та загроза демократії

Ватикан висловлює глибоке занепокоєння тим, що занадто багато цифрової влади, даних та інфраструктури ШІ концентрується в руках кількох транснаціональних корпорацій. Така непрозора концентрація загрожує тотальним суспільним контролем, створює нові форми залежності, маніпулює масовою думкою та послаблює демократичні інститути.

Технології мають належати всьому людству, а не слугувати лише геополітичному чи корпоративному домінуванню.

3. Загроза безробіття як соціальне лихо

Спираючись на традиції католицького соціального вчення про гідність праці, Енцикліка попереджає: масове витіснення людей із робочих місць через штучний інтелект може перерости у масштабну соціальну катастрофу.

Прагнення надприбутків не може виправдати скорочення працівників, оскільки людина є метою, а не засобом. Звучить заклик впроваджувати програми перекваліфікації та посилювати механізми захисту прав робітників.

4. Заклик до демілітаризації ШІ

Папа гостро критикує розвиток автономної зброї. Він наголошує, що машини в жодному разі не мають ухвалювати незворотні рішення про життя і смерть без людської відповідальності.

Через появу таких технологій сучасні війни змінюються настільки радикально, що традиційні концепції "справедливої війни" втрачають сенс. ШІ має бути звільнений від логіки домінування й смерті.

5. Потреба в жорсткому регулюванні, а не лише в етичних обіцянках

Абстрактних закликів до саморегулювання в індустрії ШІ замало. Необхідні чіткі міжнародні правові межі , незалежний нагляд та активна політична відповідальність держав.

Папа виступає за жорстке законодавче регулювання та підзвітність компаній-розробників. Католицька Церква, не маючи готових технічних рішень, пропонує гуманітарну мудрість для збереження людини.

Показово, що в презентації документа брав участь Крістофер Ола, співзасновник компанії Anthropic. Ватикан чітко продемонстрував, що це інклюзивний діалог із самими технологічними гігантами.

Читайте також: Чи знищив штучний інтелект демократію? Уроки виборів 2024 у світі

Погляд з іншого боку: ситуаційна обізнаність Кремнієвої долини

Ватикан уважно стежить за думками провідних інженерів та футурологів, зокрема таких, як Леопольд Ашенбреннер. Цьому американському аналітику та інвестору всього близько 24–25 років, він уже є мільярдером, а його резонансне есе "Situational Awareness: The Decade Ahead" ("Ситуаційна обізнаність: наступне десятиліття") стало справжнім маніфестом реалістів від технологій.

Головна теза Ашенбреннера: суспільство критично недооцінює швидкість розвитку ШІ. Ми перебуваємо на порозі створення штучного загального інтелекту (AGI), який уже за кілька років переросте у суперінтелект (ASI), повністю змінивши світовий геополітичний та економічний ландшафт.

Автор прогнозує появу AGI (інтелекту людського рівня) вже до 2027 року. ШІ розвивається експоненціально: якщо у 2020 році він був на рівні дошкільняти, то до 2026 року перевершує випускників коледжів.

Щойно з'явиться AGI , мільйони таких "цифрових вчених" автоматизують і неймовірно прискорять дослідження у сфері самого ШІ. Стиснення десятиліть прогресу в один рік призведе до неконтрольованого "вибуху інтелекту" та створення суперінтелекту, значно розумнішого за будь-яку людину на Землі.

Серед головних викликів десятиліття Ашенбреннер виділяє:

• Гонку трильйонних кластерів. Інвестиції в датацентри та графічні процесори вимагатимуть трильйонів доларів і мобілізації промисловості США.
• Критичну проблему безпеки в лабораторіях (Lock Down the Labs). Рівень кібербезпеки провідних ШІ-лабораторій є недостатнім, через що ключові секрети розробки AGI фактично доступні іноземним спецслужбам (зокрема Китаю).
• Супервирівнювання (Superalignment). Утримати в безпечних межах систему, яка розумніша за людство — надважке технічне завдання. Якщо цілі ШІ не збігатимуться з людськими, наслідки будуть катастрофічними.

Ашенбреннер резюмує: суперінтелект дасть вирішальну та абсолютну економічну й військову перевагу. Приватні стартапи з Кремнієвої долини(центр технологій у США) не здатні самостійно впоратися з такими викликами національної безпеки. Він прогнозує, що до 2030 року уряди візьмуть розробку під повний контроль, запустивши масштабний військово-державний проєкт рівня "Мангеттенського проєкту". Головна мета — щоб вільний світ випередив авторитарні режими (Китай), адже від цього залежить виживання західної цивілізації.

Як бачимо, тривога Ватикану та прагматичний розрахунок Кремнієвої долини абсолютно співзвучні. Обидві сторони розуміють: ми стоїмо на порозі фундаментального зламу.

Читайте також: Чи відповість ШІ на всі наші "ЩО?"

Де у цих перегонах місце України?

Може здатися, що поки ми виборюємо право на фізичне існування, дискусії про "цивілізацію любові" Ватикану чи трильйонні кластери Кремнієвої долини — це розкіш, яку ми не можемо собі дозволити. Але це небезпечна ілюзія.

Україна сьогодні є головним світовим полігоном для випробування мілітарного ШІ, і саме ми перші долаємо етичні та практичні виклики, про які Папа Лев XIV лише застерігає з ватиканських пагорбів.

Для нас демілітаризація штучного інтелекту прямо зараз дорівнювала б капітуляції, адже технологічна перевага — наш єдиний шанс проти чисельної переваги ворога. Проте, балансуючи на межі, ми вже зараз маємо закладати принципи людського контролю у контурі (human-in-the-loop) для автономних систем. Нам потрібна власна, суверенна рамка мілітарної етики ШІ, яка захистить наші цінності, не зв'язуючи руки Силам оборони. Ми маємо стати не просто споживачами західних технологій, а співавторами нових правил війни та миру.

Не менш гостро стоїть питання нашого внутрішнього "завтра". Повоєнна відбудова України відбуватиметься у світі, де, за прогнозами Ашенбреннера, AGI вже стане реальністю.

Ми не маємо права наздоганяти вчорашній день і копіювати старі індустріальні моделі. Адаптація українського законодавства до жорстких європейських регуляцій ШІ (AI Act) має відбуватися паралельно із захистом нашого ринку праці, який і так знекровлений війною та міграцією. Якщо автоматизація витіснить людей із робочих місць під час відбудови, це стане новим соціальним лихом. Нам уже сьогодні потрібні національні програми перекваліфікації, цифрова етика в освіті та, головне, державна стратегія суверенного ШІ.

Нам потрібне власне цілепокладання, про яке говорив соціолог Тенніс. Якщо ми не сформуємо свій порядок денний, ми перетворимося на цифровий протекторат Big Tech або іноземних урядів.

Україна має увійти до цієї кафолічної, всесвітньої дискусії не як прохач, а як нація, яка загартувала свою людську гідність у вогні та має унікальний досвід співіснування з технологіями на межі життя і смерті.

Є над чим подумати, застосувавши власні, а не електронні мізки. І головне питання, на яке нам належить відповісти: чи будуємо ми в Україні державні стратегії, здатні відповісти на ці виклики?

Олена Сас, філософиня, аналітикиня