Досягнення в області ШІ повпливають на можливість маніпулювати людьми та сіяти політичний хаос
Консалтингова компанія Eurasia Group, яка спеціалізується на політичних ризиках, підготувала великий звіт про основні ризики 2023. Серед них є технології, прогрес та штучний інтелект, які створять нові виклики для демократії, пише AIN.UA.
Сполучені Штати вже кілька десятиліть є головним експортером демократії у світі. Поки жодна інша країна не наблизилася до цього статусу. Більшу частину часу технологічні інновації, значна частина яких відбулася в Америці, були лібералізуючою силою. Однак сьогодні США стали головним джерелом інструментів, які підривають демократію. Можливо не навмисно, але все ж як прямий наслідок бізнес-моделей.
Цей рік стане переломним для ролі руйнівних технологій у суспільстві. Нова форма штучного інтелекту, відома як генеративний штучний інтелект, дозволить користувачам створювати реалістичні зображення, відео та текст лише за допомогою кількох речень інструкцій. Великі мовні моделі, такі як GPT-3 і GPT-4, які незабаром будуть випущені, зможуть надійно пройти тест Тюрінга. Це рубікон для здатності машин імітувати людський інтелект. Зручні програми, такі як ChatGPT і Stable Diffusion, дозволять будь-кому, хто має мінімальні технічні знання, використовувати потужність штучного інтелекту.
Ці досягнення повпливають на можливість за допомогою ШІ маніпулювати людьми та сіяти політичний хаос. Коли перешкоди для створення контенту більше не існують, обсяг контенту зростає в геометричній прогресії. Дезінформація буде процвітати, а довіра — і без того слабка основа соціальної згуртованості, комерції та демократії — буде далі розмиватися. Це залишатиметься основною валютою соціальних медіа, які — через їхню приватну власність, відсутність регулювання та бізнес-модель, спрямовану на максимальне залучення — є ідеальним живильним середовищем для того, щоб руйнівний вплив ШІ став вірусним.
Демагоги та популісти використовуватимуть штучний інтелект для вузьких політичних цілей коштом демократії та громадянського суспільства. Трамп, Жаїр Болсонару в Бразилії та Віктор Орбан в Угорщині використовують силу соціальних медіа та дезінформації для маніпулювання електоратом та перемоги на виборах. Технологічний прогрес створить структурні переваги для кожного політичного лідера, щоб використовувати ці інструменти.
Політики будуть використовувати досягнення штучного інтелекту для створення недорогих армій людиноподібних ботів. Їм поставлять завдання підвищувати популярність маргінальних кандидатів, поширювати теорії змови та “фейкові новини”, розпалювати поляризацію та загострювати екстремізм і навіть насильство.
Ці інструменти також стануть подарунком автократам, які прагнуть підірвати демократію за кордоном і придушити інакомислення вдома. Тут лідирують росія і Китай. Спираючись на свою диверсію під час виборів у США 2016 року, а також на кампанії з дезінформації в Україні та Східній Європі, москва посилить свою підривну поведінку.
Парламентські вибори в Польщі 2023 року є найбільш очевидною метою, але інші уряди також будуть вразливими. Тим часом Пекін уже використовує датчики, мобільні технології та розпізнавання облич для відстеження пересування, діяльності та зв’язку своїх громадян. Невдовзі уряд запровадить нові технології для поширення пропаганди в соціальних мережах, засоби масової інформації та залякування китайськомовних спільнот за кордоном.
Розповсюдження штучного інтелекту також матиме глибокі наслідки за межами політики. Компанії в кожному секторі зіткнуться з новими репутаційними ризиками, коли ключових керівників або облікові записи видають за іншу особу зі зловмисними намірами. Генеративний штучний інтелект ускладнить для компаній та інвесторів пошук різниці між справжньою залученістю і спробами саботажу з боку хакерів.
Громадські активісти, тролі та будь-хто поміж них зможе викликати корпоративні кризи, створюючи достатньо великі обсяги реальних твітів, оглядів продуктів, онлайн-коментарів і листів до керівників, щоб імітувати масові рухи громадської думки.
Звичайно, штучний інтелект також забезпечує неймовірне підвищення продуктивності, яке ми тільки почали оцінювати. Іронія полягає в тому, що благодатний ґрунт для інновацій в Америці — який живиться представницькою демократією, вільними ринками та відкритим суспільством — дозволив цим технологіям розвиватися та поширюватися без перешкод. Аж до того, що тепер вони загрожують тим самим політичним системам, які зробили їх можливими.
Нагадаємо, Amazon звільнить понад 18 тис. працівників.
Більше новин та актуальних матеріалів Investory News у нашому каналі в Telegram
Ми у соцмережах