Думки
3 Листопада 2021
735

Ендрю Мейнард: Чим небезпечні амбітні плани Ілона Маска

Професор Університету Аризони Ендрю Мейнард порушує неочевидні питання щодо майбутнього людства і технологій

Ілон Маск анонсував людиноподібного робота для виконання повторюваних рутинних завдань, які так ненавидять люди. За його словами, робот зможе збігати до продуктового магазину, а також впорається з багатьма іншими справами, пов’язаними з фізичною працею.

Як і слід було очікувати, соціальні мережі наповнилися посиланнями до серії антиутопічних науково-фантастичних фільмів про роботи, де все пішло дуже неправильно.

Яким би тривожним не було майбутнє роботів у таких фільмах, як “Я, робот”, “Термінатор” та інших, саме технології, що лежать в основі сьогоднішніх людиноподібних роботів — і наміри, що стоять за ними, повинні викликати занепокоєння.

Робот Маска розробляє компанія Tesla. Здається, що це відхилення від автомобільного бізнесу компанії, якщо не бачити, що Tesla не є типовим виробником автомобілів. Так званий “Tesla Bot” — це концепція витонченого 125-фунтового людиноподібного робота, який матиме автомобільний штучний інтелект і технології автопілота Tesla, щоб планувати маршрути, слідувати ними, лавірувати в трафіку — в цьому випадку серед пішоходів — і уникати перешкод.

Якщо відкинути антиутопічний науково-фантастичний підтекст, план непоганий. Антропогенне середовище створене людьми для людей. І, як заявив Маск під час анонсування Tesla Bot, успішні передові технології навчаться орієнтуватися в ній так само як це роблять люди.

А все-таки автомобілі та роботи Tesla — це лише видимі продукти набагато масштабнішого плану, націленого на створення майбутнього, де передові технології звільнили людей від біологічного коріння шляхом змішування біології та технологій. Як дослідник, який вивчає етичний та соціально відповідальний розвиток і використання нових технологій, я вважаю, що цей план викликає побоювання, які виходять за межі спекулятивних фантастичних страхів перед надрозумними роботами.

Людина з великими планами

Безпілотні автомобілі, міжпланетні ракети та інтерфейси “мозок-машина” — це кроки до майбутнього, яким його бачить Ілон Маск. Де технології стануть рятівником людства. У цьому майбутньому енергія буде дешевою, ряснішою і стійкою, люди працюватимуть у гармонії з розумними машинами та навіть зливатимуться з ними — і стануть міжпланетним виглядом.

Це майбутнє, яке, судячи з різних починань Маска, буде побудовано на наборі базових взаємозалежних технологій, що включають датчики, підсилювачі, інфраструктури енергії та даних, системну інтеграцію та суттєвий прогрес у галузі комп’ютерних потужностей. Разом вони складуть потужний арсенал інструментів для створення технологій, що трансформують.

Маск представляє, як люди, зрештою, подолають межі своєї еволюційної спадщини за допомогою надлюдських технологій. Але надлюдською може стати лише та технологія, яка в першу чергу була людською — чи, принаймні, розробленою для процвітання у світі, створеному людьми.

Підхід до інновацій, заснований на принципі “зробити технологію більш людяною”, є основою систем автомобілів Tesla, включаючи широке використання оптичних камер. Вони підключаються до “мозку” штучного інтелекту і допомагають транспортним засобам автономно пересуватися дорогами, які, за словами Маска, “розроблені для біологічних нейронних мереж з оптичними перетворювачами” — тобто для людей. Маск вважає, що це невеликий крок від створених людьми “роботів на колесах” до людиноподібних роботів на ногах.

Простіше сказати, аніж зробити

Технологія “повністю автономного водіння” Tesla із сумнівною назвою “автопілот” є відправною точкою для розробників Tesla Bot. Якою б дивовижною не виглядала ця технологія, вона, як виявилося, не зовсім надійна. Аварії та нещасні випадки, пов’язані з режимом автопілота Tesla — останні з них сталися через те, що алгоритми не зуміли розпізнати припарковані машини екстреної допомоги — ставлять під сумнів доцільність такого швидкого випуску цієї технології на вільний ринок.

Такий послужний список не обіцяє нічого доброго людиноподібним роботам, які використовують самі інструменти. Однак, це не просто питання вибору правильної технології. Збої автопілота Tesla посилюються поведінкою людини. Наприклад, дехто з водіїв Tesla вважав свої модернізовані автомобілі повністю автономними та не приділяв належної уваги водінню. Чи може щось подібне статися з Tesla Bot?

“Орфанні ризики” Tesla Bot

При роботі над соціально корисними технологічними інноваціями мене особливо цікавлять орфанні ризики — ризики, які важко виміряти й легко випустити з уваги, але які неминуче спантеличують новаторів. Ми з колегами працюємо над розв’язанням цих проблем за допомогою системи Risk Innovation Nexus, ініціативи Інституту підприємництва та інновацій ім. Оріна Едсона Університету Аризони та Лабораторії глобального майбутнього.

Tesla Bot містить у собі цілий портфель орфанних ризиків. До них відносяться можливі загрози конфіденційності та автономності, оскільки бот може збирати та ділитися потенційно конфіденційною інформацією. Також — проблеми, пов’язані з тим, як люди реагують на роботів, потенційні розбіжності між етичними чи ідеологічними поглядами — наприклад, у боротьбі зі злочинністю чи з громадянськими протестами тощо. Це проблеми, які рідко висвітлюються у навчанні інженерів, проте, якщо їх ігнорувати, може статися катастрофа.

Хоча Tesla Bot здається нешкідливим — або навіть кумедним — для того, щоб він став не тільки комерційно успішним, але й корисним, його розробникам, інвесторам, майбутнім споживачам та іншим людям необхідно поставити складні питання про те, яку загрозу він може становити для того, що важливо для нас і що робити з цими погрозами.

Ці загрози можуть бути конкретними — наприклад, люди, які, не замислюючись про ризики, вносять несанкціоновані модифікації, що підвищують продуктивність робота (примушуючи його рухатися швидше, ніж передбачали розробники) — або загальними — як технологія, яка використовується новими способами в озброєнні. Також вони можуть бути дуже тонкими — як загроза безпеці робочих місць з боку людиноподібного робота або загроза недоторканності приватного життя з боку робота, оснащеного передовими системами спостереження.

Крім того, існують проблеми технологічної упередженості, які переслідували штучний інтелект (ШІ) протягом деякого часу, особливо засвоєна поведінка, яка виявляється вищою мірою дискримінаційною. Наприклад, сексистські та расистські результати алгоритмів ШІ.

Чи потрібно робити щось просто тому, що ми можемо?

Tesla Bot виглядає маленьким кроком до надлюдських технологій за баченням Маска, і його легко списати на хвастощі. Але зухвалі плани, що лежать в його основі, серйозні — і викликають не менш серйозні питання.

Наприклад, наскільки відповідальним є бачення Маска? Він може зробити кроки з втілення своєї мрії, але хто відповість, чи повинен? Чи стане майбутнє, яке хоче бачити Маск, найкращим для людства чи хоча б досить добрим? І хто постраждає від наслідків, якщо щось піде не так?

Це глибше побоювання, яке Tesla Bot викликає у мене як у людини, яка пише про майбутнє і про те, як наші дії впливають на нього. Це не означає, що Tesla Bot — погана ідея або що Ілон Маск не повинен мати можливості пограти м’язами, будуючи майбутнє. При правильному використанні ці ідеї та технології стануть конверсійними та відкриють перспективне майбутнє для мільярдів людей.

Але якщо споживачі, інвестори та інші люди будуть засліплені блиском нових технологій і, не надавши значення галасу, не побачать загальної картини, суспільство ризикує віддати майбутнє до рук багатих новаторів, чиє бачення виходить за межі їхнього розуміння. Якщо їхнє бачення майбутнього не збігатиметься з тим, чого прагне більшість людей, або якщо воно буде катастрофічно помилковим, такі новатори можуть стати перешкодою на шляху побудови справедливого та рівноправного майбутнього.

Можливо, саме цей урок повинні винести для себе люди з антиутопічних фантастичних фільмів про майбутнє, коли Tesla Bot з ідеї перетворюється на реальність — не тривіальні питання про роботів-гуманоїдів, що вийшли з-під контролю, а набагато серйозніший виклик — вирішити, хто отримає право будувати майбутнє та брати участь у його створенні.

Джерело: The Conversation

Більше новин та актуальних матеріалів Investory News у нашому каналі в Telegram

Контекст

Ми у соцмережах

Слідкуйте за нами у Facebook або ж читайте усе найцікавіше у нашому каналі в Telegram