Новини
16 Лютого 2024
193

Зупинити ШІ закликають Річард Бренсон та онук Оппенгеймера

Також вони серйозно стурбовані кліматичною кризою та пандемією

Мільярдер Річард Бренсон та Чарльз Оппенгеймер представили відкритий лист з вимогами, опублікованому у четвер організацією The Elders (засновники — сам Бренсон та експрезидент Південної Африки Нельсон Мандела), пише CNBC.

Повідомлення закликає до рішучих дій проти ескалації небезпек кліматичної кризи, пандемій, ядерної зброї та некерованого ШІ. Світових лідерів просять прийняти довгострокову стратегію та виказати “рішучість розв’язувати проблеми, а не просто керувати ними, мудрість приймати рішення на основі наукових доказів і розуму, а також смиренність слухати всіх, кого це стосується”.

Підписанти вимагають термінових багатосторонніх дій, у тому числі фінансування переходу від викопного палива, підписання справедливого договору про боротьбу з пандемією, перезапуску переговорів щодо ядерної зброї та побудови глобального управління, необхідного для того, щоб ШІ став “силою добра”.

Лист опублікований також за підтримки Future of Life Institute — некомерційної організації, заснованої космологом Массачусетського технологічного інституту Максом Тегмарком і співзасновником Skype Яаном Таллінном, яка прагне спрямовувати трансформаційні технології, такі як штучний інтелект, на користь життю та захиститись від великомасштабних ризиків. Серед підписантів окрім мільярдера-засновника Virgin Group Річарда Бренсона та Чарльза Оппенгеймера, онука Дж. Роберта Оппенгеймера, можна побачити й ім’я колишнього Генсека ООН Пан Гі Муна.

Тегмарк каже, що The Elders хотіли донести, що, хоча сама по собі технологія не є “злом”, вона залишається “інструментом”, який може призвести до жахливих наслідків, якщо її швидко розвивати “в руках неправильних людей”.

“Стара стратегія орієнтації на ефективне використання [коли мова йде про нові технології] завжди полягала в тому, щоб вчитися на помилках”, — сказав Тегмарк в інтерв’ю CNBC. “Ми винайшли вогонь, потім — вогнегасник. Ми винайшли автомобіль, потім навчилися на своїх помилках і винайшли ремінь безпеки, світлофор і обмеження швидкості”.

Лист опубліковано якраз напередодні Мюнхенської конференції з безпеки, на якій урядовці, військові лідери та дипломати обговорюватимуть міжнародну безпеку на тлі ескалації глобальних збройних конфліктів, включаючи війни росії та України, а також Ізраїлю й ХАМАС. Тегмарк відвідає захід, щоб відстояти зміст листа.

Торік Інститут майбутнього життя також оприлюднив відкритий лист, який підтримали бос Tesla Ілон Маск та співзасновника Apple Стів Возняк і який закликав провідні лабораторії ШІ, такі, як OpenAI, призупинити роботу над навчанням моделей ШІ, потужніших за GPT- 4 — наразі найдосконалішої моделі компанії. В іншому випадку підписанти побоюються за “втрату контролю” над цивілізацією, що може призвести до масового знищення робочих місць.

Нагадаємо, для “життя в мирі” ШІ пропонує застосувати ядерну зброю. Найбільш агресивним виявився GPT-3.5.

Більше новин та актуальних матеріалів Investory News у нашому каналі в Telegram

Контекст

Ми у соцмережах

Слідкуйте за нами у Facebook або ж читайте усе найцікавіше у нашому каналі в Telegram