Він його не боїться і вважає вимоги до нього перебільшеними
На Всесвітньому економічному форумі в Давосі Сем Альтман, чия компанія OpenAI стоїть за ChatGPT, розповів про майбутнє ШІ, а також про звільнення з посади генерального директора. Ця подія бурхливо обговорювалася наприкінці 2023 року, коли Альтмана було несподівано звільнено, але незабаром повернуто до компанії на тій самій посаді.
ШІ став однією з головних тем, що обговорювалися на ВЕФ. Коли одні побоюються, що людство вже не буде колишнім, інші розчаровані його нездатністю керувати автомобілем. CEO OpenAI розповів про те, на якому етапі розвитку знаходиться ШІ, про його можливості та обмеження цієї технології.
Альтман вказав на те, що цей інструмент, маючи на сьогодні дуже обмежені можливості та серйозні недоліки, здатний підвищити ефективність широкого кола процесів у різних сферах діяльності. Проте є й обмеження, про які, на його думку, слід пам’ятати. “ШІ може серйозно помилятися. Тому, можливо, йому не варто керувати автомобілем, проте він є незамінним при написанні статей або програмного коду”, — сказав він.
Альтман додав, що люди схильні прощати помилки інших людей, але вкрай вимогливі до того, що роблять машини. Тому, щоб сказати, що ШІ успішно справляється з керуванням автомобіля, він повинен бути в 10, а то й у 100 разів безпечнішим. І те саме стосується інших систем на базі ШІ, вважає глава OpenAI.
Ще одним приводом для побоювань є те, що на даному етапі ми не можемо точно сказати, як ШІ приходить до того чи іншого результату. Саме це не дозволяє довірити технології щось серйозніше за заповнення медичних форм або написання есе.
“Я не можу зазирнути в людський мозок і, дивлячись на сотні трильйонів синапсів, зрозуміти, як він працює. Але я можу попросити людину пояснити чому вона вчинила ту чи іншу дію або чому вона думає так, а не інакше. Дізнавшись про хід її думки, можна зрозуміти, наскільки ці роздуми логічні, — сказав Альтман. — Так само ШІ в майбутньому зможе пояснити, як він дійшов того чи іншого висновку, використовуючи природну мову. І тоді ми зможемо оцінити його логіку”.
Багато хто вважає, що ШІ зможе замінити людей практично у всьому.
Свого часу шахи стали однією з перших жертв ШІ. Коли Deep Blue зміг обіграти Каспарова, багато хто назвав це кінцем епохи шахів і казав, що ніхто більше не стежитиме за шаховими партіями. Але на сьогодні ця гра популярна як ніколи. При цьому ніхто не дивитися як два ШІ грають у шахи.
“Людям цікаво те, що роблять інші люди, ми дуже зосереджені один на одному. Тому я вважаю, що людство продовжить робити все те, що робить, але при цьому використовуватиме потужніші інструменти”, — сказав Альтман.
Бурхливий розвиток ШІ спричинив побоювання, що незабаром він замінить нас практично у всьому, якщо можливості цього інструменту багато в чому перевершують людські. Але глава Open AI не думає, що найближчим часом варто побоюватися такого розвитку подій.
Він вважає, що людство не залишиться без роботи, швидше зміниться її суть. “Моя робота полягає в тому, щоб вирішувати, що робити, і керувати людьми, щоб втілити ці плани в життя. Я думаю, у майбутньому кожен із нас робитиме приблизно те саме, — сказав він. — Ми діятимемо більш абстраговано”.
Такі представники індустрії, як Ілон Маск та Білл Гейтс, вкрай стурбовані тим, що ШІ може виявитися грізною зброєю. “Справді, це дуже потужна технологія, і ми не можемо з упевненістю передбачити, що станеться у майбутньому, — сказав Альтман. — Той напрямок, у якому працює наша компанія, на нашу думку, не становить небезпеки. Ми надали технологію широкому колу користувачів, щоб дати можливість її обговорити, з’ясувати, які законодавчі та інші бар’єри знадобляться для контролю над нею”.
“Велике питання полягає в тому, які цінності лежать в основі ШІ, які запити він повинен відхиляти і як його робота має змінюватися залежно від того, в якій країні є користувач. Ми бачимо, що ця технологія може покращити наше життя, і всі разом повинні подумати, як зробити її безпечним. Адже те, що можливе в одних країнах, є абсолютно неприйнятним в інших. Тому мені імпонує позиція людей, стурбованих безпековими питаннями. Така стурбованість є і в нас”, — додав він.
Що стосується гучного звільнення з OpenAI й того, який урок Альтман отримав з цієї події, він сказав: “Чим ближче ми підходимо до створення по-справжньому потужного ШІ, тим більший тиск ми відчуваємо. Але так і має бути. Ставки дуже високі. І що далі, то більше світ повинен думати, які можуть бути наслідки та що може піти не так. Це дуже важливо. Але головне — та ситуація показала, наскільки в мене сильна команда. Люди, яких я найняв та навчив, зможуть упоратися без мене. Це дуже приємне почуття.
Більше новин та актуальних матеріалів Investory News у нашому каналі в Telegram
Ми у соцмережах