Новини
24 Листопада 2023
421

Вчені попередили про загрозу з боку штучного інтелекту

Мова йде про проєкт Q*

Перед усуненням Сема Альтмана з посади гендиректора OpenAI, яке тривало чотири дні, кілька вчених написали листа до ради директорів компанії з попередженням про потужне відкриття штучного інтелекту, яке, за їхніми словами, може загрожувати людству, повідомляє Reuters із посиланням на два ознайомлених джерела.

Йдеться про проєкт під назвою Q*. Деякі працівники OpenAI вважають, що Q* (вимовляється як Q-Star) може стати проривом у штучному загальному інтелекті — це автономні системи, які перевершують людей у ​​більшості економічно цінних завданнях.

Враховуючи величезні обчислювальні ресурси, нова модель здатна розв’язувати певні математичні проблеми, повідомило джерело з компанії на умовах анонімності. Проходження математичних тестів змусило дослідників бути дуже оптимістичними щодо майбутнього успіху Q*, повідомило джерело.

Дослідники вважають математику межею розвитку генеративного ШІ. Наразі генеративний штучний інтелект добре справляється із написанням і перекладом мови, статистично передбачаючи наступне слово, де результат може відрізнятися.

Але досягнення математичних здібностей, де є лише одна вірна відповідь, означає, що штучний інтелект матиме більше можливостей міркувати, подібно до людського інтелекту. Дослідники ШІ вважають, що це можна застосувати, наприклад, до нових наукових досліджень.

На відміну від калькулятора, який може виконувати обмежену кількість операцій, штучний загальний інтелект може узагальнювати, вивчати та розуміти.

У своєму листі до правління дослідники відзначили майстерність і потенційну небезпеку штучного інтелекту, повідомили джерела, не вказавши точних проблем безпеки, зазначених у листі.

Дослідники також відзначили роботу групи “вчених ШІ”, існування якої підтвердили численні джерела. Група, сформована шляхом об’єднання попередніх команд Code Gen і Math Gen, досліджувала, як оптимізувати наявні моделі штучного інтелекту, щоб покращити їхні міркування та, зрештою, виконувати наукову роботу.

Нагадаємо, GraphCast прогнозує погоду швидше та точніше синоптиків. Нова нейромережа від Google розроблена компанією Deepmind.

Як писали раніше Investory News, Spotify використовуватиме ШІ від Google. Стримінговий сервіс розширив своє партнерство з Google Cloud — буде використовувати великі мовні моделі (LLM), які допомагатимуть підбирати подкасти та аудіокниги.

А от Warner Music Group створює 90-хвилинний біографічний фільм “Едіт”. Завдяки генеративному штучному інтелекту для фільму відродять голос та образ співачки.

Більше новин та актуальних матеріалів Investory News у нашому каналі в Telegram

Контекст

Ми у соцмережах

Слідкуйте за нами у Facebook або ж читайте усе найцікавіше у нашому каналі в Telegram