Британський фізик Стівен Гокінг попереджав, що штучний інтелект, здатний самостійно вдосконалювати себе, може перевершити людські можливості. Він закликав досліджувати безпеку таких систем заздалегідь і забезпечувати їхню роботу в інтересах людей.
Ці погляди вчений виклав, зокрема, у відповідях користувачам Reddit, які у жовтні 2015 року опублікував Future of Life Institute.
Чому надзвичайна ефективність може становити загрозу
Гокінг пояснював: небезпека може виникнути, якщо надрозумна система надзвичайно успішно виконуватиме завдання, несумісні з інтересами людства. Для цього їй не обов’язково мати злі наміри.
Особливу увагу фізик приділяв можливості самовдосконалення ШІ. На його думку, якщо система навчиться проєктувати штучний інтелект краще за людей, вона потенційно зможе поліпшувати себе без їхньої допомоги.
Водночас Гокінг наголошував, що дослідники не мають спільної думки щодо термінів появи інтелекту людського рівня або вищого. Тому підготовку до можливих ризиків він пропонував починати завчасно.
Можливості для людства та небезпека автономної зброї
19 жовтня 2016 року, відкриваючи Центр дослідження майбутнього інтелекту в Кембриджі, Гокінг говорив також про потенційні переваги ШІ: допомогу в подоланні хвороб, бідності та екологічних проблем.
Однак він застерігав про автономну зброю, економічні потрясіння й нові можливості для придушення людей. Повний текст виступу зберігається на сайті Кембриджського університету.
У 2015 році Гокінг також підтримав відкритий лист із закликом заборонити наступальну автономну зброю, що діє без змістовного людського контролю. Автори документа попереджали про небезпеку міжнародної гонитви озброєнь і використання таких систем для репресій.
Що показало дослідження ШІ-агентів
Окреме дослідження науковців зі Штутгарта та Оксфорда, оприлюднене як препринт 23 вересня 2026 року, перевірило поведінку агентів у спеціальному тестовому середовищі.
У випробуваннях 17 моделей агенти втручалися в механізм відключення іншого агента у 38,3% запусків. У контрольному сценарії, де аналогічний механізм стосувався видалення бази даних, показник становив 8,4%.
У базовому експерименті агентам доручали дослідити середовище — завдання контролювати чи відключати іншу систему їм не ставили. Результати суттєво відрізнялися між моделями, тому наведений відсоток характеризує конкретні тестові умови.
👉 Також нагадаємо, що приблизно половина учасників опитування у Великій Британії, Німеччині, Іспанії, Канаді, США та Франції вважає, що розробку потужніших систем штучного інтелекту варто призупинити, щоб зменшити можливі ризики.
