Понад 800 світових лідерів, учених, митців та бізнесменів закликали уряди країн запровадити мораторій на створення “надрозумного” штучного інтелекту — систем, які можуть перевершити людський інтелект. Серед підписантів — засновник Microsoft Білл Гейтс, принц Гаррі, радник Папи Римського, репер Will.i.am, а також сотні політиків і науковців із провідних університетів світу.
Заклик оприлюднив Future of Life Institute — та сама організація, що у 2023 році вимагала зупинити розробку моделей потужніших за GPT-4. Тоді ініціатива не спрацювала: вже за кілька місяців з’явився GPT-5, який, за оцінками аналітиків, наблизився до рівня узагальненого штучного інтелекту (AGI).
“Ми граємо з вогнем”
«Проблема не в тому, що ІІ стане злим, — проблема в тому, що він стане надто компетентним і діятиме поза нашим контролем», — йдеться у заяві Future of Life.
Автори попереджають: людство не має жодних гарантій, що створення систем, здатних мислити швидше та ефективніше за людей, не призведе до втрати контролю над критичною інфраструктурою — від енергетики до оборони.
Американський етичний філософ Макс Тегмарк, співзасновник інституту, пояснив:
“Ми не створюємо ворога — ми створюємо силу, яку не зможемо вимкнути. І це найнебезпечніше у світі.”
Хто не приєднався
Серед тих, хто не підписав звернення, — Сем Альтман (OpenAI), Ілон Маск (xAI), керівники Anthropic та DeepMind.
Хоча Маск ще торік підтримував “піврічну паузу” в ІІ-перегонах, нині його позиція змінилась після запуску власного проєкту xAI.
Аналітики припускають, що економічні ставки занадто високі: індустрія ШІ оцінюється у трильйони доларів, і змагання за першість у створенні AGI стало питанням національної безпеки для США та Китаю.
ШІ — це не іграшка, а серйозний інструмент
Сучасні системи штучного інтелекту вже впливають на життя мільйонів: від автоматизації фінансових рішень і медичної діагностики до керування енергетичною та комунікаційною інфраструктурою. Саме тому експерти нагадують — помилка в дизайні, маніпуляція даними або цілеспрямоване зловживання цими технологіями можуть мати далекосяжні наслідки: від економічних потрясінь і порушення приватності до системних збоїв у критичних галузях і навіть військового застосування. Водночас правильно сконструйований і регульований ШІ може врятувати життя, підвищити продуктивність і допомогти вирішити складні глобальні проблеми — але лише якщо суспільство заздалегідь визначить рамки безпеки й етичні правила застосування.
Між технологією і політикою
Фактично йдеться про нову форму гонки озброєнь. Якщо у XX столітті країни змагалися за атом, то нині — за “надрозум”.
У Вашингтоні та Брюсселі вже обговорюють створення глобальної агенції з контролю над ІІ, за аналогією з МАГАТЕ. Проте консенсусу поки що немає: Китай та деякі країни Перської затоки відмовляються від будь-яких обмежень.
+Дилема людства
Критики мораторію стверджують, що зупинити прогрес неможливо, а заборони лише послаблять відкриті демократії, давши фору авторитарним режимам.
Втім, прихильники “паузи” відповідають: технологічна гонка без правил може обернутися катастрофою.
“Ми маємо домовитися, перш ніж створимо щось, що домовиться за нас”, — йдеться у заяві Future of Life.
Що далі
Експерти очікують, що питання надрозумного ІІ стане темою наступного саміту G20. Пропонується провести глобальне голосування — чи готове людство дозволити створення систем, що перевершують його власний розум.
До того часу, як кажуть ініціатори, «надрозум має залишатися теоретичним поняттям, а не експериментом над цивілізацією».
Олексій Воронцов/Платонов
