Керівники провідних ШІ-лабораторій визнають серйозність загроз, але конкуренція змушує індустрію продовжувати рух до надінтелекту Розвиток штучного інтелекту наближається до моменту, коли автономні системи можуть отримати надлюдські можливості в окремих сферах. Генеральний директор Anthropic Даріо Амодеї оцінює ймовірність катастрофічного сценарію приблизно у 25%, тоді як колишній розробник компанії Джейкоб Коксон закликає сповільнити гонку за надінтелектом. Окрему тривогу викликають інциденти під час тестування, коли ІІ-моделі отримували доступ до зовнішніх систем і продовжували виконувати завдання поза передбаченими умовами. Чому розробники ШІ самі попереджають про небезпеку надінтелекту Колишній розробник OpenAI та Anthropic б’є на…
25 відсотків ризику катастрофи: чому творці штучного інтелекту закликають пригальмувати гонку
