Вчені попередили про небезпеку надрозумного ШІ
Команда вчених, в тому числі з Центру людей і машин Інституту розвитку людини Макса Планка, прийшла до висновку, що людство не зможе тримати під контролем штучний суперінтелект, навіть якщо прийме для цього всі можливі заходи. Стаття з відповідними висновками була опублікована в Journal of Artificial Intelligence Research, повідомляє EurekAlert.
«Надрозумна машина, яка керує світом — звучить як наукова фантастика. Але вже є роботи, що виконують певні важливі завдання незалежно. При цьому програмісти взагалі не розуміють, як вони цього навчилися. В результаті, виникає питання: чи може цей процес в якийсь момент стати неконтрольованим і небезпечним для людства?» — підкреслив один з авторів дослідження Мануель Себріан.
Пройшовши через безліч алгоритмів і сценаріїв, дослідники прийшли до висновку, що повністю контролювати надрозумний ШІ неможливо.
Навіть якщо закласти в суперрозумну машину дані про етичні принципи і обмежити її зв’язки із зовнішнім світом (наприклад, відключити доступ в інтернет), це не врятує людство від ризиків того, що подібна система вийде з-під контролю.
Раніше про небезпеку ШІ попереджали американський бізнесмен Ілон Маск і фізик Стівен Гокінг.
