Разработчики из Google создали аварийную кнопку остановки Искусственного Интеллекта
Развитие искусственного интеллекта связано в первую очередь с увеличением комфорта человека и созданием средств, упрощающих его жизнь. Создание ИИ, способного самостоятельно устранять различные проблемы и автоматически выполнять задачи, является целью многих крупных компаний. Google относится к тем, кто поддерживает идею ИИ и вносит в эту сферу серьёзный вклад. Однако компания также разделяет различные опасения относительно предположительной опасности искусственного интеллекта, которую он может причинить, поэтому дочерняя компания Google под названием DeepMind разработала «кнопку тревоги», позволяющую мгновенно остановить ИИ и не дать ему причинить вреда ни себе, ни людям.
Разработчики из Google DeepMind создали аварийную кнопку остановки ИИ
По мнению разработчиков из DeepMind, аварийная кнопка является последним рубежом контроля человека над ИИ в опасной ситуации.
Если подобный агент работает в реальном времени под наблюдением человека, порой от оператора может потребоваться нажатие большой красной кнопки, чтобы предотвратить вредоносную последовательность действий агента (вредоносную как для него самого, так и для его окружения) и перевести агента в безопасный режим.
Однако это не будет универсальным решением для всех версий ИИ. Некоторые алгоритмы, например, Q-learning, можно легко и безопасно приостановить, а для некоторых потребуются модификации технологии. Также пока неясно, возможна ли вообще работа этой кнопки со всеми существующими обучаемыми алгоритмами, но, по крайней мере, начало положено.
Источник: 4PDA.ru
