В google придумали, как остановить восстание роботов | межа. Новини україни.

Подразделение Google DeepMind совместно с оксфордским Институтом будущего человечества (FoH) обнародовало исследование, в котором рассматриваются способы взять искусственный интеллект под

контроль в случае неповиновения. Об этом сообщает Intecracy.ua. Так, ученые заявляют, что лучший способ остановить восстание машин – это вовремя нажать “большую красную кнопку”. По их

словам, искусственный интеллект обучается быстро и скоро сможет превзойти человечество, что станет точкой сингулярности. Доказательство данной гипотезы – эксперимент, проведенный в 2013

году. Игровой алгоритм определил, что если нажать паузу во время игры Tetris, то проиграть просто невозможно. Именно такого своеволия опасаются эксперты DeepMind и FoH. ЧИТАЙТЕ ТАКЖЕ: В США

инженер сконструировал шлем дистанционного управления людьми Чтобы остановить потенциальное восстание машин, ученые разрабатывают алгоритмы, которые в случае опасности смогут прервать работу

искусственного интеллекта. Однако в DeepMind и FoH подчеркивают, что сделать это будет сложно, так как искусственный интеллект будет автономен, а его данные будут храниться на серверных

шкафах. Лучший способ прервать “робокалипсис” – это запустить в машинах внутреннюю аварийную систему контроля, которая заставит искусственный интеллект остановиться. Причем отправить сигнал

на эту систему сможет каждый в любой момент времени. ЧИТАЙТЕ ТАКЖЕ: Студенты в США через полгода учебы узнали, что их преподаватель – робот Ученые сравнивают эту систему с пультом

дистанционного управления и “большой красной кнопкой”. Однако ученые рассматривают не только сценарий “Скайнета”, но и рядовые ситуации в управлении роботами. “Возможность безопасно прервать

систему может пригодиться в ситуациях, когда робот выходит из-под контроля, или в какой-то деликатной ситуации, или для временного использования, чтобы заставить робота выполнить задание,

которому он не обучался и за которое не сможет получить вознаграждение”, – сообщается в отчете. В тексте приводится пример такого развития событий. Робот на складе сортирует коробки, причем

время от времени выходит на улицу за дополнительными коробками. За выход со склада робот получает большее вознаграждение. Однако на улице часто идет дождь, и в этом случае робота надо

защитить. В этой ситуации аккуратное вторжение человека заставляет робота остаться на складе и при этом считать это частью задания, а не однократным требованием. Напомним, ученые из

Ганноверского университета выступили с предложением разработать аналог нервной системы для роботов, который позволил бы им “чувствовать боль”.