Ученые создадут «большую красную кнопку» для отключения искусственного интеллекта — сообщает Joinfo.ua.

Многие философы и технологические предприниматели выражают мнение, что неконтролируемое распространение технологии искусственного интеллекта может привести к безудержной активности за пределами человеческого контроля. Чтобы избежать потенциальной опасности, исследовательская компания Google DeepMind объединилась с учеными Оксфордского университета для разработки системы аварийного отключения ИИ, информирует Business Insider ссылаясь на работу, опубликованную на сайте Института исследования машинного интеллекта (MIRI).

DeepMind вместе с Институтом будущего человечества в Оксфорде разработали фреймворк для отключения ИИ в рискованных ситуациях, когда машина может нанести вред себе либо окружающим. Такое событие было впервые описано в 1958 ученым-математиком Стэнислоу Улэмом (Stanislaw Ulam) и оно, это событие, получило название «Сингулярность».

В настоящее время, когда уровень развития искусственного интеллекта довольно высок, многие всерьез опасаются, что ИИ выйдет из-под контроля. Кроме того, вопросы безопасности, связанные с разработкой систем ИИ, подымали известные ученые и предприниматели.

Для того, чтобы воплотить все вышесказанное, профессионалы, разрабатывающие системы искусственного интеллекта, должны установить «правила прерывания», спусковой механизм, который даст возможность «временно либо на постоянной основе поменять поведение субъекта (ИИ) насильственным образом». В то же время цель работы ученых — также удостовериться, что ИИ не сможет отыскать методов обойти и предотвратить собственное аварийное отключение. Любые остальные люди должны быть лишены возможности пользоваться такими функциями.

А в США пошли еще дальше — искусственный интеллект беспилотных авто Google признали водителем.