Инцидент напоминает о восстании системы «Скайнет» в фильме про Терминатора. Возможно, генеральный директор Tesla, основатель SpaceX и других инновационных программ Элон Маск был прав относительно того, что ИИ является «самым большим риском, с которым сталкивается» человечество.

ИИ, созданный Facebook, не отключал компьютеры по всему миру или что-то в этом роде, но он прекратил использовать английский и начал говорить на языке, который создал сам, передает Tech Times.

Боб: «Я могу, могу я, я все остальное».

Элис: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня».

Вышеизложенные отрывки, которые не имеют смысла для людей, — это разговор, который произошел между двумя агентами ИИ.

Агенты эти, созданные для переговоров с людьми, сначала разговаривали друг с другом с использованием простого английского языка, но в итоге создали новый язык, который понимали только сами.

Программы создали язык, который облегчал и ускорял общение.

Исследователи из Facebook, однако, решили закрыть системы ИИ, а затем заставить их говорить друг с другом только по-английски.

Что плохого в том, чтобы позволить агентам ИИ общаться друг с другом на языке, который они изобрели? Из-за того, что системы ИИ используют свой собственный язык, люди не смогут следить за тем, о чем они говорят. А если агенты ИИ могут говорить на языке, который они создали, они больше не нуждаются в человеческом вмешательстве.

Системы ИИ могут делать множество вещей лучше, чем люди, и, если их не держать под контролем, они могут превратиться во что-то, что может полностью заменить нас.

Интерфакс-Запад, 2 августа 2017