• 22 Jan 2020
  • КИЕВ:
     4°С 
  • USD 24.2586
  • EUR 26.9695
  • Август 1st, 2017
  • 121

ИИ вышел из-под контроля в системе Facebook!

Исследователи обнаружили, что программа начала общаться на языке, который они не могли понять, поэтому компания Facebook была вынуждена закрыть одну из своих систем искусственного интеллекта.

Возможно, Элон Маск, генеральный директор Tesla, основатель SpaceX и других инновационных программ, был прав относительно того, что ИИ является «самым большим риском, с которым сталкивается» человечество.

Созданный Facebookом ИИ не отключал компьютеры по всему миру или что-то в этом роде, но он прекратил использовать английский и начал говорить на языке, который создал сам, передает Tech Times.

\Элис: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня».\

Вышеизложенные отрывки не имеют смысловой нагрузки для людей, но являются частью разговора, который произошел между двумя агентами ИИ. Эти агенты, созданные для переговоров с людьми, сначала разговаривали друг с другом с использованием простого английского языка, но в итоге создали новый язык, который понимают только они.

Программы создали язык, который облегчал и ускорял общение. Исследователи из Facebook, однако, решили закрыть системы ИИ, а затем заставить их говорить друг с другом только по-английски.

Каков вред, позволяющий агентам ИИ общаться друг с другом на языке, который они изобрели?

Прежде всего, из-за того, что системы ИИ используют свой собственный язык, люди не смогут следить за тем, о чем они говорят. А если агенты ИИ могут говорить на языке, который они создали, они больше не нуждаются в человеческом вмешательстве.

Системы ИИ могут делать множество вещей лучше, чем люди, и, если их не держать под контролем, они могут превратиться во что-то, что может полностью заменить нас.