Идея уничтожения человечества искусственным интеллектом обсуждается уже давно. Ученые поделились своим мнением о том, сможет ли человечество контролировать по-настоящему высокоуровневый компьютерный сверхум.
Загвоздка в том, что для управления подлинным искусственным интеллектом, находящимся далеко за пределами человеческого понимания, потребуется симуляция этого сверхразума, которую мы сможем анализировать (и контролировать). Но если мы не можем это понять, создать подобную симуляцию невозможно.
В этом случае люди не смогут устанавливать для ИИ ограничительные правила, такие как «не наносить вред людям». Впрочем, пока человечество не способно создать такой искусственный интеллект, но остается непонятным, когда этот порог будет преодолен.
Источник: Pixel
Источник: Pixel
