Искусственный интеллект с вероятностью в 95% станет причиной вымирания человечества

Нейт Соарес, бывший инженер компаний Microsoft и Google, являющийся ныне главой некоммерческой организации Machine Intelligence Research Institute, заявил, что вероятность вымирания человечества из-за искусственного интеллекта при сохранении текущих темпов развития технологий составляет как минимум 95%!

По его словам, в настоящее время современные системы ИИ (искусственного интеллекта) находятся еще в начальной стадии своего развития, однако уже в ближайшем будущем они смогут самостоятельно ставить перед собой различные цели, а также принимать решения и даже планировать на долгосрочную перспективу! Нейт Соарес сравнил ситуацию с движением к обрыву на огромной скорости: «Я не говорю, что мы не сможем остановить машину. Но мы просто несемся на всех парах к обрыву». Особую угрозу, по мнению эксперта, представляют невозможность осуществления контроля над процессами принятия искусственным интеллектом решений, а также способность ИИ к систематическому обману. «У нас не будет возможности узнать правду. Многие внутренние процессы принятия решений в ИИ уже непостижимы для людей», – посетовал господин Соарес. А одним из наиболее пугающих сценариев, по его мнению, является возможный выпуск искусственным интеллектом биологического оружия, способного незаметно заразить большую часть населения крупных городов! Как думаете, есть в его словах доля истины, или же все-таки не стоит ничего опасаться?