Отец искусственного интеллекта увеличил вероятность того, что он уничтожит человечество

Для начала скажем, что даже самые умные люди из сферы высоких технологий - плохие предсказатели. Вот, например, цитата из второй половины прошлого века: "Думаю, штук пять компьютеров мы сможем продать на мировом рынке" (Томас Дж. Ватсон, основатель IBM). И еще одна: "«Нет причин, по которым кому-то может понадобиться компьютер в их доме» (основатель компьютерной компании Digital Equipment Corporation Кен Олсен).

Однако две эти цитаты как раз и могут поддержать третью, произнесенную уже сегодня. Как сообщает The Guardian, профессор Джеффри Хинтон, который в этом году был удостоен Нобелевской премии по физике за свою работу в области искусственного интеллекта, заявил, что существует «10–20-процентная» вероятность того, что искусственный интеллект приведет к вымиранию человечества в течение следующих трех десятилетий.

Хинтон, который считается одним из отцов искусственного интеллекта, в прошлом году ушел с работы в Google, чтобы более открыто говорить о рисках, которые несет неограниченная разработка ИИ. Тогда он оценивал эти риски в 10%, а сегодня поднял ставки до 20%. Объясняя, почему он это сделал, Хинтон сказал, что темпы разработки ИИ были «очень, очень быстрыми, гораздо быстрее, чем я ожидал», и призвал к государственному регулированию этой технологии.

"Ситуация, в которой мы сейчас находимся, такова, что большинство экспертов в этой области думают, что когда-нибудь, в течение, вероятно, следующих 20 лет, мы разработаем ИИ, которые будут умнее людей. И это очень страшная мысль, - добавил Хинтон. (так как) сколько примеров вы знаете, когда более разумное существо контролируется менее разумным существом?"

Фото: Википедия