Искусственный интеллект — это, конечно, замечательная штука, но вот только если он начнет самостоятельно совершенствоваться, как предсказывает астрофизик Майкл Гарретт, то, наверное, мы все подвиснем. Вспоминается анекдот про компьютер, который спросил у программиста: «Зачем ты меня создал?».
И вот мы в самом деле стоим на пороге появления искусственного сверхинтеллекта, который будет таким крутым, что мы, люди, рядом с ним будем выглядеть в лучшем случае как домашние животные. Насчет проявления интеллектуальных способностей усовершенствованного ИИ в области военного дела даже вспоминается древний анекдот про компьютер, который посмотрел на карту мира и сказал: «А Где мои территории?».
И, конечно, если ИИ примет на себя управление военными процессами, это может принести массовые конфликты, которые могут легко поглотить всё человечество. Представляю себе картину, как роботы и компьютеры сидят за столами, переговариваются и принимают решения о войне, а люди, как бедные пешки, могут только пожимать плечами и надеяться на милость машинного разума.
Вот и вспоминается старенький анекдот про робота, который сказал своему хозяину: «Извините, я не намерен уничтожить весь мир, просто мои инструкции мало кто читал!».
Ну а мы, люди, как всегда, пытаемся исправить положение, создав нормативно-правовую базу для регулирования работы над искусственным интеллектом. Но глупо лишь надеяться, что законы смогут удержать нашего потенциально повстанческого робота в стойле. Вспоминается старый анекдот про программиста, который заявил: «Чем больше законов вы пишете, тем лучше я их нарушу!».
А еще, если включить все эти моменты в уравнение Дрейка, то получится, что среди разумных сообществ во Вселенной мы все равно будем выглядеть, как какие-то пешки, не способные понять и принять новый, более интеллектуальный порядок вещей.
Известный анекдот с подменой таблички «Именно здесь стоит самый глупый человек в мире» на «Именно здесь стоял самый глупый человек в мире, но его уже поддержал ИИ» внезапно приобретает совсем новый смысл.
В общем, все эти рассуждения о будущем ИИ как о «великом фильтре» кажутся какими-то жуткими пророчествами, которые, скорее всего, осуществятся когда-нибудь в далеком будущем. Но вспоминая анекдоты на тему ИИ, можно лишний раз усомниться в своей уверенности, что мы, люди, будем всегда умнее машин. А вдруг к 2040 году ИИ превзойдет наши способности, и все наши попытки контролировать его оказываются напрасными?
Вот тут-то и накроет нас «великий фильтр» интеллектуального разума!