но и тоталитарным режимам. Промышленная революция тоже привела к кровавым экспериментам. Справится ли человечество с темной стороной ИИ-революции?
Новые информационные технологии всегда становятся катализатором исторических перемен, поскольку главная роль информации, правдивой или ложной, заключается в создании новых сетей. Глиняные таблички в Древней Месопотамии способствовали появлению городов-государств, священные книги – распространению новых религий, газеты и телеграф – развитию масштабной демократии и масштабного тоталитаризма. Поэтому автор предлагает рассматривать исторические революции как революции в способах распространения информации.
Автор призывает уделять больше внимания ИИ-революции в текущих политических дебатах, поскольку ИИ – первый инструмент, способный самостоятельно принимать решения и генерировать идеи, и это делает компьютеры полноправными участниками человеческих информационных сетей. Появление множества таких участников неизбежно изменит социальную, экономическую и политическую динамику. Поэтому проблема ИИ должна стать вопросом первостепенной важности даже для тех, кому неинтересны технологии и кто считает, что главные политические вопросы касаются выживания демократии или справедливого распределения богатства.
Понимание истории также предостерегает людей от двух ошибочных подходов к информационным сетям и революциям. С одной стороны, следует избегать наивного и оптимистичного взгляда. Информация не равна истине, а безошибочный ИИ – иллюзия. С другой стороны, не стоит придерживаться и слишком циничного взгляда и рассматривать информацию лишь как оружие в борьбе за власть. Реальность сложна.
Если бы все сводилось к борьбе за власть, то единственным способом разрешения конфликтов было бы насилие. Но люди заинтересованы в истине, а потому есть шанс хотя бы иногда разрешать разногласия мирным путем, ведя переговоры, признавая ошибки и пересматривая истории, в которые мы верим. Этой базовой посылкой демократических сетей и научных институтов руководствовался и автор при написании данной книги.
Вымирание разумнейших
Автор возвращается к вопросу, заданному в самом начале книги: если мы, люди, такие разумные, то почему мы так склонны к саморазрушению? Люди одновременно и самые умные, и самые глупые животные на земле. Мы так умны, что способны создавать ядерное оружие и сверхинтеллектуальные алгоритмы, и так глупы, что продолжаем их создавать, даже когда не уверены, что сумеем их контролировать и что они нас не уничтожат. Почему?
Причина, по мнению автора, не в природе человека, а в наших информационных сетях. Ставя порядок превыше истины, человеческие информационные сети обретают огромное могущество, но не мудрость. Могущественная сеть способна справиться с серьезными угрозами, но также способна сама породить масштабные бедствия.
Чем мощнее сеть, тем важнее для нее иметь механизмы самокоррекции. В эпоху ИИ все человечество оказывается в ситуации, аналогичной изоляции Тиберия на Капри. Мы обладаем огромной властью над окружающим миром и наслаждаемся роскошью, но наши детища легко манипулируют нами, и мы можем слишком поздно осознать опасность.
Если мы не будем ни впадать в отчаяние, ни тешить себя иллюзиями, то сможем создать гармоничные информационные сети, способные разумно распоряжаться своим могуществом. Для этого не придется изобретать чудо-технологию – нужно лишь отказаться как от наивного, так и от популистского взгляда на информацию, отбросить фантазии о безошибочных технологиях и заняться тяжелой и довольно скучной работой по созданию институтов с мощными механизмами самокоррекции. В этом состоит главный посыл книги.
Мы создали неорганический интеллект, который может выйти из-под контроля и подвергнуть опасности не только наш вид, но и прочие формы жизни. Решения, которые человечество примет в ближайшие годы, определят, было ли создание этого инородного интеллекта фатальной ошибкой или началом новой главы в эволюции жизни.
