Самый весомый аргумент в пользу того, что ИИ понадобится тело, ученые обнаружат на стадии его обучения и развития – они поймут, что искусственный общий интеллект нельзя «вырастить» без тела.
– Джеймс Баррат. «Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens»94Как же тогда провести границу между полезной автоматизацией и автоматизацией, которая зашла слишком далеко? Для начала, вот список того, что можно и нужно автоматизировать:
• бухгалтерия, заполнение форм, управление финансами;
• система безопасности в аэропортах;
•составление расписания, назначение встреч;
• прочие рутинные задачи, которые не требуют принятия решений.
Виды деятельности, которые, по моему мнению, не должны быть автоматизированы:
• новости и медиа;
•личные сообщения;
• лайки и подтверждения в социальных сетях;
• дружба (как автоматические подписки в Twitter);
• принятие на работу и увольнение персонала;
• демократические функции (например, подписывание онлайн-петиций вместо активной политической жизни);
• изменения человеческого генома;
• роды.
Напомню, что словарное определение слова «автоматизировать» – это в буквальном смысле «действовать от себя, действовать самостоятельно»95. Разумеется, существует множество задач, автоматизация которых пойдет всем только на пользу. Одни автоматизированные функции помогут большинству, другие – некоторым, а третьи в итоге всем только навредят. В «Машине времени» Герберт Уэллс[66] представил будущее, где мир делят между собой одичавшие морлоки и бездейственные, но благородные элои96. Даже если нам удастся избежать участи морлоков, насколько самодостаточными мы будем себя чувствовать в качестве элоев – пассивных представителей вида с номинальной претензией на превосходство?
Глава 5. Интернет вещей
Приведет ли интернет вещей к тому, что мы будем вынуждены отказаться от человечности и стать более похожими на машины, только чтобы с нами продолжали считаться?
Как уже упоминалось, развитие технологий приводит к появлению интернета вещей, который Cisco также называют «интернетом всего», а GE[67] – промышленным интернетом.
