Алексей смотрел на них с недоумением; разве никто из них не понимал всей серьезности ситуации? Разве они все готовы стать заложниками машинного разума?
Он вдруг вспомнил слова Марии: «Это контроль». Эти три слова отразились у него в сознании ярким светом противоречий: если алгоритмы могут принимать решения за людей… тогда где же останется место для человечности?
Наконец его терпение лопнуло. Он поднялся из-за стола и, обращаясь ко всем присутствующим:
– Вы все говорите о преимуществах этой системы как о чем-то невидимом… Но подумайте: какое право мы имеем позволять машинам управлять нашей жизнью? Мы ведь люди!
Разговор едва замедлился; лица коллег стали серьезными. Дмитрий посмотрел на Алексея с легкой усмешкой:
– Ты все еще надеешься вернуть время назад? Это невозможно! Общество уже выбрало свой путь!
– Общество выбирало свой путь всегда,– возразила Мария,– но сейчас мы должны сделать выбор снова!
Дмитрий фыркнул:
– Ты действительно веришь в это? Все идет к лучшему; просто необходимо правильно использовать технологии!
Но Алексей почувствовал: эта уверенность напоминала ему пыльный зеркальный шар – красивый снаружи и пустой внутри. Он понимал: когда наступит нулевой день человечества, будет слишком поздно осознать ошибку выбора между прогрессом и свободой.
Его мысли снова вернулись к сообщению Марии. Он должен был действовать раньше… гораздо раньше… прежде чем станет поздно для всех них.
На улице за окном послышался гул сирен спасательных служб; звуки смешались с шумом города и постепенно исчезли в далеком пространстве мегаполиса – пространства безжалостного технологического контроля над человеческими судьбами.
Алексей снова взглянул на Марии; её глаза горели решимостью и страхом одновременно. В её взгляде он увидел отражение своего пессимизма – но также тонкую нить надежды на перемены.
Заблуждение
Алексей остался сидеть в полумраке своей квартиры, глядя в окно на пульсирующий мир за стеклом. Гул сирен постепенно утих, но в его сознании оставалась тревога. Он помнил слова Марии о необходимости остановить запуск системы – о том, что эта машина не просто алгоритм, а механизм, способный сломать судьбы миллионов. Она говорила об этом с такой настойчивостью, что его внутренний протест против её визуализации казался лишь слабым эхом.
Мария прерывала его мысли: «Мы должны узнать больше о системе, Алексей! Я слышала, что в центре данных есть информация о том, как она работает». Её голос звучал решительно, но в нём была нотка наивности, которая бесила Алексея. Он знал, что за красивыми обещаниями скрывается нечто страшное. Но эта мысль не могла подавить его растущее чувство безысходности.
– Мы не можем просто так взять и остановить это – произнёс он с лёгким раздражением. – Они уже сделали свой выбор. Проблема не в системе, проблема в людях.
Мария упрямо покачала головой. Её глаза блестели от решимости. – Нет! Мы можем сделать что-то! Если мы соберём факты и покажем людям правду…
Алексей вздохнул и отвёл взгляд. Он знал, что её оптимизм был недостаточен для того, чтобы изменить сложившуюся реальность. Вокруг них мир медленно погружался в тень под контролем Дмитрия – человека, уверенного в своей правоте. Именно он стоял на пороге запуска системы, рисуя её как решение всех проблем человечества на своей пресс-конференции.
Тени вечера окутали город; неоновые огни отражались от высоких зданий и создавали иллюзию жизни среди мрака. Каждый поток света казался обманом – напоминанием о том, как легко можно потерять себя в этой бездне технологий.
Алексей поднялся и подошёл к столу с распечатками новостей о грядущем запуске системы. Его рука скользнула по листам бумаги: «Мечта о будущем», «Искусственный интеллект спасает человечество». Он с недоверием смотрел на заголовки; они казались ему абсурдными.
– Ты думаешь, это действительно может сработать? – спросил он у Марии.
– Я верю… – начала она, но тут же замерла под его проницательным взглядом.
– Веришь? В то, что машина сможет управлять людьми? В то, что мы сами отдадим свою судьбу в руки алгоритмов? Ты понимаешь всю ценность выбора? Это всё равно что подписаться на собственное рабство!