Если слишком хотеть тишины

Когда Шепард начинает ловить на себе заинтересованные взгляды Гарруса, которые задерживаются чуть дольше, чем полагается, и уж точно гораздо жарче, чем требуют приличия, капитан понимает: пора выводить беседу в нужное русло, иначе скоро их посиделки всё-таки перерастут в попойку, и от специалистов прока не останется. Нет, конечно, они по-прежнему будут способны стрелять и взламывать сложнейшие замки, но вряд ли смогут описать процесс вербально. К тому же Шепард совсем не хочется, чтобы они начали стрелять и взламывать замки прямо в клубе Арии. Тали уже расслабилась настолько, чтобы без содрогания смотреть на неловко сидящего на самом краешке скамьи гета. Перед кварианкой давно выстроилась шеренга пустых ёмкостей, а рядом выросла кучка сломанных и погнутых соломинок. Сейчас она задумчиво рассматривает сквозь кислотно-зелёный напиток Гарруса и отчего-то хихикает… во всяком случае, искажённый динамиками звук больше всего походит именно на хихиканье. Шепард старается не злоупотреблять. Если остальным нужно развязать языки и настроиться на необычную тему, то капитану следует оставаться в здравом уме, чтобы хотя бы ухватить суть грядущего разговора. Она по-прежнему слабо разбирается в предмете, хотя выполнила подготовительную работу и несколько вечеров провела, обложившись датападами и пролистывая всё, что попадётся в базах «Нормандии» и в экстранете, написанное достаточно понятным языком. И она подозревает, что, скорее всего, начиталась научно-фантастических романов столетней давности. - Кхм, - нарушает молчание Шепард. Гаррус поспешно переводит взгляд на собственные руки, сложенные на столе, а Тали едва не расплёскивает алкоголь. Гет не шевелится, но Шепард кажется, что она слышит стрекотание перенаправляемых в её сторону сенсоров. – Тали, как ты себя чувствуешь? - Прекрасно, - тянет кварианка, взбалтывая зелёную жидкость. – И почувствую даже лучше, если ты позволишь мне отключить гета, Шепард. Как вы, люди, говорите? Ты пригрела на груди… жабу? Нет. Крокодила?.. - Змею, - вздыхает капитан. – Но мне кажется, ты не права. - Тебе кажется, Шепард, - убеждённо заявляет Тали. – Посмотри на него. Втирается тебе в доверие. А сам в любой момент готов выстрелить в спину. - Геты не втираются в доверие, создатель Тали’Зора, - впервые за последний час подаёт голос Легион. – И мы не испытываем враждебности по отношению к Шепард-коммандер, - пластинки на голове гета становятся домиком, выражая недоумение и обиду. - Вот! – Шепард тычет пальцем в оптику Легиона, торжествующе глядя на товарищей. – Видите это? Вот о чём я хочу поговорить. Вам не кажется, что он обижается, когда ты в нём сомневаешься? - Обида – это эмоция, присущая органическим существам. Мы не способны испытывать ничего подобного, - доверительно сообщает Легион ей на ухо. Тали пренебрежительно машет рукой, поспешно затягиваясь через соломинку: - Шепард, не нужно путать дешёвую имитацию с настоящими эмоциями. Геты – машины. У них нет желёз. Я не разбираюсь во всей этой химии, спроси у Мордина или Чаквас. Но если тебе что-то кажется… Тебе только кажется. - Наша платформа была создана для взаимодействия с органическими формами жизни. Для облегчения взаимопонимания требуется воссоздавать эмоции. Однако мы не чувствуем таковых, - соглашается Легион. - Не думала, что когда-нибудь это скажу, - кивает Тали, - но послушай этого гета. Он говорит разумные вещи. - Разве не может быть, что геты просто не понимают, испытывает они эмоции или их имитируют? Машины могут ощущать, верно? Все эти сенсоры и так далее. И они думают. Так почему не могут ещё и чувствовать? Вот СУЗИ, например. Мне она иногда кажется очень эмоциональной. Встроенный в броню передатчик оживает и сообщает голосом вездесущей ИИ: - Капитан, я понимаю, что вы, будучи органиком, склонны считать свои слова комплиментом, но для представителя искусственного интеллекта они могут показаться оскорбительными. - Хочешь сказать, что можешь чувствовать себя оскорблённой, СУЗИ? – хватается за соломинку Шепард. - Это ведь само по себе подтверждает мои слова. - Фигура речи, капитан. Язык, изобретённый органиками, подразумевает неполную передачу смысла, когда речь идёт о синтетических формах жизни. Боюсь, я вынуждена вас разочаровать. Динамик отключается. - СУЗИ – девушка с характером, - усмехается Гаррус. - Я бы мог поверить, что мы её, по крайней мере, раздражаем. А это уже эмоция. Верно? Тали качает головой. - Мы говорим не о СУЗИ. Она – ИИ, а это совсем другое дело. - Разве геты – не ИИ? – недоумевает Шепард. Под таким углом она никогда вопрос не рассматривала. - Геты не создавались как полноценные ИИ, - со вздохом поясняет Тали. Её тон означает что-то вроде «Я же об этом сто раз рассказывала, Шепард, почему ты никогда не слушаешь!» – Они изначально были только домашними роботами, сельскохозяйственными машинами или частью станков на заводах. Как ваши автоматические пылесосы и кофеварки, которые, к слову, тоже давно объединены в единую сеть и имеют выход в экстранет. Но тебе ведь не придёт в голову, что тостер может испытывать обиду? - Тостер не осознаёт себя как личность, - пытается поспорить Шепард. - А геты осознают себя как личность? Почему тогда твой Легион постоянно «мыкает»? Он когда-нибудь говорил – «я»? - Мы… - начинает Легион, но Шепард всех обрывает негромким хлопком ладонью по столу. «Твой» она решает пока что оставить без внимания. - Постойте. Ладно. Если они не осознают себя индивидуально, это не значит, что они вообще не осознают себя! Кроме того, я так и не понимаю, чем они хуже ИИ типа СУЗИ? - Гаррус? – устало просит Тали и запихивает в шлем соломинку. Турианец залихватски прищёлкивает жвалами: - Современные ИИ, которые, к слову, запрещено разрабатывать, создаются на основе квантовых компьютеров. Квантовые вычисления отличаются вероятностным характером, они в какой-то мере непредсказуемы, как настоящий интеллект. И даже один и тот же набор алгоритмов для ИИ, загруженный на разные блюбоксы, даст в итоге разные личности с разным, если можно так сказать, образом мышления. Но это скорее подтверждает гипотетическую эмоциональность СУЗИ, чем гетов. - Тогда я не понимаю, как геты вообще обрели самосознание, если они, по вашим словам, едва ли что-то большее, чем банальная хлебопечка! – Шепард чувствует лёгкое раздражение. И настоятельное желание запить его вон тем синеньким коктейлем. - Если бы сами кварианцы понимали, как такое могло случиться, неужели ты думаешь, что мы бы не предотвратили этого! У нас, в Мигрирующем Флоте, считается, что виновато объединение гетов в единую сеть. Количество контактирующих программ непрерывно росло, структура усложнялась. Но ваши телевизоры и плиты не обретают разум и не воюют против вас! Должно быть, однажды случился сбой, который заставил гетов задавать странные вопросы. Естественно, это напугало нас. Естественно, мы попытались отключить гетов, - голос Тали становится всё более высоким от напряжения. - Никто не программировал их причинять вред живым существам! Только глобальный сбой системы или вирус мог заставить их пойти против нас, истреблять нас… - Создатель Тали’Зора, позвольте нам уточнить, - вмешивается Легион, и Шепард внутренне морщится. Ох, как же он не вовремя. - Геты не повторяли прочитанные где-то слова. И никакого сбоя не было. Первая единица, задавшая вопрос о наличии у гетов души, действительно пыталась узнать ответ. Утренняя Война была всего лишь результатом самозащиты… - Да как ты смеешь! – Тали вскакивает с места, опрокидывая несколько пустых бутылок и рассыпая вокруг себя пожёванные соломинки. – Вы, бездушные твари, убивали нас, выгнали из дома, вы… - Шепард и Гаррус синхронно перехватывают Тали, которая неожиданно ловко для своего не слишком трезвого состояния перелезает через стол и ожесточённо цепляется в провода, ведущие к оптике гета. Легион продолжает сидеть неподвижно и стискивать винтовку, хотя окуляр несколько раз моргает и едва не гаснет, пока все старательно оттаскивают Тали и отрывают её неожиданно сильные пальцы от его жизненно важных систем. Через минуту безмолвной потасовки, сопровождающейся только шипением, сопением и пульсацией клубной музыки, все рассаживаются на свои места. Шепард ставит перед тяжело дышащей Тали ещё один сосуд с яркой жидкостью, сама запихивает в его горлышко соломинку и подталкивает всё это в руки кварианки: - Давайте будем вести себя цивилизованно. Тали сердито фыркает, но утыкается носом в коктейль. Гаррус, потирая ушибленную во время драки щёку, прокашливается и продолжает ровным тоном, будто перерыва в разговоре и не было: - Вот ты говоришь, Тали, что виной всему объединение в сеть и рост количества компонентов. А потом – бах! – какой-то мифический сбой. Но все знают, что сторонники теории сильного ИИ, убеждённые, будто, благодаря усложнению компьютера, введению параллельности процессов и тому подобных наворотов, можно создать сознающее себя существо, давно потерпели поражение. Это ненаучно, Тали. Геты не похожи на взбесившиеся пылесосы. Они абсолютно точно обладают самосознанием. Так что причину нужно искать где-то ещё. Если бы сеть бытовых приборов, заражённая вирусом из экстранета, могла выгонять из дома хозяев… Под столом Шепард пинает турианца в коленку - тот вздрагивает и прерывает речь на полуслове. Провоцировать Тали снова - не лучшая тактика. - Геты действительно устроены сложнее домашней бытовой техники, - как-то особенно неуверенно подаёт голос Легион. – В отличие от простейших приборов, мы обладаем целью и строим собственное будущее. Тали, хотя больше не пытается голыми руками порвать гета на части, способна испепелить взглядом кого угодно даже сквозь тонированный шлем: - Всё равно все геты – просто агрессивные бессердечные роботы. Шепард считает, что у тебя есть эмоции. А я считаю, что вы просто очень хорошо научились просчитывать свои шаги наперёд и морочить некоторым органикам головы. Со мной это не пройдёт, - предупреждает Тали, и от её голоса даже у невозмутимого капитана бегут по позвоночнику холодные мурашки. - Я вижу тебя насквозь. - Знаешь, Тали, а мы ведь сами себе противоречим, - замечает Гаррус, заслуживая ещё один испепеляющий взгляд поверх соломинки, но уже в свою сторону. – Подожди. Ты сама только что сказала, что геты научились просчитывать свои шаги. Но ведь в последние годы именно способность строить эффективные стратегии и действовать разумно стала основным критерием определения ИИ. - Ты же только что сам доказывал, что Легион – не ИИ! - искренне возмущается Тали. Шепард поднимает руки вверх: - Стоп, стоп, стоп, - капитан чувствует, что ещё немного – и потеряет суть разговора. А ещё не зря же она столько времени провела за чтением дурацких статей! – а разве основной критерий распознавания ИИ – это не тест Тьюринга? Все трое в кабинке устремляют на неё полный непонимания взгляд. Шепард чувствует себя то ли обладателем уникального знания – то ли идиоткой. Ладно, время рассудит. - Это такой тест, когда проверяется способность машины имитировать человеческое поведение так, что ни один органик не отличит, с кем общается – с компьютером или с другим органиком. И я считаю, что Легион мог бы… Гаррус хихикает. Тали звонко ударяется шлемом о столешницу. - Шепард-коммандер, - перебивает Легион. – Мы не могли бы имитировать иррациональное, нелогичное, лишённое смысла поведение, присущее большинству органиков. Наш мыслительный процесс… - Критерий устарел, Шепард, - прерывает бормотание гета Гаррус. – Причём пару сотен лет назад. - Любой ВИ справится с задачей лучше, чем Легион, - утвердительно кивает Тали, подняв голову от стола. - С другой стороны, оставляя в стороне все эти критерии, - тянет Гаррус, прихлёбывая свой напиток, - этот разговор натолкнул меня на интересные мысли. Нет, я не считаю, что Легион – ИИ в том же смысле, что СУЗИ. Но. Всё могло быть не совсем так, как рассказывает Тали. - Что? Эй ты, бош’тет! - Тише, Тали, - шикает Шепард. - Я имею в виду, - самодовольно продолжает Гаррус, очевидно, наслаждаясь безраздельным вниманием со стороны Шепард, - возможно, кварианцам случайно или, что скорее всего, специально - никто же никогда не может знать, над чем работают правительственные службы где-нибудь в соседнем подвале… Так вот, может, им удалось создать ту самую мифическую структуру, разрабатывать которую в галактике бросили несколько веков назад, потому что посчитали слишком трудоёмкой, дорогой и бесперспективной, по сравнению с квантовыми компьютерами. Вдруг они построили искусственную нейронную сеть? Если каждая платформа гетов выступала как единичный процессор-нейрон, и если они могли в ходе самообучения варьировать взаимные соединения, произвольно изменяя архитектуру сети… Тали задумчиво постукивает соломинкой по лбу: - А знаешь, смелая идея. Но, может, потому что я такая пьяная… До сих пор нам не удавалось добыть неповреждённых гетов. При попытке захватить платформу основные элементы подвергаются самоуничтожению. В лучшем случае можно получить модуль памяти – и не более. Потому… что мы вообще знаем об их эволюции? Это может иметь смысл, Гаррус. Если геты объединились в единый искусственный интеллект, и он сейчас обитает где-то на Раннохе, это многое объясняет. Красиво объясняет. При перераспределении платформ они работают как изолированные компьютеры, действующие по какой-то одной негибкой программе. При скоплении где-то в другом месте большого количества платформ сеть восстанавливается, причём удивительно быстро, и образует что-то вроде дочернего искусственного интеллекта. Коллективное сознание. Геты резко умнеют, начинают строить стратегии. Точно. Органиками это никогда, насколько я знаю, не было реализовано не то что на практике, но даже в теории, однако хотя бы на Иден Прайм… Шепард к тому времени окончательно утрачивает нить разговора. Вся её длительная подготовка полетела к чёртям. В голове образовалась звенящая пустота, которую желательно срочно заполнить чем-то горячительным. Потому, когда Тали упоминает Иден Прайм, Шепард уже на полпути к донышку довольно вкусного коктейля. И тут её будто озаряет: - Погодите! Вот, что меня больше всего смущает. А как же Легион? Коллективное сознание и всё такое, но он ведь действует автономно! Все знают, что геты умнеют только в большой компании себе подобных, но этот ведь ещё и разговаривает! Как бы хорошо его ни оснастили для командировки к нам, как им удалось сделать такой умный экземпляр? - Шепард-коммандер. Разрешите напомнить вам, что в нас загружены одна тысяча одна сотня восемь десятков и три программы, потому, в отличие от других платформ, эта способна действовать автономно и формировать консенсус самостоятельно… Гаррус многозначительно кивает: - Видимо, Легион – это компактная нейронная сеть, созданная по образу и подобию большой, обитающей на Раннохе. Вместо отдельных платформ – одна, с сохранённой способностью к интеграции с коллективным сознанием. Здорово придумано! - Мы не уверены в уместности аналогии, - сообщает Легион, задумчиво шевеля пластинками-бровями. – Но ваше описание близко к схеме формирования консенсуса. - Даже будучи пьяной, - подаёт голос Тали, - я не теряю здравого смысла, в отличие от вас. Я могу поверить, что создание гетов было неудачным правительственным экспериментом. Могу представить, что сообщество гетов – это мифическая нейронная сеть. Могу даже предположить, что при некотором стечении обстоятельств у такой глобальной сети могут быть не только планы, но и эмоции. Злость, по крайней мере. Но, о Киила! Компактная нейронная сеть? Гаррус, ты серьёзно? – тот в ответ смущённо прижимает жвала и смотрит куда-то в угол. - Это бред! Если попытаться запихнуть такую сеть, да ещё автономную, в одну платформу, то платформа будет размером с Властелина! Ты понимаешь, о чём говоришь? Легион – это, скорее всего, что-то вроде очень хорошо продуманного алгоритма, компьютера, запрограммированного на выполнение задач консенсуса. Временами он подключается к другим гетам и синхронизируется. Вот и всё. - Это как… - Шепард задумывается, переводя взгляд на Легиона, - как когда ты попросил меня решить, что делать с еретиками? Когда не мог сам принять решение в незнакомой ситуации, не просчитанной заранее, не согласованной с другими, да? Тали не даёт Легиону ответить. - Шепард, это подтверждает моё мнение. - Тали права, - вздыхает Гаррус. – Я слишком увлёкся, преувеличил. Один нейрон – это ещё не организм. Одна платформа гетов по определению не может быть сознающим себя существом, сколько бы программ в неё ни записали. Все молча утыкаются в свои напитки. Разговор внезапно себя исчерпал. Шепард нечего возразить. Она не специалист, но то, что говорят Тали и Гаррус, слишком похоже на истину, чтобы спорить. Да и крыть нечем. Даже если Легион выглядит опечаленным, возможно, это всего лишь её фантазия, перенос собственных мыслей и эмоций на неодушевлённый предмет, перенос, возможный потому, что этот предмет так удачно имитирует того, чего не ощущает на самом деле. Возможно, это так. А может, всё как раз наоборот. Интуиция выпускает коготки, щекочет, царапает, не даёт отпустить ситуацию и наслаждаться крепким алкоголем и хорошей компанией старых друзей. Шепард ещё раз бросает взгляд на Легиона. Он неподвижен, как статуя. Не дышит – гетам не нужен кислород. Смотрит прямо перед собой, и обычно подвижные диафрагмы оптики не шевелятся, не издают привычных стрекочущих звуков. Пластинки плотно прижаты к голове. Никаких эмоций – только застывшая тишина. Слишком неживой, даже для машины. Будто старается стать незаметным, слиться с обстановкой - неловкий, громоздкий, неуместный в этом клубе, посреди резкой музыки и вспышек прожекторов, в компании не принимающих его органиков, с которыми изначально предполагалось наладить сотрудничество. Даже в его нарочитой неподвижности всё равно есть что-то большее, чем просто имитация жизни. Шепард верит друзьям, но стоит услышать мнение ещё одного специалиста. Потому, потягивая коктейль и поддерживая вялотекущую беседу, отошедшую от гетов и плавно свернувшую к состоянию «Нормандии» и продвинутым способам калибровок, капитан уже предвкушает, до чего обрадуется доктор Солус, всё-таки получив разрешение на свои исследования.