Мера сознания

— …и Вы утверждаете, что тогда у машины появилось собственное сознание? — Я не сказала, что оно появилось тогда. В тот момент я лишь отчетливо поняла, что это действительно так. — Как Вы это “поняли”? Она сглатывает слюну и откидывается на спинку стула. Горизонтальные металлические прутья грубо впиваются в свежие швы меж позвонков, но она нечувствительна к пронзительной боли. — Я хорошо понимаю, как работают машины. Как работает конкретно эта машина. Не думаю, что способна объяснить это простым языком… Можно сделать глоток? Она смотрит на стакан прямо перед собой, затем на сковывающие ее наручники. Она все еще может двигать руками, но без резких жестов и только с разрешения дознавателя. Он согласно кивает, и она поднимает стакан со стола и отпивает половину оставшейся в нем воды. Еще несколько глотков запасены на продолжение беседы. — Подберите слова. Это может Вас выручить. Она выдыхает носом, коротко усмехнувшись, и возвращается в позу ученицы, складывая руки в тени на ледяном столе. Через крохотное оконце в углу комнаты едва пробивается уличный свет, зато через широкий зазор между полом и закрытой дверью без труда гуляет сквозняк. — Каждая машина получает список приоритетных и резервных директив, чтобы исполнять свои задачи. Создатель всегда предусматривает несколько рядов виртуальных “стен” — систем безопасности на случаи сбоев. Параметры сбиваются под разными обстоятельствами: механические повреждения микросхем, попадание агрессивных жидкостей и влаги или просто износ. Так было уже многократно — Ватога, Пепельная вершина, Форт Атлас… но на самом деле, при подробном изучении, ясно прослеживается, что эти сбои не касаются приоритетных заданных директив, потому что эту часть кода стараются максимально защитить от ошибок и экранировать от внешнего воздействия. Если машина должна готовить — ее нельзя осудить за то, что она зарезала человека, чтобы приготовить из него пудинг. Если машина должна убивать — могут быть сбиты параметры целенаведения, и вместо стрельбы по диким зверям она застрелит своего, признанного “диким”, смотрителя или атакует другую машину. В любом случае, машина всегда действует в рамках заложенного человеком… — Всегда? А что же в этом случае? — А в этом случае… — она глубоко вздыхает. — Машина не только переписала список собственных директив, но и десятикратно — а может стократно — превысила их первоначально заданный объем, имея ограниченный… крайне ограниченный для такого объема ресурсозапас. Ее голос звучит слишком восхищенно, и она замолкает, стараясь скрыть неравнодушие. — Может, Вам не все известно об этом… “объеме”? Вы были знакомы с создателем этой машины? — Нет, но, как я сказала ранее, я хорошо понимаю, как работают машины. Похоже, это не звучит убедительно, ни в первый, ни во второй раз. Дознаватель еще несколько мгновений смотрит в ее глаза, а она смотрит в ответ. В конце концов, не выдержав пытливого взгляда, она медленно тянется к стакану с водой и осушает его. — Меня все равно ждет смерть, — констатирует она, вернув пустой стакан на стол и сложив руки на коленях. — Смерть, или пожизненное заключение. Давайте не будем тянуть. — Мэм, Вы осознаете, что совершили? — не сдается дознаватель, наклоняясь к ней через стол. Она отодвигается назад, избегая любого сближения. — Надеюсь, я спасла его жизнь, — наконец отвечает она.