Клуб любителей фантастики, 2009 - Радов Анатолий Анатольевич - Страница 21

Через месяц после вручения профессору Сайленсу секретной Нобелевской премии — пары золотых ушных затычек, цвет мировой науки во главе с Королём, вновь собрался вместе.

Печальная процессия, впереди которой несли гроб с телом Сайленса, медленно двигалась по дороге.

— Всё как-то внезапно произошло, — рассказывал один из шедших академиков другому. — У жены Сайленса вечером закончился словесный лимит, а она хотела, чтобы наш коллега помог ей почистить лук. Сайленс не понял, чего она желает. Тогда она в отчаянии молча взмахнула руками, в одной из которых была чугунная сковорода. И в тишине, эта железная кухонная утварь раскроила нашему собрату голову. Вон она, мадам Сайленс, с Королём рядом идёт.

Одетая в чёрные одеяния, неутомимо рыдающая, похожая на Геркулеса, только в женском платье, вдова, вытирая слёзы, что-то без остановки говорила главе Нобелевского комитета. На лице монарха застыло выражение непреодолимого мучения.

— История создания андроидов вымощена десятками человеческих жизней, сложенными на алтарь собственных ошибок, пустых надежд и переоценённых возможностей.

Этой дежурной фразой Эл начинал свою двухчасовую лекцию, посвящённую взаимоотношениям человека и машины. Несколько лет назад его сняли с полётов, отправив делиться опытом в Московский университет астронавтики. Здесь готовили будущих штурманов и пилотов звёздных кораблей.

Пытаясь уйти от ошибок, вызванных человеческим фактором, люди старательно развивали технику, перекладывая на машины всю ответственность за собственные жизни. При этом забывая один небольшой, но очень важный момент. Слабый, по своей сути, и склонный к ошибкам человек никогда не сможет создать идеальную машину. Все промахи, просчёты и недоделки, невольно вложенные в своё создание, он стыдливо называет вероятностью ошибки. Неверное поведение андроидов в нештатных ситуациях, повлёкшее человеческие жертвы, заставило пересмотреть их роль, внеся серьёзные коррективы в основные законы поведения.

В качестве примера Эл всегда подробно разбирал один из подобных случаев.

Это произошло более трёх лет назад. Звёздный корабль с исследовательской группой на борту после трёх месяцев пути вплотную приблизился к заданной цели. Прямо по курсу лежала недавно открытая планета. По мнению многих учёных, она была вполне пригодна для жизни.

В состав группы, помимо девяти человек входил андроид серии R03 I-AL9082. Выполняя обязанности техника и помощника капитана, он отвечал за жизнеспособность корабля. Вероятность ошибки в действиях подобных андроидов составляла всего лишь один процент. То есть в одном случае из ста он мог поступить неверно.

Уже выходя на орбиту, они случайно столкнулись с метеоритом. Вынырнув из чёрной пустоты, космическое тело размером с футбольный мяч насквозь прошило обшивку корабля. Была нарушена герметизация, выведен из строя спасательный катер и почти все системы управления.

Согласно трём основным законам поведения, андроид никогда не сможет причинить вред человеку. Жизнь человека для него бесценна, и ничто не сможет нарушить данное утверждение. Опираясь на эти законы, андроид пришёл к единственному выводу. Дальнейшая сохранность жизни людей напрямую зависела от жизнеспособности корабля. Включив ручное управление, андроид посадил корабль на поверхность планеты. Этих роботов создавали с прицелом именно на такие моменты. В критической ситуации, когда счёт идёт буквально на секунды, даже подготовленный человек часто впадает в панику. Работающий по заданной программе андроид, быстро просчитав все возможные варианты, действует стремительно и практически безошибочно.

Прибывшая через несколько месяцев команда спасателей обнаружила почти полностью отремонтированный корабль. Из всей группы уцелел лишь один андроид. Действуя согласно заданной программе, он полностью восстановил обшивку, вернув работоспособность всем системам.

Как потом показало проведённое расследование, люди погибли ещё при посадке. Выключившаяся система торможения и компенсации плюс незначительная ошибка в расчёте глиссады. Перегрузка в несколько десятков g просто размазала человеческие тела в неработающих амортизационных креслах. У андроида не было программы, позволяющей отличить мёртвого человека от живого. Даже не подозревая, что вся команда мертва, андроид ремонтировал корабль, послушно следуя своей основной программе.

В аудитории стояла напряжённая тишина. Эл был хорошим рассказчиком. Передавая в мельчайших деталях картину происшедшего, он вызывал у слушателей чувство причастности и сопереживания.

— Прежде чем мы перейдём к обсуждению, хочу внести ясность, — заложив руки за спину, Эл не торопясь прошёлся перед аудиторией, — этот андроид был заурядной машиной со своим процентом вероятности ошибки. Так что не стоит удивляться тому, что он просчитался. Те, кто расследовал этот случай, были простыми людьми. Они не стали принимать во внимание вероятность ошибки, обвинив во всём андроида.

— Вам не кажется это циничным, рассуждать о вероятности ошибки андроида, забывая, что за ней стоят человеческие жизни? — кто-то эмоционально выкрикнул с места.

Эл усмехнулся.

— Если машина, созданная руками человека, начинает действовать неправильно, то чья в этом вина? — чуть излишне громко спросил он.

Аудитория притихла.

— Вероятность подобной ошибки в своё творение заложил сам человек. Вернее, он не смог её исключить. А когда это произошло, обвинили во всём андроида. Так я повторю, чья в этом вина?

Студенты молча переглядывались. Выдержав небольшую паузу, Эл окинул взглядом аудиторию.

— В свете изложенных фактов предлагаю всем подумать и ответить, чем опасны андроиды для человека?

После подобного вопроса среди студентов всегда возникало небольшое замешательство. Не зная, что ответить, они перешёптывались, косясь на преподавателя. Эл терпеливо ждал.

— Это невозможно, — наконец кто-то из студентов несмело подал голос.

Перестав прохаживаться, Эл остановился.

— Почему? — поинтересовался он, окидывая взглядом аудиторию, — смелее! Вы же будущие пилоты. Учитесь принимать решения и высказывать своё мнение.

С задних рядов поднялся худощавый парень.

— Это невозможно, — повторил он. — Согласно трём основным законам робототехники, андроид никогда не причинит вред человеку. Если он случайно ошибся, неправильно оценив обстановку, то это не значит, что андроид опасен для человека.

— Кто думает иначе? — громко спросил Эл.

В третьем ряду поднялась симпатичная девушка.

— Инга Морозова, — представилась она.

Её фамилия неприятно кольнула Эла. Может просто совпадение?

— Бесшумные механические шарниры, новые композиционные материалы, искусственные волосы, тщательно проработанная мимика лица — всё это превращает андроида в точную копию человека. Добавьте сюда быстроту и смелость в принятии решений, и перед вами харизматическая личность с задатками лидера. Общаясь с андроидом, человек невольно попадает под его влияние, забывая, что перед ним машина со своим процентом вероятности ошибки. В критический момент, потеряв контроль над ситуацией, свою растерянность и страх человек с лёгкостью перекладывает на плечи андроида, доверяя ему в принятии важных решений. Что, как показывает статистика за последние несколько лет, в одном случае из ста приводило к несчастным случаям, — чётко отчеканила Инга.

Слишком чётко для человека и не совсем для андроида. Впрочем…

— Откуда такая осведомлённость? — поинтересовался Эл.

— Читала кое-что, — неопределённо пожала плечами Инга.

— Совершенно верно, — подвёл черту Эл, — андроиды серии R03 I-AL9082, благодаря конструктивным материалам, полностью воссоздающим человеческое тело, получили наибольшее распространение. Как выяснилось в ходе эксплуатации, у них есть два больших минуса. Первый — это внешность, благодаря которой люди им безоговорочно доверяют. Второй — программа поведения со слишком большими полномочиями. В нештатной ситуации машина брала на себя ответственность, самостоятельно принимая решение, что, хоть и редко, но всё же приводило к несчастным случаям.