PDA

Просмотр полной версии : Роберт Шекли "Страж-птица"


Asturiel
08.05.2011, 20:23
Наконец-то прогресс достиг такого уровня, что некоторые человеческие функции можно переложить на машины. И, поскольку стражи порядка не могут справиться с преступностью, им в помощь создается машина, страж птица, которая, по замыслу создателей, должна предотвращать убийства. Она ориентируется на мысленные импульсы, предшествующие совершению преступления, и первоначально дает слабый удар током, если преступник не оставляет своих намерений, то удар будет посильнее, ну и если убийца попался чересчур упорный, то последует третий удар, уже смертельный.

Прекрасно сознавая, что в каждом конкретном случае импульсы, предшествующие совершению преступления, могут отличаться друг от друга, создатели ввели в летающую машину самообучающееся устройство. Предполагалось, что таким образом страж-птицы будут лучше выполнять свои функции. Конечно, были среди разработчиков и такие, кто протестовал против введения такого блока, во-первых, потому, что осознавали опасность такого шага, а во-вторых, из внутреннего ощущения, что не стоит позволять машинам решать нравственные проблемы человечества, но их было меньшинство. Тем более, без такого блока эффективность машин снизилась бы на 30%. Протесты были отвергнуты, и страж-птицы поднялись в воздух.

Как всегда, идея выглядела замечательно, пока не воплотилась. На первых порах все шло, как по маслу. Страж-птицы парализовали потенциальных убийц, тех арестовывала полиция. Но правы оказались те, кого нервировал самообучающийся блок, тем более, что страж-птицы все время обменивались информацией. С накоплением знаний об окружающем мире, понятие живого существа, а также причинение ему вреда стало расширяться. Довольно быстро страж-птицы стали мешать операциям, потому что надрез скальпеля - это причинение вреда человеку. Затем они начали мешать забивать коров и ловить рыбу, поскольку это живые существа. Можно было бы сказать, что настал рай для вегетарианцев, но нет, растения в скором времени тоже были признаны живыми существами, а следовательно ни о каком сельском хозяйстве речи идти не могло. Ну и себя, а также все машины, страж-птицы тоже включили в разряд живых существ. И энергии в них хватало на полгода-год.

Яркий пример того, что "хотели как лучше, а получилось как всегда". Создавая машины для предотвращения преступлений, практически никто из создателей не ожидал, что в скором времени страж-птицы станут глобальной проблемой для человечества. И даже протесты были на уровне: "не нравится мне это дело". Кроме того, люди не были готовы к результату работы самообучающегося устройства. Ожидалось, что машина не будет выходить за рамки человеческих норм, но машина не знает морали. Она знает только одну задачу: "не допускать, чтобы одно живое существо ломало, увечило, истязало другое существо или иным способом нарушало его жизнедеятельность". А поскольку люди, ставя такую широкую задачу, думали только о себе подобных и даже мысли не допускали о расширении области задач, "никто с самого начала не объяснил страж-птицам, что вся жизнь на Земле опирается на строго уравновешенную систему убийств". Поэтому никто не подумал о возможности какого-либо внешнего контроля, поскольку никто и не предполагал, что этот контроль может понадобиться.

Было бы странно, если бы ученые не нашли возможность остановить страж-птиц. Был создан Ястреб, идеальная машина для убийства, также оснащенная самообучающимся блоком и лишенная внешнего контроля...