Три закона робототехники: полны ли они?

Три закона роботехники были придуманы еще в 1942 году писателем, биохимиком и популяризатором науки Айзеком Азимовым. Согласно ним, робот не имеет права причинять вред человеку или бездействовать в момент причинения человеку вреда; робот обязан выполнять все приказы человека за исключением первого закона; робот должен уметь использовать самосохранение, если оно не противоречит первым двум законам. Эти законы были сформулированы и добавлены в одно из его произведений, а впоследствии они прошли практически через все его произведения.

В его книгах практически все роботы следовали этим законам, поскольку они были встроены в их неизменяемое программное обеспечение (точнее, именно с этими законами ничего нельзя было сделать: ни обойти, ни пересмотреть, ни переписать). С той поры ушло много времени, актуальны ли эти законы сегодня? В оригинальном составе – не совсем. Практически через 40 лет Айзек дополнил свой список так называемым нулевым законом, который гласил о том, что робот не имеет права причинить вред человеку, если он не сможет доказать, что это действие будет во благо всему человечеству. Как считал сам Азимов, несовершенство его законов, приводящих к неясностям и «дырам», и, как следствие, к нелогичному поведению машин, имело место быть. Тем не менее, он считал, что они – единственный вариант для взаимодействия людей с роботами (или чем-либо еще, ведь он наглядно демонстрировал применение трех законов и в других областях). Сегодня, когда разработка ИИ близка к финишу, остается ждать наступления новой вехи. Однако сами ученые признают, что машина с ИИ будет сверхсильной по сравнению с человеком, а это значит, что права на ошибку нет. Одна неточность в коде может привести к катастрофе. Теоретики ИИ Герцель и Хельм отвечают категорическим отрицанием на вопрос об актуальности трех законов роботехники на сегодняшний день. Они утверждают, что законы никак не помогут в создании безопасного ИИ – здесь нужна совершенно иная концепция. Хельм утверждает, что эти регламенты, несмотря на свою известность, бесполезны даже для основ программирования. А все потому, что их основные недостатки это соперничество между собой, устаревшая этическая теория, взятая за базис и невозможность «применить» законы даже в области фантастики.

Герцель считает, что эти три закона и вовсе демонстрация того, как делать не нужно, иначе не избежать уязвимостей в ядре, запрограммированном таким методом. Еще одним недостатком трех законов – модель поведения общества будущего. Хельм и Герцель утверждают, что используя эти законы на практике, общество (в понимании Азимова) будет иметь меньше возможностей, но больше прав. А роботы, наделенные мощью, будут находиться в подчинении у человека, его приоритетов и потребностей. Хельм говорит, что создавать ИИ с самосознанием нерационально в принципе. Разработчики ИИ будут намеренно избегать создания того, что в философии можно назвать «морально значимое существо». Их творение не должно иметь ни доли этического задатка. Оба теоретика единогласны во мнении, что дать вторую жизнь трем законам нельзя. К слову, другие писатели-фантасты пытались их исправить или доработать, внося различные коррективы много лет.

Как видно, успехом это не увенчалось. Хельм считает, что поскольку законы Азимова противоречивы между собой, то такой подход не может быть задействован для машинной этики, ведь в случае недоразумений или неправильного программирования ничего нельзя будет исправить. Есть ли правда в их словах? Понять это без практического применения, конечно, сложно, однако современные ученые также не поддерживают законы Азимова, признавая их устаревшими. Такой скептицизм предполагает считать эти законы не только не полными, но и не актуальными для нынешней науки.