Аннотация:В статье очерчивается круг проблем, с которыми столкнулись первые по-пытки создания искусственного интеллекта, способного в той или иноймере принимать самостоятельные решения. Поднимается вопрос обэтических ограничениях, которые могут быть заложены в искусственныеинтеллектуальные системы при программировании. Далее отмечается,что это само по себе еще не может считаться этикой искусственногоинтеллекта, так как для того, чтобы решать этические задачи, надо об-ладать свободой воли. Мы считаем, что этика начинается тогда, когдапоявляется способность реагировать на собственные ошибки, осущест-влять рефлексию поведения, учитывая при этом мнения других людей.Такая же принципиальная возможность ошибки должна быть заложенаи в работу искусственного интеллекта, чтобы можно было говорить о егоэтике в собственном смысле слова. Также должны быть выполнены ус-ловия коммуникации машин, их взаимных оценок и наличия у них фе-номенального опыта. Что касается перспектив развития человечествав сосуществовании с искусственным интеллектом, мы считаем, что онобудет мирным, но человеку предстоит признать нравственные обязан-ности по отношению к искусственному интеллекту и выполнять опреде-ленные правила.