Искусственные моральные агенты: деонтология и моральный тест Тьюринга

Abstract

Исследования искусственного интеллекта являются одним из основных трендов современности. При этом научным сообществом осознаются значительные этические риски, связанные с его появлением, среди которых непрозрачность принятия решений, невозможность определения субъекта ответственности, проблема предвзятости и справедливости. Для минимизации и элиминации обозначенных рисков в литературе предлагается концепт искусственных моральных агентов, поведение которых выстраивалось бы на человеческих этике и морали. Однако возникают сопутствующие затруднения, наиболее важным из которых является невозможность однозначного выбора этической теории, связанная с их принципиальной несогласованностью. В данной статье предлагается рассмотреть деонтологию как один из вариантов, который может быть использован в структуре искусственных моральных агентов. Автор показывает преимущества деонтологии перед другими этическими системами: более простая формализация самой теории, системность и универсализуемость принципов, — а также потенциальные проблемы, такие как различение долженствования и категории допустимости, а также формализация конкретных максим. Однако помимо построения и выбора подходящей теории возникают затруднения, связанные с тем, каким образом определить, что созданный искусственный моральный агент в достаточной степени морален. Для этого в статье рассматривается моральный тест Тьюринга, который призван помочь ученым в этом вопросе.

Artificial intelligence research is one of the trends of our time. Both it is stated not only about the need to develop artificial intelligence, but also about the significant ethical risks due its emergence. Such risks are understood as nontransparency of decision-making, lack of identifying a subject of responsibility, the problem of bias and fairness. To minimise and eliminate these risks, the science suggests the concept of artificial moral agents, whose behaviour would be based on human ideas about ethics and the morality of action. However, there are additional difficulties, the most important of which is the impossibility of unambiguous choice of ethical theory, i.e. the problem of fundamental incoherence of ethical theories. This article proposes to consider deontology as one of the options that can be used in the structure-building of artificial moral agents. The author shows the advantages of deontology over other ethical systems, which consist in the simpler formalisation of the theory itself, as well as in the systematicity and universalizability of the principles. At the same time, potential problems are also shown, such as the problem of the distinction between oughtness and the category of permissibility, and in the formalisation of specific maxims. However, if we need to construct and embed a suitable theory, there is the problem of how to determine that the artificial moral agent created is sufficiently moral. Finally, the paper discusses the Turing moral test, which is designed to help determine whether an artificial agent is moral.