Этические проблемы императива объяснимости систем искусственного интеллекта

Аннотация

Развитие этики в сфере систем искусственного интеллекта (СИИ) находит своё воплощение в разнообразных этических документах (декларациях, кодексах, рекомендациях и т. д.), которые различаются по источникам создания, статусу, содержанию, используемой терминологии. Такое положение дел, с одной стороны, не только проясняет этические вопросы, но и запутывает их, с другой стороны, может стимулировать пренебрежительное отношение к этическим императивам. В связи с этим, стремление кардинально сократить этические принципы в сфере СИИ выглядит оправданным. В статье рассматривается идея Л. Флориди, который предлагает ограничить этику в сфере СИИ принципами биомедицинской этики, добавив к ним в качестве пятого принцип объяснимости СИИ.
В ходе исследования было обнаружено, что в настоящее время принцип объяснимости (или близкие к нему по содержанию требования) присутствует в большинстве этических документов в сфере СИИ и даже рассматривается как необходимая предпосылка и основа для других этических принципов. Кроме того, объяснимость декларируется в качестве одного из основных моральных императивов этических политик компаний, являющихся лидерами в разработке СИИ (например, IBM, Google).
Проведённый этический анализ показал, что несмотря на привлекательность принципа объяснимости, он не является морально однозначным. Во-первых, для него существует ряд непреодолимых пока технических ограничений. Во-вторых, существуют обоснованные сомнения, что принцип объяснимости СИИ что-то содержательно дополняет к имеющимся четырём принципам биомедицинской этики. В-третьих, следование императиву объяснимости СИИ является парадоксальным и ведет к возможным этическим рискам. Наконец, принцип объяснимости является ассиметричным в плане его агентности и адресности, особенно в отношении пользователей. В совокупности, эти аргументы свидетельствуют о том, что принцип объяснимости, при всей его важности, не может рассматриваться как морально безупречный и обязывающий.