Во всякой публикации об этических проблемах искусственного интеллекта можно найти требование о прозрачности систем машинного обучения. Утверждается, что все такие системы должны быть понятными и лояльными пользователю. На деле это условие выполнить можно лишь частично в силу фундаментальной невозможности объяснить некоторые типы машинного обучения обычным языком. В новой книге я утверждаю, что в условиях конфликта, в который может оказаться вовлечен пользователь, ограничение прозрачности не только не контрпродуктивно, но, наоборот, желательно и этически оправданно. Необъяснимость и замутненость действий вычислительной системы помогают вывести ее из-под морального суждения.
Доклад по материалам книги: «Машина-доносчица. Как избавить искусственный интеллект от зла» (СПб., Транслит, 2017).