Этика цифровых технологий

Базовым элементом, замыкающим в себе все проявления трансформации, является цифровой продукт. Цифровые продукты позволяют людям решать повседневные задачи и взаимодействовать друг с другом, создавать сообщества по интересам и заявлять о себе миллиардной аудитории.

Цифровое пространство, в свою очередь, вынуждает научные сообщества исследовать новые инструменты и методы изучения представления о человеке относительно новых возможностей жизни в обществе выпускаются ежегодные отчеты[1], на книжных полках появляются книги, посвященные актуальным вопросам сосуществования человека и искусственного интеллекта, например: Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта Макса Тегмарка[2].

В текущем тысячелетии правда сложно представить окружающий мир без цифровых продуктов, которые постоянно трансформируют человеческую природу. В результате их потребления появляется новый уровень отношения человека к технологиями, происходит формирование нового типа мышления.

Антропология инноваций

Осмыслением бытия людей по отношению к инновациям занимается подраздел философии, называемый антропология инноваций. Так, в нём существование инновации рассматривается в разрезе мышления, деятельности, творчества, образования, а также ценностей людей. Антропология инноваций по-новому ставит вопросы:

• Кто такой человек?
• Какими ценностями руководствуется человек при создании инноваций?

Инновация, которая приобретает смысл своеобразного объективного условия, заставляет человека искать новые возможности существования, пересоздавать новые условия и расширять свое присутствие; она получает философско-культурологическую интерпретацию. Продукт инновации помогают человеку получить необходимые знания, чтобы адаптироваться к миру перемен, а также сформировать мир, в котором человек может быть творцом инноваций.

Проблема же века инновациий заключается в том, что вещественная ориентация человека может превзойти ценностно-этические вопросы и тогда творческое начало человека будет нацелено на создание новых вещей без осмысления их моральных действий и последствй.

Человек, как генератор новых идей эпохи экспоненциальных технологий должен уметь анализировать, какими этическими рамками он должен руководствоваться до момента, когда они выйдут из под его контроля и он станет объектом посягательства незапрограмированных на этику машин.

Теории вопроса. Техноэтика

Развивающиеся технологии демонстрируют (например, аддиктивный UX или вот ещё пример с дипфейками), что они могут нести моральную угрозу человеку и обществу.
Вместе с этим они же несут в себе более сложные этические вопросы. Эти события актуализируют потребность в определении норм для оценки вмешательства технологий в жизнь человека.

Из-за своей относительной новизны как науки в настоящей момент термин техноэтика не получил однозначного определения, при этом все данные раннее рассуждения сводятся к тому, что данная наука изучает индивида и социум под влиянием различных факторов технологий.

Технологическая этика это вид прикладной этики, который занимается исследованием связи человека и общества с технологиями, проблем и следствий этого взаимодействия, а также конкретизации этических норм, которыми должны регулироваться создатели технологических систем. Чем больше масштаб использования технологии в мире, тем сложнее разрабатывать систему как с точки зрения поддержания и обеспечения ее жизнедеятельности, так и воплощения в ней этических принципов.

Этические принципы

Считается[3], что этические принципы классифицируются на два основных раздела: первый это базовые, основанные на благодетелях, а вторые это частные, которые также принято называть ценностями-добродетелям. Последние также разделяются на направления, основывающиеся на храбрости, мудрости, искренности, любви к себе и дальнему.

Технологии не могут обладать искренностью, самообладанием и другим частным принципам. Так называемые аффективные технологии, которые способны считывать эмоциональное состояние человека, и отвечать ему тем же, пока что умеют считывать экспрессию человеческого лица (тут подробнее). Но правильная ответная реакция технологии не может отвечать оператору только по его звучанию голоса или движению. Большое значение имеет логика ситуации, потому что человек может не явно или, к примеру, совсем не выражать свои отрицательные чувства и технологии будет сложно дать подходящую к моменту ответную реакцию.

Интеграция этических принципов в процесс проектирования

Потребность в изучении вопроса этики технологий очевидна не только отрицательными последствиями технологий, но и тем, что многие ключевые игроки технологического рынка и международные организации представили свои варианты провозглашения этики как основы очеловечивания технологии. В этих документах заявлена этическая ответственность компании перед потребителями и даны рекомендации и векторы совершенствования технологий для менее крупных компаний.

Тем не менее, трата ресурсов компании на изучение этики не всегда очевидна своими выгодами для бизнеса в сравнении с заработанной прибылью, выполнение/ перевыполнение плана продаж, количеством новых клиентов, проданными подписками. Но как часто принимается во внимание идеалы и принципы долженствования человека? С увеличением масштаба продукта вопрос о моральной ответственности может не возникнуть до первого несчастного случая. Помимо контекста ситуации большую сложность представляет менталитет человека, в зависимости от которого характер общения с технологиями будет иметь различные последствия. Люди выдают разные моральные суждения об одном и том же эпизоде в зависимости от того, судят ли они себя или других, какая из их социальным ролей переходит на передний план, какие речевые формулировки используются, насколько психологически далеко намерение отстоит от результата.

Так, как же как создавать цифровые продукты в согласии с этикой?

Что командам и компаниям поможет транслировать свои продукты под призмой этики:

• Командам применять этический подход к проектированию с начала работы над прототипом решения проблемы.Данный подход помогает прогнозировать и реагировать на возникающие ситуации.
• Соответствующим службам при выборе подхода к созданию продуктов внедрить этические принципы как часть целостного подхода. Они не должны заменить общие принципы этики компании, а скорее дополнять и усилить их.
• Высшему и среднему менеджменту компании необходимо возложить ответственность за внедрение этических аспектов в продукты на межфункциональный уровень. Работа с этической проработкой не должна быть прерогативной технологического, юридического или иного отдела. В противном случае, ответственность, возложенная на определенный функциональный отдел, не обеспечит создателей видением потенциальных угроз и соответствующих противодействий. Люди, которые не несут непосредственную ответственность за созданный продукт, не должны использовать работу над этикой как обязанность других отделов в качестве предлога, чтобы не осознавать потенциальную возможность возникновения этических дилемм.
• Этические принципы должны быть конкретными и гибкими. Созданный этический документ должен рассматривать варианты использования принципов относительно культуры организации, а их актуальность проверена за счет применения к конкретным случаям использования, с которым сталкивается компания.
• Обеспечение команд необходимыми ресурсами, чтобы принимать этические решения в отношении цифровых продуктов. В случае, когда члены команды сталкиваются с проблемами этического характера, им необходимо предоставить соответствующие ресурсы и инструменты для распознавания, оценки и тестирования решений.

Люди являются не независимы от технологий, а являются её частью как система. Такое понимание ставит технологию в тесную связь с человеком, при этом система должна включать в себя оценку этичную разработку технологий и принятие общественных ценностей.

Путем изучения взаимоотношений человека с технологиями в различных контекстах общество приобретает ценные знания для принятия ответственных решений.

Список литературы

[1]. Organisation for Economic Co-operation and Development. Hows life in the Digital Age? Opportunities and Risks of the Digital Transformation for Peoples Well-being // OECD Publishing. 2019 doi: 10.1787/9789264311800-en
[2]. М.Тегмарк. Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта. 2019
[3]. Гартман, Н. Этика / Н. Гартман. Перевод А.Б. Глаголева. 2002
[4]. Luppicini, Rocci, Adell, Rebeca. Handbook of Research on Technoethics // Information Science Reference. 2009. Hershey, New York

Скоро мы будем наблюдать появляние вакансий в сфере этики технологий, курсов по основнам этического создания продуктов. И тому есть объяснение. Человек будущего должен уметь анализировать, какими этическими рамками руководствоваться до момента, когда они выйдут из под его контроля и он станет объектом посягательства незапрограмированных на этику устройств.

Эта статья попытка разобраться, что скрывается за этикой цифровых продуктов. Возможно, это не совсем та платформа, на которой стоит публиковать философскую работу. Но я хочу хотя бы на момент чтения пригласить вас поразмышлять, в какой степени создаваемый вами продукт отвечает нормам нравственности.

Базовым элементом, замыкающим в себе все проявления трансформации, является цифровой продукт. Цифровые продукты позволяют людям решать повседневные задачи и взаимодействовать друг с другом, создавать сообщества по интересам и заявлять о себе миллиардной аудитории.

В текущем тысячелетии правда сложно представить окружающий мир без цифровых продуктов, которые постоянно трансформируют человеческую природу. В результате их потребления появляется новый уровень отношения человека к технологиям, происходит формирование нового типа мышления.

Проблема же века инновациий заключается в том, что вещественная ориентация человека может превзойти ценностно-этические вопросы и тогда творческое начало человека будет нацелено на создание новых вещей без осмысления их моральных действий и последствй.

Техноэтика

Развивающиеся технологии демонстрируют (например, аддиктивный UX или вот ещё пример с дипфейками), что они могут нести моральную угрозу человеку и обществу.
Вместе с этим они же несут в себе более сложные этические вопросы. Эти события актуализируют потребность в определении норм для оценки вмешательства технологий в жизнь человека.

Из-за своей относительной новизны как науки в настоящей момент термин техноэтика не получил однозначного определения, при этом все данные раннее рассуждения сводятся к тому, что данная наука изучает индивида и социум под влиянием различных факторов технологий.

Технологическая этика это вид прикладной этики, который занимается исследованием связи человека и общества с технологиями, проблем и следствий этого взаимодействия, а также конкретизации этических норм, которыми должны регулироваться создатели технологий. Чем больше масштаб использования технологии в мире, тем сложнее разрабатывать систему как с точки зрения поддержания и обеспечения ее жизнедеятельности, так и воплощения в ней этических принципов.

Этические принципы

Считается, что этические принципы классифицируются на два основных раздела: первый это базовые, основанные на благодетелях, а вторые это частные, которые также принято называть ценностями-добродетелям. Последние также разделяются на направления, основывающиеся на храбрости, мудрости, искренности, любви к себе и дальнему.

Технологии не могут обладать искренностью, самообладанием и другим частным принципам. Так называемые аффективные технологии, которые способны считывать эмоциональное состояние человека, и отвечать ему тем же, пока что умеют считывать экспрессию человеческого лица (тут подробнее). Но правильная ответная реакция технологии не может отвечать оператору только по его звучанию голоса или движению. Большое значение имеет логика ситуации, потому что человек может не явно или, к примеру, совсем не выражать свои отрицательные чувства и технологии будет сложно дать подходящую к моменту ответную реакцию.

Чтобы решать какие-либо этические вопросы и проблемы при проектировании продуктов, необходимо рассматривать теоретическую сторону базовой этики, которую наследует и техноэтика:

• Команда должна обладать набором знаний, которые позволят реализовывать технические замыслы, быть не равнодушным к жизни людей, проявлять лояльность к потребителям и стремиться к ненасилию, не принесению физического вреда, уделять особое внимание ответственности за свои действия. Это техноэтика добродетели.
• Техноэтика долга поднимает вопросы безопасности, экологии и здоровья людей при работе или вынужденными использованием технологических системам. Технология не должна ущемлять свободу и безопасность общества. Технология распознавания лиц может попасть под категорию несоблюдения техноэтики долга, если не соблюдаются условия прозрачности при применении данной технологией.
• Техноэтика ценностей подразумевает, что эволюция технологий должна быть основана на двух разделах ценностей. Первый из них провозглашает права человека на благополучную жизнь, чувства человека, которые дают ему состояние спокойствия без нарушения течения жизни, гармонии с окружающей средой, самопринятие, цели и позитивный жизненный настрой. Второй раздел относится к ценностям технологии, которая должна быть функциональной, удобной в использовании, экономичной и удовлетворять потребности.

Тем не менее, трата ресурсов компании на изучение и внедрение принципов этики не всегда очевидна своими выгодами для бизнеса в сравнении с заработанной прибылью, выполнение/ перевыполнение плана продаж, количеством новых клиентов, проданными подписками. Но как часто принимается во внимание идеалы и принципы долженствования человека? С увеличением масштаба продукта вопрос о моральной ответственности может не возникнуть до первого несчастного случая.

Люди являются не независимы от технологий, а являются её частью как система. Такое понимание ставит технологию в тесную связь с человеком, при этом система должна включать в себя оценку этичную разработку технологий и принятие общественных ценностей.

Путем изучения взаимоотношений человека с технологиями в различных контекстах общество приобретает ценные знания для принятия ответственных решений.

Этика цифровых технологий развивающаяся сфера прикладной этики. Например, она помогает ответить навопрос, почему москвичи ненавидят приложение Социальный мониторинг, нонетолько. НаЗападе этика уже является одним изкраеугольных камней сферы IT. Коммерческие, некоммерческие игосударственные организации пишут идаже стараются соблюдать этические кодексы справилами разработки ииспользования цифровых технологий.

Мызадались вопросом, где российские IT-специалисты при желании могут получить базовые знания этики цифровых технологий. Повсей видимости, это должен быть небольшой курс нелекция на10минут, ноинесеместр. Неврамках обучения набакалавриате или магистратуре ввузе, адоступное прямо сейчас ионлайн.

Мывыяснили:

1. наанглийском языке таких курсов мало;
2. нарусском языке ихпрактически нет.

Всего мынашли 11курсов на8площадках иодин интересный курс отFast.ai, пост окотором попал вумную ленту постов наFacebook после двух дней изучения темы. Полный список внутри.

Где искали

Вэтом материале перечислены отдельные курсы поэтике цифровых технологий, доступные нарусскоязычных ианглоязычных образовательных онлайн-платформах. Впоисках курсов мыпросмотрели каталоги 23крупных образовательных онлайн-платформ, где есть курсы вроде Data science, Big Data ит.п. Образовательные платформы для школьников, специализированные платформы для изучения иностранных языков исайты скурсами Создание масок вInstagram невсчёт. Курсы этики технологий иэтики для инженеров, которые читают врамках обучения набакалавриате, например вMIT, тоже мимо, если кним нет простого доступа.

Восновном все найденные курсы были открыты для обучения. Ввыборку невошло несколько интересных курсов, отмеченных как недоступные натекущий момент.

Аудитория: IT-специалисты ивсе желающие узнать больше обэтике цифровых технологий. Как отдельная тема или лекция этика цифры иногда затрагивается всравнительно большом курсе вроде Основы философии или впрограмме обучения попрофессии Data Scientist, ночаще нет, чемда.

1. Где мынашли курсы поэтике (7): Coursera (eng), edX (eng), Udemy (eng), MIT OpenCourseWare (eng), Stepik (рус.), Bang Bang Education (рус.).
2. Где мыненашли такие курсы (16): Harvard Online Courses (eng), Stanford Online (eng), TEDed (eng), Khan Academy (eng), Codecademy (eng), Udacity (eng), DataCamp (eng), Нетология (рус.), Skillbox (рус.), GeekBrains (рус.), Skillfactory (рус.), Яндекс.Практикум (рус.), Академия Яндекса (рус.), Интуит (рус.), Открытый университет (рус.), Otus (рус.), Постнаука (рус.).

Англоязычные курсы поэтике

Big Data, Artificial Intelligence, and Ethics
Стоимость: бесплатное участие (оплата пожеланию для сдачи контрольных тестов иполучения сертификата).
Организатор: University ofCalifornia, Davis наCoursera.
Для кого: для всех желающих.
Описание: Курс погружает вконтекст идаёт непосредственный опыт работы сбольшими данными иискусственным интеллектом, рассказывает отом, какую роль вэтой сфере играет этика. Учащиеся обсуждают этические вопросы, возникающие при работе спользовательскими данными. Курс входит вспециализацию Computational Social Science.

Ethics, Technology and Engineering
Стоимость: возможно бесплатное участие (оплата пожеланию для сдачи контрольных тестов иполучения сертификата).
Для кого: студенты испециалисты.
Организатор: Eindhoven University ofTechnology наCoursera.
Описание: курс инженерной этики примерно на18часов обучения. Включает критерии Accreditation Board for Engineering and Technology, неправительственной организации, которая, вчастности, аккредитует образовательные программы поинженерным специальностям. Согласно еёкритериям, инженеры должны иметь понимание профессиональной иэтической ответственности ипонимать влияние инженерных решений вглобальном социальном контексте.

Data Science Ethics наedX иCoursera
Стоимость: бесплатное участие (наedX: $49 для получения сертификата).
Организатор: University ofMichigan наedX иCoursera.
Для кого: для всех желающих.
Описание: небольшой вводный курс, рассчитанный напримерно 15часов обучения. Основное внимание уделяется этике вконтексте науки оданных (Data Science): приватность данных, контроль больших данных, информированное согласие пользователей. Рассматривается этика принятия решений сучётом интересов ипотребностей разных участников рынка, описывается влияние науки оданных наразвитие общества.

Ethics inAI and Big Data
Стоимость: бесплатное участие ($199 для получения сертификата).
Организатор: The Linux Foundation наedX.
Для кого: для всех желающих.
Описание: небольшой вводный курс, рассчитанный напримерно 10ч изучения. Основное внимание уделяется этическим вопросам всфере искусственного интеллекта инауки оданных (Data Science).

Data Ethics, AIand Responsible Innovation
Стоимость: бесплатное участие ($49 для получения сертификата).
Организатор: The University ofEdinburgh наedX.
Для кого: для продвинутых слушателей (среднего уровня сложности).
Описание: обзорный курс, рассчитанный напримерно 20часов обучения. Вкурсе много кейсов изтаких областей, как распознавание лиц, предиктивная полиция, медицинские обследования, умные дома игорода, искусственный интеллект, технологии вбанковской сфере. Эти кейсы обсуждаются вконтексте того, как противоречивые иконкурирующие интересы общества, бизнеса игосударства влияют напринятие этических решений. Основное внимание уделяется этическим вопросам технологий, основанных наданных, вчастности больших данных, систем искусственного интеллекта (ИИ) исистем машинного обучения.

AIlaw, ethics, privacy &legalities
Стоимость: обычно 2299руб., возможны варианты врамках акций.
Организатор: Cyberlaw University наUdemy.
Для кого: для всех желающих.
Описание: небольшой вводный курс озаконодательном регулировании сферыИИ, видео продолжительностью примерно 1ч. Врамках курса раскрываются важность этических принципов истандартов взаконах обИИ, необходимость защиты персональных данных иприватности людей, необходимость впринципе включать защиту данных вповестку дня. Упоминаются киберпреступность сиспользованиемИИ ивозможные варианты развития отраслевого права вбудущем.

Artificial Intelligence Ethics Certification
Стоимость: бесплатно.
Организатор: Ross Asdourian, основатель компании RatioAI
Для кого: для всех желающих, впервую очередь для нынешних ибудущих сотрудников компаний, работающих сданными итехнологиями ИИ.
Описание: взаимосвязь этики, содной стороны, исферы данных иискусственного интеллекта, сдругой. Вкурсе рассматривается, как этика добродетели (точнее, мышление, основанное надобродетели, virtue-based thinking) влияет насферуИИ, скакой стороны подходить ксозданию гайдлайнов поэтике.

Engineering Ethics
Стоимость: бесплатно
Организатор: MIT OpenCourseWare.
Для кого: для всех желающих, рассчитан навыпускной курс.
Описание: Вводный курс с20аудиолекциями наанглийском языке, прочитанный в2006году. Введение втеорию ипрактику инженерной этики без акцента наэтике IT.

Practical Data Ethics
Стоимость: бесплатно.
Организатор: Fast.ai, некоммерческая исследовательская группа, занимающаяся глубоким обучением иискусственным интеллектом.
Для кого: для всех, кто работает всфере технологий иинтересуется этикой данных вработе сглубоким обучением.
Описание: курс из6лекций, впервые прочитанный вначале 2020 года Джереми Ховардом, создателем Kaggle, вData Institute Университета Сан-Франциско. Курс посвящен основам этики данных, конфиденциальности, дезинформации ипредвзятости алгоритмов. Также рассказывается ороли экосистемы Кремниевой долины иалгоритмическом колониализме.

Русскоязычные курсы поэтике

Право иэтика искусственного интеллекта
Стоимость: бесплатно.
Организатор: Дальневосточный федеральный университет наStepik.
Для кого: студенты технических специальностей ивсе желающие.
Описание: вводный курс оправовых, этических исоциально-нравственных стандартах регулирования разработки иприменения системИИ, роботизированных технологий иавтономных аппаратов. Курс даёт информацию оподходах итрендах виспользованииИИ, этических иправовых вызовах, связанных сэтой сферой.

Этика вцифровом пространстве
Стоимость: 2000руб.
Организатор: Ирина Русакова, старший UX-дизайнер вThomson Reuters наBang Bang Education.
Для кого: UX-дизайнеры, студенты ипрофессионалы, участвующие вразработке цифровых продуктов.
Описание: несколько коротких лекций отом, почему UX-дизайнеру полезно учитывать проблемы, интересы, потребности ивозможности пользователей.

Что ещё почитать нарусском: Этика ицифра: этические проблемы цифровых технологий

Вянваре 2020 вышел доклад Центра подготовки CDTO Этика ицифра: этические проблемы цифровых технологий. Описанные внём этические риски ипроблемы цифровых технологий (впервую очередь, сбора иобработки больших данных, искусственного интеллекта, интернета вещей) рассматриваются преимущественно сточки зрения ихприменения вгосударственном управлении.

Риски иуязвимости, которые открываются при переходе экономики игосударственного управления вцифру, посвоему масштабу сопоставимы соткрывающимися возможностями. Обозначить этические риски цифровизации явно недостаточно. Хотя полностью предусмотреть ипредотвратить ихврядли возможно, можно попытаться свести ихкминимуму.

Счего начать?

Для знакомства стемой этики цифровых технологий рекомендуем начать соследующих двух курсов.

Курс Data Science Ethics (Университет штата Мичиган) показывает, как изменился подход ксбору иобработке данных благодаря развитию технологий ипоявлению больших данных, как законодательство отстаёт оттехнологий, какие проблемы сприватностью это создаёт ипочему важно найти общественный консенсус поповоду прав разных сторон наданные пользователей.

Вкурсе этики для инженеров иразработчиков Ethics, Technology and Engineering (также Университет штата Мичиган) вкратце ивобщих словах рассказывается теория иприводятся кейсы изразных сфер, уделяется внимание распределению ответственности, оценке рисков сэтической точки зрения, видам этических кодексов. Подчеркивается важность этики ещё наэтапе разработки технических решений: вместо устранения проблем целесообразнее стараться недопускатьих.

Мынадеялись найти больше курсов, чтобы выбрать самые-самые, ноихоказалось нетак много. Вызнаете хороший доступный курс поэтике цифровых технологий, который непопал вподборку? Будет здорово, если выподелитесь своей рекомендацией вкомментариях!