Русский
Русский
English
Статистика
Реклама

Этика

Вы бы доверили свою задачу ИИ? 7 вопросов, которые помогут определиться

16.02.2021 10:21:44 | Автор: admin

Эта статья - авторства Эми Бойд. Подробнее о ней вы можете узнать здесь.

На одном из докоронавирусных мероприятийMicrosoft Reactor в Лондонея посетила действительно интересный семинар Future Recoded, посвященныйэтике в искусственном интеллекте.

Я знаю, что вы подумали

"Очередной семинар по этике в ИИ, на котором рассказывают, что все вредоносно, а программисты и специалисты по анализу данных совершают уйму ошибок. И сейчас нам расскажут, как этих ошибок избежать".

Но этот семинар стал исключениемИ запомнился мне необычайно свежим подходом.

Безусловно, мы должны обсуждать и анализировать прошлые ошибки, чтобы научиться применять эти мощные технологии для всеобщего блага. Однако этот семинар открыл мне глаза на то, как проверять ИИ-проекты, идеи и даже новый бизнес на здравый смысл.

Здесь нужно отдать должное автору замечательному докладчику и писателю Майклу Робсону. Майкл, надеюсь мне удастся поделиться твоим пониманием и заставить моих читателей задуматься, как это случилось со мной.

Для начала Майкл задал несколько на первый взгляд простых вопросов. Попробуйте ответить на них сами (потом я поделюсь своими ответами).

Вы бы доверили искусственному интеллекту

  1. Порекомендовать вам продукт?

  2. Защитить ваши данные в Интернете?

  3. Помогать вам за рулем?

  4. Управлять вашей машиной?

  5. Следить за вашим здоровьем?

  6. Выдавать вам лекарства?

  7. Выбрать няню?

На некоторые из них было легко ответить.Мы привыкли к рекомендациям нашего любимого интернет-магазина или к мониторингу здоровья через приложение. Нам нравится, когда умные часы напоминают больше двигаться.

Однако некоторые вопросы заставили меня задуматься.Например, об автомобиле, который меня везет. Я никогда такого не пробовала, но знаю, что сейчас есть машины, которые ездят сами, так что все должно быть впорядке, правда? Или о выдаче лекарств это все еще компьютер. Что, если в программе ошибка и она пропишет неправильную дозу (здесь я выражаю свое общее беспокойство ?). Но в здравоохранении часто используются технологии, так что и здесь все в порядке, верно?

Вопрос о выборе нянибыл неожиданным ?

Давайте рассмотрим этот сценарий

Скажем, компания А это служба, которая сканирует действия потенциальных нянь в социальных сетях и выставляет оценку, основанную на том, "насколько они могут быть безопасными" сучетом определенных критериев.

Этот пример основан на реальной компании и реальном сценарии использования.

Вы собеседуете множество разных людей, а эта служба проверяет социальные сети каждого кандидата.

Компания А оценивает всех кандидатов (слева) и их учетные записи в социальных сетях (справа)Компания А оценивает всех кандидатов (слева) и их учетные записи в социальных сетях (справа)

Она оценивает соискателя по определенным критериям, таким как "Неуважительное отношение", "Откровенный контент", "Запугивание или домогательства" и т. п., а затем выставляет оценку (напоминает мне кредитный рейтинг).

Кандидат в середине диаграммы со всеми перечисленными критериями, которые оцениваются по результатам проверки данныхКандидат в середине диаграммы со всеми перечисленными критериями, которые оцениваются по результатам проверки данных

На первый взгляд, это служба, которая помогает решить, можно ли доверить конкретному человеку заботу о ребенке. Она также помогает эффективно отсеивать кандидатов, когда их много.

Большой вопрос: этичен ли такой подход?

Чтобы ответить на этот вопрос, мы должны определить для себя понятие этичности? Майкл подробно рассказал о том, как понимать это слово.

Определение в словаре:

Этика философское учение о морали, ее развитии, принципах, нормах и роли в обществе.

Возможно, лучше начать с размышлений о том, что значит быть этичным человеком. Заботиться о благополучии людей? Теория морали часто строится на какой-то одной ценности. Майкл выделяет пять ценностей.

Ценности, основанные на благополучии других (слева): отсутствие страданий, автономия и равенство. Ценности, основанные на собственном благополучии (справа): добродетель идоверие.Ценности, основанные на благополучии других (слева): отсутствие страданий, автономия и равенство. Ценности, основанные на собственном благополучии (справа): добродетель идоверие.

Итак, если рассматривать этику в целом с точки зрения благополучия людей, тоэтика данных должна оценивать, как данные влияют на благополучие людей.

Новый подход FATE

FATE значит fairness (справедливость), accountability (подотчетность), transparency (прозрачность) и ethics (этичность).Миссияодной изисследовательских групп Microsoft:

изучать сложные социальные последствия искусственного интеллекта, машинного обучения, обработки и анализа данных, крупномасштабных экспериментов и возрастающего уровня автоматизации. Их цель продвигать инновационные и этичные методы вычислений, учитывая более глубокий контекст этих вопросов из социологии, истории, научных и технологических исследований.

  • Справедливость:искусственный интеллект должен повышать эффективность, не унижая человеческого достоинства, и защищать от предвзятости.

  • Подотчетность:искусственный интеллект должен иметь алгоритмическую подотчетность, чтобы люди могли устранить непреднамеренный вред.

  • Прозрачность:искусственный интеллект должен быть прозрачным и интеллектуально обеспечивать конфиденциальность.

  • Этичность:искусственный интеллект должен поддерживать человечность.

Чтобы лучше понять эти концепции, ознакомьтесь сблогами и вебинарами на веб-сайте FATE.

Когда Майкл разбил эти общие концепции на потенциальные вопросы в каждой категории, у меня появилась интересная идея для практической основы начальный набор вопросов для оценки планируемых проектов в области ИИ.

Думая о компании А, взгляните на эти вопросы, а затем спросите себя или свой коллектив, вызывает ли что-то опасения(потом я поделюсь соображениями, которые возникли у меня на семинаре).

Список вопросов по каждому из разделов "Справедливость", "Подотчетность", "Прозрачность" и "Этичность" опубликован на странице: bit.ly/fatequestionsСписок вопросов по каждому из разделов "Справедливость", "Подотчетность", "Прозрачность" и "Этичность" опубликован на странице: bit.ly/fatequestions

Ниже перечислены мои первоначальные мысли во время семинара, исходя из информации о компании А.

  • Будет ли алгоритм относиться к старшему поколению иначе из-за того,что его представители мало или совсем не активны всоциальных сетях? Исключит ли он их за это из числа потенциальных кандидатов?

  • Кто несет ответственность за окончательное решение,связанное с наймом подходящего человека на работу: компания А или родители?

  • На каких типах данных обучался искусственный интеллект?Есть ли предвзятость по отношению к определенным демографическим категориям, странам и т. п.? Эта информация должна быть опубликована, чтобы пользователи службы понимали ее ограничения.

  • У меня было еще несколько вопросов о том,как определяется каждая категория ивыставляется оценка.

  • Могут ли плохие кандидаты "переиграть" систему,воздействуя на свои собственные социальные сети до сканирования?

Прежде чем задать себе эти вопросы, я подумала о компании А: "Это немного необычно, но, возможно, все в порядке?" Теперь ямогу конкретнее указать причины, по которым я или другие могут беспокоиться об использовании данных или службы.

Теперь я буду использовать этот подход для оценки идей вмоих проектах и спрашивать других их мнение по четырем критериям:
справедливость,подотчетность,прозрачность иэтичность.

Что читаете вы?

В этой статье я хотела поделиться интересными концепциями, которые услышала на семинареМайкла: идеями, вопросами иподходами, которые помогут проверить этичность вашего проекта в области искусственного интеллекта.

Это лишь небольшая часть более масштабного процесса оценки этики данных. Поделитесь в комментариях своими любимыми ресурсамипо таким вопросам, как:

Подробнее..

Coq не порок

09.04.2021 18:04:19 | Автор: admin

В интересное время мы живем, товарищи! В любой публичной деятельности теперь требуется проявлять изрядную креативность, чтобы обойти все ловушки, лишь бы не задеть случайно кого-нибудь неосторожным словом. То же слово "товарищ" за свою долгую жизнь претерпело несколько смысловых изменений. Изначально товарищи "торгующие одним товаром". Затем, уже шире, "занимающихся одним делом". Далее, в СССР, когда дело осталось одно на всех построение коммунизма "товарищи" стало вообще универсальным обращением, но в современной России сдулось до узкого применения в войсках. А ведь кто-то на "товарища" может и оскорбиться. Например, гусь на свинью однозначно. Так что заранее прошу уязвимых не спускаться под кат. Потому что речь пойдет о системе Coq.

Вначале каждый из вас должен решить для себя, что же изображено на логотипе Coq. Запомните ответ опрос будет в конце поста. Для сомневающихся дам подсказку, что le coq это по-французски "петух". А ведь кому-то уже всё стало ясно и они негодующе воззвали к обществу: "какого хрена?"

Why is the Coq logo made to look like a penis?

(Почему логотип Coq сделан похожим на пенис?)

В рассылке coq-club этот вопрос нашел живейший отклик: за последнее время там не бывало более активных тем. Что ж, у каждого своя нейронная сеть, и если ее хорошенько натренировать, то в любой картинке можно увидеть что-нибудь на "пе..." (петуха?). "Доктор, да вы просто маньяк какой-то!"

Огонь обсуждения весело потрескивал задорными искрами, пока кто-то умный не догадался, наконец, плеснуть бензинчика: "Да что там логотип! Вы посмотрите, как это по-английски произносится и что означает!!!" Стоит заметить, что Coq штука серьезная, с тридцатилетней историей, поэтому несмотря на узкую нишу интерактивной проверки доказательств, через Coq прошло довольно много людей. И тут оказалось, что среди них было некоторое количество дам, морально страдавших от этого названия, и чуть было не бросивших сам Coq, формальные методы и науку вообще из-за такого безобразия. От петуха запахло жареным, и лучшим представителям сообщества пришлось броситься на спасение корабля, чтобы срочно латать огромную пробоину, проявляя при этом недюжинную фантазию и ту самую креативность.

Сегодня пришло письмо от Tho Zimmermann руководителя группы разработки Coq, в котором он рассказал, как у них, наконец-то, открылись глаза и пригласил всех к обсуждению нового имени. В нем участвуют такие столпы, как Benjamin Pierce и Xavier Leroy. Подход обстоятельный, как и принято в академической среде: на рассмотрение выставлено уже восемь десятков вариантов. Но в процессе выясняется, что подобрать сочетание звуков, которое ни в каком языке не будет похоже на сленговое обозначение мужских или женских гениталий или чего-либо с этим связанного, очень и очень сложно. Ведь наши предки были не менее изобретательны в придумывании иносказательных выражений для всего этого.

В компьютерных науках есть только две сложные проблемы инвалидация кэша и придумывание названий -- Фил Карлтон

Удачных всем названий понятных, четких, красивых и никого не обижающих.

P.S. Теперь открываешь цикл статей "Мягкое введение в Coq...", и уже что-то в названии мерещится... А нет, показалось. Конец рабочей недели все-таки. Приятных выходных!

Подробнее..

Из песочницы Этические ценности как элемент проектирования цифровых продуктов

23.10.2020 16:09:30 | Автор: admin

Базовым элементом, замыкающим в себе все проявления трансформации, является цифровой продукт. Цифровые продукты позволяют людям решать повседневные задачи и взаимодействовать друг с другом, создавать сообщества по интересам и заявлять о себе миллиардной аудитории.


Цифровое пространство, в свою очередь, вынуждает научные сообщества исследовать новые инструменты и методы изучения представления о человеке относительно новых возможностей жизни в обществе выпускаются ежегодные отчеты[1], на книжных полках появляются книги, посвященные актуальным вопросам сосуществования человека и искусственного интеллекта, например: Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта Макса Тегмарка[2].


В текущем тысячелетии правда сложно представить окружающий мир без цифровых продуктов, которые постоянно трансформируют человеческую природу. В результате их потребления появляется новый уровень отношения человека к технологиями, происходит формирование нового типа мышления.


Антропология инноваций


Осмыслением бытия людей по отношению к инновациям занимается подраздел философии, называемый антропология инноваций. Так, в нём существование инновации рассматривается в разрезе мышления, деятельности, творчества, образования, а также ценностей людей. Антропология инноваций по-новому ставит вопросы:


  • Кто такой человек?
  • Какими ценностями руководствуется человек при создании инноваций?

Инновация, которая приобретает смысл своеобразного объективного условия, заставляет человека искать новые возможности существования, пересоздавать новые условия и расширять свое присутствие; она получает философско-культурологическую интерпретацию. Продукт инновации помогают человеку получить необходимые знания, чтобы адаптироваться к миру перемен, а также сформировать мир, в котором человек может быть творцом инноваций.


Проблема же века инновациий заключается в том, что вещественная ориентация человека может превзойти ценностно-этические вопросы и тогда творческое начало человека будет нацелено на создание новых вещей без осмысления их моральных действий и последствй.


Человек, как генератор новых идей эпохи экспоненциальных технологий должен уметь анализировать, какими этическими рамками он должен руководствоваться до момента, когда они выйдут из под его контроля и он станет объектом посягательства незапрограмированных на этику машин.


Теории вопроса. Техноэтика


Развивающиеся технологии демонстрируют (например, аддиктивный UX или вот ещё пример с дипфейками), что они могут нести моральную угрозу человеку и обществу.
Вместе с этим они же несут в себе более сложные этические вопросы. Эти события актуализируют потребность в определении норм для оценки вмешательства технологий в жизнь человека.


Из-за своей относительной новизны как науки в настоящей момент термин техноэтика не получил однозначного определения, при этом все данные раннее рассуждения сводятся к тому, что данная наука изучает индивида и социум под влиянием различных факторов технологий.


Технологическая этика это вид прикладной этики, который занимается исследованием связи человека и общества с технологиями, проблем и следствий этого взаимодействия, а также конкретизации этических норм, которыми должны регулироваться создатели технологических систем. Чем больше масштаб использования технологии в мире, тем сложнее разрабатывать систему как с точки зрения поддержания и обеспечения ее жизнедеятельности, так и воплощения в ней этических принципов.


Этические принципы


Считается[3], что этические принципы классифицируются на два основных раздела: первый это базовые, основанные на благодетелях, а вторые это частные, которые также принято называть ценностями-добродетелям. Последние также разделяются на направления, основывающиеся на храбрости, мудрости, искренности, любви к себе и дальнему.


Технологии не могут обладать искренностью, самообладанием и другим частным принципам. Так называемые аффективные технологии, которые способны считывать эмоциональное состояние человека, и отвечать ему тем же, пока что умеют считывать экспрессию человеческого лица (тут подробнее). Но правильная ответная реакция технологии не может отвечать оператору только по его звучанию голоса или движению. Большое значение имеет логика ситуации, потому что человек может не явно или, к примеру, совсем не выражать свои отрицательные чувства и технологии будет сложно дать подходящую к моменту ответную реакцию.


Интеграция этических принципов в процесс проектирования


Потребность в изучении вопроса этики технологий очевидна не только отрицательными последствиями технологий, но и тем, что многие ключевые игроки технологического рынка и международные организации представили свои варианты провозглашения этики как основы очеловечивания технологии. В этих документах заявлена этическая ответственность компании перед потребителями и даны рекомендации и векторы совершенствования технологий для менее крупных компаний.


Тем не менее, трата ресурсов компании на изучение этики не всегда очевидна своими выгодами для бизнеса в сравнении с заработанной прибылью, выполнение/ перевыполнение плана продаж, количеством новых клиентов, проданными подписками. Но как часто принимается во внимание идеалы и принципы долженствования человека? С увеличением масштаба продукта вопрос о моральной ответственности может не возникнуть до первого несчастного случая. Помимо контекста ситуации большую сложность представляет менталитет человека, в зависимости от которого характер общения с технологиями будет иметь различные последствия. Люди выдают разные моральные суждения об одном и том же эпизоде в зависимости от того, судят ли они себя или других, какая из их социальным ролей переходит на передний план, какие речевые формулировки используются, насколько психологически далеко намерение отстоит от результата.


Так, как же как создавать цифровые продукты в согласии с этикой?


Что командам и компаниям поможет транслировать свои продукты под призмой этики:


  • Командам применять этический подход к проектированию с начала работы над прототипом решения проблемы.Данный подход помогает прогнозировать и реагировать на возникающие ситуации.
  • Соответствующим службам при выборе подхода к созданию продуктов внедрить этические принципы как часть целостного подхода. Они не должны заменить общие принципы этики компании, а скорее дополнять и усилить их.
  • Высшему и среднему менеджменту компании необходимо возложить ответственность за внедрение этических аспектов в продукты на межфункциональный уровень. Работа с этической проработкой не должна быть прерогативной технологического, юридического или иного отдела. В противном случае, ответственность, возложенная на определенный функциональный отдел, не обеспечит создателей видением потенциальных угроз и соответствующих противодействий. Люди, которые не несут непосредственную ответственность за созданный продукт, не должны использовать работу над этикой как обязанность других отделов в качестве предлога, чтобы не осознавать потенциальную возможность возникновения этических дилемм.
  • Этические принципы должны быть конкретными и гибкими. Созданный этический документ должен рассматривать варианты использования принципов относительно культуры организации, а их актуальность проверена за счет применения к конкретным случаям использования, с которым сталкивается компания.
  • Обеспечение команд необходимыми ресурсами, чтобы принимать этические решения в отношении цифровых продуктов. В случае, когда члены команды сталкиваются с проблемами этического характера, им необходимо предоставить соответствующие ресурсы и инструменты для распознавания, оценки и тестирования решений.

Люди являются не независимы от технологий, а являются её частью как система. Такое понимание ставит технологию в тесную связь с человеком, при этом система должна включать в себя оценку этичную разработку технологий и принятие общественных ценностей.


Путем изучения взаимоотношений человека с технологиями в различных контекстах общество приобретает ценные знания для принятия ответственных решений.


Список литературы


[1]. Organisation for Economic Co-operation and Development. Hows life in the Digital Age? Opportunities and Risks of the Digital Transformation for Peoples Well-being // OECD Publishing. 2019 doi: 10.1787/9789264311800-en
[2]. М.Тегмарк. Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта. 2019
[3]. Гартман, Н. Этика / Н. Гартман. Перевод А.Б. Глаголева. 2002
[4]. Luppicini, Rocci, Adell, Rebeca. Handbook of Research on Technoethics // Information Science Reference. 2009. Hershey, New York

Подробнее..

Recovery mode Этические ценности как элемент проектирования продуктов

08.11.2020 22:05:43 | Автор: admin
Скоро мы будем наблюдать появляние вакансий в сфере этики технологий, курсов по основнам этического создания продуктов. И тому есть объяснение. Человек будущего должен уметь анализировать, какими этическими рамками руководствоваться до момента, когда они выйдут из под его контроля и он станет объектом посягательства незапрограмированных на этику устройств.

Эта статья попытка разобраться, что скрывается за этикой цифровых продуктов. Возможно, это не совсем та платформа, на которой стоит публиковать философскую работу. Но я хочу хотя бы на момент чтения пригласить вас поразмышлять, в какой степени создаваемый вами продукт отвечает нормам нравственности.

Базовым элементом, замыкающим в себе все проявления трансформации, является цифровой продукт. Цифровые продукты позволяют людям решать повседневные задачи и взаимодействовать друг с другом, создавать сообщества по интересам и заявлять о себе миллиардной аудитории.

В текущем тысячелетии правда сложно представить окружающий мир без цифровых продуктов, которые постоянно трансформируют человеческую природу. В результате их потребления появляется новый уровень отношения человека к технологиям, происходит формирование нового типа мышления.

Проблема же века инновациий заключается в том, что вещественная ориентация человека может превзойти ценностно-этические вопросы и тогда творческое начало человека будет нацелено на создание новых вещей без осмысления их моральных действий и последствй.

Техноэтика


Развивающиеся технологии демонстрируют (например, аддиктивный UX или вот ещё пример с дипфейками), что они могут нести моральную угрозу человеку и обществу.
Вместе с этим они же несут в себе более сложные этические вопросы. Эти события актуализируют потребность в определении норм для оценки вмешательства технологий в жизнь человека.

Из-за своей относительной новизны как науки в настоящей момент термин техноэтика не получил однозначного определения, при этом все данные раннее рассуждения сводятся к тому, что данная наука изучает индивида и социум под влиянием различных факторов технологий.

Технологическая этика это вид прикладной этики, который занимается исследованием связи человека и общества с технологиями, проблем и следствий этого взаимодействия, а также конкретизации этических норм, которыми должны регулироваться создатели технологий. Чем больше масштаб использования технологии в мире, тем сложнее разрабатывать систему как с точки зрения поддержания и обеспечения ее жизнедеятельности, так и воплощения в ней этических принципов.

Этические принципы


Считается, что этические принципы классифицируются на два основных раздела: первый это базовые, основанные на благодетелях, а вторые это частные, которые также принято называть ценностями-добродетелям. Последние также разделяются на направления, основывающиеся на храбрости, мудрости, искренности, любви к себе и дальнему.

Технологии не могут обладать искренностью, самообладанием и другим частным принципам. Так называемые аффективные технологии, которые способны считывать эмоциональное состояние человека, и отвечать ему тем же, пока что умеют считывать экспрессию человеческого лица (тут подробнее). Но правильная ответная реакция технологии не может отвечать оператору только по его звучанию голоса или движению. Большое значение имеет логика ситуации, потому что человек может не явно или, к примеру, совсем не выражать свои отрицательные чувства и технологии будет сложно дать подходящую к моменту ответную реакцию.

Чтобы решать какие-либо этические вопросы и проблемы при проектировании продуктов, необходимо рассматривать теоретическую сторону базовой этики, которую наследует и техноэтика:

  • Команда должна обладать набором знаний, которые позволят реализовывать технические замыслы, быть не равнодушным к жизни людей, проявлять лояльность к потребителям и стремиться к ненасилию, не принесению физического вреда, уделять особое внимание ответственности за свои действия. Это техноэтика добродетели.
  • Техноэтика долга поднимает вопросы безопасности, экологии и здоровья людей при работе или вынужденными использованием технологических системам. Технология не должна ущемлять свободу и безопасность общества. Технология распознавания лиц может попасть под категорию несоблюдения техноэтики долга, если не соблюдаются условия прозрачности при применении данной технологией.
  • Техноэтика ценностей подразумевает, что эволюция технологий должна быть основана на двух разделах ценностей. Первый из них провозглашает права человека на благополучную жизнь, чувства человека, которые дают ему состояние спокойствия без нарушения течения жизни, гармонии с окружающей средой, самопринятие, цели и позитивный жизненный настрой. Второй раздел относится к ценностям технологии, которая должна быть функциональной, удобной в использовании, экономичной и удовлетворять потребности.

Тем не менее, трата ресурсов компании на изучение и внедрение принципов этики не всегда очевидна своими выгодами для бизнеса в сравнении с заработанной прибылью, выполнение/ перевыполнение плана продаж, количеством новых клиентов, проданными подписками. Но как часто принимается во внимание идеалы и принципы долженствования человека? С увеличением масштаба продукта вопрос о моральной ответственности может не возникнуть до первого несчастного случая.

Люди являются не независимы от технологий, а являются её частью как система. Такое понимание ставит технологию в тесную связь с человеком, при этом система должна включать в себя оценку этичную разработку технологий и принятие общественных ценностей.

Путем изучения взаимоотношений человека с технологиями в различных контекстах общество приобретает ценные знания для принятия ответственных решений.
Подробнее..

Главная причина дискриминации в ML

12.04.2021 22:14:50 | Автор: admin

Из предыдущего поста вы узнали, что в ML существует дискриминация. Отлично! Таким образом вы уже разбираетесь в Этике машинного обучения лучше, чем многие инженеры МL. Благодаря примерам (из медицины, анализа твиттов, распознавания лиц) вы наверняка уже сделали вывод, что существуют разные виды предвзятости.

Алгоритмы машинного обучения строят стереотипы на основе каких-либо черт и особенностей, так же как это делаем и мы с вами.

Три кита дискриминации

Есть три характеристики людей, на которых основываются большинство предвзятостей в real-world алгоритмах:

  • Гендер

  • Раса

  • Возраст

Дискриминация может быть против многих характеристик (доход, образование, и т.д.), вытекающих из указанных выше. В алгоритмах, которые работают с людскими данными, ими в основном являются доход, место проживания, образование и т.д.

Одним словом: практически всё, к чему обычный человек может проявить дискриминацию. Эти характеристики называют чувствительными атрибутами (sensitive attributes) особенности, по отношению которых проявляется дискриминация.

Набор данных, по которым обучается модель машинного обучения, имеет конкретные признаки (features). Признаки (или атрибуты) являются одной из основных причин, почему существует предвзятость в алгоритмах машинного обучения.

Важно будет отметить, что самой модели машинного все равно на то, против чего дискриминировать. Это может быть цвет стебля у растения, глубина глазниц, город рождения кота и так далее. Современные модели не обладают возможностями к мышлению, а являются просто продвинутым инструментом анализа данных.

"Man is to Computer Programmer as a Woman is to Homemaker"Здесь вы можете увидеть распределение уже "справедливых" word-embeddings: сверху гендерно-нейтральные слова, снизу специальные для каждого гендера. "Man is to Computer Programmer as a Woman is to Homemaker"Здесь вы можете увидеть распределение уже "справедливых" word-embeddings: сверху гендерно-нейтральные слова, снизу специальные для каждого гендера.

Если задуматься, то всё кажется вполне очевидным: модель, которая фактически работает за счёт запоминания закономерностей из данного набора данных (а эти данные отражают стереотипы людей), будет наверняка помнить эти не всегда справедливые (или стереотипичные) закономерности и начнёт использовать их для прогнозов.

Примеры дискриминации по половому признаку из алгоритмов машинного обучения:

  1. Word embeddings, полученные из статьей с Google News (где материал довольно строго курируется), отражают большое количество гендерных стереотипов (Man is to Computer Programmer as Woman is to Homemaker)

  2. Точность алгоритмов распознавания лица IBMs и Face++ значительно ниже для женщин по сравнению с мужчинами (Gender Shades)

  3. Некоторые алгоритмы допускают серьёзные погрешности во время перевода женского голоса в текст ( Where is Female Synthetic Speech).

Предвзятость, связанная с расой, очень удручает многих специалистов в области технологий. Пару лет назад некоторые американские клиники предоставляли темнокожим пациентам почти в два раза меньше средств для специальной медицинской помощи. Используемый алгоритм предсказывал, что темнокожие меньше нуждались в особом наблюдении (https://science.sciencemag.org/content/366/6464/447.abstract) Другой алгоритм, COMPAS, который использовали в американских судах, выдавал в два раза больше ложноположительных (false positive) прогнозов о рецидивизме по отношению к темнокожим, нежели к светлокожим. (https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm) Есть еще масса примеров biasа, который основывается на расе.

Так почему это происходит?

Потому что используются реальные данные о людях и их исходах. Если многие чернокожие на самом деле оказались рецидивистами, эта закономерность запоминается (Чёрные люди с большей вероятностью снова совершат преступление). Алгоритм не берёт во внимание какие-либо особые обстоятельства, предысторию и прочие элементы трагической жизни индивидуума. А должен ли он? При этом в случаях, в которых алгоритм ущемляет определенные группа из-за социальных стереотипов (как в примере с корпусом слов), он по прежнему является объективным в рамках предоставленных ему данных.

Большинство алгоритмов машинного обучения делают то, что им говорят данные и статистические методы. Проще говоря, учатся на прошлом опыте: на объективных данных.

Поэтому возникает вопрос: так разве можно утверждать, что результаты, полученные с помощью такого (объективного) подхода, несправедливы?

Это и есть дилемма этики в ИИ: по мере того, как мы пытаемся стереть грань между человеческим мозгом и мозгом искусственного интеллекта, необходимо также определить грань между этическими и нравственными их составляющими.

Подробнее..

Перевод Этический антидизайн как разработать продукт, не вызывающий привыкания

26.04.2021 14:21:23 | Автор: admin

Почему бы не сделать перерыв?


На столе, напротив открытого окна (смотрите картинку) лежит Wii Remote. Это контроллер для игровой консоли Wii компании Nintendo. Люди, которые выросли c Wii, вспомнят как в игре Wii Sports периодически всплывало окно с сообщением, вежливо напоминающим вам, что стоит сделать перерыв. Возможно, это несколько нелогично, но для такого вторжения в вашу жизнь есть несколько причин. В онлайн-играх, основанных на подписке, компания действительно могла извлечь выгоду, когда вы время от времени выходили из системы (не волнуйтесь, мы и про социальные сети тоже поговорим). Вы ведь не откажетесь от своей подписки, а каждую секунду вашего пребывания в сети вы съедали драгоценную серверную мощность. В других играх такие вещи, как гриндинг, хоть и заманчивы, но могут всё испортить. В Pokmon, например, если вы доведете всю свою команду до 60-го уровня, прежде чем сразитесь с Элитной четвёркой, вы выиграете, но не самым эффектным или честным способом.

С Wii история другая. Кажется, что команда Nintendo знала, что их аудитория в основном состояла из детей. Разработчики чувствовали необходимость вмешаться, в интересах самого игрока (и, возможно, для успокоения родителей), когда ребёнок проводил слишком много времени в игре. Сейчас мы редко встречаем подобные вещи, и я всегда хотел узнать, почему.

Сервера уже не так дороги, как раньше. Механика многих современных видеоигр больше не позволяет заниматься гриндингом. Неужели Nintendo перестала заботиться о наших детях? Что ж, индустрия сильно изменилась. Сегодня многим разработчикам онлайн-игр наоборот выгодно, когда игроки проводят больше времени в сети. В мобильной игре Clash of Clans игроки могут предотвратить нападение на свою базу оставаясь онлайн. Чем быстрее вы закончите игру, тем быстрее вас заставят купить её DLC или, еще лучше, Season Pass.

Чем больше времени вы проводите в игре, тем чаще вы будете сталкиваться с игроками, которые смогли заполучить красивые (и дорогие) скины и другие ценные внутриигровые предметы. Чем больше таких людей вы видите, тем чаще вы будете ощущать давление и захотите купить себе такие же. Это тревожная тенденция, и, похоже, она характерна для большинства AАА-игр.

Но кого ещё нам стоит поблагодарить за то, что наши глаза приклеились к девайсам?

Разработчикам социальных сетей всегда было выгодно удерживать нас онлайн как можно дольше. Всё очень просто: чем дольше вы смотрите на экран, тем больше вероятность, что ваши глаза наткнутся на рекламу. Они вложили миллиарды долларов в усовершенствование технологий для максимального вовлечения аудитории.

TikTok является ярким представителей этого тренда: адаптивный алгоритм, короткий, красочный контент, который транслируется без перерыва. Единственное, что могло бы сделать его более цепляющим это если бы они вводили сахар прямо в ваши вены, пока вы смотрите контент. И всё же, TikTok, вероятно, инвестирует миллиарды долларов каждый год в усовершенствование своей платформы, чтобы сделать её как можно более привлекательной.

Instagram тоже идёт в этом направлении: с каждым месяцем он становится всё больше и больше похож на TikTok (особенно с тех пор, как они представили сервис Reels). Неудивительно, что мое поколение тратит так много времени на социальные сети. Но можно ли их обвинить в этом? Проводя исследования по этой теме, я внимательно изучал пользовательский интерфейс Instagram и моей самой большой проблемой было удержаться от того, чтобы погрузится в просмотр бесконечного потока алгоритмически подобранного контента.

Все эти вещи с удержанием пользователей это конечно здорово, но что, если им это не нужно? А что, если мы создадим продукты, которые не будут вызывать привыкание?

Тёмные паттерны и Федиверзум


Я понимаю, что большая часть аддиктивности приложения зависит от его юзабилити, и идея разработки приложения, менее удобного для пользователя, кажется нелепой. Тем не менее, и у такого продукта найдутся свои почитатели. На прошлой неделе я написал статью под названием Fediverse решает только половину проблемы, где я говорил о проблеме тёмных паттернов например таких, как бесконечная прокрутка. Дело в том, что моральный долг технологий, относящихся к категории FLOSS (Free/Libre/Open Source Software, сюда входит свободное и открытое ПО), ставить пользователей на первое место. В случае с социальными сетями большая часть этого процесса заключалась в создании децентрализованной экосистемы (т. е. Fediverse, Федиверзум), где вы сами отвечаете за свои собственные данные. В то время как организация Fediverse стала большим шагом вперёд, нам всё ещё приходится иметь дело с тёмными паттернами.

Большинство open-source разработчиков (включая меня) не имеют большого коммерческого опыта работы в дизайне UI/UX. Вот почему так много программного обеспечения с открытым исходным кодом либо чрезвычайно брутальны (см. Blender), либо очень, очень тесно связаны с дизайном его проприетарного аналога (см. KDE). Fediverse, по-видимому, относится ко второй категории.

Пользовательский интерфейс Mastodon (и всех его клиентов) очень похож на Twitter. В каком-то смысле это было сделано намеренно. Чем больше дизайн пользовательского интерфейса Mastodon походил на Twitter, тем больше новичков могли быстро освоиться с Fediverse при первом знакомстве с ним. Вместе с этим сильнее обостряется проблема тёмных паттернов. Опять же, интерфейс Twitter был преднамеренно спроектирован так, чтобы максимизировать количество времени, которое человек проводит в сети. К сожалению, Федиверзум унаследовал и это. Вот почему я предлагаю пересмотреть принципы проектирования интерфейсов приложений и клиентов для Fediverse. Также предлагаю обсудить, как мы можем наилучшим образом найти баланс между обеспечением положительного опыта использования продукта и психофизическим благополучием пользователей.

Что такое этический антидизайн?


Этический антидизайн строится на двух аспектах. Но об этом чуть позже. Прежде всего, стоит задать более общий вопрос: что же такое антидизайн?


Опасная зона Github, где происходят все рискованные манипуляции с репозиторием

Исторически, антидизайн сформировался в Италии и стал частью эстетики, направленной против культуры потребления. Хотя тут есть что-то общее, это не тот антидизайн, о котором я говорю. Я говорю о гораздо более прагматичном антидизайне, который действительно используют при проектировании интерфейсов. Антидизайн это нечто противоположное дизайну: всё делается не для того, чтобы сделать приложение удобным, а для того, чтобы сделать приложение непригодным для длительного использования.

Это определение несколько контринтуитивно, но может быть очень полезно нам. В своей жизни мы много раз сталкивались с антидизайном. Помните, когда корзина на вашем компьютере просит вас подтвердить, прежде чем окончательно удалить ваши файлы? Это антидизайн. Мы ведь время от времени выполняем такие опасные действия, как удаление файлов. Тем не менее, дизайнеры хотят убедиться, что вы не сделаете это случайно. Вот почему они каждый раз вмешиваются в нашу работу и посылают запрос подтверждения действия.

Один из моих любимых примеров то, как Github работает с удалением репозитория. На странице настроек вашего репозитория Github все опасные действия сгруппированы вместе в очень страшном красном поле. В самом низу этого поля находится опция окончательного удаления репозитория. Если вы нажмёте на неё, Github сделает ещё один шаг и попросит вас ввести имя репозитория в диалоговое окно. Всё это заставляет вас от начала до конца осознавать то, что вы делаете, как вы это делаете, и насколько правильно вы это делаете.

Удаление репозитория по ошибке может вызвать у вас фрустрацию. А если вы имеете дело с координацией большого количества сотрудников, это может иметь печальные последствия для всей команды. К счастью, не каждый день вам приходится удалять репозиторий Github, поэтому компания вполне разумно, с точки зрения безопасности, делает этот процесс трудным.

Этический антидизайн перерабатывает эти идеи и пытается скрестить их с этическим кодексом.

Если бы мы все были, как Марк Аврелий, то, возможно, нам не нужно было бы беспокоиться о зависимости от социальных сетей. Дело в том, что не все являются чистыми существами стоической закалки; большинство людей очень хорошо (или, скорее, очень плохо) реагируют на поведенческий дизайн. Антидизайн предполагает вмешательство в работу пользователя, чтобы он случайно не совершил опасные действия. Этический анти-дизайн спрашивает: Что ещё может считаться опасным, согласно моему этическому кодексу? Как я уже ясно дал понять, одно действие, которое я считаю опасным, это бесконечная прокрутка. Итак, если я хочу опираться на этический антидизайн, то мне нужно, чтобы моё приложение не давало человеку впасть в транс и прокручивать ленты социальных сетей в течение всего дня.

Как выглядит этический антидизайн?


В случае с бесконечной лентой, я думаю, есть два пути. Чтобы помочь человеку, использующему продукт, прокручивать ленту дозировано, можно избавиться от прокрутки вовсе или хотя бы иногда автоматически прерывать это действие.

До того, как появились бесконечные скролы, у нас была разбивка на страницы. На самом деле пагинация всё ещё относительно распространена. Контент разбивается на отдельные страницы. Когда человек прокручивает страницу вниз, он должен нажать кнопку далее и ждать загрузки, если хочет продолжать просмотр контента. Теперь, когда у нас есть эффективные асинхронные веб-приложения, это технология кажется устаревшей, но здесь есть две ключевые особенности. Во-первых, время, которое требуется веб-сайту для загрузки нового контента, прерывает плавную прокрутку. Этот промежуток времени будь то мгновение или несколько секунд заставляет человека остановиться и, возможно, даже подумать о том, что он делает. Если будет время поразмыслить над этим, тогда, возможно, он сам поймёт, следует ли ему продолжать это делать. Во-вторых, кнопка далее здесь тоже не просто так. Она говорит человеку: Это всё, хотя есть и больше, если вы этого хотите. Это заставляет пользователя подумать о том, действительно ли он хочет этого. Вот такой простой алгоритм из двух шагов позволяет предотвратить бессмысленный скроллинг.

Другой вариант просто прервать бесконечную прокрутку. Это может быть очень похоже на пагинацию, а может и не быть. Главное заставить пользователя проявить активность, предложить ему сделать паузу и выбрать, хочет он или не хочет продолжать просмотр контента. Представьте себе: вы просматриваете посты в Instagram. Примерно через двадцать постов вы наткнётесь на кнопку с надписью Показать больше. Чтобы увидеть больше контента, вам нужно удерживать кнопку нажатой чуть больше одной секунды. Когда вы начинаете её удерживать, вам показывают анимированный круг, который заполняется с течением времени. Как только время пройдёт, будут показаны еще двадцать сообщений. Так мы получим гарантию, что не только плохое соединение с интернетом может прервать просмотр и заставить осознать, что этот процесс не является бесконечным. Кнопка, опять же, заставляет пользователя физически взаимодействовать с интерфейсом, чтобы увидеть больше контента.

Однако бесконечная прокрутка не единственное, что вызывает зависимость от социальных сетей. Ещё один способ поймать нас на крючок вовлечь в игру с количественными критериями, используя соревновательный элемент. Моя самооценка растёт с количеством подписчиков, лайков и комментариев, которые оставляют под постами. На самом деле, я знаю мало людей, которые искренне осуждали бы подобные вещи и считали их ерундой. Большинство людей включается в игру и относится к своим результатом достаточно самокритично.

Интересно, что Instagram, похоже, действительно знает об этом. Они несколько раз переделывали страницу профиля, чтобы сделать акцент на количестве подписчиков. А совсем недавно они почему-то обновили внешний вид постов, чтобы скрыть количество лайков, которые они получили. Технически всё ещё возможно посмотреть, сколько лайков получил пост, но для этого вы должны перепрыгнуть через достаточное количество обручей. Я бы также рассмотрел этот как пример этического антидизайна: люди испытывают искушение сравнивать себя с другими, и Instagram решил защитить их от этого. Лично я думаю, что этот кейс мог получить развитие. Например, Instagram уже показывает взаимных подписчиков на странице профиля человека; а что, если они вообще не будут показывать количество ваших подписчиков? Если бы мы использовали социальные сети как способ общения с людьми, которых мы знаем, то количество ваших подписчиков не должно было бы иметь большого значения, не так ли?

Куда это всё идёт?


Поведенческий дизайн и порожденный им стандарт для проектирования интерфейса соцсетей принёс миру много проблем. Естественно, эти тёмные паттерны просочились в Fediverse. Теперь нужно приложить большие усилия, чтобы избавиться от них. Это будет нелегко; в частности, мне будет нелегко заставить себя посещать веб-сайты, которые всё ещё используют рудиментарную разбивку на страницы. Но не стоит забывать, что всё это во имя благой цели.

Возможно, вы ещё не догадались, но я разрабатываю новый клиент для Fediverse по концепции этического антидизайна. Возможно, я доведу эту идею до крайности, но моя цель заключается не в том, чтобы создать популярный продукт, а, скорее, в том, чтобы продемонстрировать, как это могло бы выглядеть. Я надеюсь, что в конечном итоге другие разработчики вдохновятся моим проектом и попытаются воплотить эти идеи в своих собственных проектах.

Честно говоря, я все ещё на очень ранней стадии, но если вы хотите узнать больше, я бы порекомендовал вам подписаться на меня в Fediverse, где в планах немного больше поговорить о самом проекте.



Наши серверы можно использовать для разработки приложений.

Зарегистрируйтесь по ссылке выше или кликнув на баннер и получите 10% скидку на первый месяц аренды сервера любой конфигурации!

Подробнее..

Кодекс iOS джентльмена

14.09.2020 02:07:47 | Автор: admin

Кодекс iOS джентльмена


Большинство проектов разрабатываются командой разработчиков. Как правило качество результата командной работы зависит от атмосферы царящей в команде. Для поддержания гармонии каждый разработчик должен всегда оставаться джентльменом. Поэтому я хочу представить основные, по моему скромному мнению, правила кодекса iOS джентльмена.

iOS потому, что я сам iOS разработчик и являюсь частью команды. Правила довольно общие, поэтому подойдут для любого направления в разработке программного обеспечения и не только.

iOS джентльмен всегда вежлив.


Ваше плохое настроение или мания величия это еще не повод портить настроение другим людям. Думаю никому не понравиться если ему нагрубят. Поэтому старайтесь и Сами не грубить.

Бескультурье и хамство портит отношения между участниками команды, а в командной работе очень важно работать сообща. Обиды друг на друга или личная неприязнь могут не только замедлить прогресс, но и внести дополнительные проблемы.

Всегда и при любых обстоятельствах нужно держать себя в руках и стараться быть вежливым.

iOS джентльмен всегда уважает свое время, а значит и уважает время других


Если у Вас есть срочная проблема, в которой может помочь коллега, это еще не означает, что нужно отвлекать коллегу от его работы. Возможно сейчас идет очень важный мыслительный процесс и если его прервать, то Ваш коллега может потерять много времени на восстановления всей картины проблемы, которую он решал.

Стоит вежливо уточнить, может ли нужный вам человек уделить время и помочь Вам. Если он сильно занят, то скорей всего он сможет помочь чуть позже.

iOS джентльмен уважает код и технические решения своих коллег.


Всегда нужно помнить, что каждый блок кода это наилучшее решение, которое смог придумать автор на тот момент времени и при тех обстоятельствах, когда этот код писался. Поэтому не стоит лишний раз устраивать выяснения почему код написан так плохо. Это касается моментов, когда вообще нет необходимости что-либо менять.

Думаю, каждый может вспомнить момент, когда он пытался переписать код, который выглядел ужасно. При этом натыкался на ранее неочевидные проблемы, которые решал этот код. И в попытках решить эти проблемы более элегантным способом, писал еще более ужасный код.
Следует это помнить, перед тем как портить кому-то настроение неуместной критикой и воздержаться от подобных действий.

iOS джентльмен не правит код другого разработчика без его ведома


Даже если Вы знаете как сделать лучше, не стоит молча переписывать плохой код. Во-первых, автор кода, который по мнению окружающих несет ответственность за этот участок кода, может потерять нить понимания в обновлениях. И при попытках что-то поменять он попадет в затруднительную ситуацию.
Во-вторых, Вы сами, скорей всего, не знаете всех особенностей функционала, который собираетесь переписывать. В итоге ни автор, ни Вы полноценно не знаете код, который был обновлен.
В третии, если автор кода не узнает, о том, что он сделал что-то плохо, то он будет продолжать делать так как делал. А как мы знаем в команде результат работы каждого участника влияет на всю команду.

В таких случаях следует сначало обратиться к автору, уточнить его мнение. Возможно, Вы ошибаетесь и Ваше решение, которое Вам казалось более подходящим, не является таковым. А в случае, если Вы оказались правы, то вы поможете своему коллеге и соответственно поможете общему делу.

iOS джентльмен не критикует чужой код без аргументов и без альтернатив


Когда все же дело доходит до критики, а в командной работе это неизбежно, то это стоит делать правильно. Во-первых, критиковать код можно, когда от качества этого кода зависит решение Вашей задачи. Во-вторых, критиковать можно только в случае, если Вы точно знаете как сделать лучше.

Бессмысленная критика приводить только к раздору в команде, что не очень сказывается на результате.

iOS джентльмен также умеет принимать критику достойно


Никто не идеален и никто не пишет идеальный код. Мы все время обучаемся и усовершенствуем наши навыки, в том числе и в разработке ПО. Критика является одним из самых эффективных механизмов обучения. И нужно не только уметь подавать критику но и достойно ее принимать.

Не стоит реагировать агрессивно на чужую критику. Это только оттолкнет окружающих. И в дальнейшем Ваши ошибки в коде могут быть своевременно не выявленные только потому, что коллега не стал Вам ее сообщать, не желая провоцировать скандал.

Если критика действительно полезна, то стоит поблагодарить человека, который указал на Ваши погрешности.

Если же критика не обоснована и Вы абсолютно уверены, что ваше решение в коде является достаточно хорошим если даже не лучшим, то стоит спокойно аргументировать свою правоту. Привести доводы в опровержение критики.

iOS джентльмен пишет код в общем стиле


Думаю всем будет понятна аллегория, что если в лодке несколько гребцов и один из них будет грести в противоположную сторону, то на скорость движения лодки это повлияет только негативно.

То же самое касается проектов. Старайтесь всегда придерживаться общепринятых правил и стандартов, даже если они Вам не нравятся, но команды им следует.

Подробнее..

Из песочницы Man, death amp ethics

23.10.2020 22:21:47 | Автор: admin
Робот с искусственным интеллектом Электроник из фильма Приключения Электроника хотел стать человеком, но не знал как это сделать. Я предлагаю внятную, простую и конструктивную философскую концепцию определения человека, морали и этики. Может, кому-нибудь пригодится на поле биоэтики или для работы с ИИ и роботами. Правда, как выразить эту концепцию математически и засунуть её в железо, я не знаю. Только концепция.



В академическом стиле гипотеза опубликована в научном рецензируемом издании Уральского государственного экономического университета и Технического университета УГМК e-FORUM: "Недостающий элемент схемы эволюционной эпистемологии Поппера"

Пролегомены


  1. Предмет: феномен осознания смерти.
  2. Гипотеза: осознание смерти как проблемы уникальное свойство человека, полученное с помощью специфического языка. Только осознание смерти дало человеку возможность отношения к смерти.
  3. Отношение к смерти формирует универсальные способы преодоления проблем: мораль как опыт и этику как метод.
  4. Живая природа не знает о смерти, поэтому она развивается не методом, а отбором.
  5. Этический метод дает человеку способность преодоления проблем вообще, и проблемы смерти в частности.
  6. Слово человек здесь означает не личность отдельно или общество отдельно, а систему индивидуум-социум.
  7. Определяя человека как социально-когнитивный феномен: существо, понявшее проблему смерти, мы разрываем привязку понятия человек к виду животных Homo Sapiens. Человеком можно назвать любой вид существ, понявших проблему смерти. В том числе ИИ или управляемых им роботов, роботизированный транспорт, систему обслуживания, производственные линии, и так далее. Понять смерть можно только в системе времен абстрактного языка. Не знаю, есть ли система времен или ее аналог в математике.
  8. Цель Развития: преодоление проблемы смерти или смерти как проблемы. И если человек, мораль и этика определены пониманием смерти, то достижение цели приведёт к уничтожению морали, этики и, собственно, Человека. Вне смерти окажется уже не человек, а сверхчеловек, или Новый Человек. Ценности и проблемы Нового мира будут качественно иными.

Ошибка Аристотеля


Рассматривая Никомахову этику, отмечу очевидный и на мой взгляд ошибочный подход Аристотеля, а за ним и всех последующих философов к вопросу добра и зла. Аристотель смотрит на благо как на отдельный предмет: как принято считать, [всё] стремятся к определенному благу. Поэтому удачно определяли благо как то, к чему всё стремится.
Это положение сводит все этические рассуждения к неизменно противоречивым результатам. Говоря исключительно о благе, подразумеваем упрощение: как будто зло это нечто противоположное добру. Некое добро со знаком минус. Но это не так: зло не равно добру со знаком минус, как и зло со знаком минус не равно добру:

З (Д) или Д (З)


Не правильно мыслить о благе хоть на секунду отделяя его от зла, придавая им обоим свойства неких самостоятельных сущностей. Мы не должны забывать, что добро и зло, благо и вред, добродетель и порок это дихотомия. Значит, слияние подклассов неразделимо без потери смысла сущности. А в тот момент, когда мы подменяем искомую сущность одним из её подклассов, наделяя уже его сущностным или предметным характером, то уводим сами себя от истинного предмета исследования. Если истинной сущности у нас нет, то разговаривать мы можем о чем угодно, но не о ней. И вот философы вслед за Аристотелем упорно повторяют эту ошибку, хотя дихотомия моральных категорий известна всем.


Рис. 1. Графическая дихотомия: фокус в том, что здесь нарисован только черный подкласс, а белый, совершенно не будучи нарисованным, проявляется сам

Не будучи сущностями, добро отдельно и зло отдельно не могут быть ни целями, ни средствами. Это скорее параметры, или указатели, позволяющие нам прийти к искомой сущности. Субстратом морали, таким образом, является то, к чему выражается отношение с помощью понятий добра и зла. Осталось выяснить, к чему настолько фундаментальному мы можем проявить свое отношение?

Иллюстрирую мысль примером. У летчиков есть приборы, достаточные для того, чтобы пилотировать, опираясь исключительно на показания. Приборы лучше, чем инстинкты человека, т.к. у человека инстинкты полета вообще не формировались, ведь он сам не летал. Но когда летчик летит по приборам, он не на секунду не забывает о том, что его конечная цель не показания приборов сами по себе, а то, что они ему говорят о реальном мире. Цель летчика это физический взлет или посадка, а не показания приборов о взлете и посадке. Если же прибор будет показывать ситуацию, которая не соответствует действительности, то летчик предпочтет руководствоваться действительностью, а не показаниям прибора. Прибор может оказаться неисправен или неточен, или ошибочно настроен. И руководство таким прибором приведет к гибели. Так и мы не можем ставить целью достичь добра или зла самих по себе, т.к. само по себе добро или зло это не предмет, а лишь параметр какого-то предмета. Это оценочные категории, то есть способ оценки предмета. Значит, стремиться собственно к ним глупо. Цифра на высотомере математическая абстракция. Сама по себе, без связи с действительностью, она не интересна. Чтобы придать параметрам важность, мы связываем добро и зло с чем-то, что может быть предметом, достаточно важным для нас. Цифра на высотомере с некоторой точностью указывает на положение самолета над поверхностью земли. В этой модельной ситуации цифра становится плохой, только когда указывает собой на положение, означающее возможность гибели самолета, и хорошей, если полет может и дальше безопасно продолжаться. Пилот с помощью такого отношения к цифре: зная, какие из них хороши, а какие плохи, принимает усилия в направлении показателей добра на приборах, и избегая приближения к показателям зла, достигая своими действиями не добра как отдельной сущности, и избегает не зла как отдельной сущности. Так же можно упомянуть, что одни и те же цифры на шкалах могут означать зло для самолета в одной ситуации, и добро в другой. И в этом нет противоречия, т.к. ситуация понимаема нами со всей очевидностью.


Рис. 2. Это означает, что диапазон с 10 до 20 (каких-то показателей) безопасен для полета, а меньше или больше означает гибель самолета

Важно отметить, что избежание гибели и выживание не тождественны. Описываемые нами действия пилота не направлены на выживание, т.к. пока он не погиб, он жив. Представим, что если в кабине сидит неопытный пилот, не способный распознать смертельный штопор, в который сорвался его самолет, то он при этом сидит спокойно: ведь он жив. И не зная о том, каким образом к нему приближается смерть, он не способен даже начать бороться с проблемой. Только зная о проблеме: что самолет провалился в штопор и приближается катастрофа, пилот начнет бороться с проблемой. В первую очередь по тому, что он понимает, что значит смерть для его жизни, и что смерть приближается.

Зафиксируем ситуацию: неопытный пилот тоже хочет жить, быть счастливым и испытывать удовольствия, но эти желания сами по себе никак не мотивируют его, если он не знает о проблеме. Мотивирует пилота только знание о проблеме.

Так, мы ясно видим: пилот оценивает категориями добра и зла именно понимание проблемы, а не жизнь, счастье или удовольствие. Все то, что обычно фигурирует в рассуждениях, начинающихся с понимания отдельного блага, на самом деле не имеет значения.


Рис. 3. Если неопытный пилот не знает о штопоре, то само по себе желание выжить никак не поможет ему, т.к. пока самолет не упадет, жизни пилота ничто не мешает. Но только пилот, знающий о быстро приближающейся из-за штопора смерти, может предпринять действия, чтобы избежать будущей, существующей только в его воображении, и еще не существующей для него в реальности гибели. Так одно только знание о смерти оказывается эффективнее выживания.

Вообще, если мы хотим оценить полет в целом, то нами оценивается именно способность избежания гибели во всем процессе полета, а не только результат выживание. Только не имевший аварий и не потерпевший катастрофу полет будет однозначно добрым для летчика. Если же в полете случилась авария, пусть и не приведшая к катастрофе, ущербу и гибели: пусть летчик выжил и не пострадал, но этот полет мы тоже не назовем добрым, хоть и результат с добрым полетом был одинаков для летчика. Дело в том, что мы знали о риске смерти в аварийном полете, который был значительно выше, чем в добром полете без аварии. Так мы видим, что этика оценивает успех процесса преодоления смерти, а не результирующее выживание.


Рис. 4. На рисунке выживание соответствует и хорошему и плохому с аварией полету. Таким образом, добро и зло не соответствует выживанию, а выражает отношение к проблеме гибели, которая и дает оценку плохо полету с аварией.

Еще мы можем выявить сущностную привязку добра и зла полностью абстрактно: например как в случае игры, когда один человек ищет предмет в комнате, а другой ему подсказывает: холодно теплее холоднее жарко, и мы понимаем, что лишь условно окрашиваем близость к цели некой физической коннотацией, когда ищущий приближается к спрятанному предмету, и теплее или холоднее обозначает приближение или удаление от цели, но не физическую температуру цели. Искомый предмет не источает тепло, а наделяется таким свойством для удобства коммуникации. Поэтому слова тепло / холодно можно без потери смысла описанной игры заменить на позитив / негатив, или хорошо / плохо, и, наконец, добро / зло. По сути, ничего не изменится. Поэтому добро и зло сами по себе не хороши и не плохи, они лишь позволяют человеку искать некую единственную сущность. И эта сущность в результате игры не явится нам в виде добра или зла, воплощенного негатива / позитива, теплоты / холода, как вы уже догадались.

Отметим интересный момент: результат игры обнуляет добро и зло. После нахождения предмета эти категории нас больше не интересуют.

Так вот, пытаясь овеществить или натурализовать благо, Аристотель подводит нас к понятию благо государства, что может быть истолковано как благо общества ради блага человека, как к цели любой деятельности. Но если, как мы выяснили ранее, благо само по себе ничего не значит, а это лишь параметр, или ориентир в процессе достижении какой-то цели, то Аристотель, делая сшивку блага и цели, дает в своем изложении этики ложную цель. Собственно, он и сам это понимает: своего рода расплывчатость заключена в [выражении] блага, потому что многим от [благ] бывает вред.

Теперь обратимся к той части Этики, в которой Аристотель все же касается искомого нами предмета, который, с одной стороны, не дает ему добиться стройности в своих этических построениях, с другой, этот предмет сам мог бы послужить прочным стержнем для любых этических поисков, если бы был принят за точку отсчета: А самое страшное это смерть, ибо это предел, и кажется, что за ним для умершего ничто уже ни хорошо, ни плохо. действительно, а ведь смерть это именно то, что понял пока только человек: а искомое нами присуще только человеку И именно смерть, уже по словам Аристотеля, обнуляет добро и зло. Если мы говорим о добре и зле как об отношении к смерти, то не здесь ли заключена вся специфичность человека? В его отношении к смерти.

То, как к жизни и смерти относится человек, и как к ней относится природа принципиально различно. Природа вообще не имеет категорий отношения: в природе нет добра и зла. Но эти категории есть у человека, это они дают ему уникальную специфику. Поэтому, если разобраться в причине существования этих категорий для человека значит получить возможность определить само явление человек.

Далее Аристотель погружается в циклические обсуждения золотой середины, раз за разом повторяя одно и то же: имея в виду, что избыток и недостаток гибельны для совершенства, а обладание серединой благотворно Если вдуматься в то, что здесь сказано, то возможно, что главное не в том, что именно избыток или именно недостаток, а все же гибельно или благотворно. Можно убедиться, что когда Аристотель судит о благе или зле, то мысль сводится к тому, гибнет субъект (человек, общество или государство) или продолжает жить. Этот вопрос постоянно проступает в любых рассуждениях, как будто только об этом и идет речь, подразумевая в разных формулировках одно и то же:

для телесной силы гибельны и чрезмерные занятия гимнастикой, и недостаточные, подобно тому, как питье и еда при избытке или недостатке губят здоровье, в то время как все это в меру (ta symmetra) и создает его, и увеличивает, и сохраняет;Итак, избыток (hyperbole) и недостаток (eleipsis) гибельны для благоразумия и мужества, а обладание серединой (mesotes) благотворно;имея в виду, что избыток и недостаток гибельны для совершенства, а обладание серединой благотворно;если совершить этот поступок, то они будут спасены, а если не совершить погибнут И так раз за разом, практически об одном и том же: быть или не быть, вот в чем вопрос. Так не в этом ли на самом деле вопрос? Да, в этом.

Итак, повторимся: А самое страшное это смерть, ибо это предел, и кажется, что за ним для умершего ничто уже ни хорошо, ни плохо. Именно смерть, а вернее отношение к смерти, и есть источник добра и зла. Получается, что Аристотель, обсуждая что угодно и под какими угодно углами, раз за разом приходит к проблеме смерти или гибели. Именно смерть в рассуждениях Аристотеля порождает неожиданные, подчас парадоксальными превращениями счастья и блага в несчастье и зло так, что Аристотель нигде не может ухватить ситуацию абсолютного блага. Абсолютна и недвусмысленна, экзистенциальна у Аристотеля только смерть. И она имеет интересное умение обнулять добро и зло как в игре по поиску предмета. Так что за предмет мы должны найти? Каков мог бы быть результат этических упражнений человека?

Мой ответ: преодоление проблемы. Рассмотрим преодоление с разных сторон, каким может быть в жизни преодоление смерти у человека: тактически и стратегически.
Интересно сказано у Аристотеля о специфике природных реакций: природа, очевидно, прежде всего избегает того, что доставляет страдание, стремится же к тому, что доставляет удовольствие так сказано о биологической дихотомии, которая направляет действия животных в виде неосознаваемых ими инстинктов и поведенческих программ. В отсутствие разума боль и удовольствие это, что направляет действия животных. Поэтому корректно сказать, и у Аристотеля это сказано: что природа не преодолевает проблему, а именно избегает проблему.

Боль негативна, а удовольствие позитивно. Но ни боль, ни удовольствие не ставят задачу. Поэтому, конечно, это не в коей мере не метод решения проблем. Так Аристотель нашел природный аналог морали, и это абсолютно точно. Если человек имеет моральную дихотомию добро и зло, то природа имеет биологическую дихотомию удовольствие и боль. Специфика и эффективность человека состоит в том, что дихотомия морали, в отличие от дихотомии отбора, видит результат препятствий и проблем жизни: это смерть. Отбор не видит препятствий, а использует их для того, чтобы отобрать только те варианты, которые обходят препятствие, не соприкасаясь с ним. Можно провести параллель с эффектом систематической ошибки выжившего, когда сохраняются только правильные ответы. Получается, что опыта соприкосновения с рамкой в природе физически не существует: он гибнет. По этой причине у живой природы нет и не может быть знания о смерти, поэтому нет и отношения к ней.

Примеры разницы в подходах мы можем найти легко: перетерпеть реальную боль от лечения человек может именно по тому, что знает о смерти, которую приносит болезнь. Этический метод отношения к смерти позволяет человеку пренебречь негативом боли, предпочитая категорию добра, хоть она и не приятна физически, не вызывает счастья и удовольствия, но зато ведет к преодолению смерти. Так же как человек может прямо отказаться от ряда удовольствий, маркируя этическим методом пагубные последствия их как зло, если они ведут к смерти: это наркотики, излишества, дисбалансы. Животное боль терпеть не будет, так как это один из рычагов инстинкта, и всеми силами избежит лечения, если у него будет возможность. И все это только по тому, что животное не знает ни о болезни в частности, ни о смерти вообще. Так же, как животное будет получать удовольствие столько, сколько это возможно даже если это всего лишь вшитый в специфическую область мозга электрод, а не настоящее удовольствие [Olds, 1954]. Такие примеры можно привести в качестве тактического преодоления проблемы смерти.

Но наемники становятся трусами всякий раз, когда опасность слишком велика и они уступают врагам численностью и снаряжением, ведь они первыми обращаются в бегство, тогда как гражданское [ополчение], оставаясь [в строю], гибнет, как и случилось возле храма Гермеса. Ибо для одних бегство позорно, и смерть они предпочитают такому спасению, а другие с самого начала подвергали себя опасности при условии, что перевес на их стороне, а поняв, [что этого нет], они обращаются в бегство, страшась смерти больше, чем позора. здесь обсуждается момент, когда отдельные люди отдают свою жизнь ради жизни своего общества. В этом случае понятно, по какой причине бегут наемники: они не связаны с защищаемым обществом, и для них собственная смерть страшнее смерти какого-то чужого общества (государства). А гражданское ополчение связано с защищаемым обществом: там хранятся их материальные и духовные ценности, их дети, родители и родственники, то есть все то, что является частью их самих, и будет существовать намного дольше их. Так, феномен Истории и Культуры можно привести в качестве попытки стратегического (но не личного) преодоления смерти.

Одним из видов культуры является Ритуал и Религия, дающая нам еще один пример попытки стратегического, личного, но воображаемого преодоления проблемы смерти в виде постулирования жизни после смерти.

У Хайдеггера в Бытие и время есть на стр. 247: Так же и концепции смерти у первобытных, их отношение к смерти в ворожбе и культе высвечивают прежде всего их понимание присутствия, чья интерпретация требует уже экзистенциальной аналитики и соответствующего понятия смерти. Так Хайдеггер подтверждает тезис о том, что всякий ритуал, и всякий культ даже самый ранний и самый примитивный, в обязательном порядке начинается с представления о смерти. Именно потому, что нельзя решать непоставленную задачу.

Элементарное осыпание умершего цветами уже говорит нам, что этим действием решается какая-то задача, в направлении какой-то цели. И это не просто осознание некой ситуативной смерти как текущего события, а именно осознание смерти как всеобщей неотвратимости для жизни: интерпретация требует уже экзистенциальной аналитики и соответствующего понятия.... Сознание смерти как трагического явления, предстоящего для всякой жизни. В этом случае ритуал: это попытка решить [эту] проблему. Хотя бы условно.

Нет, не нужно [следовать] увещеваниям человеку разуметь (phronein) человеческое и смертному смертное; напротив, насколько возможно, надо возвышаться до бессмертия (athanatidzein) и делать все ради жизни (pros to dzen), соответствующей наивысшему в самом себе, право, если по объему это малая часть, то по силе и ценности она все далеко превосходит. эта мысль Аристотеля ложится в контекст гипотезы: речь идет о преодоления смерти как проблемы.

Мы понимаем, что только понимание проблемы может быть началом решения проблемы. Если это так, то все перечисленные в трактате Этика частные блага, как и все не перечисленные, постепенно, практически и исторически, синергируя друг с другом в процессе Развития, в итоге сводятся к решению наиболее общей задачи по преодолению наиболее общей проблемы: смерти. Это отчасти явлено нам в реальности: сегодня в развитых странах средняя продолжительность жизни минимум в два раза превышает биологические нормы [Mayne, 2019] и антропологические рамки, а это уже немало.

Вывод: всё, что делает человек во всем его многообразии (индивидуальность, общество и человечество) по преодолению смерти то благо, добро и добродетель. А всё, что приводит индивидуального человека, общество и Человечество в целом к гибели или разложению то зло, вред и порок.

На первый взгляд, такая сущность этики даже слишком проста. Слишком очевидна, чтобы быть чем-то большим, чем то, что мы и так видим вокруг себя. Но на самом деле все наоборот: да, принцип прост, но весь клубок взаимосвязей, и вся бездна проблем окружающего нас физического мира, социального мира совсем не очевидна до сих пор, и проявления блага и гибельности необходимо постоянно выявлять этическим методом.

Чем больше взаимосвязей и проблем мы выявляем в процессе Познания в природе и в обществе, тем сложнее нам установить однозначно, какое действие и в каком соотношении с другими действиями, приведет Человечество к процветанию жизни, а какое в конечном итоге, в результате множественных взаимодействий, погубит его. И тем не менее, преимущества такого принципа тоже очевидны: мы имеем наиболее конструктивную систему оценки и прогнозирования пути, по которому идет Человечество.

Источник Развития


Эта часть относится скорее к проблемам биоэтики, если приходится решать: что этически допустимо по отношению к тому, что мы называем человеком, а что нельзя, даже если позволяют биотехнологии.

Для неживой природы не существует проблем. Существует только преобразование вещества и энергии. Потеря планетой атмосферы, выгорание звезды, взрыв сверхновой, черные дыры, столкновения галактик: это не проблемы для Вселенной.

Проблема может существовать только для жизни. И эта проблема: прекращение жизни, то есть смерть.

Определим связь используемых далее понятий: смерть, проблема, препятствие, рамка. Понятие проблемы сводится к понятию препятствия. Препятствием для жизни может быть только то, что не дает продолжить жизнь. Все, что не является проблемой, то есть не ведет к прекращению жизни, не является также и препятствием. Все, что не прекращает жизнь, может быть ресурсами, возможностями, окружающей средой чем угодно, но не препятствиями. Препятствия могут быть сложными: цепочка взаимосвязанных событий, комплексы условий и их соотношения, параметры окружающей среды, явления природы. В общем случае комплекс препятствий мы назовем рамкой: границей возможностей жизни. Тактико-техническими характеристиками (ТТХ) организма, группы, вида, рода, и всей живой природы, если угодно.

Столкновение с рамкой означает гибель. Живая природа существует, избегая соприкосновения с рамкой. Поэтому все имеющиеся в наличии живые организмы не знают о своей рамке и не видят её, так как никогда не соприкасались с ней. Как же возможно, не видя препятствия, и даже не зная о нем, тем не менее никогда не натыкаться на него? Животных уберегают от этого инстинкты и поведенческие программы с помощью дихотомии боли и удовольствия. Параметры боли и удовольствия были отобраны смертью в течение всего времени существования жизни. Мы так и назвали этот процесс: естественный отбор. Смерть уничтожала всех, кто шел неправильным путем, прикасаясь к рамке. Остались жить только те, кто шел исключительно правильным путем, выполняя наработанные миллиардами лет инструкции инстинктов. Так природа продолжает жить, не прикасаясь к рамке.


Рис. 5 Рамка

Как тогда идет процесс эволюции видов и развитие живой природы? Объективно, живая природа с момента своего возникновения постепенно расширяет рамку своих возможностей, приспосабливаясь к окружающей среде, используя окружающую среду, формируя окружающую среду, и снова приспосабливаясь. Это происходит с помощью нарушения правил, проявляющегося в виде ошибок: случайных мутаций, дающих неожиданную приспособленность, когда животные немного изменяются физически или поведенчески. При этом отбор снова делает свое дело: если новое изменение подходит новым параметрам среды, то оно раздвигает существующую рамку, формируя новый вид.

Важно то, что даже расширив свои возможности, животные снова не видят никакую рамку, поэтому качество существования для них не меняется. Таким образом, перебор вариантов в виде случайных ошибок не решает никакую задачу, следовательно, не решает и проблему. Природа лишь учится избегать проблему тем или иным способом, приспосабливая себя к той или иной рамке. Если вид не выдерживает параметры рамки, которая и сама по себе может измениться в виде природных катаклизмов, то вид или виды вымирают. Так произошло несколько раз: известны 5 больших и 20 малых планетарных катаклизмов, когда вымирало до 95% существовавших видов. Минусами такого развития является чрезвычайная длительность и затратность эволюции, поскольку даже целенаправленный перебор вариантов как решение проблемы был бы на порядок быстрее и эффективнее, чем случайный набор случайно совершенных ошибок.

Человек же, поняв проблему, поняв смерть, увидев препятствие, увидев рамку, единственный во всей природе имеет возможность раздвигать свою рамку без преобразования себя в новый вид с новыми ТТХ. Человек именно по этой причине смог отказаться от инстинктов: он не натыкается на рамку потому, что видит её. Человек способен предпринять действия, чтобы отодвинуть рамку.

Таким образом, понимание проблемы и есть источник Развития для человека. Только видя ограничения, человек может начать думать и действовать в направлении их преодоления. Животное, не видя своих ограничений, преодолеть их не может.

Что есть действие человека: он думает головой, действует руками, рубит осколком камня, чертит на песке, выхватывает огонь из лесного пожара, рисует углем на стене, согревает очагом, толкает палкой, скребет отщепом, колет бронзовым ножом, впрягает лошадь, натягивает паруса, двигает паровой машиной и дизельным двигателем, пускает Спутник и ядерный реактор. Значит, действие это не только труд, использование энергии и техники, но и героизм, и творчество, и искусство.

Преодоление проблемы требует Развития, но не требует отбора: человеку не приходится меняться как виду, чтобы отодвинуть границу своей природной рамки. Гагарин полетел и вернулся из космоса тем же самым Homo Sapiens, каким и был до этого. Человеку не потребовалось миллионы лет крутить смертельную карусель эволюционного отбора, чтобы попасть в недоступную прежде для Homo Sapiens среду.

Иногда человек видит рамку, но ничего не может поделать: за всю историю не было никого, кто не умер бы от старости, даже если все другие препятствия были раздвинуты. Тогда человек придумывает выдуманное решение: так появляется ритуал погребения. Развивается метафизика веры и религия: проблему преодоления смерти они решают кардинально, но в воображаемом мире. И раньше это работало.

Так мы обнаруживаем на антропологической кривой развития человека точку, когда человек понял смерть: это начало ритуальных захоронений. Cтановится вполне объяснимым, почему примерно в этот же период резко нарастает сложность обработки орудий, использовавшихся человеком. Зная о всепроникающей проблеме смерти, человек использует орудие не только для функции как таковой (что иногда встречается у животных), а может судить: плохо или хорошо выполнена функция. Тот самый этический метод. Не только: расколол ли чоппер орех, или достала ли палочка до муравьев, а: насколько далеко отодвинуло это орудие от человека голод и смерть? Можно ли отодвинуть их еще дальше? В этом и состоит мощь этического метода, который мы определили в самом начале как Источник Развития.

Иначе говоря, только понимая существование смерти, мы можем ясно увидеть ее проявления в частностях: чем острее и удобнее камень тем сильнее удар, чем сильнее удар, тем больше питания, чем больше питания, тем больше энергии у тела, а чем больше энергии у тела, тем дальше от смерти и я, и мое племя, и наш род. Тогда есть смысл обтесать получше камень. Если есть шкура только чтобы согреться, то мы берем шкуру какая бы она не была и греемся. Но как только появляется этический метод: хороша ли шкура для того, чтобы подольше сохранить мне тепло и жизнь, или плоха настолько, что слишком быстро подпускает ко мне холод и смерть.

Только так появляется смысл, задача и цель улучшить выделку шкуры: а чтобы отрезать шкуру больше, нужен острее и тоньше нож (и он начинает улучшаться), чтобы тоньше выделать шкуру, нужно придумать как (творчество), чтобы лучше сшить, надо найти крепче нитку (исследования и сравнения) и так далее. Томаселло отмечал, что невозможно представить человеческую деятельность без установления общих целей и задач (с. 279-280). [Томаселло, 2011] А откуда появятся цели и задачи, как не из понимания проблемы?

Понимание проблемы или понимание смерти, или способность увидеть рамку вызывают непрерывное Познание и Развитие. Кстати, это к вопросу зачем надо учиться в школе?. Да чтобы найти новые и новые пределы, которые надо преодолевать, чтобы в итоге преодолеть смерть. Как бы странно это не звучало. В идеале ту или иную форму непрерывного развития человека вообще нельзя прекращать, пока мы не сумеем перейти в новое качество.

Ведь когда или если проблема не понятна сознанию человека, то она не существует для него, даже когда уже оказывает свое губительное воздействие. Например, пока в развитых странах не узнали о специфике вируса COVID-19, там было не принято мыть не запачканные явной грязью руки: таковы издержки высокого уровня жизни. Но аномально высокая смертность заставила осознать цепь проблем: существует не видимая глазу грязь вируса COVID-19, который вызывает болезнь, которая приводит к смерти порождает задачу: избавиться от невидимой грязи вируса; задача находит решение в виде цели: найти способ избавиться от невидимой грязи вируса; и только цель побуждает к действию: исследовать методы избавления, найти средства избавления (спирт); а уже воплощение действия: взять спирт, промыть руки преодолевает проблему: вируса на руках нет. И вот проблема-болезнь, а, в сущности, смерть, тактически отступает. Так этический метод требует постоянного Развития и Познания.


Рис. 6. Движение от проблемы к решению проблемы не может миновать пункта понимание проблемы, т.к. только этот пункт ставит задачу, решение которой становится целью, которая мотивирует деятельность, и только в результате такой последовательности происходит решение проблемы

В обратную сторону схема очевидно не работает: действие невозможно без цели, а цель без задачи. На действия без указания инстинкта не будет выделена энергия: это лень. Единственное, что способно заместить побуждение инстинкта мотивация. Но это уже разумный процесс побуждения к действию. Поэтому животные в общем случае не демонстрируют целенаправленную деятельность, поскольку целей у них нет.

Достижение цели, деятельность это части процесса решения какой-то задачи. Значит, вне задачи не может быть ни цели, ни деятельности по её достижению. А откуда берется задача? Задача: это нахождение способа преодоления осознанной проблемы. Невозможно решать задачу, если нет проблемы. Ни в науке, ни в жизни не бывает задач без проблем. Даже если вы видите ситуацию, в которой кому-то дают в виде задания явно бесполезную деятельность: до обеда вырыть канаву, а после обеда зарыть ее, то все равно у этой деятельности есть и цель (не допустить скуки), и задача (придумать деятельность). Просто проблема в такой ситуации будет не очевидна, но она не может вообще не существовать. Итак, самое главное: нельзя решить проблему, не поняв проблему. Это кажется очевидным, но это надо осознать.

Любое целенаправленное действие человека: это свидетельство о решении какой-то, когда-то понятой им проблемы. Никак иначе раскрыть движущую силу человеческого потенциала Развития не получится. Чем бы не было внешнее обоснование деятельности, по цепочке рассуждений оно приходит к проблеме преодоления смерти. Только познание проблем порождает их преодоление, то есть Развитие. Не понимая проблем, человеку нечего преодолевать, и никакой деятельности быть не может: ни физической, ни духовной, ни творческой.

Плод древа познания


Если принять, что человек развивается, только понимая проблему, то надо определить, как он смог ее понять. Мы приходим к вопросу языка.

В основу я хотел бы положить книгу Дерека Бикертона Как люди создали язык, как язык создал людей. В целом согласен с гипотезой Бикертона, но хотел бы доработать его гипотезу, вводя как средство рекрутирования индексный знак естественного происхождения: следы в саванне, или книгу следов саванны, которую научился читать проточеловек. Кроме того, Бикертон разбирает язык и его свойство перемещаемости, но явно не говорит о том, что свойство перемещаемости порождает систему времен языка. Также я предлагаю закончить как бы неоконченную Бикертоном мысль: как именно язык приводит к фундаментальному качественному переходу животного в человека.

С. 22 Итак, чтобы превратиться в язык, значимые единицы описания слова и знаки должны быть отделены от конкретных ситуаций и привязаны к концептуальным идеям относительно тех или иных предметов отделена от того, что происходит прямо сейчас.

Вот в этом месте я предлагаю следы как индексные знаки естественного происхождения. Человеку не надо был их специально придумывать, а лишь увидеть и понять, что это знаки, оставленные животными, когда эти знаки сами по себе были привязаны к оставившим их животным как к значениям, а впоследствии и как к концептуальным идеям. Таким образом, саванна это первая книга, прочитанная предком человека.


Рис. 7. Цитата: Здесь был слон

С. 23 Идея в том, что первые слова не приносили бы немедленной и ощутимой пользы

В случае, если мы обращаемся к следам как к первым протословам, то они приносили бы немедленную и ощутимую пользу. Зная, что вот этот след оставила жертва мы идем по следу и питаемся, увеличивая приспособленность. Зная, что след оставил хищник, мы готовимся к сопротивлению мы увеличиваем приспособленность. Далее, обрабатывая словарь следов и обстоятельств, при которых эти следы появляются, и относительность времени, когда эти следы появились: свежие они или старые, протолюди все больше увеличивали свою приспособленость. Все это давало прямую выгоду, становясь из индексных впоследствии иконическими символомами, когда проточеловек уже сам пытался изобразить графически след для передачи информации другим сородичам.

Исследователями установлено, что графический образ это объект, доступный для исполнения существом, имеющим вообще руку, и порядка 400 граммов мозга. Физически это уровень австралопитека или шимпанзе. В эксперименте Сьюзан Саваж-Румбо, бонобо Панбаниша оказалась способной нарисовать по собственной инициативе на деревянном полу графические лексиграммы [Саваж-Румбо, 2004]. Значит, и изобразить след протолюди могли, превращая его из индексного в иконический знак. А имея иконический знак, эмоционально соединенный с выкриком СКЖ (системы коммуникации животных), мы имеем уже и протослово. Значит, нет необходимости отделять зарождение слов от приспособленности, которую постулирует Бикертон.

С. 136 расширить территорию за счет того, что искатели научатся читать знаки горки навоза или сохранившиеся отпечатки

Ну так вот же оно! Читать знаки это прямое попадание в источник языка. Человек не придумывал знаки, он их прочитал, а затем уже и сам начал рисовать и использовать благодаря специфике своего развития (мозг и руки) плюс ниша, которая постоянно давала массу следов как круглосуточный канал новостей.

С. 157 ашельское ручное рубило ножи раннего палеолита производились практически без изменений по крайней мере на протяжении почти миллиона лет. невозможно себе представить, чтобы наш вид стал производить одну и ту же модель машины даже в течение десяти лет

Значит, у архантропов еще не было понимания смерти. Да, был протоязык, который уже вырабатывал понятия, категории на основе иконических знаков, формировал звуковой ряд языка, синтаксис, способствовал физическому отбору: формировались речевой контроль, зона Брока и область Вернике и так далее. Это как обучение маленького человека языку, только на протяжении двух миллионов лет. К пониманию проблемы необходимо подойти с некоторой системой абстрактных понятий, с синтаксисом, организующим язык и взаимодействия абстрактов, категорий и так далее. Не имея возможности увидеть, что за каждой деталью окружающего мира стоит смерть, архантропы не имели и мотивации к развитию своих орудий. Но то, что они развивали протоязык, это точно, т.к. однажды понимание смерти пришло, это и был большой взрыв, та самая когнитивная революция, как формулирует Юваль Ной Харари, породившя ритуал, культуру, познание и развитие.

С. 157 Нельзя найти такой момент, в который вы взяли бы родителя и его ребенка и смогли скзать: Этот малыш настоящий человек, а вот его родитель нет. Тем не менее где-то на этом долгом пути наше мышление изменилось, и изменилось достаточно быстро

Такой момент есть: это понимание смерти. И не зря здесь аналогия с ребенком. Ребенок, еще не понявший смерть как бы святой, непорочный, внеморальный. Дети бегают голенькими на пляже именно по этой причине. И перестают бегать голенькими именно по этой причине. В сюжете об изгнании из рая Адам и Ева прикрывают срам только познав смерть, а познание о ее существовании и есть приобретение категорий добра и зла. Непорочность ребенка именно в том, что он не понимает ни того, чем опасен для него окружающий мир так же, как не может понять, какой он может нанести вред миру.

Дети обнаруживают осознание смерти в 4-6 лет [Yalom 1999]. Эта критическая точка перехода именно что изменяет мышление бесповоротно. Человек полностью пересматривает свое отношение к миру: у него появляется несчастье понять смерть, как и счастье об этом иногда забывать.

С. 271 Процесс создания ниши определяет род занятия представителя вида и, как результат, тип общества, в котором этому виду предстоит жить. Нет разницы, создается ниша под влиянием инстинкта, медленно, миллионы лет, или путем культурного научения, за какие-то тысячелетия. Разницу определяет ниша.

Это серьезная ошибка. Да, теория ниш верно схвачена в плане рассмотрения эволюции видов и формирования предпосылок. Но в чем состоит тогда качественный переход человека, если ниша как определяла вид, так и продолжает его определять? Если рассматривать описанную ситуацию появления у человека этики как метода, то мы видим разницу огромную. Собственно, она и объясняет, по какой причине отбору нужны миллионы лет, а этике достаточно тысячелетий. Что бы ни строили муравьи, у них нет проблемы, задачи и цели. У них нет плана муравейника, и решить, что может быть конструктивно лучше или хуже они не могут. Хуже по отношению к чему или лучше по отношению к чему? Если они не знают о смерти, то и метода оценки у них быть не может. Вернее, он есть, но находится вне их. Отбор решает, какой муравейник хуже, а какой лучше, и он не ставит в известность об этом муравьев.

С. 272 Наша ниша дала нам язык, язык дал нам разум, но лишь мудрое использование этого разума сохранит нас свободными представителями человеческого рода.

Тут возникает несколько моментов: ниша дала нам только знаки. А расшифровать и применить их смог только сам человек. Это и дало человеку язык, а язык включает систему времен, и только сознание, использующее систему времен можно назвать Разумом. Но и Разум можно применить по-разному. Говоря о том, что лишь мудрое использование этого разума сохранит нас, Бикертон незаметно для себя начинает использовать Этический Метод, позволяющий принимать решения о том или ином пути, оценивать этот путь. Значит и Разум это только базис для Этики. И только Этика позволяет Развитие. Куда же ведет Развитие? Если способность понять проблему это начало пути, то конец пути преодоление проблемы. Только тогда понятно, что дает нам разум: мы постепенно учимся не только избегать смерти, как вся остальная живая природа. Мы учимся преодолевать смерть. Это и есть та самая свобода. Это и есть смысл веры в бессмертие исключительно человеческой души. Да, только понимание смерти позволяет поверить в бессмертие. Это путь человека.

Мы расширили ареал своего присутствия во много раз больше, чем позволила бы природные чисто технические характеристики нашего вида: мы летаем в атмосфере и стратосфере, выходим в космос, ведем активную деятельность в океанах, морях и реках. И это все без каких бы то ни было генетических перестроек своего организма. Без отбора, без физической эволюции.

Пока основные успехи мы получили на поле технического преодоления: от палки-копалки до ядерного реактора, но эти достижения не часть человека физически. Существуют и достижения на уровне, который физически есть часть человека: молекулярная биотехнология и генетическая инженерия. Та же вакцинация это создание дополнительной возможности у своего организма. Вакцинированный человек уже формально сверхчеловек. По крайней мере технически он сверх- того, что он мог бы быть в чистом, природном виде.

Возможно, что скоро мы сможем взять в свои руки работу, которую раньше проводил отбор: физическое изменение своего организма. Если манипуляции с антителами заставляют наш организм реагировать так, что ему становятся не страшны смертельные вирусы, а манипуляции с ДНК могут избавить человека от ВИЧ, то что мешает в развитии этого направления пойти все дальше и дальше?

Вывод


Если для человека источником добра и зла является отношение к смерти, а этика методом осознанного Преодоления, то остается только взяться, собственно, за решение проблемы. Это вопрос конструктивной биоэтики.

Чтобы нагрузить роботов и ИИ человеческой этикой, необходимо как-то дать им понятие о смерти. Собственно, именно к этому пониманию пришел Элик в итоге советского фильма, когда столкнулся со своей рамкой (бандитским магнитным чемоданом). Пока он не понимал ограничений, он не мог понять и людей.

Используемые источники


1. Аристотель Никомахова этика.
2. Бикертон Д. Язык Адама: Как люди создали язык, как язык создал людей. // М.: Языки славянских культур, 2012.
3. Витгенштейн Л. Лекция об этике, 1929.
4. Приключения Электроника, телефильм 1979.
5. Ницше Ф. По ту сторону добра и зла.
6. Поппер К.Р. Эволюционная эпистемология.
7. Томаселло М. Истоки человечсеского общения, 2011.
8. Триер, фон Л. Дом, который построил Джек, 2018.
9. Хайдеггер М. Бытие и время.
10. Харари Ю.Н. Sapiens Краткая история человечества.
11. Ясперс К. Общая психопатология.
12. Berta L. Death and the Evolution of Language. / Hum Stud (2010) 33:425444. DOI 10.1007/s10746-011-9170-4
13. Yalom I.D. Existential Psychotherapy. / N.Y.: Basic Books, 1980 М.: Класс, 1999 Перевод Т.С. Драбкиной
14. Mayne, B., Berry, O., Davies, C. et al. A genomic predictor of lifespan in vertebrates. Sci Rep 9, 17866 (2019).
15. Olds, J., Milner, P. Positive Reinforcement Produced by Electrical Stimulation of Septal Area and Other Regions of Rat Brain. / Journal of Comparative and Physiological Psychology, 47(6), 1954, 419427. doi: 10.1037/h0058775
16. Саваж-Румбо, Сьюзан Об обезьянах, которые пишут
17. Van Evra, J.W. Death. Theor Med Bioeth 5, 197207 (1984). doi.org/10.1007/BF00489491
Подробнее..

Дискриминация в алгоритмах ML существует и нет, это не либеральные сказки

26.03.2021 18:19:00 | Автор: admin

Человеческий мозг, как мы все знаем, полон предрассудков. Возникает вопрос: если машинное обучение "живет" за счет того, что очень близко имитирует этот наш мозг, то почему его алгоритмы не могут быть такими же необъективными и проявлять такую же несправедливость? К сожалению, они частенько это и делают.

Давайте расскажем вам как именно.

Машинное обучение (ML) это очевидно новая звездочка ИТ индустрии. И она уже никуда не денется. Одна из причин, почему ML сыграет (и уже играет) значительную роль в нашей жизни это успешная интеграция его моделей в большое количество уже существующих систем: социальные сети, шоппинг, здравоохранение и т. д.

В настоящее время в отрасль инновационных технологий хотят идти миллионы школьников, студентов и начинающих специалистов, стремящихся сделать карьеру в этой области. При этом, чтобы успешно обучить следующее поколение профессионалов в этой области, необходимо понять несколько неочевидных сторон машинного обучения.

Давно прошли те времена, когда люди могли слепо доверять программам в получении объективных рассчитанных результатов. Алгоритмы машинного обучения не дают простых математических результатов, как это делает калькулятор, а влияют на прогнозы преступной деятельности, медицинские диагнозы и решения о приеме на работу. Поскольку мир всё больше и больше полагается на машинное обучение при принятии важных решений, важно, чтобы мы узнавали о необъективных сведениях, понимали последствия некорректных результатов модели и принимали превентивные меры.

Так какая предвзятость (bias) есть в алгоритмах машинного обучения?

  • Интеграция машинного обучения в здравоохранение вызвала большие споры, потому что некоторые алгоритмы не могли одинаково лечить всех пациентов. Например, алгоритм обнаружения рака кожи был обучен с использованием данных, включающие в себя в основном фото и информацию о светлых тонах кожи. Следовательно, этот алгоритм был не эффективен при обнаружении рака кожи у людей с более тёмными тонами кожи. Несмотря на то, что у ИИ есть много возможностей повысить доступность медицинских услуг для нуждающихся, важно должны убедиться, что качество медицинской помощи не ухудшается для определенных демографических групп.

  • Хороший пример необъективности распознавания естественного языка (NLP) можно увидеть в социальных сетях: твиты, написанные афроамериканцами, в среднем отмечены алгоритмами ИИ как оскорбительные (хотя на самом деле таковыми не являются, показатель false positive) в 1,5 раза чаще, чем такие же твиты белых.

  • Было обнаружено, что даже более серьёзная предиктивная полицейская система неверно оценивает правонарушителей. COMPAS, система искусственного интеллекта, используемая для прогнозирования вероятности совершения преступником другого преступления, оказалась явно настроенной против афроамериканцев. Получилось так, что у афроамериканцев было вдвое больше ложных предсказаний рецидивизма, чем у белых американцев.

Почему эти признаки необъективности существуют?

Модели машинного обучения изучают закономерности в предназначенных для их обучения данных. Таким образом, если набор данных является стереотипным или не разнообразен, модели могут прийти к ложным выводам. Вот несколько примеров потенциальных ошибок обучения (некоторые из которых действительно произошли):

  • Использование обучающих данных, которые поступают исключительно из источника данных о состоянии здоровья военнослужащих. Поскольку большинство военнослужащих мужчины, знания алгоритма о здоровье женщин будут ограничены, что в свою очередь приведет к низкой точности алгоритма.

  • Использование данных, которые навязывают стереотип привязанности одного из полов к ряду обязанностей или занятий. Некоторые модели глубинного обучения связывают мужчину с доктором, а женщину с медсестрой из-за вектора представления слов, отображающего социальные стереотипы (word embedding).

  • Использование данных, которым не хватает разнообразия. Да, той самой любимой дайвёрсити. Многие модели распознавания лиц обучаются на данных, которые включают больше белых людей, чем черных. Исследование Тимнит Гебру и Джой Буоламвини показало, что 3 инструмента для распознавания лиц от крупных технологических компаний смогли почти идеально определить пол белых мужчин, а темнокожих женщин определили неверно в 35% случаев. Это может привести к очень серьезным ошибкам правоохранительных органов.

Откуда мы знаем о существовании этой предвзятости?

Признаки предвзятости всплывают, когда мы сравниваем точность с числом ошибок, которые модель имеет в разных группах. Исследование Тимнит Гебру является ярким примером этого: изучая эту статистику, мы можем увидеть, какие демографические группы дискриминируются моделями. Мы также можем проверить количество положительных и отрицательных результатов, проанализировав, имеется ли примерно одинаковое количество людей из разных групп, получивших один и тот же результат от модели.

Какие возможные способы решения этой проблемы существуют?

Препятствие, с которым в настоящее время сталкиваются многие компании, заключается в том, что им необходимо переобучить свои модели. Существует два главных способа для того, чтобы это сделать:

  • Ликвидация необъективности наборов данных, используемых моделями это влечёт за собой удаление существующих наборов данных, содержащих стереотипные данные, и создание репрезентации и дайверсити в них, в попытках сделать их более точными.

  • Устранение необъективности моделей. Это влечёт за собой изменение фактических векторных представлений слов для удаления стереотипной привязки (мужчина = доктор, и женщина = медсестра) при сохранении нужной гендерной информации (мужчина = король, и женщина = королева).

Тема является довольно неоднозначной и вовлекает проблемы целого общества, однако путем дискуссий и компромиссов решение может быть найдено. Если у вас есть опыт с темой Этики в ИИ - будет интересно прочитать о нем в комментариях.

Подробнее..

Категории

Последние комментарии

  • Имя: Макс
    24.08.2022 | 11:28
    Я разраб в IT компании, работаю на арбитражную команду. Мы работаем с приламы и сайтами, при работе замечаются постоянные баны и лаги. Пацаны посоветовали сервис по анализу исходного кода,https://app Подробнее..
  • Имя: 9055410337
    20.08.2022 | 17:41
    поможем пишите в телеграм Подробнее..
  • Имя: sabbat
    17.08.2022 | 20:42
    Охренеть.. это просто шикарная статья, феноменально круто. Большое спасибо за разбор! Надеюсь как-нибудь с тобой связаться для обсуждений чего-либо) Подробнее..
  • Имя: Мария
    09.08.2022 | 14:44
    Добрый день. Если обладаете такой информацией, то подскажите, пожалуйста, где можно найти много-много материала по Yggdrasil и его уязвимостях для написания диплома? Благодарю. Подробнее..
© 2006-2024, personeltest.ru