Русский
Русский
English
Статистика
Реклама

Дискриминация

Главная причина дискриминации в ML

12.04.2021 22:14:50 | Автор: admin

Из предыдущего поста вы узнали, что в ML существует дискриминация. Отлично! Таким образом вы уже разбираетесь в Этике машинного обучения лучше, чем многие инженеры МL. Благодаря примерам (из медицины, анализа твиттов, распознавания лиц) вы наверняка уже сделали вывод, что существуют разные виды предвзятости.

Алгоритмы машинного обучения строят стереотипы на основе каких-либо черт и особенностей, так же как это делаем и мы с вами.

Три кита дискриминации

Есть три характеристики людей, на которых основываются большинство предвзятостей в real-world алгоритмах:

  • Гендер

  • Раса

  • Возраст

Дискриминация может быть против многих характеристик (доход, образование, и т.д.), вытекающих из указанных выше. В алгоритмах, которые работают с людскими данными, ими в основном являются доход, место проживания, образование и т.д.

Одним словом: практически всё, к чему обычный человек может проявить дискриминацию. Эти характеристики называют чувствительными атрибутами (sensitive attributes) особенности, по отношению которых проявляется дискриминация.

Набор данных, по которым обучается модель машинного обучения, имеет конкретные признаки (features). Признаки (или атрибуты) являются одной из основных причин, почему существует предвзятость в алгоритмах машинного обучения.

Важно будет отметить, что самой модели машинного все равно на то, против чего дискриминировать. Это может быть цвет стебля у растения, глубина глазниц, город рождения кота и так далее. Современные модели не обладают возможностями к мышлению, а являются просто продвинутым инструментом анализа данных.

"Man is to Computer Programmer as a Woman is to Homemaker"Здесь вы можете увидеть распределение уже "справедливых" word-embeddings: сверху гендерно-нейтральные слова, снизу специальные для каждого гендера. "Man is to Computer Programmer as a Woman is to Homemaker"Здесь вы можете увидеть распределение уже "справедливых" word-embeddings: сверху гендерно-нейтральные слова, снизу специальные для каждого гендера.

Если задуматься, то всё кажется вполне очевидным: модель, которая фактически работает за счёт запоминания закономерностей из данного набора данных (а эти данные отражают стереотипы людей), будет наверняка помнить эти не всегда справедливые (или стереотипичные) закономерности и начнёт использовать их для прогнозов.

Примеры дискриминации по половому признаку из алгоритмов машинного обучения:

  1. Word embeddings, полученные из статьей с Google News (где материал довольно строго курируется), отражают большое количество гендерных стереотипов (Man is to Computer Programmer as Woman is to Homemaker)

  2. Точность алгоритмов распознавания лица IBMs и Face++ значительно ниже для женщин по сравнению с мужчинами (Gender Shades)

  3. Некоторые алгоритмы допускают серьёзные погрешности во время перевода женского голоса в текст ( Where is Female Synthetic Speech).

Предвзятость, связанная с расой, очень удручает многих специалистов в области технологий. Пару лет назад некоторые американские клиники предоставляли темнокожим пациентам почти в два раза меньше средств для специальной медицинской помощи. Используемый алгоритм предсказывал, что темнокожие меньше нуждались в особом наблюдении (https://science.sciencemag.org/content/366/6464/447.abstract) Другой алгоритм, COMPAS, который использовали в американских судах, выдавал в два раза больше ложноположительных (false positive) прогнозов о рецидивизме по отношению к темнокожим, нежели к светлокожим. (https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm) Есть еще масса примеров biasа, который основывается на расе.

Так почему это происходит?

Потому что используются реальные данные о людях и их исходах. Если многие чернокожие на самом деле оказались рецидивистами, эта закономерность запоминается (Чёрные люди с большей вероятностью снова совершат преступление). Алгоритм не берёт во внимание какие-либо особые обстоятельства, предысторию и прочие элементы трагической жизни индивидуума. А должен ли он? При этом в случаях, в которых алгоритм ущемляет определенные группа из-за социальных стереотипов (как в примере с корпусом слов), он по прежнему является объективным в рамках предоставленных ему данных.

Большинство алгоритмов машинного обучения делают то, что им говорят данные и статистические методы. Проще говоря, учатся на прошлом опыте: на объективных данных.

Поэтому возникает вопрос: так разве можно утверждать, что результаты, полученные с помощью такого (объективного) подхода, несправедливы?

Это и есть дилемма этики в ИИ: по мере того, как мы пытаемся стереть грань между человеческим мозгом и мозгом искусственного интеллекта, необходимо также определить грань между этическими и нравственными их составляющими.

Подробнее..

Перевод Кастовая дискриминация в Кремниевой долине

20.08.2020 16:15:21 | Автор: admin

Индийцы из неприкасаемых каст, работающие в американских технокомпаниях, рассказывают журналу VICE о том, как пытаются скрывать свои реальные личности, чтобы избежать кастовой дискриминации, которую считали делом прошлым.




Когда в 2002 году в возрасте 21 года Майя, индийский программист, покинула Индию, то решила, что оставляет дома деспотическую кастовую систему.

Майя принадлежит к далитам [угнетённые самоназвание людей из каст, которые в русском языке принято называть "неприкасаемые" / прим. перев.], которых раньше в индийской системе каст называли неприкасаемые. Кастовая система управляла структурой индийского сообщества много веков. Согласно ей людей ранжируют при рождении, и ранг человека влияет на все аспекты его жизни, включая работу, брак и доступ к образованию.

Однако вскоре она узнала, что кастовая дискриминация не знает границ, и вот уже 18 лет она подвергается дискриминации со стороны брахманов, членов высшей касты, организовавших влиятельные клики со множеством крупнейших компаний Кремниевой долины. Чтобы получить работу, она скрывала свою личность и использовала вымышленные имена.

Социальную изоляцию ощущаешь даже со стороны коллег. Они не хотят есть с тобой вместе, не улыбаются в ответ, не общаются подолгу, рассказала нам Майя. Если я использую своё настоящее имя, меня не приглашают на собеседования.

Десятилетиями эта молчаливая дискриминация не афишировалась, поскольку неприкасаемые опасались высказываться по этому поводу, боясь потерять работу или рабочую визу. Но в июне всё поменялось впервые в истории США штат Калифорния подал в суд на Cisco Systems и двух её сотрудников, обвиняя частную компанию в кастовой дискриминации.

Истцом в данном иске выступил индийский неприкасаемый, обвинивший двух коллег, принадлежащих к высшей касте, в дискриминации путём изоляции от коллег и отказа в продвижении по службе.

В течение нескольких недель после объявления иска более 250 неприкасаемых из Google, Facebook, Microsoft, Apple, Netflix, и десятков иных компаний из Кремниевой долины, заявили о дискриминации, запугивании, остракизме и даже сексуальных домогательствах со стороны коллег-индийцев из высших каст, как следует из данных, предоставленных нам адвокатской группой Equality Labs.

От неприкасаемых работников из Facebook поступило 33 жалобы, из Google 20 жалоб, из Microsoft 18, из Cisco 24, из Amazon 14. Также зафиксированы жалобы от сотрудников Twitter, Dell, Netflix, Apple, Uber, Lyft и десятков других, более мелких компаний из Кремниевой долины, а также из нескольких компаний, не связанных с высокими технологиями.

Думаю, что практически все технокомпании этому подвержены, рассказал Тенможи Сундараджан, директор Equality Labs. Думаю, что вся Долина напряжённо следит за исходом дела Cisco.

Заявления о распространении кастовой дискриминации по всей Кремниевой долине подкрепляются свидетельствами шести неприкасаемых, живущих в США, и рассказавших нам об их опыте дискриминации, тянущемся от самой американской системы образования и до наиболее значимых мировых компаний.

Кастовая дискриминация существует во всех американских компаниях, где работают индийцы, сказала Майя, которая, как и все остальные неприкасаемые, общавшиеся с нами, использует псевдоним, опасаясь, что если её настоящее имя и кастовая идентичность станет известной, это поставит под угрозу её работу и будущее.

Во многих технологических компаниях встречаются команды, целиком состоящие из индийцев, и там неприкасаемые часто подвергаются кастовой дискриминации, ограничивающей их возможности.

Всё это похоже на мафию, сказал Сундараджан. Вы выступаете не против одного негодяя; вы идёте против целой сети, и именно это всё сильно усложняет, и именно поэтому людям так тяжело было делать заявления на эту тему.

И, судя по всему, компании, в которых всё это творится, мало что делают для взятия ситуации под контроль в плане чётких инструкций, направленных на решение кастовых проблем или даже не осознают, насколько эта проблема распространена.

В большинстве этих компаний отделы по работе с персоналом просто недостаточно культурно образованы в планет кастовых проблем, чтобы хотя бы принять факт наличия этих проблем, сказал Сундараджан.

За последние несколько недель с Equality Labs связались уже 259 человек, стремясь поделиться своими историями, включая дискриминацию при найме, токсичную рабочую культуру, сексуальные домогательства, грязные намёки, связанные с кастами, понижение по службе и даже увольнения и всё это исключительно из-за их статуса неприкасаемых и принадлежности начальства к высшим кастам.

Почти все компании проигнорировали наши запросы комментариев к этим жалобам. Microsoft, Uber и Netflix отказались давать комментарии под запись, а Dell, Cisco и Twitter дали общие ответы о стимулировании разнообразия и обработке жалоб хотя ни один из ответов не относился к кастовой проблеме напрямую.

Индийцы в Америке


В Кремниевой долине доминируют преимущественно белые мужчины, особенно на должностях генеральных и исполнительных директоров. Однако в техноиндустрии индийцы заняли важную нишу, будучи умелыми инженерами и программистами.

Индийские мигранты в США обычно имеют высшее образование и медианный доход, в два раза превышающий средний. Они также заполняют важные ниши по навыкам в крупнейших американских компаниях.

Особенно явно это видно в Кремниевой долине, где индийская система образования с упором на технологии даёт постоянный приток высокообразованных работников. К примеру, более 70% виз H1-B, широко используемых компаниями Долины для найма иностранных специалистов в 2019 году получили индийцы.

Сундар Пичаи, директор Google, и Сатья Наделла, глава Microsoft индийские иммигранты, выходцы из касты брахманов, ставшие сегодня главами двух из наиболее влиятельных организаций в мире.

История индийской иммиграции выглядит, как история невероятного успеха. Однако проблема кастовой дискриминации по отношению к выходцам из низших каст, которую по большей части игнорируют, показывает, что укоренившаяся предвзятость никуда не делась, и годами заставляет жить десятки тысяч людей в страхе.

Укоренившаяся в культуре


В 1950 году Индия приняла конституцию и провозгласила кастовую дискриминацию незаконной. Одновременно было отброшено понятие неприкасаемых, и правительство развернуло программу конструктивных перемен, с тем, чтобы гарантировать членам низших каст возможность получения образования и фиксированную квоту на государственную службу.

Но, несмотря на эти попытки, кастовая дискриминация всё ещё свирепствует в Индии. Только на этой неделе толпа из более 10 человек избила неприкасаемого мужчину палками в южном индийском штате Карнатака только за то, что тот прикоснулся к мотороллеру человека из высшей касты.

Касты встроены в индийскую культуру, и давно уже предполагалось, что эта система мигрирует вместе с выходцами из Индии в другие страны.

Если индийцы мигрируют в другие края Земли, кастовая система станет общемировой проблемой, предсказал ещё в 1916 году Б.Р. Амбедкар, государственный деятель из неприкасаемых, глава движения за права человека и автор индийской конституции.

Более чем сто лет спустя это предсказание сбывается.

Нет сомнений в том, что, переезжая в США, индусы привозят с собой свою культуру, и подавляющее их большинство принадлежит к высшим кастам. Только 1% из них неприкасаемые, рассказал нам Кевин Браун, профессор Юридической школы Морера при Индианском университете, который последние 25 лет посещает индию для изучения кастовой дискриминации. Если индусы из высших каст распознают в них неприкасаемых, нет никаких сомнений, что они будут подвергаться дискриминации и здесь, в США.

Поскольку правительство США не различает касты при выдаче виз, надёжных цифр, говорящих о том, сколько из порядка 3 млн индийцев, живущих в США, относятся к неприкасаемым.

В индийской популяции неприкасаемых около 25%, но поскольку обычно у них нет таких возможностей по получению образования, как у индийцев из высших каст, количество неприкасаемых, прибывающих в США, гораздо ниже.

Но даже если бы неприкасаемые составляли всего 1% от всех индийцев, живущих в США порядка 3 млн получалось бы, что дискриминации подвергаются 30 000 неприкасаемых, что почти все они живут в страхе, скрывая свою кастовую идентичность, поскольку её раскрытие привело бы к притеснениям, увольнениям или социальной изоляции.

И если в Индии кастовая дискриминация вне закона, в США такой защиты не существует.

Все эти группы индийцев из высших каст повязаны между собой, и все всех знают. Связи простираются между всеми компаниями, рассказал нам Сэм, последние 12 лет работающий в технокомпаниях США, включая Cisco.

Однако инженеры из неприкасаемых сталкиваются с дискриминацией ещё до того, как попадут в Кремниевую долину.

Кастеистский монстр


В опросе, проведённом компанией Equality Labs в 2016 году, 40% учащихся из неприкасаемых сообщили о дискриминации в образовательных учреждениях США, и всего 3% членов высших каст сообщили о подобных случаях. С этим, к примеру, столкнулся и Суреш, приехавший из Индии в Фарго для изучения инженерных наук в Университете Северной Дакоты в 2012 году, когда там училось порядка 500 индийцев.

На одной из подработок Суреш услышал, как несколько индийских студентов оговаривали других индийцев из низших каст, используя жаргонные ругательные словечки.

Я сказал одному из них: из-за такого кастеистского монстра, как ты, тормозится мировой прогресс. Настоящая проблема это ты. Ты считаешь, что по праву рождения превосходишь других. Это ужасный образ мыслей.

Однако в итоге его индийские сокурсники стали его игнорировать и избегать.

Двое студентов из неприкасаемых, видевших этот инцидент, позже сказали Сурешу, что поддержали бы его, но боялись, что их заклеймят неприкасаемыми и вышвырнут из общежития, поскольку их соседи настаивали на том, чтобы жить только с представителями высших каст.

Суреш сказал, что он до сих пор переписывается с одним из этих неприкасаемых, работающим сейчас на Deloitte и до сих пор скрывающим своё происхождение из страха потерять работу.

Ты вегетарианец?


Сейчас Суреш работает в техноиндустрии в США, и хотя на своём рабочем месте с дискриминацией не сталкивался, он видел, насколько открыто индийцы могут говорить об этом в присутствии мало что понимающих американцев.

Я видел, как сидящие на одном этаже с нами подрядчики IBM открыто говорят о кастах, открыто свысока общаются с низшими кастами, говорят о том, что такие люди не заслуживают того, чтобы находиться здесь, и вовсю пропагандируют свою кастовую идеологию.

Подобное поведение соответствует обвинениям, описанным в иске к Cisco тому, что другие неприкасаемые рассказали нам об атмосфере в американских технокомпаниях, где работают тесно связанные между собой группки индийцев из высших каст.

Кастовая дискриминация может принимать разные формы, как явные, так и неявные.

Майя говорит, что её босс на одной из работ, индиец из высшей касты, просто игнорировал её предложения на встречах, пока коллеги не начали это замечать.

Райна, живущая в США 15 лет, говорит, что её повышение на работе откладывали 5 лет, когда она работала с индийцами из высших каст. Когда она перевелась на другую работу, где индийцев не было, её повысили через четыре месяца.

Башкар, работающий на государственную компанию, говорит, что работает в техносекторе уже 20 лет, в основном в качестве подрядчика. За это время он посетил более 100 собеседований, и утверждает, что был только один случай, когда он получил работу в компании, где одним из интервьюеров был индиец.

Индийцы не будут спрашивать напрямую, из какой вы касты, поскольку это считается чрезмерной дискриминацией, но буду использовать обходные пути, чтобы определить ваше место в кастовой структуре.

Иногда они могут спросить, вегетарианец ли ты? И если ты ответишь утвердительно, они спросят, вегетарианец ли ты по рождению или по выбору, а потом дойдут и до того, из какой ты деревни, поскольку иногда деревня выдаёт твою касту, сказал Сэм.

Ещё один метод, как нам рассказали похлопать по спине, чтобы узнать, носит ли человек джану, священную белую нитку, которую обычно носят представители высших каст.

Также индийцы из высших каст проводят исследование учётных записей человека в соцсетях, чтобы определить религиозные взгляды или диету кандидата.

Ситуация ухудшается


Хотя опыт дискриминации собеседники редакции описывают по-разному, все они сходятся в одном: ситуация с кастовой дискриминацией в Кремниевой долине и в целом в США ухудшается, а не улучшается.

Она ухудшается, сказала Майя. Особенно с усилением правого правительства в Индии и США сторонники кастового превосходства осмелели.

Некоторые обвиняют сеющую распри политику индусского национализма Нарендра Моди, которая вкупе с популизмом Дональда Трампа в США создала благоприятную для процветания дискриминации атмосферу.

Моди подталкивает Индию в сторону индуистской нации, сказал Браун. Он проталкивает индусские верования, одним из аспектов которых является неприкасаемость. Индия начинает принимать индуистские традиции, которые по определению ведут к дискриминации неприкасаемых благодаря истории индуизма.

Связь между национализмами Моди и Трампа явно прослеживалась в прошлом году, когда на редком митинге в честь иностранного лидера президент США описал Моди, как одного из величайших, преданных и лояльных друзей Америки.

Иронично, что в 2014 году именно неприкасаемые помогли Моди стать главой страны, но во время его правления их положение ухудшилось. Согласно неприкасаемым, живущим в США, это же самое испытывает сообщество индийских мигрантов.

И теперь неприкасаемые беспокоятся о том, что для следующего поколения ситуация не изменится.

Ситуация реально ухудшилась, и я беспокоюсь за свою дочь, говорит Райна, жалея о том, что не может позволить своей дочке играть с детьми других индийцев, боясь, что те семьи начнут расспрашивать её о её касте.

С моей изоляцией я справлюсь, сказала Райна. Я могу сосредоточиться на чём-то другом. Но я не знаю, как отвечать на вопросы четырёхлетнего ребёнка".
Подробнее..

Эйджизм в IT-среде есть ли потолок в профессии разработчика?

12.03.2021 18:21:40 | Автор: admin

ВITможно начать зарабатывать первые деньги будучи школьником, достаточно интересоваться технологиями иполучать практический опыт. Многие студенты технических вузов уже напервых курсах устраиваются наофициальную работу, начинают профессиональную карьеру идаже получают приглашения наработу зарубеж. Однако внекоторых компаниях рассматривают специалистов только состажем от57 лет. Согласно исследованию Statista, средний возраст сотрудников крупнейших IT-компаний, таких как Facebook, Google, Apple 2735 лет.


Номожноли всю жизнь писать код илиже, как вфутболе, есть ограничения повозрасту?


Мыпообщались стехническими специалистами изразных компаний ввозрасте 35+инаоснове ихопыта попробуем выяснить, как насамом деле обстоят дела свозрастными специалистами вIT.




Источник


Влияетли возраст накарьерный рост вIT-компании?


Специалисты, скоторыми нам удалось пообщаться, сходятся вомнении: вработе разработчика возраст неглавное, важно желание работать ипрактические навыки врешении прикладных задач. Новсе они выделяют две крайности слишком молодые иамбициозные специалисты, которые еще необладают ниsoft, ниhard skills, ивозрастные специалисты, которые неготовы менять свои устоявшиеся убеждения инавыки наболее совершенные.


Хотя это больше относится кобщечеловеческому фактору, готов специалист развиваться, прислушиваться, меняться для достижения результата или нет. Все зависит отуровня мышления если человек интересуется развитием технологий, постоянно что-то тестирует, пробует иприменяет вработе иможет донести свои идеи докоманды возраст неважен, онсможет быть продуктивным ибыстро вырасти вкомпании.


Например, Андрей руководитель разработки состажем 20лет, впрошлом сам разработчик, считает: Хороший IT-специалист неможет оставаться наодном уровне, технологии развиваются настолько стремительно, чтото, что было актуально 2года назад уже давно морально устарело иможет считаться даже мертвой технологией, накоторой больше неработают. Поэтому горизонтальный рост, получение все новых hard skills впрофессии просто неизбежен, иначе стагнация ириск водин момент оказаться забортом. Один знакомый, некогда успешный разработчик, женился иуехал изстолицы врегион, устроился там работать вмаленькую IT-компанию изанимается разработкойПО под Apple TVна уже несуществующем языке ObjectiveC, хотя Apple уже несколько лет работает наболее простом Swift. Представьте, что сним будет, если вдруг компания закроется, аему42, иего знания инавыки устарели?


Опрос специалистов показал, что большинство грамотных иразвивающихся специалистов растут вертикально, причем это часто естественный процесс роста, всвязи споявлением нового продукта вкомпании, срасширением штата исосменяемостью руководящего состава. Большая часть разработчиков старше 35лет занимает руководящие, анелинейные позиции. Причем многие изних никогда даже непланировали управлять разработкой, просто занимались любимым делом.



Мнение


Павел, 36лет, руководитель группы разработки продукта


При выборе специалистов вкоманду апри активном росте они нужны постоянно яотдам предпочтение более опытным разработчикам, анеслишком молодым. Идело даже невопыте, как таковом, автом, как работает мозг человека. Чаще всего сыграет свою роль практический опыт 4-5 лет вработе над реальным проектом, окотором человек может рассказать вдеталях. Бывают, конечно, случаи, когда специалист 15лет проработал наодном месте, авбеседе выясняется, что ондаже опроекте рассказать неможет. Абывает, что через 5минут общения учеловека уже оффер вкармане, хотя доразговора про технику речь еще недошла. Если коротко всегда ищу горящий взор ибыстрыйум.


Сам сэйджизмом несталкивался, меня несмущает возраст, иногда сам непомню, сколько мне лет). Мне всегда нравилась разработка, иповезло попасть вслаженную команду, где каждый работал как часы. Потом сростом компании пригласили наразвитие другого продукта, ипосле ухода руководителя, япришел наего место ируковожу группой разработки уже второй год. Надо сказать, что это совсем иная работа сдругим уровнем ответственности, иименно моя задача нетолько сформировать команду, ноиувидеть сильные стороны каждого сотрудника ипоручить тезадачи, скоторыми онблестяще справится.


Ясчитаю, что опыт работы это всегда преимущество, прежде всего, вумении формулировать задачи иихвыполнять. Молодые могут выполнить задачу академично, более возрастной специалист конструктивно, исходя изособенностей проекта.





Естьли эйджизм при трудоустройстве?


Основновной критерий подбора кадров это умение решать технические задачи иадекватная коммуникация внутри команды, вне зависимости отвозраста. Наэтом этапе решение принимает тимлид.


Апервичный отбор проводит HR-специалист, чья задача отсеять нерелевантных кандидатов, которые неподходят для работы вкоманде. Ивозраст здесь может иметь значение бывают случаи, когда кандидатов моложе 25истарше 30даже нерассматривают. Сталкивались стаким явлением при трудоустройстве?



Мнение


Дмитрий, 45лет, Team-lead отдела back-end-разработки


Работа вIT это постоянное развитие, изучение новых подходов ирешений. Где-то год назад пришла идея получить новый опыт вкрупной IT-компании, попробовать свои силы ввысоконагруженных проектах ивойти вновое окружение. Японимал, что там другие требования иготов был пожертвовать руководящей должностью, слаженной командой ивстать напозицию Junior. Отлично знаком спроектированием сложной предметной области. Был опыт разработки pet-проектов сприменением архитектурных решений, рассчитанных нанагрузки. Наgithub привел впорядок личные репозитории. Казалось, что напозицию junior или middle явполне смогбы рассчитывать. Нокаковоже было мое удивление, когда нинаодин отклик янеполучил ответа или приглашения насобеседование. Отзнакомого узнал инсайдерскую информацию, что вHR-службах крупных IT-компаний есть негласное правило нерассматривать резюме специалистов старше 30лет, только если порекомендации, испециалист выглядит моложе своих лет.


Яже считаю, что для разработчика человека творческого, который решает нестандартные задачи, более важен живой умикомфорт вработе, аневнешность. Доэтого случая сэйджизмом вработе янесталкивался, возраст скорее вызывал приятное удивление состороны коллег, что ястарше многих, аобщение наодном уровне.


Специалист ввозрасте 30+в команде ценен своим практическим опытом количеством часов, посвященных разработке иизучению технологий. Ему проще осваивать новые навыки, там где новичку нужен месяц, опытному разработчику 3-4 дня, аза6месяцев перед его профессиональным ростом просто нет границ.


Часто молодым нехватает опыта написания исопровождения плохого кода. Поддержка слабо написанного проекта лучший способ понять, как делать ненужно. Бывают ребята, которые сразу пишут хорошо, ноэто скорее исключение. Зато умолодых больше времени для изучения новых технологий. Сейчас столько всего появилось. Ивэтом ихсамое главное преимущество.


Вразработке нет конечной цели есть путь постоянного развития. Втот момент, когда разработчик говорит себе, что ондостиг всего, онперестает быть разработчиком. Считаю, что втакой момент стоит менять профессию. Когда любишь свое дело тыпостоянно что-то изучаешь иреализуешь, совершенствуешься, иэто невозможно остановить".



Что отличает специалиста старшего возраста вколлективе


Андрей, 40лет, руководитель разработки


Чаще всего вкоманде 25-летних специалистов 40-летний кодер неуживется. Онможет показывать свой авторитет, применять более привычные технологии вместо принятых, саботировать принятые правила. Сним могут возникать трудности вобщении, так как более молодому тимлиду будет сложнее объяснить, если что-то нужно переделать.


Носдругой стороны, если человек активный иумеет коммуницировать, незаостряя внимания насвоем авторитете ивозрасте, опытный специалист быстрее может получить иприменить знания, унего небудет страхов исомнений впринятии тактических решений.


Мой опыт найма сотрудников очень разный. Часто сталкиваюсь стем, что специалисты разного возраста водной команде плохо воспринимают друг друга инемогут общаться. Специалисты 45+склонны навязывать свои убеждения более молодым, ителибо принимают ихмнение всилу уважения кстаршим, либо начинают доказывать свою правоту.


Еще 40-летние нередко жалуются наздоровье, могут невыйти вофис, это вцелом ненапрягает, так как работа делается, ноумолодых такое редкость.


Как правило, к30годам упрограммистов появляются семьи иновые обстоятельства, влияющие накачество работы. Многие программисты всилу стресса ихронической усталости уходят изпрофессии ввозрасте 45+. Также среди них имеет место высокий уровень смертности донаступления пенсионного возраста из-за заболеваний сердца, инсультов ичрезмерного употребления алкоголя.


Если говорить омолодых специалистах, тотут тоже есть крайности есть амбициозные иупрямые сотрудники, скоторыми сложно иметь дело, когда hard skills еще мало, аумение конструктивно общаться стремится кнулю.


Ноесть имолодые специалисты, которые могут предлагать совершенно новые инестандартные решения. Например, мне один молодой сотрудник предложил написать нейронную сеть для проверки иотправки писем вместо ручного управления очем яранее даже незадумывался.



Так чтоже делать?


Для IT-специалистов (кажется, как идля всех) важно постоянно развиваться иполучать удовольствие ивидимые результаты отработы. Одни могут стать менторами, другие, руководить командами или создавать свои стартапы, атретьи отлично много лет пишут код иклассно это делают каждый выбирает свой путь. Сложность втом, чтобы понять иделать карьерные шаги опираясь насвое собственное видение. Благо, IT-кандидату можно найти компанию, которая подходит именно тебе.


Авысталкивались сэйджизмом вработе? Какой путь развития вIT для вас оптимален? Обсудим? Ждем ваши истории имнения вкомментариях.

<рекламная пауза>
Хотите пройти собеседование вкомпанию своей мечты? Подключайте телеграм-бота @g_jobbot. Тысячи компаний, втом числе наудалёнку испереездом. Итолько интересующий вас уровень позарплате.
Например, вботе можно вызвать себе впомощь IT-рекрутера командой /human. Онпоможет упаковать опыт, прокачаться внужном направлении иворваться вкомпанию уровня FAANG наконе.
</рекламная пауза>
Подробнее..

Дискриминация в алгоритмах ML существует и нет, это не либеральные сказки

26.03.2021 18:19:00 | Автор: admin

Человеческий мозг, как мы все знаем, полон предрассудков. Возникает вопрос: если машинное обучение "живет" за счет того, что очень близко имитирует этот наш мозг, то почему его алгоритмы не могут быть такими же необъективными и проявлять такую же несправедливость? К сожалению, они частенько это и делают.

Давайте расскажем вам как именно.

Машинное обучение (ML) это очевидно новая звездочка ИТ индустрии. И она уже никуда не денется. Одна из причин, почему ML сыграет (и уже играет) значительную роль в нашей жизни это успешная интеграция его моделей в большое количество уже существующих систем: социальные сети, шоппинг, здравоохранение и т. д.

В настоящее время в отрасль инновационных технологий хотят идти миллионы школьников, студентов и начинающих специалистов, стремящихся сделать карьеру в этой области. При этом, чтобы успешно обучить следующее поколение профессионалов в этой области, необходимо понять несколько неочевидных сторон машинного обучения.

Давно прошли те времена, когда люди могли слепо доверять программам в получении объективных рассчитанных результатов. Алгоритмы машинного обучения не дают простых математических результатов, как это делает калькулятор, а влияют на прогнозы преступной деятельности, медицинские диагнозы и решения о приеме на работу. Поскольку мир всё больше и больше полагается на машинное обучение при принятии важных решений, важно, чтобы мы узнавали о необъективных сведениях, понимали последствия некорректных результатов модели и принимали превентивные меры.

Так какая предвзятость (bias) есть в алгоритмах машинного обучения?

  • Интеграция машинного обучения в здравоохранение вызвала большие споры, потому что некоторые алгоритмы не могли одинаково лечить всех пациентов. Например, алгоритм обнаружения рака кожи был обучен с использованием данных, включающие в себя в основном фото и информацию о светлых тонах кожи. Следовательно, этот алгоритм был не эффективен при обнаружении рака кожи у людей с более тёмными тонами кожи. Несмотря на то, что у ИИ есть много возможностей повысить доступность медицинских услуг для нуждающихся, важно должны убедиться, что качество медицинской помощи не ухудшается для определенных демографических групп.

  • Хороший пример необъективности распознавания естественного языка (NLP) можно увидеть в социальных сетях: твиты, написанные афроамериканцами, в среднем отмечены алгоритмами ИИ как оскорбительные (хотя на самом деле таковыми не являются, показатель false positive) в 1,5 раза чаще, чем такие же твиты белых.

  • Было обнаружено, что даже более серьёзная предиктивная полицейская система неверно оценивает правонарушителей. COMPAS, система искусственного интеллекта, используемая для прогнозирования вероятности совершения преступником другого преступления, оказалась явно настроенной против афроамериканцев. Получилось так, что у афроамериканцев было вдвое больше ложных предсказаний рецидивизма, чем у белых американцев.

Почему эти признаки необъективности существуют?

Модели машинного обучения изучают закономерности в предназначенных для их обучения данных. Таким образом, если набор данных является стереотипным или не разнообразен, модели могут прийти к ложным выводам. Вот несколько примеров потенциальных ошибок обучения (некоторые из которых действительно произошли):

  • Использование обучающих данных, которые поступают исключительно из источника данных о состоянии здоровья военнослужащих. Поскольку большинство военнослужащих мужчины, знания алгоритма о здоровье женщин будут ограничены, что в свою очередь приведет к низкой точности алгоритма.

  • Использование данных, которые навязывают стереотип привязанности одного из полов к ряду обязанностей или занятий. Некоторые модели глубинного обучения связывают мужчину с доктором, а женщину с медсестрой из-за вектора представления слов, отображающего социальные стереотипы (word embedding).

  • Использование данных, которым не хватает разнообразия. Да, той самой любимой дайвёрсити. Многие модели распознавания лиц обучаются на данных, которые включают больше белых людей, чем черных. Исследование Тимнит Гебру и Джой Буоламвини показало, что 3 инструмента для распознавания лиц от крупных технологических компаний смогли почти идеально определить пол белых мужчин, а темнокожих женщин определили неверно в 35% случаев. Это может привести к очень серьезным ошибкам правоохранительных органов.

Откуда мы знаем о существовании этой предвзятости?

Признаки предвзятости всплывают, когда мы сравниваем точность с числом ошибок, которые модель имеет в разных группах. Исследование Тимнит Гебру является ярким примером этого: изучая эту статистику, мы можем увидеть, какие демографические группы дискриминируются моделями. Мы также можем проверить количество положительных и отрицательных результатов, проанализировав, имеется ли примерно одинаковое количество людей из разных групп, получивших один и тот же результат от модели.

Какие возможные способы решения этой проблемы существуют?

Препятствие, с которым в настоящее время сталкиваются многие компании, заключается в том, что им необходимо переобучить свои модели. Существует два главных способа для того, чтобы это сделать:

  • Ликвидация необъективности наборов данных, используемых моделями это влечёт за собой удаление существующих наборов данных, содержащих стереотипные данные, и создание репрезентации и дайверсити в них, в попытках сделать их более точными.

  • Устранение необъективности моделей. Это влечёт за собой изменение фактических векторных представлений слов для удаления стереотипной привязки (мужчина = доктор, и женщина = медсестра) при сохранении нужной гендерной информации (мужчина = король, и женщина = королева).

Тема является довольно неоднозначной и вовлекает проблемы целого общества, однако путем дискуссий и компромиссов решение может быть найдено. Если у вас есть опыт с темой Этики в ИИ - будет интересно прочитать о нем в комментариях.

Подробнее..

Категории

Последние комментарии

  • Имя: Макс
    24.08.2022 | 11:28
    Я разраб в IT компании, работаю на арбитражную команду. Мы работаем с приламы и сайтами, при работе замечаются постоянные баны и лаги. Пацаны посоветовали сервис по анализу исходного кода,https://app Подробнее..
  • Имя: 9055410337
    20.08.2022 | 17:41
    поможем пишите в телеграм Подробнее..
  • Имя: sabbat
    17.08.2022 | 20:42
    Охренеть.. это просто шикарная статья, феноменально круто. Большое спасибо за разбор! Надеюсь как-нибудь с тобой связаться для обсуждений чего-либо) Подробнее..
  • Имя: Мария
    09.08.2022 | 14:44
    Добрый день. Если обладаете такой информацией, то подскажите, пожалуйста, где можно найти много-много материала по Yggdrasil и его уязвимостях для написания диплома? Благодарю. Подробнее..
© 2006-2024, personeltest.ru