Блез Паскаль - один из основателей математического анализа, блестящий физик и философ. С ранних лет он проявлял недюжинные способности во всех областях науки и техники, за которые брался его пытливый ум. Например, в возрасте 8 лет Блез, даже не зная толком названий геометрических фигур (окружность он называл "колечком", а прямую - "палочкой"), доказал 32-ю теорему Евклида о сумме углов треугольника.

Неудивительно, что в 16-летнем возрасте юный гений стал доказывать уже свои теоремы. С одной из таких теорем я бы хотел Вас познакомить. Доказательство теоремы не тривиально (доказательство дял жаждущих), поэтому я просто хочу показать каждому красоту геометрии. Начнем с простого предварительного построения:

Мы взяли две непараллельные прямые, отметили три пары точек (произвольных в известной степени), а затем соединили каждую точку с её противоположными собратьями. О чудо! Все три точки пересечения лежат на одной прямой! Паскаль пошел дальше своего предшественника: "А что, если попробовать сделать то же самое с окружностью?"

А что, если пойти дальше? Ведь окружность - это частный случай эллипса, который, в свою очередь, является одним из трех главных типов т.н. конических сечений:

К коническим сечениям относятся: парабола, эллипс и гипербола + три вырожденных случая - точка, прямая и пара прямых. Именно такую форму принимает пересечение плоскости с поверхностью кругового конуса. Как Вы уже догадываетесь, для параболы результат оказался таким же:

Такого рода построения позволили сформулировать 16-летнему мальчику первую из теорем, названных его именем:

"Если шестиугольник вписан в коническое сечение, то точки пересечения трех пар противоположных сторон лежат на одной прямой".

Современники настолько были поражены теоремой Паскаля, что на латинице она известна как "Hexagrammum Misticum":

Информация об этой теореме вместе с более чем (!!!) 400 следствиями вошла в "Полный труд о конических сечениях", написанный Паскалем в 31 год. Восхищения этой уникальной рукописью уже после смерти гения не скрывал сам Готфрид Лейбниц, но, к сожалению, работа была утеряна племянником Паскаля и так и не была опубликована.

Хотя имеется множество вариантов доказательства теоремы Паскаля, историкам математики не известно, как она была доказана в первоисточнике, хотя многие и сходятся к использованию теоремы Менелая.

В новом предложении квантовые жёсткие диски будет использоваться для объединения световых потоков от нескольких телескопов, позволяя астрономам создавать оптические изображения с невероятно высоким разрешением.

В эксперименте с двумя щелями фотон проходит сразу через обе щели и интерферирует с собой на другой стороне. Волна представляет возможные положения фотона; белый цвет указывает на места его наиболее вероятного обнаружения. Астрономы надеются представить оптические телескопы как отдельные щели. Представьте, что вы можете видеть поверхность похожей на Землю планеты, вращающейся вокруг другой звезды, или наблюдать, как звезда разрывается чёрной дырой.

Такие точные наблюдения в настоящее время невозможны. Однако учёные предлагают способы квантово-механического связывания оптических телескопов по всему миру, чтобы видеть космос с умопомрачительным уровнем детализации.

Хитрость заключается в переносе хрупких фотонов между телескопами так, чтобы сигналы можно было комбинировать или интерферировать в целях создания гораздо более чётких изображений. Исследователи уже много лет знают, что такой вид интерферометрии возможен при наличии футуристической сети устройств телепортации, называемой квантовым Интернетом. Однако, пока квантовый Интернет это далёкая мечта, в новом предложении излагается схема реализации оптической интерферометрии с использованием квантовых запоминающих устройств, которые сейчас разрабатываются.

Этот подход представлял бы собой следующий этап одержимости астрономов размером. Более широкие зеркала создают более чёткие изображения, поэтому астрономы постоянно проектируют всё более крупные телескопы и раскрывают всё больше деталей космоса. Сегодня они строят оптический телескоп с зеркалом почти 40 метров в ширину, что в 16 раз превышает ширину (и, следовательно, разрешение) космического телескопа Хаббла. Однако возможностям роста зеркал есть предел.

Мы не собираемся строить 100-метровый телескоп с одной апертурой. Это безумие! восклицает Лиза Прато, астроном из обсерватории Лоуэлла в Аризоне. Так каково же будущее? Будущее за интерферометрией.

Телескоп размером с Землю

Радиоастрономы десятилетиями занимались интерферометрией. Первое в истории изображение чёрной дыры, опубликованное в 2019 году, было получено путём синхронизации сигналов, поступивших на восемь радиотелескопов, разбросанных по всему миру. В совокупности телескопы обладали разрешающей способностью одного телескопа с зеркалом шириной, равной расстоянию между ними, т.е. эффективный телескоп был размером с Землю.

Чтобы сделать этот снимок, радиоволны, поступающие на каждый телескоп, были преобразованы в данные с точной разметкой временными метками и сохранены. Позднее эти данные были сшиты. Эта процедура относительно проста в радиоастрономии, так как радиоизлучающие объекты, как правило, чрезвычайно яркие, а радиоволны относительно большие, и поэтому их легко выровнять.

Оптическая интерферометрия гораздо сложнее. Длина видимых волн измеряется сотнями нанометров, что оставляет гораздо меньше пространства для ошибок при накладывании волн в зависимости от времени их поступления в разные телескопы. Более того, оптические телескопы строят изображения фотон за фотоном из очень тусклых источников. Такие зернистые сигналы невозможно сохранить на обычных жёстких дисках без потери информации, жизненно важной для интерферометрии.

Астрономам удалось напрямую связать близлежащие оптические телескопы оптоволоконными кабелями подход, который в 2019 году привёл к первому прямому наблюдению экзопланеты. Однако подключение телескопов на расстоянии более 1 километра или около того чрезвычайно громоздко и дорого, рассказывает Тео тен Бруммелаар, руководитель CHARA Array, оптического интерферометрического массива в Калифорнии. Если бы существовал способ регистрации фотонных событий в оптическом телескопе с помощью какого-то квантового устройства, это было бы большим благом для науки.

Щели Юнга

Джосс Бленд-Хоторн и Джон Бартоломей из Университета Сиднея и Мэтью Селларс из Австралийского национального университета недавно предложили схему реализации оптической интерферометрии с использованием квантовых жёстких дисков.

Принцип, лежащий в основе нового предложения, восходит к началу 1800-х годов, до квантовой революции, когда Томас Юнг разработал эксперимент, чтобы проверить, состоит ли свет из частиц или волн. Юнг пропустил свет через две близко расположенные, отдельные щели и увидел, что на экране позади образовался узор из регулярных ярких полос. Он утверждал, что эта интерференционная картина возникла из-за того, что световые волны из каждой щели гасят друг друга и складываются в разных местах.

А потом всё стало ещё более странным. Квантовые физики обнаружили, что интерференционная картина для двух щелей сохраняется, даже если отправлять фотоны к щелям по одному. Точка за точкой они постепенно создают на экране те же самые светлые и тёмные полосы. Однако, если кто-нибудь проследит, через какую щель проходит каждый фотон, интерференционная картина исчезнет. Невозмущённые частицы ведут себя только как волны.

Теперь представьте, что вместо двух щелей у вас два телескопа. Когда один фотон из космоса прибывает на Землю, он может попасть в любой телескоп. Без измерения как в случае с двойными щелями Юнга фотон представляет собой волну, которая входит в обе щели.

Бленд-Хоторн, Бартоломью и Селларс предлагают подключить к каждому телескопу квантовый жёсткий диск, который способен записывать и хранить волноподобные состояния входящих фотонов, не нарушая их. Через некоторое время жёсткие диски переносятся в одно место, где сигналы накладываются друг на друга, чтобы создать изображение с невероятно высоким разрешением.

Квантовая память

Чтобы это сработало, квантовые жёсткие диски должны хранить много информации в течение длительного периода. Один из поворотных моментов наступил в 2015 году, когда Бартоломью, Селларс и коллеги разработали запоминающее устройство из ядер европия, встроенных в кристалл, которое могло хранить хрупкие квантовые состояния в течение шести часов с возможностью продления этого срока до нескольких дней.

Затем, в начале этого года, команда из Университета науки и техники Китая в Хэфэе продемонстрировала возможность сохранения данных о фотонах в аналогичных устройствах с последующим считыванием.

Очень интересно и удивительно видеть, что методы квантовой информации могут быть полезны для астрономии, сказал Цзун-Цюань Чжоу, который был соавтором недавно опубликованной статьи. Чжоу описывает мир, в котором высокоскоростные поезда или вертолёты быстро перемещают квантовые жёсткие диски между далёкими телескопами. Однако ещё предстоит выяснить, могут ли эти устройства работать за пределами лабораторий.

Бартоломью уверен, что жёсткие диски можно защитить от случайных электрических и магнитных полей, нарушающих квантовые состояния. Однако им также придётся выдерживать перепады давления и ускорение. Исследователи также работают над созданием жёстких дисков, которые способны хранить фотоны с различными длинами волн это необходимо для захвата изображений космоса.

Не все думают, что это заработает. В долгосрочной перспективе, если эти технологии будут реализованы на практике, им потребуется квантовая сеть, рассуждает Михаил Лукин, специалист по квантовой оптике в Гарвардском университете. Вместо физической транспортировки квантовых жёстких дисков Лукин предложил схему, которая будет опираться на квантовый Интернет сеть устройств, называемых квантовыми ретрансляторами, которые телепортируют фотоны между площадками, не нарушая их состояния.

Бартоломью возражает, говоря: У нас есть веские причины для оптимизма в отношении квантовых жёстких дисков. Я думаю, что в течение 510 лет мы сможем увидеть предварительные эксперименты, в которых фактически начнём наблюдать реальные [астрономические] источники. Напротив, создание квантового Интернета, по словам Бленда-Хоторна, от реальности отделяют десятилетия.

В области физики необходим всесторонний анализ данных, поступающих не только с телескопов, но и с датчиков для отслеживания экспериментов. Анализ больших массивов данных также востребован бизнесом. Если эта сфера вам интересна, вы можете обратить внимание на профессию Data Analyst мы поможем прокачаться занятому специалисту или освоить её с нуля.

Узнайте, как прокачаться и в других специальностях или освоить их с нуля:

• Профессия Data Scientist

• Курс по Data Engineering

Пришло время затронуть психологическую тему, которая представит интерес у всех специалистов в области обработки данных. Как измерить счастье пользователя? Какие ответы приходят вам в голову? Дайте-ка угадаю. По ответам, полученным при анкетировании? По отсутствию жалоб? По количеству откликов? По склонности к длительному пребыванию на сайте? Внимание! Правильный ответ Никак.

Как выразился профессор Даннинг-Крюгер, если вы думаете, что ответы на вопросы о счастье закроют тему, мучившую философов тысячелетиями, крепко подумайте ещё раз. А как насчёт успеха? Как его измерить? Никак.

Как измерить уровень злости? Никак. (Чувствуете единство ответов? Да-да, это я специально пытаюсь возбудить в вас чувство злости. Обратите эту злость в размышления над сходством описываемых мною понятий.) Как измерить кредитоспособность? Никак. Как измерить уровень любви? Никак. Как измерить качество маркетинговой кампании? Никак!

Что такое счастье?

Что общего у всех этих понятий? Все они крайне расплывчаты.

Когда вы слышите слово "счастье", в голове у вас возникает какой-то смутный образ, верно? Но то, что представляете вы, наверняка не будет совпадать с тем, что приходит на ум человеку рядом с вами. Возможно, в другое время и в другом настроении у вас в голове возникнет совсем другой образ.

Есть соблазн оспорить нейробиологическую точку зрения? Погодите, мы же можем залезть в мозг и узнать, счастливы ли они Знаем плавали. Перед поступлением в магистратуру по специальности Статистика я училась в аспирантуре при кафедре нейробиологии, изучала нейроэкономику (да, есть такой предмет) всякие первичные и вторичные сигналы, возникающие в человеческом мозге. Кстати, именно на эту тему я писала диссертацию.

Мне повезло я поступила на работу в очень хорошо оборудованную лабораторию:

• Сканеры фМРТ, ф означает функциональную магнитно-резонансную томографию (МРТ). Полученные изображения не статичны, они представляют собой карту изменений насыщенности крови кислородом, отображаемую с задержкой в несколько секунд. Такая карта используется для локализации мозговой активности во время экспериментов.

• ЭЭГ-аппараты. ЭЭГ сокращённое название термина электроэнцефалография, то есть метод, использующий сети электродов для записи электрической активности кожи головы. Этот аппарат дополняет функциональность МРТ, отвечая не только на вопрос где?, но и на вопрос когда? Метод ЭЭГ предоставляет гораздо более точные временные данные миллисекундного уровня о реакции мозга на различные стимулы.

• Трекеры глаз. Комплекты специализированных устройств, состоящие из высококлассной камеры и такого же высококлассного программного обеспечения для составления карты мест, на которые участники исследования бросают взгляды. Такие трекеры позволяют исследователям изучать аспекты зрительного внимания человека.

• ТМС-аппараты. В приборе транскраниальной магнитной стимуляции (ТМС) используются мощные электромагниты, вызывающие электрическую активность в мозге и провоцирующие поведение. Да, контролировать разум можно (и эти методы даже получили одобрение Американской комиссии в сфере надзора за лекарственными препаратами и продуктами питания (FDA) для лечения депрессии), но вы особо не волнуйтесь: подкрасться к вам с прибором размером с холодильник на колёсах, который даже не будет работать, стоит вам хоть чуть-чуть сдвинуться с места, просто нереально.

Но, даже учитывая, какой замечательный набор инструментов был в моём распоряжении, измерить счастье пользователя я не могла. Не могла и, честно говоря, не пыталась. К счастью, мне, как и любому другому нейробиологу на планете, это с самого начала было хорошо известно.

Но почему? Всю первую неделю нашего обучения на курсе нейробиологии/психологии в аспирантуре преподаватели "вбивали" в нас важную концепцию. Если мы не проникались идеей, в ход шла палка (шутка!). Пришло время и вам узнать, что это за идея. Итак, встречайте: операционализация!

Вот слово, о котором с уверенностью можно сказать, что один чёрт знает, что оно может означать.

Искусство и наука создания метрик

Само слово операционализация для разных групп людей может означать совершенно разные понятия. Когда я произношу это слово, я имею в виду следующее:

Операционализация это создание поддающихся измерению приближённых значений для тщательного изучения нечётких понятий.

Я придаю этому слову тот же смысл, что и Wikipedia: "При проектировании исследований под операционализацией понимается процесс определения меры явления, не поддающегося непосредственному измерению, хотя на его существование указывают другие явления. Это процесс определения нечёткого понятия, в ходе которого теоретическое понятие становится чётко различимым и поддающимся измерению, а также процесс понимания явления в процессе эмпирических наблюдений".

Именно операционализация является причиной, по которой психология может утверждать, что она точная наука. Без операционализации мы все топтались бы на месте. Но как измерить то, что нельзя даже точно определить?

Никак.

Зыбкость человеческих слов

Некоторые объекты определяются способом их измерения. С фиксированным смыслом всё элементарно это очень простые для измерений температура, масса, количество калорий, расстояние, дни недели и пр. Когда речь заходит об измерениях, психологи сильно завидуют физикам, для которых что-то измерить пара пустяков.

Вообще говоря, какой же это изнурительный труд продираться сквозь туманные фразы человеческого языка, пытаясь получить научные данные от объекта, который и как у него только это получается! делает всё, чтобы его поняли не так!

Проблема в том, что большинство человеческих коммуникаций изначально содержат в себе неопределённость. Наиболее точной коммуникационной формой является математика (язык, на котором говорят очень мало людей и все сугубо аккуратно) и, как бы сильно вы ни любили математику, я надеюсь, вы согласитесь, что она слишком громоздка для ведения повседневных разговоров.

Быстрее (но не обязательно точнее) понять мысль можно, если не запрещать режим двусмысленности и позволить слушателям интерпретировать наши слова, как им представляется правильно.

Человеческий язык может быть настолько неточным, что, во-первых, может быть понят с ошибками с самого начала и, во-вторых, он может во всех последующих передачах накапливать и накапливать ошибки.

Каждый раз, когда мы говорим о чём-то абстрактном, мы используем либо минимальное количество слов (какие-то важные нюансы из речи могут просто исчезать), либо очень большое количество слов (что чревато разветвлением смыслов экстраполяционной интерпретацией). Как это ни парадоксально, такие слова, проникающие в ваш мозг, могут означать вовсе не то, что я имела в виду, когда выпускала их из своего мозга.

Так как я не знаю программных настроек вашего мозга, через которые вы фильтруете мои слова, представляется совершенно невероятным, как же вам всё-таки удаётся понимать меня хотя бы приблизительно. И всё же я почти всегда уверена, что большинство моих слушателей в основном понимают меня правильно. Вообще, люди это удивительные существа.

Округление реальности

Словесная передача информации помогает передавать больше информации за единицу времени, однако любые туманные, размытые выражения, красивости и поэтические абстракции снижают надёжность передачи информации. Но ситуация не так плоха, как может показаться, особенно если предполагать, что слушатели, услышав ваши слова, кое-что додумают сами.Но, если пространство для интерпретаций отлично работает для текстов песен и рекламных буклетов, такой подход абсолютно непригоден, например, для математических доказательств или научных исследований. Если ваша цель состоит в том, чтобы сообщить слушателям точные инструкции, которым они должны следовать, не отклоняясь ни на шаг, иначе ничего не получится, например, сообщить коллеге, что именно вы делали, чтобы создать некий предмет, чтобы он мог повторить ваши действия, "поэтический" подход будет малопродуктивен. Вот почему психология без операционализации никакая не наука и вот почему, если на глазок определить коммерческие показатели, проблем у вас будет гораздо больше, чем если бы вы с самого начала попытались их измерить.

Ставя метки на реальность, мы придаём реальности законченность, округляем её.

Одной из самых требовательных областей, не оставляющей никаких лазеек для интерпретации, является машинное обучение. Люди привыкли разговаривать с другими людьми при помощи недомолвок. Мы уже привыкли к такому способу общения ведь мы знаем, что слушатели сами смогут додумать смысл, который вкладывается в слова, даже если мы сами зачастую не вполне понимаем, что пытаемся сказать. Машины так не делают. Они делают исключительно то, что им приказано. Если приказать им поделить "одно" на "другое", они именно так и сделают. Они не станут говорить: Послушайте, босс, я думаю, надо "поделить не "это" на "то", а "это" на "вон то"

Кроме того, категории, к которым мы относим полученные данные, в любом случае строятся на той же неопредёленности, и метки, которые мы ставим на реальность, многое говорят о наших склонностях. К сожалению, системы машинного обучения могут принимать наши слова за чистую монету и брать в работу заведомо неверно интерпретированные слова и даже усиливать их смысл, если мы выразимся недостаточно аккуратно. Чтобы избежать некоторых катастрофических и весьма распространённых проблем при работе с системами ML/AI-обработки данных, очень важно развивать умение говорить именно то, что имеется в виду, и правильно понимать то, что было сказано.

При работе с системами ML/AI/обработки данных очень важно развивать умение говорить именно то, что имеется в виду, и правильно понимать то, что было сказано.

Психологический практикум

Психологической науке понадобилось больше века, чтобы понять опасность измерения того, что не было определено вначале надлежащим образом, зато теперь у нас есть чёткое понимание, которым мы готовы поделиться с лидерами бизнеса и учёными, занимающимися обработкой данных. Хотите узнать наши рекомендации по операционализации? Ретвитните эту статью!

Лучший совет из психологии по созданию метрик

Сначала определите метрику и лишь потом давайте ей название.

Операционализация очень часто предполагает ломку стандартного образа мыслей: не нужно увлекаться красивыми и эффектными словами и выражениями и вставлять их где нужно и не нужно. Просто задумайтесь на пару минут, какое именно количество какого объекта реального мира вы хотите измерить. Даже если вас вдохновляет какой-нибудь поэтический образ, подумайте, почему вас так привлёк именно этот образ.

Так как насчёт термина "счастье" в применении к вашей бизнес-проблеме? Ответьте сами себе на следующие вопросы. Почему возникла необходимость в этом термине? С каким именно реальным поведением связан этот термин? На что похоже такое поведение? Представляете ли вы себе улыбающегося пользователя, весело проводящего время на вашем сайте? Возможно, вы так себе это и представляете.

А теперь забудьте об исходном слове. Назовите его не "счастье", а, например, Х. И начинайте делать то, что делают, к примеру, математики: "Пусть Х = склонность пользователя проводить время на сайте".

Обдумайте хорошенько, что может означать это количество. На самом ли деле это то количество, которое вы хотите измерить и на основе которого будете принимать решения? Вполне возможно, что это именно то количество.

Отлично. Вот теперь ему можно дать название. Дав имя этому количеству, вы экономите время, описывая его на бумаге или рассказывая о нём другим людям. Сначала вы можете назвать это количество X. Но потом вы можете дать ему любое имя: счастье, или какое-нибудь фигастье, или даже X A-12.

Но вот о чём не нужно забывать. Назвать количество можно как угодно, если оно не будет нести оскорбительного смысла (этикет надо соблюдать, опять же здравый смысл!), и вы (а вместе с вами и аудитория) должны помнить, что название это отправная точка для определения специфического понятия: "склонности пользователя проводить время на сайте". Название не должно навевать мысли о платоническом "счастье" Платона, поэтому назвать такое количество "Платон" будет не очень хорошей идеей.

Если помнить, что название это отправная точка, вы с меньшей вероятностью скажете какую-нибудь глупость, а именно:

1. Начнёте спорить с коллегами (всех полов) о том, действительно ли данная метрика является мерой счастья. Нет, не является. Этот спор так же бессмыслен, как споры о том, могу ли я назвать свою переменную X, если имя X уже занято. Если мы оба вначале определим, что каждый имеет в виду, проблем быть не должно.

2. Неверно интерпретировать повышение количества "счастья" как то, что с вашим сайтом происходит что-то хорошее. Возможно, пользователь уже битый час пытается что-то найти на вашей странице и, чертыхаясь, так и не может найти. Вряд ли это состояние можно назвать счастьем. Если помнить, что именно измеряется на самом деле и что название метрики лишь условность, это может уберечь вас от неверных шагов.

3. Предполагать, что чьи-то чужие исследования о "счастье" применимы к вашему собственному сценарию. Скорее всего, в других исследованиях такая метрика определяется совершенно иначе. Не забывайте обращать внимание на психологические аспекты. Иногда в чатах можно слышать разговоры такого рода: Приятно с Вами познакомиться! Чем занимаетесь? Памятью. Ого! Я тоже. А какое у Вас направление? "Визуопространственное развитие рабочей памяти у людей, а у Вас?" Обратите внимание, что слово "память" может означать что угодно, в то время как термин VSWM это чётко определённая техническая концепция (тот, кто будет давать названия метрикам, должен изучить этот термин и записать: "Пусть VSWM = _____). Если другой собеседник не имеет отношения к VSWM, ситуация станет гораздо яснее по крайней мере для второго собеседника он уже не будет думать, что исследования нового друга относятся к его собственной работе.

Тщательно относиться к языку и учитывать многозначность речи важно не только в операционализации или статическом анализе, но и когда вы собираете и обрабатываете данные при помощи машинного обучения. Особенно это касается обработки естественного языка. Приходите на углублённый курс Machine Learning и Deep Learning наши эксперты и менторы расскажут, как нейросети учатся понимать язык и использовать это.

Узнайте, как прокачаться и в других специальностях или освоить их с нуля:

• Профессия Data Scientist

• Профессия Data Analyst

• Курс по Data Engineering

О возможном и невозможном

Бурить ради нефти? Вы имеете в виду бурить землю, чтобы найти нефть? Вы псих, когда Эдвин Л. Дрейк попытался привлечь средства для своего проекта по бурению нефти в 1859.

Теория микробов Луи Пастера смехотворная фантастика, Пьер Паше, профессор физиологии в Тулузе, 1872 год.

У этого телефона слишком много недостатков, чтобы серьёзно рассматривать его как средство коммуникации. Устройство бесполезно для нас, Western Union, 1876 год.

Летательные аппараты тяжелее воздуха невозможны, лорд Кельвин, 1895. В 1903 году состоялся первый полёт братьев Райт.

Но, возможно, в XX веке люди стали намного умнее и осторожнее в своих оценках? Как бы не так!

Человек никогда не сможет использовать энергию атома, Роберт Милликен, Нобелевская премия по физике, 1923. Ядерное оружие впервые было испытано 16 июля 1945 года в США на полигоне Тринити (штат Нью-Мексико). 27 июня 1954 года в СССР была запущена первая в мире АЭС.

Я думаю, что на весь мировой рынок, нужно примерно пять компьютеров, Томас Уотсон, глава IBM, 1943.

Компьютеры в будущем могут весить не более 1,5 тонн, Популярная Механика, 1949 год. Ну, по крайней мере они не ошиблись в верхней оценке!

Космические путешествия чушь, сэр Гарольд Спенсер Джонс, Королевский Астроном Британии, 1957. Через две недели СССР запустил первый Спутник.

Человек никогда не достигнет Луны, независимо от всех будущих научных достижений, Ли Де Форест, изобретатель и отец радио, 1957 год. В 1969 году американский астронавт Нил Армстронг впервые ступил на Луну.

Нет причин, по которым кто-то хотел бы иметь компьютер в своём доме, Кен Олсон, президент и основатель Digital Equipment Corp, 1977 год.

В общем, пути Господни неисповедимы. И XXI век, увы, мало что изменил в человеческой психологии. Хотя казалось бы, любой разумный человек обязан понимать всё, что не запрещено законами физики возможно. А они запрещают нам очень немногое. И ни один закон физики не запрещает нам неограниченное продление жизни.

Оно не запрещено ни базовыми законами квантовой механики, ни исходящими законами термодинамики и статистической физики.

Впрочем, непротиворечивость законам физики необходимое, но, вообще говоря, недостаточное условие реализации пренебрежимого старения. Мы знаем немало физически возможных, но очень сложно реализуемых концепций, например, двигатель Алькубьере. Многие инженерные концепции требуют для своей реализации времени, превышающего возраст Вселенной, или энергии, превышающей её массу, и, таким образом, являясь физически возможными, они оказываются практически нереализуемыми.

Итак, пренебрежимое старение должно быть не просто физически возможной, но ещё и легко реализуемой концепцией на нынешнем уровне науки и инженерии или, по крайней мере, ближайшего будущего.

К нашему счастью, пренебрежимое старение по всем признакам является легко реализуемой концепцией! Во-первых, как мы уже говорили, в модель SENS (по крайней мере в её расширенную форму) включены все виды молекулярных и клеточных повреждений, играющие роль при нынешней продолжительности жизни, и мы знаем по крайней мере в принципе как их решить. Не менее важно: их решение является сугубо инженерной проблемой, оно не требует открытия новых законов природы, или принципиально новых технологий, лежащих за границами наших возможностей (например, использования энергии целой звезды).

Более того, как мы говорили в начале, оно не требует даже глубокого понимания самих процессов накопления повреждений в организме! Хорошие новости ещё и в в том, что за двадцать лет существования концепции SENS не было обнаружено ни одного нового типа повреждений! Учитывая, что на структурном уровне человеческий организм изучен весьма неплохо, шансы внезапно найти новый тип повреждений, который сильно осложнил бы нам реализацию пренебрежимого старения, крайне малы.

Во-вторых, если бы пренебрежимое старение было сложно реализуемой концепцией, оно не возникало бы регулярно в природе в процессе эволюции. Например, такие концепции, как биологическое бессмертие и сознание, по всей видимости, являются сложно реализуемыми, ибо мы знаем лишь по одному примеру их естественной реализации в процессе эволюции: пресноводная гидра и человек разумный. Более того, в случае сознания мы всё ещё не понимаем как именно оно работает в принципе, и все наши попытки его реализации на небиологической основе сводятся главным образом к структурному или функциональному копированию человеческого мозга.

Напротив, социальное поведение, регенерация и пренебрежимое старение являются легко реализуемыми концепциями, ибо они много раз возникали параллельно в разных группах живых организмов в процессе эволюции. И эта связь не случайна. Как мы выяснили выше на примере пренебрежимого старения, ни оно само, ни его реализация не представляет из себя ничего принципиально сложного, неподвластного человеческому разуму или инженерии. И если слепой процесс эволюции смог воспроизвести его много раз, то человеческий разум, вооружённый научными принципами познания и новейшими технологиями, тем более сможет.

Примеры пренебрежимо стареющих организмов:

О моделировании старения и главной ошибке индуктивистов

В последнее время в связи с успехами биомедицинской инженерии стало очень модно писать разоблачающие статьи о наличии некоего предела человеческой жизни. Будучи корректными математически в рамках выбранной модели, они не имеют под собой никаких реальных оснований, ибо сами выбранные модели не верны. Все их можно разделить на две большие группы.

В первой группе учёные строят математические модели жизненного цикла сложного организма, неизбежно ведущие к раку или старению. При этом они совершают весьма грубую ошибку совершенно не учитывают перспективы омолаживающей биотехнологии. Их работы не более чем лишний и дорогой способ сказать: Если ничего не делать ничего и не будет.

Во второй группе учёные используют демографическую информацию об изменении продолжительности жизни в прошлом, чтобы построить прогноз её изменения в будущем. Несмотря на постепенное незначительное увеличение средней продолжительности жизни, максимальная продолжительность жизни за последние тридцать лет не выросла, на основании чего учёные делают вывод, что она является абсолютным естественным пределом человеческой жизни.

Эти учёные совершают ещё более грубую ошибку, ибо как истинные индуктивисты, ониполагают, что будущее похоже на прошлое, и если в XX веке никто не прожил больше 122 лет, а средняя продолжительность жизни измеряется всего двумя цифрами, то и в XXI веке ничего не изменится. Но это глубокое заблуждение! Будущее не похоже на прошлое, иначе мы всё ещё жили бы в каменном веке. Нынешняя максимальная продолжительность жизни представляет собой не абсолютный, а относительный предел, ограниченный лишь нынешней компенсационной медициной. И без учёта научного и инженерного прогресса в омолаживающей биотехнологии любые статистические исследования и экстраполяции прошлого на будущее ненаучны и лишены всякого смысла!

Книги

Карл Поппер, Объективное знание. Эволюционный подход

Дэвид Дойч, Структура реальности. Наука параллельных вселенных

Дэвид Дойч, Начало бесконечности. Объяснения, которые меняют мир

Одна чёрная дыра это хорошо, но астрофизики могут выполнить гораздо больше научных исследований, если их 50. Когда в 2015 году было обнаружено первое столкновение чёрных дыр, это был переломный момент в истории астрономии. С помощью гравитационных волн астрономы наблюдали Вселенную совершенно новым образом. Но это первое событие не произвело революцию в нашем понимании чёрных дыри не могло этого сделать. Астрономы знали, что это столкновение будет первым и только после многих таких столкновений придут ответы.

Первое открытие было самым захватывающим в нашей жизни, рассказывает Вики Калогера, астрофизик из Северо-Западного университета и участник совместной работы лазерно-интерферометрической гравитационно-волновой обсерватории (LIGO), выполнившей обнаружение в 2015 году. Однако невозможно заниматься астрофизикой по одному источнику.

Теперь физики гравитационных волн, такие как Калогера, говорят, что они вступают в новую эру астрономии чёрных дыр, движимую быстрым увеличением числа наблюдаемых чёрных дыр.

В последнем каталоге так называемых двойных слияний чёрных дыр (результата столкновения двух чёрных дыр, движущихся по спирали навстречу друг другу) в четыре раза увеличился объём данных о слияниях чёрных дыр, доступных для изучения. В настоящее время астрофизикам предстоит тщательно изучить почти 50 слияний, причём в ближайшие несколько месяцев ожидается ещё несколько десятков, а в ближайшие годы ещё сотни.

Гравитационные волны совершают революцию в астрофизике чёрных дыр, потому что эти числа так велики. И эти числа позволяют нам задавать качественно другие вопросы, рассказывает Калогера. Мы открыли сокровищницу.

На основе этих данных новые статистические исследования начинают раскрывать секреты этих загадочных объектов: как образуются чёрные дыры и почему они сливаются. Этот растущий список чёрных дыр также может предложить новый способ исследования космологической эволюции от Большого взрыва до рождения первых звёзд и роста галактик.

Я определённо не ожидала, что мы будем рассматривать эти вопросы так скоро после первого обнаружения, сказала Майя Фишбах, астрофизик из Северо-западного университета. Эта область просто взорвалось.

Откуда берутся чёрные дыры?

Прежде чем чёрные дыры можно будет использовать для изучения космоса в целом, астрофизики должны сначала выяснить, как они образуются. До сих пор в дебатах доминировали две теории.

Некоторые астрономы предполагают, что большинство чёрных дыр возникают внутри скоплений звёздобластей, которые иногда в миллион раз плотнее, чем наш собственный галактический задний двор.

Каждый раз, когда взрывается очень массивная звезда, она оставляет после себя чёрную дыру, которая опускается в середину звёздного скопления. В центре скопления становится тесно от чёрных дыр, которые вплетаются гравитацией в роковой космический танец. Астрономы называют этот процесс динамическим образованием чёрных дыр.

Другие предполагают, что двойные чёрные дыры происходят от пар звёзд в сравнительно пустынных областях галактик. После долгой и хаотичной совместной жизни они тоже взрываются, создавая пару изолированных чёрных дыр, которые продолжают вращаться друг вокруг друга.

Создаётся впечатление, что существует борьба между динамическими и изолированными моделями, сказал Дэниел Хольц, астрофизик из Чикагского университета.

Склонность многих теоретиков отстаивать только один канал образования двойных чёрных дыр частично проистекает из практики работы с очень небольшим количеством данных. Каждое событие было с любовью проанализировано, на нём зацикливались, над ним тряслись, рассказывает Хольц. Мы выполняли обнаружение, а люди попытались формулировать очень широкие абстрактные утверждения на основе выборки размером в одну или две чёрные дыры.

Действительно, астрофизики использовали первое обнаружение, чтобы аргументировать противоположные выводы. В LIGO первое слияние чёрных дыр обнаружили чрезвычайно быстро, фактически до официального начала наблюдений. Это позволило предположить, что двойные системы чёрных дыр очень распространены во Вселенной. Поскольку изолированные чёрные дыры могут образовываться в широком диапазоне астрофизических сред, теории, которые благоволят изолированным чёрным дырам, предсказывают, что мы увидим много слияний.

Другие указывали, что в первом слиянии отмечены необычно большие чёрные дыры и что существование этих гигантов подтверждает динамическую теорию. Такие большие чёрные дыры, рассуждали они, могли образоваться только в ранней Вселенной, когда, как также считалось, образовались звездные скопления.

Тем не менее с размером выборки в одну единицу такие утверждения могут быть лишь обоснованным предположением, считает Карл Родригес, астрофизик из Университета Карнеги-Меллона.

Теперь данные из последнего каталога LIGO показывают, что двойные чёрные дыры встречаются гораздо реже, чем ожидалось. Согласно статье, опубликованной Родригесом и его соавторами на сайте научных препринтов arxiv.org в январе 2021 года, фактически наблюдаемую в настоящее время частоту слияния чёрных дыр можно полностью объяснить звёздными скоплениями. (Вывод статьи более взвешен и предполагает, что важны как динамические, так и изолированные процессы.)

Кроме того, новые слияния позволили по-новому подойти к загадке происхождения чёрных дыр. Несмотря на свою неуловимую природу, чёрные дыры очень просты. Помимо массы и заряда единственная характеристика, которой может обладать чёрная дыра, спин (мера скорости вращения). Если пара чёрных дыр и звёзды, из которых они образуются, живут всю свою жизнь вместе, постоянное отталкивание и притяжение согласуют скорости их вращения. Но если сталкиваются две несвязанные чёрные дыры, их вращение будет случайным.

После измерения спина чёрных дыр в наборе данных LIGO астрономы теперь предполагают, что динамические и изолированные сценарии почти одинаково вероятны. Нет одного канала, который управлял бы ими всеми, написали астрофизик Майкл Зевин и его коллеги в препринте, описывающем множество различных путей, которые вместе могут объяснить эту новую растущую популяцию двойных чёрных дыр.

Самый простой ответ не всегда правильный, утверждает Зевин. Это более сложный ландшафт, и это, безусловно, более сложная задача. Но я также думаю, что и решать её интереснее.

Молодые чёрные дыры

LIGO и её сестринская обсерватория Virgo со временем также стали более чувствительными, т.е. теперь они могут видеть сталкивающиеся чёрные дыры, которые находятся гораздо дальше от Земли и намного дальше во времени. Мы прослушиваем действительно большую часть Вселенной, когда она была намного моложе, чем сегодня, сказала Фишбах.

В препринте Фишбах и её сотрудники указали на признаки различий в типах чёрных дыр, наблюдаемых в разные моменты истории космоса. В частности, более тяжёлые чёрные дыры, по-видимому, были более распространены в более ранние периоды истории Вселенной.

Это не стало неожиданностью для многих астрофизиков; они предполагают, что первые звезды во Вселенной образовались из огромных облаков водорода и гелия, поэтому они намного больше, чем более поздние звёзды. Чёрные дыры, созданные из этих звёзд, также должны быть огромными.

Но одно дело предсказать, что произошло в ранней Вселенной, и совсем другое наблюдать это. Вы действительно можете начать использовать [чёрные дыры] в качестве индикатора формирования звёзд во Вселенной сквозь космическое время, а также собирания галактик, образующих эти звёзды и звёздные скопления. И всё это действительно очень здорово! сказал Родригес.

Это исследование первый шаг к использованию больших наборов данных о чёрных дырах в качестве радикального инструмента изучения космоса. Астрономы создали удивительно точную модель эволюции Вселенной, известную как Лямбда-CDM. Но ни одна модель не идеальна. Гравитационные волны предлагают способ измерения Вселенной, который полностью независим от любого другого метода в истории космологии, заявил Сальваторе Витале, астрофизик из Массачусетского технологического института. Если вы получаете те же результаты, вы лучше спите по ночам. Но если результаты различны, то это указывает на потенциальное недопонимание.

В настоящее время теоретики строят модели, охватывающие несколько сценариев образования чёрных дыр, и расписывают, как каждая из них эволюционирует в истории Вселенной. Физики гравитационных волн надеются, что в ближайшие месяцы и годы они смогут с уверенностью ответить на эти вопросы.

Мы просто царапаем поверхность, говорит Калогера. Выборка всё ещё слишком мала, чтобы дать надёжный ответ, но, когда у нас будет 100 или 200 таких [слияний], я думаю, мы получим чёткие ответы. Мы уже не так далеко.

Многие космические объекты, например экзопланеты сегодня обнаруживают при помощи глубокого обучения. Если вам интересна эта сфера, обратите внимание на наш курс "Machine Learning и Deep Learning", партнёром которого является компания Nvidia. Не менее важен и анализ наблюдаемых данных, без которого современная наука, изучающая их огромные массивы, не жизнеспособна. Специалисты разного профиля необходимы и бизнесу, чтобы правильно подойти к анализу данных, поэтому, чтобы подняться выше по карьерной лестнице, приходите к нам наши менторы и специалисты высокого класса ответят на сложные вопросы.

Узнайте, как прокачаться и в других специальностях или освоить их с нуля:

• Профессия Data Scientist

• Профессия Data Analyst

• Курс по Data Engineering

Привет, Хабр! Качественными фотографиями высокого разрешения уже никого не удивишь. Мы привыкли видеть их в интернете и печатных изданиях. Например, вот гора Монблан, на которой можно разглядеть чуть ли не каждую снежинку. Особенно интересны научные иллюстрации, которые делаются микроскопами и телескопами с высокой степенью детализации. А как это делали пару столетий назад, когда и фотография была недостаточно развита, и создавать иллюстрации было несколько труднее?

А тогда в ходу были гравюры. Только к середине 19-го века появились первые фотографии астрономических объектов, которые стали использовать ивнаучных целях. Но традиция рисунка снатуры долгое время конкурировала сфотографированием, поскольку позволяла выделять существенные черты объекта, показать его более наглядно, чем это могла сделать фотография.

Предлагаю посмотреть на замечательные научные иллюстрации, которые использовались в научных книгах 19-го века.

Метеоритный дождь

Этьен Трувело опубликовал несколько десятков работ по астрономии и создал около семи тысяч рисунков различных астрономических явлений. При зарисовке с телескопа он использовал приём с сеткой в поле зрения окуляра, и по ней рисунок наносился на разлинованную бумагу в этом один из секретов фотографической точности зарисовок Трувело.

В 1882 году он выпустил атлас для широкой публики The Trouvelot Astronomical Drawings, котором было 15 изображений, иллюстрировавших основные классы небесных объектов и явлений. Атлас раскупался неимоверно быстро, хотя стоил 125 долларов. За эти деньги можно было купить билет первого класса на Титаник.

Для создания иллюстрации метеоритного дождя использовалась технология хромолитографии. На пластине запечатлён метеоритный поток Леониды, который наблюдался между после полуночи и до 5 часов утра в ночь с 13 на 14 ноября 1868 года. Тогда можно было увидеть до 1000 небесных объектов в час. Иллюстрация сопровождалась следующим описанием:

В 1866, 1867 и 1868 годах в ночь на 13 ноября наблюдались необычные метеоритные явления. В последний упомянутый день, у меня была возможность наблюдать замечательный поток падающих звезд, все характерные точки которого я попытался изобразить на пластине XII. Мои наблюдения начались вскоре после полуночи и продолжались без перерыва до восхода солнца. За этот промежуток времени в той части неба, которая была видна из северного окна моего дома, наблюдалось более трех тысяч метеоров. Максимальная интенсивность наблюдалась между четырьмя и пятью часами, когда они появлялись со средней скоростью 15 в минуту. В целом падающие звезды были довольно большими, многие из них превосходили Юпитер по яркости и видимому размеру, а некоторые даже превосходили Венеру и были настолько яркими, что непрозрачные объекты отбрасывали сильную тень во время своего полета. Многие оставили после себя светящийся шлейф, который оставался видимым более или менее долго после того, как ядро исчезало.

Сатурн

Трувело был убеждён, что камера не может заменить человеческий глаз, который при определенной тренировке способен запечатлеть самые тонкие детали структуры небесных тел. Поэтому отказывался от астрофотографии, сохраняя верность своему способу изображения научных данных.

В книге The Trouvelot astronomical drawings manual он опубликовал пластину, на которой литографическим способом показал планету Сатурн с её кольцевой системой под небольшим углом. Так планету видели астрономы 30 ноября 1874 года в 17-30. Иллюстрация сопровождалась следующим описанием:

Сатурн, видимый невооруженным глазом, сияет в ночи, как звезда первой величины, чья тусклая мягкая белизна, однако, далека от сияния Венеры или Юпитера, хотя иногда он приближается по яркости к Марсу. Сатурн почти никогда не демонстрирует явления сцинтилляции или мерцания особенность, которая делает его легко различимым среди звезд и небесных планет.

Великая комета 1881 года

Большая комета 1881 года это комета C/1881 K1, или комета Теббутта. Ближе всего к Земле на расстояние 40 млн км она подошла 20 июня 1881 года. Она движется по вытянутой эллиптической орбите, сильно наклонённой к плоскости орбиты Земли, и её период обращения оценили в 2600 лет. Объект облака Оорта.

В своём атласе Трувело изобразил комету во время движения по ночному небу возле обсерватории. Иллюстрация сопровождалась следующим описанием:

2 июля 1881 г., в 9 часов, ядро кометы 1881, II., появилось резко очерченным, ярким и значительно уплощенным в поперечном направлении. Но через полчаса оно значительно увеличилось и стало настолько рассеянным, что его едва можно было отличить от комы, с которой оно постепенно смешивалось. Возможно, стоит упомянуть, что в то время, когда было сделано это последнее наблюдение, было видно северное сияние. Комета 1881, III, претерпела другие очень важные изменения своего ядра, комы и хвоста. 25 июня ядро, которое было ярким и четко очерченным, было украшено четырьмя яркими расходящимися коническими крыльями света.

Море Влажности

Табличка с видом на знаменитое море Влажности (Mare Humorum), лунную базальтовую равнину, образованную древними вулканическими извержениями. Исследователи считают море Влажности довольно интересным образованием с точки зрения науки, поскольку оно позволяет понять процессы формирования других лунных морей под воздействием тектоники бассейнов и эволюцию масконов областей лунной коры с гравитационными аномалиями. Автор описывает это следующим образом:

Mare Humorum, или, как его называют, море Влажности, является одной из малых серых лунных равнин. Её диаметр, почти одинаковый во всех направлениях, составляет около 270 миль, а общая площадь этой равнины составляет около 50 000 квадратных миль. Это одна из самых отчетливых равнин Луны, и её легко увидеть невооруженным глазом на левой стороне диска. Дно равнины, как и других лунных равнин, пересечено несколькими системами протяженных невысоких холмов и хребтов, на поверхности разбросаны небольшие кратеры.

Для сравнения современная фотография Mare Humorum.

Пароход La Champagne

La Champagne был построен в 1886 году для французской судоходной компании Compagnie Gnrale Transatlantique. Он и однотипный корабль, Bretagne были первыми комфортабельными французскими лайнерами. Обслуживал североатлантические линии, перевозя 390 пассажиров первого класса, 65 второго и 620 третьего. Был оснащён тремя двигателями, которые приводили в движение одновинтовой гребной винт диаметром 7 м. Он мог развивать скорость 17,5 узлов (32 км/ч) и выполнять трансатлантический переход между Гавром и Нью-Йорком за семь с половиной дней. Во время стоянки на якоре 28 мая 1915 г. корабль был выброшен на берег , где и разрушился.

Гравюра на дереве показывает поперечный срез машинного отделения парохода.Можно увидеть, как двигатель поднимается до уровня главной палубы, а все уровни заполнены механиками, горничными и пассажирами в каютах и на палубе. Некоторые элементы пронумерованы, а ниже приведено их описание.

a. Малый цилиндр. b. Большой цилиндр. c. Приводной вал. d. Изгиб ведущего вала. e. Шатун. f. Шток поршня. g. Конденсатор.i. Устройство для управления переключением передач вперёд и назад.

Паровой двигатель Corliss Beam

Автор сопровождает сделанную путём гравировки по дереву иллюстрацию следующей записью:

Изобретение двигателя Corliss олицетворяет новую эпоху в конструировании паровых двигателей, а история его появления имеет поразительную аналогию с насосным двигателем, изобретенным Ваттом. Как и Ватт, мистер Корлисс был удовлетворен тем, что заменил старые формы двигателей своим более совершенным устройством и получил в качестве оплаты стоимость части сэкономленного угля. Как и Ватт, он вскоре обнаружил, что владельцы заводов не желают давать ему правдивые отчеты о полученной экономии. Теперь, когда срок действия патента истек, двигатель Corliss и его модификации приняты в качестве стандартной конструкции двигателестроителями в этой стране, и он вытеснил за границу почти все другие концепции.

Как двигатель выглядит сейчас.

Тростниковый орган Peloubet & Pelton

На созданной благодаря деревянной гравюре иллюстрации можно увидеть тростниковый орган, изготовленный компанией Peloubet, Pelton, & Co. Очень дорогое и редкое устройство из Нью-Йорка. Кстати, в 2019 году такой же орган отреставрировали.

Кузница компании Derosne and Cail, Гренель

Компания Derosne & Cail действовала на протяжении большей части девятнадцатого века под разными названиями и с разными владельцами. Её основная деятельность заключалась в строительстве сахарных заводов, железнодорожных локомотивов и металлических мостов. После пожара на заводе Chaillot в 1865 году кузница Grenelle осталась единственной действующей в Париже. Компания Cail упоминается в книге Жюля Верна Двадцать тысяч лье под водой как производитель деталей для подводной лодки Наутилус.

Вид на кузницу компании Derosne & Cail: рабочие нагревают и стучат молотком по металлическим деталям или работают с отбойными молотками в большом и шумном цехе. Изображение создано с помощью технологии гравировки на дереве.

Механизм для бурения в туннеле Мон-Сени

Бригада рабочих работает на бурильном станке для проходки железнодорожного туннеля Фрежюс (также известного как туннель Мон-Сени) протяженностью 12,2 километров. Бурение началось в августе 1857 года, и движение по нему открылось в сентябре 1871 года.

На деревянной гравюре, с которой сделана иллюстрация, демонстрируется работающая на сжатом воздухе машина, которая была разработана для бурения скальных пород. Бригаде потребовалось шесть часов, чтобы пробурить от 90 до 100 скважин шириной 4 см и глубиной 80 см. Часть скважин заполнялись взрывчаткой, а затем одновременно подрывались. В результате получалось расширить отверстие в среднем до 70 см в глубину, 99 см в ширину и 40 см в высоту.

Водяной насос на Сене

Иллюстрация показывает интерьер водяного насоса вШайо, ныне являющейся частью Парижа. Он располагался недалеко от площадиАльмаи забирал воду из Сены, которая затем подавалась в цистерны холмаШайо. Первоначально насос приводился в действие двумя двигателямиНьюкомена, названными Константин и Августин в честь инженеров проекта Жака-Константина и Огюста-ШарляПерье. Насос эксплуатировался с 1781 по 1900 год. Исходник деревянная гравюра.

Машина для получения бумаги

В 1680 году голландцы изобрели машину для получения волокнистой массы, из которой можно было сделать бумагу. Устройство заменило штамповые мельницы для подготовки целлюлозы, потому чтомогло производить за один день тот же объём целлюлозы, что и штамповочная фабрика за восемь дней. На бумажных фабриках механизм, изображённый на иллюстрации, использовался для перемалывания ветоши в воде до тех пор, пока она не превращалась в целлюлозу, которая позже в процессе коагуляции превращалась в листы бумаги. Устройство, изображённое на деревянной гравюре, также известно как Hollander.

Остеография

На созданной с помощью литографии пластине изобразили человеческий скелет и подробные изображения позвонков, позвоночника, таза, грудной клетки, ступней, рук и т. д. Детализированное и очень качественное изображение позволяло лучше учить молодых врачей того времени.

Выставка электрооборудования

Деревянная гравюра позволила сохранить до наших дней вид на помещение, в котором проходила часть Международной выставки электрических устройств. Выставка состоялась в Париже в 1881 году в снесенном теперь Palais de l'Industrie. Одновременно в Париже проходил Международный конгресс электриков.

В Международной электрической выставке приняли участие Великобритания, США, Германия, Италия, Нидерланды и Франция. На выставке была продемонстрирована первая динамо-машина Зеноба Грамма. Томас Эдисон представил запатентованную им лампу с угольной нитью. В одном из залов играл стереофонический театрофон. Вернер фон Сименс представил первый электрический трамвай, Александр Белл первый коммерческий телефон. Марсель Депре продемонстрировал электрическую распределительную сеть, Густав Труве экспериментальный электромобиль.

Гидроцикл

На изображении, полученном с деревянной гравюры, изображён мужчина на гидроцикле, который едет по озеру. Он машет фуражкой рулевому и экипажу гребной лодки, тренирующемуся на некотором расстоянии. Этот гидроцикл описывается автором следующим образом:

Имеются две полые жестяные поплавки цилиндрической формы, сужающиеся на концах. Эти поплавки соединены платформой из очень легкого дерева, на которой поднимается сиденье рабочего, а под ней находится механизм для приведения в движение велосипеда. Движущая сила очень проста и соответствует силе, используемой для приведения в движение велосипеда по суше ногами гонщика, причем колесо водного велосипеда снабжено лопастями. Рулевой механизм, которым легко управлять с помощью шнура, дает велосипедисту полный контроль над машиной, а рулевое управление осуществляется с помощью ручки, аналогичной той, которую велосипедист использует для поворота машины, на которой он едет.

Больше примеров можно увидеть на сайте старых книжных иллюстраций.

Вряд ли Лу Барбе осмелится назвать себя заядлым геймером. Он занимается проблемами экологии в Университете Ренна во Франции, проводя большую часть времени среди растений. Но одна игра с самого детства захватила его воображение: StarCraft популярная онлайн-стратегия, в которой игроки накапливают ресурсы и создают армии инопланетных бойцов для ведения войн на внеземных территориях. "Игрок из меня никакой, говорит Барбе, но я понимаю, что происходит в игре".

Несколько лет назад, играя в StarCraft II (последнюю версию игры), Барбе понял, что помимо всех взрывов и лазерных ударов в игре происходит что-то ещё. Он обратил внимание, что события в StarCraft развиваются точно так же, как развивается любая экосистема."В игре имеется среда, говорит Барбе. В игре имеются ресурсы и организмы, конкурирующие друг с другом в этой среде. Всё это очень хорошо подходит под определение экосистемы".

На этом идея Барбе пока и ограничилась. Но в 2019 году DeepMind, дочерняя компания Google Alphabet по исследованию ИИ, выставила интеллектуального агента под названием AlphaStar против лучших в мире игроков в StarCraft II. AlphaStar превзошёл в мастерстве 99,8% геймеров-людей, получив заветное звание гроссмейстера высший ранг в игре и дополнив тем самым список побед ИИ над людьми.

После этого Барбе пришло в голову, что способности AlphaStar могут не ограничиваться управлением действиями инопланетян на выдуманной планете. Если StarCraft функционирует подобно экосистеме, возможно, игровые алгоритмы могли бы помочь исследователям в изучении экологических проблем Земли?

В статье, опубликованной в журнале Trends in Ecology and Evolution в 2020 году, Барбе вместе с другими экологами из Реннского университета и Университета Бригама Янга объясняет, как способность AlphaStar управлять сложной многомерной динамикой StarCraft может применяться для проверки идей о динамике развития экосистем в реальном мире с решением этой задачи традиционные модели пока справиться не могут.

Например, исследователи могут запускать агентов AlphaStar на картах StarCraft, созданных для имитации реалистичного распределения ресурсов, и создавать модели, на базе которых можно получить представление, как различные организмы реагируют на такие отклонения, как возникновение инвазивных чужеродных видов или уничтожение среды обитания.

Алгоритм AlphaStar, говорит Барбе, возможно, непреднамеренно стал самой сложной экологической моделью из всех существующих.

Идея использования мощных инструментов искусственного интеллекта для анализа экологических проблем не нова. Ещё 1520 лет назад инструменты ИИ использовались в экологии относительно редко, но исследователи отмечают, что в последнее время наблюдается бурный рост применения ИИ в этой области от классификации видов диких животных до прогнозирования увеличения популяций жуков в сосновых лесах.

По мнению экологов, инструменты ИИ в сочетании с новыми возможностями сбора большого количества данных о Земле позволят пересмотреть методы изучения экосистем и расширить возможности человека по прогнозированию таких изменений. В этих исследованиях могут помочь сложные алгоритмы, подобные AlphaStar, часто разрабатываемые для целей, не имеющих ничего общего с экологией.

"Сложность [большинства] экологических моделей ничтожно мала по сравнению со сложностью некоторых систем искусственного интеллекта, утверждает Бен Эббот, эколог из Университета Бригама Янга и соавтор статьи об AlphaStar. То, что умеем мы, экологи, не идёт ни в какое сравнение с тем, что умеют эти алгоритмы.

Как создавался чемпион

Для исследователей ИИ игра StarCraft II, вышедшая в 2010 году, стала сложным интеллектуальным вызовом. Так же как в шахматах или го, игроки StarCraft управляют различными отрядами, чтобы нападать на противников, но здесь игроки тоже выбирают, где и когда собирать ресурсы, когда создавать новые отряды, какие именно отряды создавать и тому подобное, и всё это в окружении множества посторонних факторов. В шахматах в одной позиции у игрока есть выбор из примерно 35 возможных ходов, в игре Go из 200250. Но в StarCraft II возможных ходов в одной позиции 1026. Кроме того, в отличие от игр, называемых теоретиками игр играми с "полной информацией", где все игроки могут видеть полное игровое пространство, события в StarCraft происходят на огромной карте, которую геймеры могут видеть лишь частично.

Дополнительная сложность состоит в том, что геймеры играют за одну из трёх инопланетных рас терранов, протоссов или зергов, каждая из которых имеет сильные и слабые стороны.

Чтобы натренировать алгоритм AlphaStar и создать ИИ, который способен брать верх над лучшими игроками в StarCraft II, исследователи DeepMind использовали методы машинного обучения. Они начали с того, что создали лигу интеллектуальных агентов, обученных на основе данных сотен тысяч матчей StarCraft, проведённых между людьми. Затем они заставили членов лиги виртуальных агентов играть друг против друга, отобрали самых сильных из них, внесли в них определённые коррективы и отправили обратно в лигу. Они повторяли этот процесс до тех пор, пока не придали AlphaStar силу джаггернаута, крушащего всё на своём пути. Ориол Виньялс, возглавлявший команду DeepMind создателя AlphaStar, сравнил саму лигу с некой экосистемой, в которой работает процесс естественного отбора. "Создавая лигу AlphaStar, мы черпали вдохновение из литературы об эволюции", рассказывает он.

"Традиционные" исследователи ИИ черпали вдохновение в природе, Барбе же и его коллеги-экологи стали черпать вдохновение в игре. В своей работе, опубликованной в 2020 году, они подробно описывают глубокие параллели между расами терранов, протоссов и зергов в StarCraft, и конкурентными стратегиями, характерными для определённых видов организмов.

Например, отряды зергов это прирожденные колонизаторы, но слабые бойцы. Они ведут себя как сорные растения: мелкие, худосочные, хилые, но после нарушения экосистемы первыми дают ростки жизни именно они.Протоссы, с другой стороны, ведут себя как папоротники. Они расходуют много ресурсов и лучше всего растут в группах.Терраны напоминают кактусы: медленно растут, но прекрасно держат оборону. Как и в реальной экосистеме, эти "виды" используют собственные стратегии в борьбе за ресурсы в сложных схемах взаимодействия.

Барбе полагает, что наблюдение за взаимодействием между агентами AlphaStar в StarCraft может стать способом проверки гипотез об экологических и эволюционных процессах, которые обычные статистические модели смоделировать не в состоянии, например предсказать, как небольшое изменение доступных ресурсов в одном углу карты в StarCraft повлияет на поведение отрядов терранов и зергов, сражающихся в противоположном углу (правда, эту свою идею Барбе на практике ещё не проверял).

Представьте, что терраны и зерги это сосны и короеды, и вы поймёте, что такая информация может представлять довольно существенную ценность для специалистов по охране окружающей среды. Для учёных эта игра может стать песочницей экспериментов с экосистемами, рассказывает Барбе.

"Возникает весьма интересная игрушечная модель вы наблюдаете за очень упрощённой системой и можете задавать очень конкретные вопросы, говорит Энн Тессен, специалист по работе с данными из Университета штата Орегон, не имеющий отношения к работе по экологическому смыслу StarCraft. Просто нужно помнить, что вы имеете дело с моделью".

Модные технологии

Надо признать, что StarCraft II при всей своей сложности намного проще реальной экосистемы. Барбе отмечает, что в игре никак не отражены базовые природные процессы, например азотный цикл, а также никак не затрагиваются ключевые отношения между организмами, например паразитизм. К тому же в мире StarCraft II всего три вида существ.

"Проблема, на мой взгляд, заключается в том, что игровая механика, призванная быть как можно более развлекательной, лишь частично отражает реальный физический мир", считает Вернер Раммер, эколог из Технического университета Мюнхена. Раммер утверждает, что делать выводы о способностях AlphaStar вне рамок StarCraft, лишь наблюдая за его игрой, какой бы сложной и замысловатой она ни была, преждевременно.

Однако независимо от того, будут ли экологи когда-либо использовать AlphaStar в своих исследованиях, следует признать, что для решения проблем экологии и науки об окружающей среде всё чаще используются всё более сложные инструменты ИИ.

Десять лет назад, рассказывает Тессен, применение ИИ в экологии и науке об окружающей среде в основном ограничивалось задачами классификации, например быстрой идентификацией видов при анализе записей пения птиц или типов ландшафтов на спутниковых снимках. Сейчас, по его словам, ИИ в экологии выходит за узкие рамки классификации объектов и берётся за более разнообразные и амбициозные задачи, такие как составление прогнозов через анализ неупорядоченных многомерных данных, то есть именно таких данных, с которыми обычно имеет дело экология.

Однако ИИ в экологии используется всё ещё недостаточно активно, полагает Николя Лекомт, сотрудник Канадской кафедры полярной и бореальной экологии и эколог Университета Монктона в Канаде, который использует инструменты ИИ для классификации звуков арктических птиц и прогнозирования их миграции.

Экологи, как правило, не имеют навыков программирования, необходимых для обучения алгоритмов искусственного интеллекта, объясняет он. С ним соглашается Эббот, добавляя, что сбор достаточного количества данных для обучения алгоритмов непростая задача. Некоторые данные получить довольно легко, например посредством анализа спутниковых снимков, однако сбор других данных может быть сопряжён с большими трудностями, например сбор образцов почвы.

Отчасти эти проблемы объясняются недостаточным финансированием и нехваткой квалифицированных экологов, говорит Эббот. Ведь экология, отмечает он, это не самая "монетизируемая" область науки.

Такие компании, как Blizzard, создавшая StarCraft, ежегодно тратят сотни миллионов долларов на разработку алгоритмов для своих игр, говорит он. У них просто гораздо больше ресурсов, чем у нас. Но мы, конечно же, считаем, что наши проблемы гораздо важнее их проблем". Хоть это и была шутка, но в ней кроется чистая правда, в конце концов, жизнь на Земле это далеко не игра.

Машинное обучение и искусственный интеллект продолжают всё глубже проникать в самые разные сферы знаний, находя для этого всё более неочевидные и нестандартные пути. Если вам интересны новые подходы к машинному и глубокому обучению, разнообразные эксперименты с моделями, а также лежащие в основе моделей алгоритмы, вы можете обратить внимание на курс "Machine Learning и Deep Learning", партнёром которого является компания NVIDIA.

Узнайте, как прокачаться и в других специальностях или освоить их с нуля:

• Профессия Data Scientist

• Профессия Data Analyst

• Курс по Data Engineering

Группа животных это больше, чем сумма всех членов группы. Поведение одинокого муравья трудно назвать осмысленным, но их колония способна построить прочную и хорошо вентилируемую муравьиную кучу. Одинокий журавль может легко заблудиться в небе, но стая журавлей безошибочно выбирает правильный путь миграции. Во многих сложных когнитивных процессах мы регулярно наблюдаем отличия в поведении группы от поведения её отдельных членов. Как это возможно? Даже автор статьи, кандидат наук, не может понять, как примитивные рыбы золотые нотемигонусы, абсолютно безнадёжные, безмозглые существа, собираясь в стаи, способны эффективно уклоняться от хищников. Автор прочитал десятки статей и учебников, проводил эксперименты, анализировал данные и консультировался с теоретиками, пытаясь понять, почему, когда речь идёт о рыбах, 1 плюс 1 получается не 2, а 3.

К старту курса о машинном и глубоком обучении мы перевели материал о том, как групповое поведение связано с композиционным (ансамблевым) обучением, где вы найдёте как кратко изложенную теорию со ссылками, так и вопросы, которые сегодня стоят перед наукой о коллективном поведении.

Полученные знания не дали мне ничего, кроме самих знаний, но вот настал день, когда я оставил академическую науку и решил заняться математическим и компьютерным моделированием. Когда я начал изучать теорию и методы анализа данных, я с удивлением заметил любопытную параллель между процессами принятия решений стаей рыб и принятием решений в алгоритмах композиционного обучения.

Здесь я расскажу о том, как группы, составленные из плохо обучаемых индивидуумов это могут быть как отдельные рыбы, так и деревья решений, могут формировать структуру, очень точно обрабатывающую данные (информационный процессор).

Машина

Сначала рассмотрим, как обстоят дела в области машинного обучения, ведь вам, вероятно, ближе алгоритмы, чем животные! Для формирования прогноза в методах композиционного обучения используется набор моделей, а не одна модель. Идея заключается в том, что ошибки в прогнозах отдельных моделей нивелируются, что приводит к более точным прогнозам в целом.

На показанной ниже схеме группа составляется из нескольких серых прямоугольников. Каждый прямоугольник отдельная модель. Чтобы сгенерировать прогнозируемое значение, входные данные отправляются в разные модели, и каждая из них формирует прогноз. После этого отдельные прогнозы сводятся к единому общему прогнозу путём усреднения (для регрессии) или принятия решения по принципу большинства (для классификации).

Одним из популярных композиционных методов является алгоритм случайного леса модель, состоящая из десятков и даже сотен деревьев поиска решений. Способов объединения деревьев в группы (лес) очень много, но суть процесса всегда одна: каждое дерево независимо тренируется на бутстрэп-наблюдениях и случайных наборах признаков. (Если для каждого дерева использовать одни и те же данные, каждый раз будет создаваться одно и то же дерево!)

В результате получается набор моделей, каждая из которых понимает тренировочные данные по-своему. Такое видоизменение имеет решающее значение. Одиночные деревья решений быстро становятся чрезмерно аппроксимированными (переобученными), так как имеют дело лишь с одним набором тренировочных данных, но таких ситуаций в реальном мире практически не бывает. Но, поскольку группа состоит из множества деревьев, такие ошибки при формировании совокупного прогноза способны нивелировать друг друга.

Теория

Повышенную точность модели случайного леса можно назвать коллективным интеллектом. Этот термин вошёл в обиход в 1906 году после того, как на ярмарке скота в Плимуте, штат Массачусетс, провели конкурс на угадывание веса быка. Угадать вес пытались почти 800 фермеров. Позже статистик сэр Фрэнсис Гальтон проанализировал все оценки и пришёл к выводу, что, несмотря на то что отдельные оценки сильно отличались друг от друга, среднее значение оценок было более точным, чем любая отдельно взятая оценка. Гальтон изложил свою теорию в знаменитом труде Vox Populi.

Для того чтобы коллективный интеллект работал, необходимо соблюдение двух основных требований. Первое требование люди должны получать разную информацию. Если у всех будет одинаковая входная информация, решение группы не будет более точным, чем решение отдельного человека. Решение группы может быть даже менее точным, чем решения отдельных людей, так как некоторые члены группы под воздействием эффекта эхо-камеры могут выдавать неверные прогнозы^[1].

Второе требование отдельные оценки должны быть независимыми. Если бы эти 800 фермеров перед голосованием советовались со своими коллегами, количество уникальных точек зрения сократилось бы до нескольких сотен, а может быть, и нескольких десятков, так как мнения людей стали бы влиять друг на друга. При этом больший вес имели бы мнения людей, уверенно и напористо отстаивающих свою точку зрения, а мнения тихонь игнорировались бы; необычная информация отбрасывалась бы в пользу общеизвестной.

В каком-то смысле такие фермеры формируют картину случайного леса, на обучение которого ушли десятилетия. На протяжении всей жизни фермеры учились соотносить различные характеристики быка длину рогов, высоту в холке и прочее с его весом. На ярмарке каждый фермер брал новую точку отсчёта и проводил самостоятельную оценку. Гальтон объединил все их ответы и вывел окончательный прогноз.

Рыбы

То, что произошло на ярмарке крупного рогатого скота, можно объяснить коллективным интеллектом, но что касается наших рыб золотых нотемигонусов, ситуация гораздо интереснее. Алгоритм случайного леса не вполне подходит для описания стаи рыб по одной причине: информация, которую рыба имеет о своём окружении, сильно коррелирует с её соседями.

Взгляните на приведённое ниже изображение стаи из 150 золотых нотемигонусов. Поле зрения каждой рыбы аппроксимировали с помощью метода отслеживания лучей, в белый цвет окрашены только те лучи, которые покидают группу.

Первое, что бросается в глаза, внутренняя часть стаи является мёртвой зоной в смысле информации о внешнем мире, эти рыбы видят только других рыб. Второе, на что следует обратить внимание, отдельные особи, которым поступает информация из внешней среды, если рядом с ними находятся другие особи, получают практически идентичную информацию об окружении.

Каким же образом такая группа может принимать информированные решения о том, повернуть налево или направо, искать ли пищу или прятаться от хищника, если эта группа получает лишь малую часть независимых данных о внешнем мире? И как члены этой группы без лидера могут действовать согласованно? Ведь некоторые стаи рыб с успехом находят убежища и реагируют на опасность даже в тех случаях, когда информация, поступающая отдельным особям, пространственно автокоррелируется, что препятствует применению коллективного интеллекта.

К сожалению, точных ответов на эти вопросы пока нет. Исследователи коллективного поведения пытаются понять, как простые локальные взаимодействия приводят к сложным формам поведения на уровне группы. Существует два класса алгоритмов машинного обучения, которые, как мне кажется, могут объяснить, почему стаи рыб совершают "осмысленные" действия.

Первый класс алгоритмов алгоритмы усиления (бустинга) композиционного обучения. В методе случайного леса используется бэггинг, или бутстрэп-агрегирование, метаалгоритм композиционного обучения, предназначенный для улучшения стабильности и точности алгоритмов машинного обучения, обеспечивающий параллельное обучение каждой модели независимо друг от друга. С другой стороны, такие методы, как AdaBoost и XGBoost, тренируют модели последовательно, другими словами, более поздние модели обучаются на ошибках более ранних. Рыбы, собирающиеся в стаи, быстро обнаруживают хищников благодаря ошибкам других рыб, и рыбы, понимающие ориентиры внешней среды, обычно определяют направление перемещения группы.

Второй класс алгоритмов базируется на предположении о том, что стаи рыб действуют как крупная нейронная сеть. (От биологических нейронов до искусственных нейронных сетей и стай рыб... мы прошли полный круг!) Уходя от хищников, многие виды рыб проявляют стартл-рефлекс сверхбыстрый рефлекторный рывок в сторону от тревожного раздражителя^[2].

Этот рефлекс приводит к каскадному срабатыванию стартл-рефлекса у других рыб, причём скорость такого срабатывания превышает скорость движения атакующего хищника.

Здесь интересно отметить, что данные, выдаваемые членами группы (пугаются они или нет), служат входными данными для соседних рыб должны ли они пугаться. Это особенно актуально для рыб, находящихся глубоко внутри группы, которым не поступает информация из внешней среды и которые не могут интерпретировать событие возмущения воды будь это ложная тревога или приближение хищника. Реакция на эти социальные сигналы может определять, выживет рыба или умрёт.

Обычно мы представляем искусственные нейронные сети как модели биологических нейронных сетей, но в некотором смысле вся стая действует как набор нейронов при обработке информации о риске в окружающей среде. Но ещё более интересным обстоятельством является то, что эти нейроны могут менять структуру своей сети, чтобы изменить способ обработки информации.

В одной из статей мы с коллегами показали, что золотые нотемигонусы модулируют реакцию на угрозу, меняя расстояние между особями, а не ориентируясь на внутренние рефлексы, реагировать или нет на испуг соседа. Другими словами, то, как будут развиваться события превратятся ли случайные рефлексы в полноценные каскады срабатывающих рефлексов или ситуация тихо угаснет сама собой, определяет сама структура группы, а не отдельные особи.

Заключение

Почему поведение групп особей отличается от поведения отдельных особей? На этот вопрос уже долгое время пытаются ответить исследователи коллективного поведения. Правильный ответ следует искать на стыке таких наук, как биология, психология, физика и информатика. В этой статье мы привели простой пример коллективного интеллекта усреднённые независимые оценки веса быка оказались более точными, чем индивидуальные оценки. Затем мы узнали, как стаи рыб, аморфная структура которых постоянно меняется по мере поступления новой информации из окружающей среды, производят коллективные вычисления.

Хотите узнать больше? Советуем почитать, как бабуины принимают демократические решения о передвижении, как у диких птиц из поколения в поколение сохраняется инновационное поведение [значение понятия можно прочитать здесь, этой ссылки в оригинальной статье нет], как слизистые грибы помогли заново создать карту токийского метро, оптимизировав распределение ресурсов. Чтобы узнать о последних исследованиях в области коллективного поведения, также рекомендуем ознакомиться с интернет-ресурсом Отдела коллективного поведения Института поведения животных им. Макса Планка.

Сноски

1. Теория
Если вы никогда не встречаете иные точки зрения в Интернете или такие иные точки зрения представлены как точки зрения идиота, то, скорее всего, вы находитесь в эхо-камере. Такое происходит довольно часто, поскольку социальные сети, как ни странно, имеют самоизолирующий эффект. Для более объективного взгляда на мир необходимо знакомиться с различными точками зрения.

2. Рыбы
Если углубиться в тонкости, на самом деле стартл-рефлекс может передаваться несколькими нейронными путями, часть из них связана с более тонкой регуляцией моторики. У рыб рефлекс может проявляться с разной интенсивностью, поэтому результат на выходе может, в частности, зависеть от этого фактора. Но при общей количественной оценке распространения информации в группе наши рассуждения можно считать хорошим приближением для "категоризации" испугов на "да, эта рыба испугалась" и "нет, она не испугалась".

Эта статья прекрасное напоминание о том, что многие решения в науке и технике позаимствованы у природы, либо просто существуют в ней уже очень давно. Если вы хотите экспериментировать с моделями машинного и глубокого обучения, повторяя и совершенствуя находки природы, находить новое в комбинациях разнообразных подходов к искусственному интеллекту, то вы можете обратить внимание на наш курс "Machine Learning и Deep Learning", партнёром которого является компания NVIDIA лидер в области вычислений для ИИ.

Узнайте, как прокачаться и в других специальностях или освоить их с нуля:

• Профессия Data Scientist

• Профессия Data Analyst

• Курс по Data Engineering

Золотым стандартом исследований в области машинного обучения служит последовательная модель эксперимента: у вас есть базовый уровень, ваш эксперимент и фиксированный, заранее определённый набор тестов. Вы оцениваете свой базовый уровень на наборе тестов, получаете базовое значение. Затем вы выполняете свой эксперимент на наборе тестов и получаете другое значение. Затем вы сравниваете эти два результата. Допустим, вы публикуете все эти артефакты и предположительно любой может воспроизвести данные результаты. Это пример хорошей науки. Но я люблю невоспроизводимые исследования. И вот почему.

Воспроизводимость всегда была краеугольным камнем научного прогресса и предметом многочисленных семинаров и призывов к действию, особенно в области машинного обучения. Хотя попытки улучшить воспроизводимость результатов исследований, как правило, полностью оправданы и явно полезны для общества, они сопряжены с риском закрепления этой очень узкой модели точной воспроизводимости в качестве единственно приемлемого стандарта.

В академических кругах машинного обучения мало ценят то, что не все исследования могут позволить себе роскошь идеальной воспроизводимости по очень фундаментальным причинам и что, тем не менее, существуют научно обоснованные способы достижения статистической воспроизводимости при правильной разработке своего экспериментального протокола. Я считаю, что нам нужно улучшить собственное образование в рамках сообщества в целом, особенно в тех областях, где предмет исследования реальная производительность, например, для таких исследований робототехники, которые проводятся в моей лаборатории.

Для многих экспериментов, выполненных в Google, нет идеальной воспроизводимости, потому что фундаментально они связаны с оценкой влияния моделей на реальный мир. А реальный мир постоянно меняется: взаимодействие пользователей с системой существенно зависит от суточного цикла, смены времён года, мировых событий или ещё более неуловимых долгосрочных социальных тенденций. Ещё важнее то, что в результате изменений в самих моделях меняются пользовательские шаблоны.

Если вы заботитесь о влиянии своей модели на реальный мир, то для такого случая нет набора тестов.

Вы не можете проводить свои эксперименты последовательно (оценить базовый уровень в один день, а эксперимент провести на следующий), потому что мир уже изменился за это время, и ваши значения не сопоставимы. Вы также не можете сохранить вчерашний набор тестов, потому что ваши данные эволюционируют вместе с вашей моделью: если ваша модель предлагает пользователям набор результатов поиска, а показатель качества служит оценкой выбора их пользователями, невозможно вернуться к вчерашним пользователям и спросить их о том, что бы они сделали, если бы получили другой набор результатов.

Лекарством от этого стало параллельное проектирование эксперимента, иначе известное как A/B-тестирование. Для каждого экземпляра теста вы случайным образом выбираете выполняемую ветвь эксперимента: оценку базового уровня или эксперимент. Эта простая обработка отменяет любую изменчивость из-за лежащих в основе изменений распределения и позволяет получить статистически эффективные результаты, даже если ваша схема оценки находится в состоянии постоянного изменения.

И это приводит нас к самому большому непониманию A/B-тестирования и его пользы в качестве научного инструмента: оно часто используется, например, в UX-дизайне, чтобы узнать, влияют ли небольшие изменения компоновки сайта на переходы пользователей или могут ли тонкие изменения затенения сделать рекламу более привлекательной. В результате оно приобрело репутацию инструмента улучшения доверительных интервалов для очень малых эффектов. И поскольку исследователи машинного обучения относятся к доверительным интервалам в лучшем случае как к вынужденному допустимому отклонению, фактическая значимость А/В-тестирования для исследований в области машинного обучения обычно упускается из виду.

Параллельное A/B-тестирование целиком относится к тестированию больших эффектов, особенно когда нет возможности жёсткого контроля схемы оценки.

Мои коллеги недавно наглядно продемонстрировали это в контексте исследований робототехники. Как известно, в робототехнике очень сложно создать воспроизводимую схему оценки: роботы меняют положение, оборудование, объекты изнашиваются, меняется освещение, операторы роботов тонким образом влияют на то, как данная схема сбрасывается после каждого эксперимента. Печально известная проблема сброса, в частности, очень сложна, потому что создание хорошего протокола сброса, который возвращает настройку вашего робота в известное фиксированное состояние, может быть столь же трудным, как и запуск эксперимента в первую очередь.

Они взяли одну из наших простейших установок, задачу захвата идентичных пенопластовых кубиков внутри бункера, и измерили воспроизводимость этой идеально контролируемой среды.

Они за несколько дней последовательно провели 11 экспериментов по захвату и измерили вероятность успеха и доверительные интервалы для каждого из них. Результаты, нормированные по отношению к производительности базового прогона, показаны ниже:

Изменчивость в идентичных экспериментах. Источник: Robotics at Google (Робототехника в Google)

Если бы каждому эксперименту соответствовала другая модель, мы бы сказали, что эксперимент 7 примерно на 2% лучше, а эксперимент 5 примерно на 5% хуже. И у нас бы даже были достаточно жёсткие доверительные интервалы, чтобы убедить вас в этом. Но здесь не было никаких различий между экспериментами, все они были идентичными. Обратите внимание, что это не случай отсутствия данных: большее количество данных будет только сокращать доверительные интервалы, а не перемещать их положение относительно базового уровня. Такая необъяснимая изменчивость целиком попадает в неизвестные неизвестные окружающей среды. И эта установка так же проста, как и для реального эксперимента с роботом: во многих статьях по робототехнике сообщается об экспериментах с последовательной обработкой и гораздо большим потенциалом необъяснимой изменчивости, чем этот. Что ещё важнее, если бы мы не измерили эту повседневную изменчивость, мы бы даже не догадались о её существовании. Очень немногие исследователи когда-либо задумывались об измерении внутренней изменчивости в их экспериментальной установке в первую очередь, потому что, давайте посмотрим правде в глаза: так это работает, и из этого направления исследований могут поступать только плохие новости.

Урок здесь заключается в том, что при использовании этого конкретного экспериментального протокола мы определённо не можем доверять любой разнице производительности ниже 10% я даже не знаю, доверял бы ли я разнице в 10% без большой повторной проверки. Неужели это безнадёжно? Конечно, нет. Введите параллельное тестирование.

Только избавившись от иллюзии идеальной воспроизводимости, вы сможете наслаждаться восхитительной свободой статистической воспроизводимости и по-прежнему заниматься наукой с гораздо более высокой эффективностью данных в качестве бонуса.

Вот три дня одного и того же эксперимента, но на этот раз базовый уровень оценивался параллельно с экспериментом, случайным образом выбранным в каждом эпизоде.

Теперь обратите внимание, насколько последовательны числа, говорящие вам, что на самом деле нет никакой разницы между базовым уровнем и экспериментом. Нейтральные А/А-эксперименты, подобные этому, самый жёсткий статистический тест, и любой эксперимент, который действительно влияет на производительность, смог бы выдать чёткий сигнал.

Это было выполнено без каких-либо изменений в экспериментальной установке, только с немного другим экспериментальным протоколом.

Итак, почему же все не делают так? Давайте рассмотрим некоторые из этих задач.

Одно из распространённых заблуждений заключается в том, что, поскольку необходимо снова и снова оценивать базовый уровень для каждого эксперимента, нужно в два раза больше оценочных данных. Это неверно, как только есть некоторая изменчивость в вашей установке: выигрыш в статистической эффективности, который получается от постоянной оценки базового уровня, может составлять порядка величины данных или бесконечное количество данных в худшем случае, как мы видели выше. Есть хитроумные способы получения ещё большей эффективности данных с помощью перекрывающихся экспериментов вероятно, это самая недооценённая исследовательская работа, вышедшая из стен Google, но создание правильных инструментов для этой работы требует гораздо больше усилий, чем большинство исследователей, вероятно, готовы приложить при изучении этой проблемы.

Один из недостатков заключается в том, что ваша базовая оценка всегда должна быть работоспособной, предпочтительно выраженной в том же двоичном файле, что и ваш эксперимент, и поддерживать переключение на лету. Это, несомненно, требует работы и тщательного проектирования программного обеспечения. Преимущество этого заключается в том, что вы также защищаете себя от случайной деградации данных, когда какой-то сотрудник случайно изменяет что-то в вашем проекте, что влияет на базовую производительность, и вы этого не замечаете. Такое происходит с предсказуемой регулярностью в любой общей кодовой базе. Многие изменения в системе незначительны, влияют на исходную производительность тонкими способами и в конечном счёте не имеют отношения к рассматриваемому научному вопросу. Отсутствие необходимости всё это контролировать это абсолютная свобода.

Одно из очевидных преимуществ этой установки заключается в возможности контролировать свои доверительные интервалы на лету. Вы можете решить прекратить эксперимент, убедив себя, что он даёт даже немного отрицательный результат. Часто требуется гораздо меньше данных, чтобы убедиться в этом. Если эксперимент даёт положительный результат отлично! Просто выполняйте его, пока не получите правильные величины ошибок. А если вы измеряете не величину эффекта, а просто значимость, вы также можете остановить эксперимент раньше.

Но что можно сказать о том, чтобы сделать исследование воспроизводимым другими? Вы по-прежнему можете публиковать базовые и экспериментальные модели, а также экспериментальный протокол, а каждый может генерировать собственные данные о своей воспроизводимой системе, чтобы убедиться в достоверности полученных результатов. Напомним, что допущение здесь заключается в том, что использованные данные не могут быть повторно использованы либо потому, что они по своей сути эфемерны, либо не переносятся на любой будущий экземпляр той же исследовательской установки.

Ещё одно ключевое преимущество параллельного тестирования защита от ряда предвзятостей, главная из которых предвзятость экспериментатора: так как вы не можете знать, какая выборка данных в какую ветвь эксперимента направляется, вы не можете обманывать себя, полагая, что один результат лучше другого. Оно также защищает вас от случайной настройки на тестовый набор, так как в оценке присутствует определённый уровень стохастичности.

Ещё одна предвзятость, более характерная для укрепляющего обучения и робототехники, это несовершенные сбросы: если одна ветвь эксперимента заставляет механизм сброса вести себя немного иначе, чем другая, возможны тонкие различия, которые останутся незамеченными. Мы видели, как RL-системы манипулируют своей средой, чтобы получить определённые состояния сброса и, следовательно, повысить свои шансы на успех в последующих эпизодах или даже передать информацию между эпизодами таким образом.

Фактически протоколы параллельных экспериментов часто способны значительно уменьшить или устранить необходимость в сбросах в первую очередь: если ваша система завершает каждый эпизод в допустимой части пространства состояний, так как нет способа узнать, какая ветвь эксперимента привела к этой конкретной конфигурации среды, вы часто можете проводить пожизненные эксперименты без сброса и без предвзятости в отношении ветвей эксперимента.

Одна из главных вещей, от которой вы отказываетесь, это комфорт иметь одну аккуратную пару результатов с базовой точностью и точностью испытаний, которые бы вы записали на бумаге и которые бы ожидал каждый академический рецензент. У каждого эксперимента имеется собственный базовый уровень, который, в свою очередь, имеет собственный доверительный интервал. Ваш абсолютный показатель точности испытаний зависит от дня выполнения измерения, но он всё ещё совершенно надёжен, поскольку каждый раз оценивается статистическая значимость измеренных различий между ветвями.

Тем не менее для рецензентов, принимающих эту реальность, барьер остаётся огромным. Переход от абсолютных, воспроизводимых истин к относительным, статистическим истинам вызывает дискомфорт. Это то, что во многих научных областях, таких как разработка лекарств, сделано по необходимости, но это всё ещё чуждо машинному обучению, где обычно нет необходимости отступать к комфорту автономных оценок. Проблема с этой институциональной аллергической реакцией на эксперименты с реальными системами, сбросившими видимость идеальной воспроизводимости, заключается в том, что в таких областях, как робототехника, реальная производительность на самом деле стала научным сферическим конём в вакууме и что академические практики, которые работают против этих в остальном твёрдых научных протоколов, активно сдерживают нас. Проводить эксперименты в реальном мире трудно, рискованно, а с академическими препонами для такого рода исследований следует бороться на каждом шагу.

Слишком много нашей коллективной энергии в этой области тратится на попытки придумать новые, цельные, совершенные эталонные тесты, которые чрезвычайно трудно построить, в несколько донкихотском стремлении сделать робототехнику более похожей на исследования в области машинного обучения. Конечный результат заключается в том, что, за очень редкими исключениями, большая часть усилий в этом направлении сводится к моделированию эталонных тестов и отказу от реалистичности ради воспроизводимости. У таких усилий всё ещё много достоинств, но они составляют только около половины уравнения, и часто сама цена их создания отвлекает исследователей от реальных научных поисков. Другие пытались определить метаэталонные тесты, обходя проблему воспроизводимости, не определяя задачу или экспериментальный протокол в точности в первую очередь. Как человек, который своевольно относится к протоколам и тщетности чрезмерной специализации проблемы, я думаю, что это позитивное общее направление, даже если оно откладывает обсуждение большей части сложных аспектов фактического исполнения.

Для нас в области машинного обучения и робототехники настало время использовать те простые инструменты, которые делают невоспроизводимые исследования воспроизводимыми и научно обоснованными. Ни один из протоколов, которые я описываю здесь, не является особенно трудным для реализации, но они обещают улучшить реальную науку, упростить её и ускорить. А если вы хотите ускорить свой прогресс в области machine learning или data science приходите учиться к нам, а наши опытные менторы пояснят все сложные моменты, на которые при самообразовании вы бы потратили ценное время.

Узнайте, как прокачаться и в других специальностях или освоить их с нуля:

• Профессия Data Scientist

• Профессия Data Analyst

• Курс по Data Engineering

Будущее здесь безо всяких преувеличений. В нашей публикации Третий глаз для незрячих рассказывалось о том, как можно облегчить жизнь незрячим людям при помощи нескольких ультразвуковых сенсоров. Сегодня рассказываем о кибернетической руке на основе глубокого обучения, точность вычислений которой составляет более 95 %. Также в статье есть впечатления смельчака, решившегося опробовать технологию на себе. Именно его вы видите на КДПВ.

На этой неделе появилось 600 новых статей об архитектуре Transformer. Как мне быть? Случайным образом выбрать из них несколько, опубликовать у себя практически без изменений (не считая каких-то мелочей) и, возможно, чуть-чуть улучшить?

Надеюсь, вы не слишком обескуражены таким вступлением, но прошу понять меня правильно: архитектура Transformer сегодня настолько популярна, что сообщения о ней забивают все другие. Само собой, это потрясающая архитектура, она может оказаться чрезвычайно полезной во многих случаях, и недаром большинство исследователей сходят по ней с ума, но в области искусственного интеллекта (ИИ) есть и другие вещи, и, поверьте, не менее, а даже более увлекательные! Не стоит волноваться, я, естественно, буду рассказывать о впечатляющих проектах, созданных на базе архитектуры Transformer, применяемой в NLP, машинном распознавании образов и во множестве других областей. Я считаю эту архитектуру весьма перспективной, но просто пересказывать содержание новых работ, внося в них лишь косметические изменения, для меня не так интересно.

В качестве примера могу упомянуть пару опубликованных в марте работ, в которых говорится о применении архитектуры Transformer для классификации изображений. Эти работы довольно схожи друг с другом, и об одной из них я уже рассказывал (см. ниже). Я полагаю, что из них можно получить довольно полное представление о текущем состоянии архитектуры Transformer, используемой для машинного распознавания образов.

Связанная статья. Сможет ли архитектура Transformer заменить CNN в машинном распознавании образов?

Обратимся же теперь к настоящей теме этой статьи! Тема эта не имеет никакого отношения ни к архитектуре Transformer, ни даже к GAN, в ней нет никаких модных словечек (за исключением, пожалуй, слова "киберпанк"), но, тем не менее, это одно из самых крутых применений ИИ, с которыми я сталкивался в последнее время! Эта штука способна решать насущные проблемы многих людей и круто изменить их жизнь к лучшему. Конечно, она работает не так эффектно, как, например, превращение человеческого лица в персонажа аниме или мультфильма, зато ничто не сравнится с её полезностью.

Представляю вашему вниманию "Портативный автоматический ручной нейропротез с управлением пальцами на основе методов глубокого обучения", авторы: Nguyen, Drealan и др. Или, выражаясь словами одного из авторов, перед вами рука "киберпанка"!

Но сначала хочу напомнить о бесплатном мероприятии NVIDIA GTC, которое должно состояться на следующей неделе. Вы узнаете множество интересных новостей из мира искусственного интеллекта, а если подпишетесь на мою новостную рассылку, вас ждёт приз от Института глубокого обучения, которым я руковожу. Если вас заинтересует это предложение, можете ознакомиться с моим предыдущим видео, в нём я говорил об этом призе.

Теперь давайте более подробно ознакомимся с этой уникальной и поражающей воображение новой работой.

В этой работе на нейропротез накладываются технологии глубокого обучения, позволяющие контролировать в реальном времени движения отдельных пальцев протеза. Человек, потерявший руку 14 лет назад, теперь может двигать искусственными пальцами, как на обычной руке! Задержка прохождения команд составляет от 50 до 120 миллисекунд, точность движений от 95 до 99 %. Из этой работы следует, что встраивание технологий глубоких нейросетей непосредственно в носимые биомедицинские устройства не только возможно, но и чрезвычайно эффективно!

В данном случае был использован модуль NVIDIA Jetson Nano, специально разработанный для развёртывания систем ИИ в автономных приложениях. Это позволило использовать GPU и мощные библиотеки, такие как TensorFlow и PyTorch, внутри самого манипулятора. Авторы проекта говорят: "При реализации нашего нейронного декодера мы отыскали самый подходящий компромисс между размерами, мощностью и производительностью". Главная цель данной работы решить проблему эффективного развёртывания нейронных декодеров глубокого обучения на портативном устройстве, используемом в реальных приложениях, для долгосрочного применения в клинической практике.

Естественно, есть много технических тонкостей, о которых я здесь рассказывать не буду (какой из меня специалист!). Например, я не буду рассказывать о том, как соединяются друг с другом нервные волокна и биоэлектронные элементы, какие применяются микросхемы, позволяющие одновременно осуществлять нейронную запись и стимуляцию, или как реализованы программное и аппаратное обеспечения, обеспечивающие работу системы декодирования двигателя в реальном времени. Если вы захотите узнать больше об этом, можете обратиться к описаниям соответствующих работ, их можно легко найти по ссылкам. Давайте просто рассмотрим принципы глубокого обучения, реализованные в этом удивительном изобретении. Инновационная идея заключалась в оснащении системы декодирования двигателя технологиями глубокого обучения, что позволило снизить вычислительную нагрузку на платформу Jetson Nano.

На рисунке показан поток обработки данных платформой Jetson Nano. Сначала данные в виде сигналов периферических нервов от ампутированной руки отправляются на платформу. Эти данные предварительно обрабатываются. Этот шаг очень важен: берётся выборка входных необработанных нейронных данных, после чего система рассчитывает их основные характеристики во временной области, а затем загружает в модели. Такие предварительно обработанные данные соответствуют основным характеристикам нейронных данных односекундной давности, полученных от ампутированной руки и очищенных от источников шума. Затем эти прошедшие обработку данные передаются в модель глубокого обучения, и на выходе получается конечный результат возможность управления движением каждого пальца. Всего наборов выходных данных пять, по одному на каждый палец.

Как в реальности работает использованная авторами модель? В её основе лежит применение свёрточного слоя. Такой слой используется для идентификации различных представлений входных данных. В данном случае количество свёрток равняется 64. Эти свёртки были получены с использованием различных фильтров, то есть всего имеется 64 различных представления.

Фильтры представляют собой сетевые параметры, которым система обучилась во время тренинга для правильного управления протезом после его подсоединения. Мы знаем, что время в данном случае является крайне важным фактором, так пальцы должны двигаться плавно, поэтому для представления такого зависящего от времени аспекта при декодировании данных были выбраны управляемые рекуррентные блоки (GRU).

Блоки GRU сообщают модели, что делала рука в последнюю секунду (что было закодировано сначала) и что ей нужно делать дальше (что декодируется в настоящее время). Говоря простым языком, GRU это не что иное, как улучшенная версия рекуррентных нейронных сетей, или RNN.

RNN решают следующую вычислительную задачу: добавляют вентили, чтобы при выполнении рекуррентного процесса о прошлых входных данных сохранялась только релевантная информация (иначе придётся каждый раз пропускать входные данные через фильтры).

По сути, RNN принимают решение, какая именно информация должна передаваться на выход. Как и в рекуррентных нейронных сетях, в нашем случае односекундные данные в виде 512 свойств итерационно обрабатываются с помощью реккурентных блоков GRU. Каждый блок GRU получает входные данные текущего шага и прошлые выходные данные и на их основе формирует следующий набор выходных данных. Блок GRU, таким образом, можно рассматривать как оптимизацию "базовой" реккурентной нейросетевой архитектуры. На последнем этапе декодированная информация отправляется на линейные слои, где преобразуется в значения вероятности для каждого отдельного пальца.

Авторы, как следует из их статьи, изучили множество различных архитектур и смогли создать самую эффективную с вычислительной точки зрения модель, работающую с потрясающей точностью более 95 %.

Мы получили общее представление о работе и точности модели, но остался ещё ряд вопросов. Например, что ощущает человек, пользующийся нейропротезом? Насколько реальны его ощущения? Насколько качественно работает протез? В общем, всех интересует вопрос: может ли такой протез заменить настоящую руку?

Вот, что рассказывает сам пациент:

Я понимаю, что эта штука ещё требует доработки. В ней должно быть больше "жизненных" функций для выполнения повседневных задач, чтобы можно было не задумываться о том, в каком положении находится рука и в каком режиме она запрограммирована. Надо чтобы она работала так: увидел, дотянулся и взял. [...] В идеале я должен ощущать на теле не протез, а обычную руку. Я полагаю, мы до этого дойдём. Я верю в это!

Для меня данное изобретение самый невероятный пример применения технологий искусственного интеллекта.

Это изобретение способно повысить качество жизни человека, и нет ничего почётнее этой цели. Надеюсь, вам понравилась эта статья. Также можете посмотреть видеоверсию, где можно своими глазами посмотреть на движения настоящей руки киборга. Спасибо, что прочитали статью. В видеоролике об этом уже говорилось, но я повторю здесь: "Это безумно круто!"

Менять весь мир это очень большая цель и она практически недостижима. Но нам вполне по силам изменить некоторую его часть. Такие протезы и ПО для них могут сделать мир лучше для многих людей, которые по каким-то причинам лишились части тела. Если для реализации ваших задумок не хватает знаний можете обратить внимание на наш расширенный курс по Machine Learning и Deep Learning и возможно именно вы научите протезы откликаться на малейшие нервные импульсы.

Узнайте, как прокачаться и в других специальностях или освоить их с нуля:

• Профессия Data Scientist

• Профессия Data Analyst

• Курс по Data Engineering

Не так давно у автора этой статьи возник вопрос: может ли простой метод сопоставления строк в сочетании с некоторыми простыми оптимизациями конкурировать с моделью, обученной с учителем, в биомедицинской задаче распознавания именованных сущностей (NER)? Автор сравнил эти два метода между собой и предположил, что при правильном подходе даже простые модели могут конкурировать со сложными системами, а мы к старту курса "Machine Learning и Deep Learning" перевели его статью.

В начале любого нового проекта НИОКР я ищу наиболее подходящее решение поставленной задачи. Несмотря на наличие нескольких очень интересных крупных моделей, одной из моих самых больших проблем является внедрение решения в производство без ущерба для результатов, которые я хотел бы поддерживать.

Что касается системы сопоставления строк, я использовал классификатор QuickUMLS. QuickUMLS [1] как система сопоставления строк принимает на вход строку (например, документ или реферат статьи, содержащий медицинские понятия) и выводит все промежутки документа, которые соответствуют понятиям унифицированного языка медицинских систем (UMLS). Затем эти понятия могут быть повторно использованы в других условиях или в качестве исходных данных для других систем машинного обучения. По этой причине QuickUMLS можно рассматривать как удобный инструмент предварительной обработки для получения релевантных понятий из клинических и биомедицинских текстов. Однако в этой статье мы сосредоточимся на использовании QuickUMLS в качестве классификатора на сложном наборе данных MedMentions [2].

Некоторые ключевые моменты, которые необходимо знать о биомедицинском NER

Прежде чем мы погрузимся в проблему, которую пытаемся решить, полезно описать некоторые особенности биомедицинского NER. В целом проблема NER заключается в поиске именованных сущностей (например, известных мест, лиц, организаций и т. д.) в тексте. Как вы, вероятно, догадываетесь, многие из этих сущностей можно найти через контекст. Например, в таком предложении, как "Сэм и Дрю пошли в Колизей", мы можем сделать вывод, что Колизей это место, потому что вы обычно ходите в какие-то места. Аналогично, мы можем предположить, что "Сэм" это имя собственное, потому что слова в позиции подлежащего "идти", которые не являются обычными словами, это обычно имена.

В отличие от этого биомедицинская NER заключается в поиске и однозначном определении интересующих биомедицинских терминов из текста, таких как заболевания, названия лекарств, а также общих терминов, таких как "больница.роддом" (hospital), "палата интенсивной терапии/подопечный отделения интенсивной терапии" или "алкоголь/спирт" (alcohol). Это важное различие, поскольку существует очень мало контекстуальной информации, определяющей, имеет ли данное слово медицинское значение. Чтобы привести немного нагруженный пример, рассмотрим слово "alcohol" в предложении "пациент выпил много alcohol" [для ясности того, что речь идёт о неоднозначности, оставлено оригинальное alcohol]. Тяжесть этого заключения зависит от того, относится ли оно к алкоголю, такому как пиво или вино, или к чистому спирту, такому как спирт для растирания. Для более полного обзора состояния дел в области биомедицинского NER см. эту запись в блоге моего коллеги из Slimmer AI, Сибрена Янсена.

Знать, какие понятия имеют медицинское значение, сложно без большого количества обучающих данных, которые, как правило, не всегда доступны. Поэтому многие системы используют унифицированный язык медицинских систем (UMLS), которая представляет собой большую онтологию, содержащую множество различных понятий вместе с их строковыми представлениями и другой информацией. Обратите внимание, что "понятие" здесь отличается от "строки", поскольку многие строки могут ссылаться на более чем одно понятие. Например, строка "alcohol" может относиться к спирту для растирания или к алкогольным напиткам.

В UMLS каждое понятие описывается уникальным идентификатором понятия (CUI), который является символическим идентификатором для любого данного уникального понятия, и семантическим типом (STY), который, в свою очередь, является идентификатором семейства, группирующим понятия с похожими характеристиками. Одной из причин, по которой UMLS является полезным, но в то же время сложным для работы, его огромный размер. Версия UMLS 2020AB, которую мы будем использовать в дальнейшем, насчитывает более 3 миллионов уникальных английских понятий. Маловероятно, что значительная часть этих понятий появится даже в больших аннотированных наборах данных.

Работа с набором данных MedMentions

Одним из таких наборов данных является MedMentions. Он состоит из 4 392 статей (заголовки и рефераты), опубликованных в Pubmed за 2016 год; аннотировано 352 K понятий (идентификаторов CUI) и семантических типов из UMLS. В документах имеется около 34 тысяч аннотированных уникальных понятий это около 1 % от общего числа понятий в UMLS. Факт показывает, что аннотирование упоминаний в UMLS является сложной задачей, которую не всегда можно решить с помощью машинного обучения с учителем.

Особый интерес в этом отношении представляет то, что корпус MedMentions включает в тестовое множество CUI, которые не встречаются в обучающем наборе. В целом, однако, эта задача всё ещё рассматривается как задача машинного обучения с учителем и с использованием семантических типов понятий UMLS в качестве меток. Поскольку UMLS имеет 127 семантических типов, это всё равно приводит к большому пространству меток. У набора данных MedMentions тоже есть уменьшенная версия st21pv, который состоит из тех же документов, что и обычный набор, но в нём аннотирован только 21 наиболее часто встречающийся семантический тип.

Полумарковская базовая модель получает около 45,3 по F-мере на уровне сущностей [2]. Другие подходы, включая BlueBERT [3] и BioBERT [4], были протестированы и улучшили оценку до 56,3 балла, используя точное соответствие на уровне сущностей [5]. Обратите внимание, что все эти подходы являются контролируемыми и, следовательно, полагаются на определённое совпадение между обучающим и тестовым множеством в плане понятий. Если понятие или метка никогда не встречалась в процессе обучения, в подходе машинного обучения с учителем будет сложно её правильно классифицировать. Далее в качестве меток мы будем использовать семантические типы из набора данных MedMentions.

QuickUMLS: без учителя и на основе знаний

В отличие от BERT QuickUMLS по своей сути является методом без учителя, а это означает, что он не полагается на обучающие данные. Точнее, QuickUMLS это метод, основанный на знаниях. То есть модель, вместо того чтобы иметь параметры, сообщающих, что прогнозировать, для прогнозирования меток полагается на внешнюю базу знаний. Подход подразумевает две вещи:

1. Качество модели ограничено качеством базы знаний. Модель не может предсказать то, чего нет в базе знаний.

2. Модель может обобщать не только аннотированные данные. Модель, которая обучалась с учителем и во время обучения не видела конкретной метки, в целом не может точно предсказать эти вещи. Исключение из правила методы обучения zero-shot.

Zero-shot learning (ZSL) это постановка задачи в машинном обучении, когда во время тестирования алгориттм наблюдает выборки из классов, которые не наблюдались во время обучения, и должен спрогнозировать, к какому классу они принадлежат.

Исходя из этих двух фактов, мы утверждаем, что основанные на знаниях методы хорошо подходят для набора данных MedMentions. Что касается первого пункта, база данных MedMentions была аннотирована с использованием понятий UMLS, поэтому сопоставление между базой знаний и набором данных является точным сопоставлением. Что касается второго пункта, набор данных MedMentions в тестовом наборе содержит понятия, которых нет в обучающем наборе.

Архитектура модели QuickUMLS

QuickUMLS как модель проста. Сначала она анализирует текст с помощью парсера spacy. Затем выбирает словесные n-граммы, то есть последовательности слов, на основе цитат и описаний цитат, а также списков стоп-слов. Это означает, что модель отбрасывает определённые словесные n-граммы, если они содержат нежелательные токены и знаки препинания. Подробные сведения об этих правилах можно найти в оригинальной статье [1]. После выбора кандидатов вся база данных UMLS запрашивается, чтобы найти понятия, частично соответствующие словам n-грамм. Поскольку точное сопоставление в такой огромной базе данных неэффективно и сложно, авторы выполняют приблизительное сопоставление строк с помощью simstring [6]. При задании текста QuickUMLS, таким образом, возвращает список понятий в UMLS вместе с их сходством со строкой запроса и другой связанной информацией. Например, текст У пациента было кровоизлияние, используя (по умолчанию) порог сходства строк 0,7, возвращает следующих кандидатов:

Для слова patient:

{term: Inpatient, cui: C1548438, similarity: 0.71, semtypes: {T078}, preferred: 1},{term: Inpatient, cui: C1549404, similarity: 0.71, semtypes: {T078}, preferred: 1},{term: Inpatient, cui: C1555324, similarity: 0.71, semtypes: {T058}, preferred: 1},{term: *^patient, cui: C0030705, similarity: 0.71, semtypes: {T101}, preferred: 1},{term: patient, cui: C0030705, similarity: 1.0, semtypes: {T101}, preferred: 0},{term: inpatient, cui: C0021562, similarity: 0.71, semtypes: {T101}, preferred: 0}

Для слова hemmorhage:

{term: No hemorrhage, cui: C1861265, similarity: 0.72, semtypes: {T033}, preferred: 1},{term: hemorrhagin, cui: C0121419, similarity: 0.7, semtypes: {T116, T126}, preferred: 1},{term: hemorrhagic, cui: C0333275, similarity: 0.7, semtypes: {T080}, preferred: 1},{term: hemorrhage, cui: C0019080, similarity: 1.0, semtypes: {T046}, preferred: 0},{term: GI hemorrhage, cui: C0017181, similarity: 0.72, semtypes: {T046}, preferred: 0},{term: Hemorrhages, cui: C0019080, similarity: 0.7, semtypes: {T046}, preferred: 0}

Как вы можете видеть, слово patient имеет три соответствия с корректным семантическим типом (T101) и два соответствия с корректным понятием (C0030705). Слово кровоизлияние также имеет лишние совпадения, включая понятие "No hemmorhage". Тем не менее кандидат с самым высоким рейтингом, если исходить из сходства, является правильным в обоих случаях.

В приложении QuickUMLS по умолчанию мы сохраняем только предпочтительные термины, то есть термины, для которых предпочтительным является 1, а затем сортируем по сходству. После мы берём семантический тип (семтип) кандидата с самым высоким рейтингом в качестве прогноза мы называем это базовой моделью (baseline model). Мы использовали seqeval со строгой парадигмой соответствия, которая сопоставима с предыдущей работой [5].

    BERT  QUMLS  P   .53    .27  R   .58    .36  F   .56    .31 Таблица 1  производительность базовой модели

Не слишком впечатляюще, правда? К сожалению, базовая модель страдает от плохого случая, когда она не оптимизирована для конкретной задачи. Таким образом, давайте оптимизируем её с помощью простой эвристики.

Улучшение QuickUMLS с помощью некоторых простых оптимизаций

Есть несколько способов улучшить QuickUMLS помимо его первоначальной производительности. Во-первых, отметим, что стандартный синтаксический анализатор, используемый QuickUMLS, по умолчанию является моделью spacy, т. е. en_core_web_sm. Учитывая, что мы имеем дело с биомедицинским текстом, нам лучше применить модель биомедицинского языка. В нашем случае мы заменили spacy на scispacy [7], en_core_sci_sm. Это уже немного повышает производительность без каких-либо затрат.

    BERT  QUMLS  + Spacy  P   .53    .27      .29  R   .58    .36      .37  F   .56    .31      .32 Таблица 2  Замена на scispacy

Другие улучшения можно получить, используя некоторую информацию из учебного корпуса. Хотя это действительно превращает QuickUMLS из метода без учителя в метод с учителем, зависимости от большого количества конкретных аннотаций по-прежнему нет. Другими словами, нет явного подходящего шага для конкретного корпуса: улучшения, которые мы собираемся сделать, также могут быть оценены с помощью небольшого набора аннотаций или знаний врача, которыми он владеет по определению.

Оптимизация порога QuickUMLS

Настройки по умолчанию для QuickUMLS включают пороговое значение 0,7 и набор метрик. Метрика определяет, как подсчитывается сходство строк, и может быть установлена в Jaccard, cosine, overlap и dice. Мы выполняем поиск по сетке, по метрике и различным пороговым значениям. Наилучшими результатами оказались пороговые значения 0,99, а это означает, что мы выполняем точные совпадения только с помощью SimString и метрики Jaccard, которая превосходит все другие варианты с точки зрения скорости и оценки. Как видите, мы всё ближе и ближе подходим к производительности BERT.

    BERT  QUMLS  + Spacy  + Grid  P   .53    .27      .29     .37  R   .58    .36      .37     .37  F   .56    .31      .32     .37 Таблица 3  Поиск по сетке параметров

Преимущество добавления априорной вероятности

Напомним, что выше мы просто выбрали лучшего подходящего кандидата, основываясь на том, была ли это предпочтительная строка, и на их сходстве. Однако во многих случаях разные понятия будут иметь одно и то же строковое представление, как, например, в вышеупомянутом примере с alcohol. Это затрудняет выбор оптимального кандидата без модели устранения неоднозначности, которая требует контекста, и снова превращает проблему обучения в проблему обучения с учителем или по крайней мере требующую примеров контекстов, в которых встречаются термины. Один из простых выходов из этой головоломки состоит в том, чтобы учесть, что при прочих равных условиях некоторые семантические типы просто более вероятны и, следовательно, более вероятны в данном корпусе. Такая вероятность называется априорной вероятностью.

В нашем случае мы оцениваем априорную вероятность принадлежности к классу через обучающий набор данных, как это было бы сделано в хорошо известном наивном Байесовском классификаторе. Затем для каждого семантического типа, который мы извлекаем, в свою очередь, для каждого набора кандидатов, мы берём максимальное сходство, а затем умножаем его на предыдущий. В терминах нейронной сети вы можете представить это как максимальное объединение на уровне класса. Оно также означает, что мы игнорируем приоритетность кандидатов.

    BERT  QUMLS  + Spacy  + Grid  + Priors  P   .53    .27      .29     .37       .39  R   .58    .36      .37     .37       .39  F   .56    .31      .32     .37       .39 Таблица 4  Добавление приоров

К сожалению, это всё, что мы могли бы получить, используя простую систему в QuickUMLS. Учитывая, что мы в конечном счёте использовали порог 0,99, это означает, что мы вообще не используем функциональность приблизительного сопоставления QuickUMLS. Удаление приблизительного сопоставления также значительно ускорит работу всей системы, так как большая часть времени алгоритма теперь тратится на сопоставление в QuickUMLS.

Глубокое погружение в анализ ошибок: соответствовало ли наше решение поставленной задаче?

Когда мы выполняем задачу распознавания именованных сущностей, мы можем допустить ошибки нескольких типов. Во-первых, мы можем извлечь правильный промежуток, но неправильный класс. Это происходит, когда мы находим правильный термин, но даём ему неправильную метку: например, мы думаем, что alcohol относится к напитку, в то время как он относится к дезинфицирующему средству. Во-вторых, мы также можем извлечь промежуток частично, но при этом всё равно сопоставить его правильной метке. В этом случае возможно рассматривать совпадение как частичное совпадение. В нашем скоринге мы считали правильными только точные совпадения. Пример извлечение мягкого анестетика, когда золотым стандартом является анестетик. Мы также можем полностью пропустить какие-то промежутки, например потому, что UMLS не содержит термина, или извлечь не соответствующие упоминаниям золотого стандарта промежутки. На рисунке ниже показано, какие виды ошибок допускает наша система:

Это показывает, что ошибки, которые делает QuickUMLS, не относятся к одной конкретной категории. Она извлекает слишком много элементов, но, когда она делает это, то также часто присваивает им неправильную метку. Это показывает, что QuickUMLS можно использовать в качестве системы предварительного извлечения, после чего для назначения правильной метки можно применить систему устранения неоднозначности.

Заключение

Как вы можете видеть из результатов, готовая система извлечения терминологии может быть использована в качестве эффективной системы NER без обучения. Получение обучающих данных для конкретных случаев применения часто может быть трудоёмким, снижающим скорость R&D процессом. Построенный нами классификатор QuickUMLS показывает, что мы можем многого добиться с очень небольшим количеством обучающих примеров. И, будучи разумными в том, как использовать ресурсы, мы в процессе исследований и разработок для биомедицинских исследований сэкономили много времени. Модифицированный классификатор QuickUMLS можно опробовать здесь, на github. Преимущество подхода может означать, что мы нашли решение, достаточно надёжное для достижения конечного результата, простое в разработке и тестировании, а также достаточно небольшое, чтобы легко внедрить его в разработку продукта.

Именно сегодня медицина одна из самых важных областей знания, а обработка естественного языка одна из самых интересных областей в ИИ: чем лучше искусственный интеллект распознаёт речь, текст, чем точнее обрабатывает её, тем ближе он к здравому смыслу человека.

Вместе с тем одни из самых успешных моделей так или иначе комбинируют подходы из разных областей ИИ, например мы писали о визуализации пения птиц, чтобы ИИ работал со звуком так же, как работает с изображениями и если вам интересна не только обработка естественного языка, но и эксперименты с ИИ в целом, вы можете обратить внимание на наш курс "Machine Learning и Deep Learning", партнёром которого является компания NVIDIA.

Узнайте, как прокачаться и в других специальностях или освоить их с нуля:

• Профессия Data Scientist

• Профессия Data Analyst

• Курс по Data Engineering