Энтропия

Существует пара терминов, на которых я вот лично я постоянно спотыкаюсь. Приходится в сотый, двухсотый, трехсотый раз гуглить и вчитываться, но через некоторое время прочитанное благополучно выветривается из головы. Это при том, что другие незнакомые термины я осваиваю без видимых усилий, но с этими двумя извечная закавыка.

Эти не подлежащие запоминанию термины энтропия и сингулярность.

К чему я сообщаю о личной проблеме? Хочу озвучить одну не самую популярную мысль, а именно: процесс запоминания зависит не столько от индивидуальных качеств человеческой памяти, сколько от предмета запоминания в данном случае самих терминов.

Идея состоит в следующем.

Как известно, одни термины определяются при помощи других то есть одни слова определяются другими словами, при этом никаких первоначальных слов с установленным значением нет.

Первоначально существует физический мир, разделенный на физические объекты: каждый объект индивидуален ему можно дать имя, при этом разночтений не возникнет, если только в определении границ физического объекта.

Если договориться называть человека Васей Петровым, этот человек и будет Васей Петровым: спорить можно только о том, являются ли, скажем, отрезанные в парикмахерской волосы Васи Петрова его частью, или это уже не Вася Петров. А если отрезать не волосы, а палец, является ли отрезанный палец Васей Петровым? Или, формулируя задачу в общем виде: если разрезать Васю Петрова надвое, обе части будут Васей Петровым или одна, а если одна, то какая именно другими словами, в какой части физического тела находится идентификационное средоточие Васи Петрова? Но пока Вася Петров относительно цел, вопроса с идентификацией не возникает.

Далее, на основе схожих характеристик можно вычленять группы объектов и именовать их. Здесь разночтения уже возможны, ведь некоторые из характеристик физических объектов не являются дискретными.

Женщина, родившая ребенка, однозначно является его матерью. Но если делить людей на высоких и низких, необходимо произвольно установить границу деления. Допустим, граница установлена в 180 см. В таком случае между двумя людьми, высоким и низким, может быть разница всего 2 см (170 и 181 см), тогда как между двумя высокими людьми гораздо больше (например, 181 и 201 см).

Наконец, существуют абстрактные понятия (дружба, преданность, доверие и т.п.), которые так просто вообще не охарактеризуешь, слишком сложны, неоднозначны, а зачастую и индивидуальны критерии, по которым они образованы. Тем не менее даже абстрактные понятия термины высшего порядка имеют свои значения, завязанные на множестве терминов низшего порядка.

Таким образом, в человеческом мозгу образуется сложная система взаимосвязей между десятками тысяч терминов, которыми человек на протяжении жизни пользуется. Все эти термины взаимозависимы завязаны друг на друга. Если в имеющуюся сложную систему вводить новый термин, он должен лечь на предназначенное ему пустое место, причем согласованно со смежными понятиями, иначе вводимый термин в устоявшуюся систему не запишется.

Вы правильно поняли: я подозреваю, что не в силах запомнить значения терминов энтропия и сингулярность по той причине, что они некорректно ложатся на терминологическую систему в моем мозгу. Предлагаю злополучные термины вкратце проанализировать, для чего использовать определения Википедии.

Вот самая вменяемая фраза Википедии по поводу энтропии.

В широком смысле, в каком слово часто употребляется в быту, энтропия означает меру сложности, хаотичности или неопределённости системы: чем меньше элементы системы подчинены какому-либо порядку, тем выше энтропия.

Прежде всего, мне как правоверному обывателю неясно, что значит: элементы системы подчинены какого-либо порядку мутная какая-то фраза, совершенно ненаучная! Если элементы существуют в рамках системы, они и действуют в рамках этой системы, а если начинают действовать вопреки системе, то из системы выпадают либо разносят ее вдребезги. Убей Бог, не понимаю соответственно, не могу запомнить.

Это далеко не все. Допустим, энтропия мера хаотичности. Однако, хаотичность термин отрицательный, альтернативный положительному термину упорядоченность. Я к тому, что если уж, вопреки бритве Оккама, приспичило вводить в оборот синонимичный термин следовало вводить не отрицательный термин, а положительный: не меру хаотичности, а меру упорядоченности. Тогда с запоминанием проблем не возникло бы.

Представьте, что в языке отсутствуют понятия обувь и соответственно обутый, а вместо них используются термины отсутствие обуви и разутый легче стало бы воспринимать реальность или тяжелей?

Даже этимология, в иных случаях безотказная, тут не действует.

Энтропия (от др.-греч. в + поворот; превращение)

Положим, я запамятовал значение энтропии, но знаю, что слово произошло от греческих в и поворот сильно мне данное знание поможет?

С энтропией закончил, перехожу к сингулярности.

Вот что сообщает по поводу сингулярности Википедия:

Сингулярность (от лат. singularis единственный, особенный)
Сингулярность в философии единичность существа, события, явления
Математическая сингулярность (особенность) точка, в которой математическая функция стремится к бесконечности или имеет какие-либо иные нерегулярности поведения.
Гравитационная сингулярность (сингулярность пространства-времени) область пространства-времени, через которую невозможно гладко продолжить входящую в неё геодезическую линию.
Космологическая сингулярность состояние Вселенной в начальный момент Большого взрыва, характеризующееся бесконечной плотностью и температурой вещества.
Технологическая сингулярность гипотетический момент, по прошествии которого технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию.

Тут по крайней мере этимология понятна, хотя все равно ничего не объясняет, за счет слишком разнородного употребления.

Философия: существуют привычные единичность и уникальность на кой черт потребовалась сингулярность? К слову, в юности я почитывал философские труды, но сингулярности что-то не вспоминается.

Математика: математическим аппаратом не владею, поэтому судить не берусь. Допускаю, что в математике употребление данного термина строго формально, следовательно, корректно.

Гравитация: не понимаю от слова вообще. Зато хорошо знаю, что сказки о четырехмерном пространстве-времени не имеют под собой научного основания. Время не четвертая пространственная координата, упаси Боже. Как можно спутать?

Космология: не верую ни в какую теорию Большого взрыва (возражение стандартное: если сначала ничего не было, то что взорвалось-то?), но дело не в этом. Зачем потребовалось обзывать начальный момент Большого взрыва сингулярностью? Не иначе, из-за красивости данного определения.

Технология: по крайней мере, значение понятно. Но опять звучный наукообразный термин, этимология которого не имеет никакого отношения к приданному значению. Зачем сделано чтобы в голове каша образовалась?

Как видим, сингулярностью именуются совершенно различные, не имеющие отношения друг к другу и этимологии данного слова сущности. И что удивительного в том, что моя память наотрез отказывается помещать данную эклектичную ахинею в продуманную устоявшуюся понятийную систему?!

Подозреваю, что данной умственной особенностью не один я страдаю если кто-то подтвердит подозрения, мне станет значительно легче. Впрочем, я и без подтверждения уверен: с энтропией и сингулярностью дело нечисто.

Разбираясь с вопросами, которые ставят перед наукой экстремальные чёрные дыры, физики выявили удивительную и универсальную связь между энергией и энтропией.


Экстремальные чёрные дыры содержат столько электрического заряда, сколько возможно. Это привлекло пристальное внимание физиков-теоретиков.

Физики любят крайности, говорит Гарретт Гун, физик из Университета Карнеги-Меллона. Если не получается двигаться дальше, что-то изменилось, застопорилось значит, там кроется что-то интересное.

Компания EDISON всегда рада помочь в исследовательских бизнес-проектах.


На протяжении многих лет мы делаем инвестиции в стартапы, помогая средствами и технической поддержкой в реализации свежих нестандартных идей.

Речь не только о том, чтобы дать взаймы. Мы готовы разделить риски и активно содействовать в создании чего-то нового.

Десятилетиями чёрные дыры играли ведущую роль в мысленных экспериментах, с помощью которых физики исследуют крайности природы. Эти невидимые сферы образуются, когда материя становится настолько сконцентрированной, что всё находящееся на определённом расстоянии, даже свет, попадает в ловушку её гравитации. Альберт Эйнштейн сравнил силу тяжести с кривыми в пространственно-временном континууме, но кривизна настолько возрастает при приближении к центру чёрной дыры, что уравнения Эйнштейна перестают работать. Таким образом, поколения физиков обращались к чёрным дырам за подсказками об истинном, квантовом происхождении гравитации, которое должно стать гармоничной красивой теорией и в целом соответствовать идеям Эйнштейна в любом месте Вселенной.

Концепцию испаряющихся чёрных дыр для познания квантовой гравитации предложил Стивен Хокинг. В 1974 году британский физик подсчитал, что квантовая рябь на поверхностях чёрных дыр заставляет их испаряться, медленно уменьшаясь в размерах с выделением тепла. С тех пор испарение чёрных дыр стало основой исследования квантовой гравитации.

Совсем недавно физики рассмотрели крайность из крайностей сущности, называемые экстремальными чёрными дырами и выявили многообещающую проблематику.

Чёрная дыра становится электрически заряженной, если в неё падает заряженная материя. Физики рассчитали, что чёрные дыры имеют так называемый экстремальный предел, точку насыщения, когда они хранят максимальное количество электрического заряда для своего размера. Когда заряженная чёрная дыра сжимается под воздействием излучения Хокинга, она в конечном итоге достигает данного экстремального предела. Он будет настолько мал, насколько это возможно, с учётом величины заряда. Дальнейшее испарение невозможно.

Но идея о том, что экстремальная чёрная дыра перестаёт испаряться и с того момента просто неизменна, неправдоподобна, утверждает Грант Реммен, физик из Калифорнийского университета в Беркли. В этом случае вселенная далёкого будущего будет усеяна крошечными неразрушимыми остатками чёрных дыр любых чёрных дыр, потому что даже лёгкое прикосновение к чёрной дыре после испарения превратит её в экстремальную. Неизвестны какие-либо фундаментальные условия, при которых эти чёрные дыры навсегда были бы защищены от окончательного разрушения, поэтому физики не думают, что такое стационарное состояние может длиться вечно.


Итак. Есть вопрос, как сказала Сера Кремонини из Университета Лихай: Что происходит со всеми этими экстремальными чёрными дырами?

Физики обоснованно полагают, что экстремальные чёрные дыры должны в конечном итоге распасться, разрешая парадокс, но каким-то иным путём, помимо испарения Хокинга. Изучение гипотетических возможностей в последние годы привело исследователей к основным подсказкам о квантовой гравитации.

Четыре физика в 2006 году пришли к выводу, что если экстремальные чёрные дыры способны распасться, это значит, что гравитация должна быть самым слабым взаимодействием в любой возможной вселенной, что являлось сильным утверждением об отношении квантовой гравитации к другим квантовым силам. Этот вывод привлёк более пристальное внимание к судьбам экстремальных чёрных дыр.

Затем, два года назад, Реммен и его коллеги Клиффорд Чунг и Джунью Лю из Калифорнийского технологического института обнаружили, что способность распадаться экстремальных чёрных дыр напрямую зависит от другого ключевого свойства черных дыр: их энтропии мере того, сколькими различными способами составные части объекта могут быть переставлены. Энтропия одна из наиболее изученных особенностей чёрных дыр, но до этого она не имела ничего общего с их экстремальным пределом. Это прям вау, отлично, что две очень крутые вещи оказались взаимосвязаны, говорит Чунг.

И что окончательно поразило, эта взаимосвязь, как оказалось, характерна для любых природных явлений. В статье, опубликованной в марте в Physical Review Letters, Гун и Риккардо Пенко обобщили выводы своей предыдущей работы, доказав простую универсальную формулу, связывающую энергию и энтропию. Новая формула была применена к газообразной системе, а также к чёрной дыре.


Риккардо Пенко (слева) и Гаррет Гун (справа) на примере экстремальных чёрных дыр доказали универсальную связь между энергией и энтропией.
Университет Карнеги Меллон; Фото Кристин Гун

Согласно последним исследованиям, мы действительно продвинулись в изучении квантовой гравитации, говорит Гун, Но, что ещё интереснее, узнаём нечто новое и о более повседневных вещах.

Экстремальность чёрных дыр

Для физиков достаточно очевидно, что заряженные чёрные дыры имеют экстремальный предел. Объединяя уравнения Эйнштейна и уравнения Максвелла, они рассчитали, что заряд Q чёрной дыры, никогда не превзойдёт её массу M, если их преобразовать в одни и те же фундаментальные единицы измерения. Вместе масса и заряд чёрной дыры определяют её размер радиус горизонта событий. Между тем, заряд чёрной дыры также создает второй внутренний горизонт, скрытый за горизонтом событий. По мере увеличения Q внутренний горизонт чёрной дыры расширяется, а горизонт событий сжимается до тех пор, пока при Q = M оба горизонта не совпадут.

Если Q увеличится ещё больше, радиус горизонта событий станет комплексным числом (содержащий квадратный корень из отрицательного числа), а не вещественным. Это нефизично (This is unphysical). Итак, согласно простому сочетанию теории электромагнетизма и эйнштейновской гравитации, состояние Q = M должно быть пределом.

Когда чёрная дыра достигнет этой точки, простым вариантом для дальнейшего разделения было бы распад на две меньшие чёрные дыры. Однако для того, чтобы подобное расщепление было возможно, законы сохранения энергии и сохранения заряда требуют, чтобы в одном из дочерних объектов в итоге заряд превалировал над массой. Исходя из уравнений Эйнштейна и Максвелла, это невозможно.


Инфографика от 5W для журнала Quanta

Но, в конце концов, разделение экстремальных чёрных дыр на две части возможно, как указали в 2006 году Нима Аркани-Хамед, Любос Мотл, Альберто Николис и Кумрун Вафа. Они отметили, что объединённые уравнения Эйнштейна и Максвелла не работают для маленьких, сильно искривлённых чёрных дыр. В меньших масштабах дополнительные нюансы, связанные с квантово-механическими свойствами гравитации, приобретают большую важность. Эти детали вносят поправки в уравнения Эйнштейна-Максвелла, корректируя прогнозируемый экстремальный предел. Четыре физика показали, что чем меньше чёрная дыра, тем весомее эти поправки, в результате чего экстремальный предел смещается всё дальше и дальше от Q = M.


Исследователи также отметили, что если корректировки имеют нужный знак положительный, а не отрицательный тогда маленькие чёрные дыры могут содержать больше заряда, чем массы. Для них Q > M, и это именно то, что нужно для распада больших экстремальных чёрных дыр.

Если это так, то не только чёрные дыры могут распасться. Аркани-Хамед, Мотл, Николис и Вафа отметили, что из этого следует еще один факт о природе: гравитация должна быть самой слабой силой. Заряд объекта Q это его чувствительность к любому взаимодействию, кроме силы тяжести. Его масса М это его чувствительность к гравитации. Таким образом, Q > M означает, что из обеих сил гравитация является слабейшей.

Исходя из своего предположения о том, что чёрные дыры способны распадаться, четыре физика обобщили гипотезу, предположив, что гравитация должна быть самой слабой силой в любой жизнеспособной вселенной. Другими словами, объекты с Q > M всегда будут существовать для любого вида заряда Q, независимо от того, являются ли эти объекты частицами, такими как электроны (которые действительно имеют гораздо большие электрические заряды, чем их масса), или маленькими чёрными дырами.

Эта гипотеза слабой гравитации получила широкое распространение, поддерживая ряд других идей о квантовой гравитации. Но Аркани-Хамед, Мотл, Николис и Вафа не доказали, что Q > M или что экстремальные чёрные дыры могут распадаться. Поправки квантовой гравитации к экстремальному пределу могут быть отрицательными, и в этом случае маленькие чёрные дыры могут нести даже меньший заряд на единицу массы, чем большие. Экстремальные чёрные дыры не распались бы, и гипотеза о слабой гравитации не оправдалась.

Все это означало, что исследователям нужно было выяснить, каков на самом деле знак корректировок квантовой гравитации.

Беспорядок повсюду

Вопрос о квантовых гравитационных корректировках поднимался и ранее, в другой, казалось бы, не связанной теме по изучению чёрных дыр.

Почти 50 лет назад ныне покойные физики Джейкоб Бекенштейн и Стивен Хокинг независимо друг от друга обнаружили, что энтропия чёрной дыры прямо пропорциональна площади её поверхности. Энтропия, обычно рассматривается как мера беспорядка, она оценивает количество способов, которыми внутренние части объекта могут быть перестроены без какого-либо изменения общего состояния. (Если комната грязная, т.е., с высокой энтропией, вы можете перемещать предметы случайным образом, и комната останется настолько же грязной; в противоположном случае, если комната чистая, т.е. с низкой энтропией, перемещение предметов сделает её менее аккуратной.) Перебросив мостик между энтропией чёрной дыры, которую определяют её внутренние микроскопические компоненты, и её геометрической площадью поверхности, закон энтропии Бекенштейна и Хокинга стал одной из самых сильных опор физиков для изучения чёрных дыр и квантовой гравитации.

Бекенштейн и Хокинг вывели свой закон, применив уравнения гравитации Эйнштейна (вместе с законами термодинамики) к поверхности чёрной дыры. Они рассматривали эту поверхность как гладкую и игнорировали любые структуры, существующие в микроскопических масштабах.

В 1993 году физик Роберт Уолд из Чикагского университета показал, что можно добиться большего. Уолд нашёл хитрые лазейки для получения небольших эффектов, получаемых от более микроскопических уровней реальности, не зная, каково полное описание этого более глубокого уровня. Его тактика, впервые применённая физиком Кеннетом Уилсоном в другом контексте, заключалась в том, чтобы описывать все возможные физические эффекты. В уравнениях Эйнштейна Уолд показал, как добавить ряд дополнительных факторов любых, имеющих правильные размерности и единицы измерения, построенные из всех физически значимых переменных, которые могли бы описывать неизвестные свойства чёрной дыры на близкой дистанции к её поверхности. Вы можете описать наиболее общий набор элементов, которые у вас могут быть в принципе, которые описывают кривизну [чёрной дыры] определённого размера, сказал Кремонини.


К счастью, этот ряд можно прервать после первых нескольких элементов, поскольку всё более сложные составные части многих переменных мало способствуют окончательному ответу. Даже многие из ведущих членов ряда могут быть вычеркнуты, потому что они имеют неправильную симметрию или нарушают условия согласованности. Это оставляет лишь несколько сущностей любого значения, которые модифицируют уравнения гравитации Эйнштейна. Решение этих новых, более сложных уравнений дает более точные свойства чёрной дыры.

Уолд проделал это в 1993 году, рассчитав, как квантовые гравитационные эффекты на малых расстояниях корректируют закон энтропии Бекенштейна-Хокинга. Эти поправки смещают энтропию чёрной дыры, таким образом, что она становится не точно пропорциональна площади. И хотя невозможно вычислить энтропийный сдвиг напрямую участвуют переменные с неизвестными значениями ясно, что поправки тем значительнее, чем меньше чёрная дыра, и, следовательно, тем больше энтропийный сдвиг.

Три года назад Чунг, Лю и Реммен применили один и тот же базовый подход Уолда к изучению заряженных чёрных дыр и экстремального предела. Они модифицировали уравнения Эйнштейна-Максвелла серией дополнительных членов, возникающих из-за эффектов на близком расстоянии, и решили новые уравнения, чтобы вычислить новый скорректированный экстремальный предел. Это привело к удивительному результату: поправки к экстремальному пределу заряженной чёрной дыры точно соответствовали поправкам к её энтропии, рассчитанным по формуле Уолда; квантовая гравитация неожиданно сдвигает обе величины одинаково.

Реммен помнит дату, когда они завершили расчет 30 ноября 2017 года потому что это было так увлекательно, вспоминает он. Это было очень захватывающе, когда мы доказали, что эти [дополнительные] элементы дают одинаковые сдвиги и энтропии и экстремальности.


Грант Реммен, Клиффорд Чунг и Джунью Лю обнаружили, что изменение экстремального предела чёрной дыры соответствует изменению её энтропии.

Но одинаковый ли знак у этих сдвигов? Обе поправки зависят от неопределённых переменных, поэтому в принципе они могут быть как положительными, так и отрицательными. В своей статье 2018 года Чунг и его коллеги подсчитали, что энтропийный сдвиг является положительным в большом классе сценариев и моделей квантовой гравитации. Они утверждают, что также интуитивно понятно, что сдвиг энтропии должен быть положительным. Напомним, что энтропия измеряет все возможные внутренние состояния чёрной дыры. Кажется разумным, что учёт более микроскопических деталей поверхности чёрной дыры выявит новые возможные состояния и, следовательно, приведет к большей энтропии, а не к меньшей. Чем больше микросостояний тем более правдоподобной будет теория, сказал Реммен.

Если это так, то сдвиг в экстремальном пределе также является положительным, что позволяет меньшим чёрным дырам хранить больше заряда по отношению к массе. В этом случае чёрные дыры всегда могут распасться на более лёгкие, сказал Чунг, добавив, что гипотеза слабой гравитации верна.

Но другие исследователи указывают на то, что эти результаты не являются прямым доказательством гипотезы о слабой гравитации. Гэри Шиу, физик-теоретик из Университета Висконсина в Мэдисоне, сказал, что вера в то, что энтропия всегда должна возрастать, когда вы принимаете во внимание квантовую гравитацию, это интуитивный вывод, с которым кто-то согласен, а кто-то нет.

Шиу привёл контрпримеры: нереалистичные модели квантовой гравитации, в которых благодаря аннулированию эффектов на коротких расстояниях уменьшается энтропия чёрных дыр. В этих моделях нарушается причинность или другие фундаментальные принципы, но, по мнению Шиу, смысл в том, что вновь найденная связь с энтропией сама по себе не доказывает, что экстремальные чёрные дыры всегда могут распадаться или что гравитация всегда является самой слабой силой.

А вообще доказать [гипотезу о слабой гравитации] это было бы просто фантастически, добавил Шиу. Именно поэтому мы всё ещё думаем об этой проблеме.

Запретное болотное царство

Гравитация является самой слабой из четырёх фундаментальных взаимодействий в нашей вселенной. Гипотеза о слабой гравитации утверждает, что иначе и быть не могло. Помимо нашей вселенной, гипотеза также, кажется, верна для любых теоретически возможных вселенных, выводимых из теории струн. Кандидат в квантовую теорию гравитации, теория струн, утверждает, что частицы это не точки, а протяженные объекты (т.н. струны), и что пространство-время в микроскопических масштабах также имеет дополнительные измерения. Когда теоретики описывают различные наборы струн, которые могут определять вселенную, они неизменно обнаруживают, что гравитация которая возникает из определённого типа струн всегда является самой слабой силой в этих модельных вселенных. Видеть, что это в конечном итоге происходит раз за разом, очень поразительно, делится Хорхе Сантос, физик из Института перспективных исследований в Принстоне, Нью-Джерси и Кембриджском университете.

Гипотеза о слабой гравитации является одной из наиболее важных в наборе гипотез болотных царств, выдвинутых физиками за последние два десятилетия. Это спекулятивные утверждения, основанные на мысленных экспериментах и примерах, о том, какие виды вселенных возможны и невозможны. Исключая невозможные варианты вселенных (помещая их в бесполезное болотное царство), болотные теоретики стремятся выяснить, почему наша вселенная такая, какая она есть.

Если бы исследователи смогли доказать, что гравитация неизбежно является самой слабой (и, как следствие, что чёрные дыры всегда могут разрушиться), то самый важный вывод, по мнению Сантоса, состоит в том, что квантовая гравитация должна стать теорией великого объединения. То есть, если Q и M должны иметь фиксированное соотношение, их связанные силы должны быть частью одной единой математической структуры. Сантос отметил, что единственной существующей теорией, которая объединяет фундаментальные силы в единую структуру, является теория струн. Конкурирующие подходы, такие как петлевая квантовая гравитация, пытаются квантовать гравитацию, разделяя пространство-время на части, не связывая гравитацию с другими силами. Если гипотеза слабой гравитации верна, то такие вещи, как петлевая квантовая гравитация, мертвы, сказал Сантос.

Хорхе Пуллин, теоретик петлевой квантовой гравитации в Университете штата Луизиана, считает что мёртвый это слишком сильно сказано. Этот подход сам по себе может быть частью более широкой объединённой теории, говорит он: Петлевая квантовая гравитация не исключает объединяющую структуру, просто мы пока не ставили это в повестку дня.


Гипотеза о слабой гравитации также взаимно усиливает некоторые другие гипотезы о болотных царствах, в том числе о роли симметрии и расстояния в квантовой гравитации. Согласно Шиу, логическая связь между этими гипотезами даёт нам некоторую уверенность в том, что, хотя эти заявления сделаны в виде предположений, за ними может скрываться универсальная истина.

Шиу сравнил наше нынешнее, приблизительное понимание квантовой гравитации с первым периодом развития квантовой механики. Было много догадок, много прыжков веры в то, что является правильной теорией субатомного мира, сказал он. В конце концов, многие из этих догадок оказались частью нынешней широкомасштабной картины.

Универсальная Энергия и Беспорядок

Новое исследование может иметь далеко идущие последствия не только в изучении чёрных дыр и квантовой гравитации.

В своей мартовской статье Гун и Пенко уточнили расчёт поправок энтропии и экстремальности чёрной дыры. Вместо того, чтобы использовать понятия, связанные с гравитацией и геометрией поверхности чёрной дыры, они рассчитали поправки исключительно в терминах универсальных термодинамических величин, таких как энергия и температура. Это позволило им обнаружить термодинамическую связь между энергией и энтропией, которая обычно наблюдается в природе.

Эта взаимосвязь просто прекрасна, говорит Сантос.

В случае с чёрными дырами формула учёного дуэта (Гун и Пенко) говорит о том же, что уже доказали Чунг, Реммен и Лю: это квантовая гравитация сдвигает экстремальный предел чёрных дыр (позволяя им хранить больше заряда по отношению к массе) и смещает их энтропию на пропорциональную величину. Другой способ описания дополнительной вместимости, обусловленной квантовой гравитацией, заключается в том, что чёрная дыра с фиксированным зарядом может иметь меньшую массу. Масса является формой энергии, и поэтому данное уменьшение массы можно рассматривать в более общем смысле как сдвиг в количестве энергии. Что обратно пропорционально сдвигу в значении энтропии.

В то время как для чёрной дыры равные и противоположные смещения в значениях энергии и энтропии происходят под влиянием неизвестных факторов квантовой гравитации, эквивалентная ситуация характерна для любой физической системы вблизи её экстремального предела.

Например, газ становится экстремальным при охлаждении до абсолютного нуля. Термодинамическая формула Гуна и Пенко говорит, что любые изменения в физике газа на микроскопическом уровне (например, когда речь идёт о типах атомов, которые его составляют) вызывают сдвиги в его энергии и энтропии, как с противоположными знаками, так с совпадающими. Гун предположил, что связь между энергией и энтропией может быть полезна в исследованиях ультрахолодных газов и других криогенных экспериментах, потому что иногда одно вычислить легче, чем второе.

Независимо от того, окажется ли эта взаимосвязь энтропия/энергия полезной в более приземлённых областях физики, у исследователей ещё очень много работы, чтобы изучить её в контексте чёрных дыр и её значение для природы гравитации.

Сможем ли мы ответить на вопрос: почему гравитация так слаба?- сказал Чунг. Тот факт, что этот вопрос один из главных, тот факт, что на этот вопрос можно чётко ответить, не вдаваясь в философские рассуждения, и тот факт, что он таким окольным путём приводит к энтропии (причём, путём, проверенным временем), в результате всего этого все эти увлекательные вещи о чёрных дырах кажутся каким-то безумием.

Данная статья пятая в серии. Ссылки на предыдущие статьи: первая, вторая, третья, четвертая

5.1 Информационная энтропия (Средний объем информации)

При создании дерева решений из данных алгоритм ID3 использует индекс, называемый информационной энтропией, чтобы определить, какой атрибут следует использовать для ветвления с наиболее эффективным распределением данных.

В начале, определимся с понятием объем информации. Интуитивно понятно, что объем данных = сложность, запутанность данных. Дерево решений собирает данные с одинаковыми значениями классов с каждого ветвления, таким образом снижая степень запутанности значений класса. Следовательно, при выборе атрибута, согласно которому лучше всего проводить ветвление, опираться стоит на то, насколько простыми стали данные после разветвления.

5.1.1 Определяем понятие объем информации

Объем данных, по сути, это ценность полученной информации.
Предположим, что информация о явлениях с низкой вероятностью возникновения (например, данные, согласно которым произойдет то или иное явление), встречается гораздо чаще, чем информация о событиях, которые произойдут с высокой вероятностью.

Например, знание правильного ответа из пяти предложенных вариантов, по объему информации больше, чем знание правильного ответа из двух вариантов.

И для того, чтобы передать это знание другому человеку, представим, что оно закодировано как двоичное число и отправлено по каналу связи. В данном случае объем такого сообщения (длина в битах) и будет определяться как объем информации.



Когда вероятность того, что событие E произойдет, равна P (E), объем информации I (E), который знает, что событие E произошло, определяется следующим образом.

I(E)=log2(1/P(E))=log2P(E)

5.1.2 Что такое информационная энтропия (средний объем информации)

У любого атрибута есть несколько значений. Например атрибут Погода представлен в 3 вариантах: Ясно, Облачно, Дождь. Среднее значение атрибутов того объема информации, который был получен из каждой вероятности появления события и называется энтропией (средним объемом информации).

В следующей формуле она представления буквой Н.

H=EP(E)log2P(E)

Например, рассчитать значение энтропии 2-ух представленных на рисунке атрибутов, можно следующим образом. Более смешанная, хаотичная левая сторона имеет высокое значение энтропии, по сравнению с черной правой стороной, имеющей низкое значение энтропии.



Однако, даже не используя запутанные формулы, из примера сверху можно понять, что правой стороне не хватает сложности, если посмотреть на количество черных точек. Можно, например, рассмотреть случай с добавлением желтой точки, создав тем самым ситуацию с 3 значениями. Информационную энтропию можно вычислить одинаковым образом как для двух значений, так и для трех значений, что делает ее, можно сказать, унифицированной и простой в обращении.

В примере ниже, несмотря на одинаковое количество черных точек с обеих сторон, значение энтропии будет выше на стороне, где присутствуют желтый и красный цвет, нежели чем на стороне, где оставшиеся точки только красные.



И алгоритм ID3 ищет значения атрибутов, которые разделяют данные на группы с более низкой энтропией.

5.2 Вычисление информационной энтропии

Информационная энтропия может быть вычислена с помощью следующего лямбда-выражения с DataFrame в качестве ввода и значением энтропии в качестве вывода.

entropy = lambda df:-reduce(lambda x,y:x+y,map(lambda x:(x/len(df))*math.log2(x/len(df)),df.iloc[:,-1].value_counts()))

Так как в данном лямбда-выражении уже присутствует другое лямбда-выражение, можно все немного упорядочить, и получится следующее:

entropy = lambda df:-reduce( #4.reduce создает одно значение из всех элементов массива.    lambda x,y:x+y,#5.Складываем значения энтропии, полученные из индивидуальных значений (9,5).    map( #2.Преобразовываем число (9,5) частотного массива (["": 9, "": 5]) в энтропию согласно следующему лямбда-выражению        lambda x:(x/len(df))*math.log2(x/len(df)),#3.Вычисляем P(E)log2(P(E))        df.iloc[:,-1].value_counts() #1.Частота последнего столбца DataFrameнапример:["":9,"":5]    ))

Данное выражение можно упорядочить следующим образом:

1. df.iloc[:,-1]извлекает последний столбец DataFrame, а value_counts дает его частотное распределение (пример частотного распределения: ["": 9, "": 5])
2. map преобразует каждое из значений частотного распределения (например, 9,5) в значения энтропии.
3. (x / len (df)) * math.log2 (x / len (df)) вычисляет формулу P (E) log2P (E) для одного значения энтропии.
4. reduce используется для создания единого значения из всех элементов массива. Например, его можно использовать для расчета сумм, средних значений и т. д.
5. Лямбда-выражение x, y: x + y дает сумму двух аргументов (x, y), то есть сумму массивов. Это часть с сигмой в формуле энтропии (EP(E)log2P(E)). Так как выражение имеет минус в начале, оно также имеет минус перед reduce в программе.

5.2.1 Вычисление информационной энтропии

Информационная энтропия для следующих данных составляет 0,9402859586706309.

d = {"Гольф":["","","","","","","","","","","","","",""]}# Энтропия равна 0.9402859586706309

С другой стороны, в случае, если первые два x изменяются на , станут доминирующими данными (сложность снизится), то энтропия будет равна 0,74959525725948.

d = {"Гольф":["","","","","","","","","","","","","",""]}# Энтропия равна 0.74959525725948

Ниже приведен список всех программ, вычисляющих информационную энтропию.

import pandas as pdfrom functools import reduceimport mathd = {"Гольф":["","","","","","","","","","","","","",""]}df0 = pd.DataFrame(d)entropy = lambda df:-reduce(    lambda x,y:x+y,    map(        lambda x:(x/len(df))*math.log2(x/len(df)),        df.iloc[:,-1].value_counts()    ))print(entropy(df0)) # Вывод 0.9402859586706309

Спасибо за прочтение!

Мы будем очень рады, если вы расскажете нам, понравилась ли вам данная статья, понятен ли перевод, была ли она вам полезна?

Это четвертая статья из серии работ (ссылки на первую, вторую и третью статьи), посвященных системе машинного обучения, основанного на теории решеток, названной "ВКФ-система". Программа использует алгоритмы, основанные на цепях Маркова, чтобы породить причины целевого свойства путем вычисления случайного подмножества сходств между некоторыми группами обучающих объектов. Эта статья описывает представление объектов через битовые строки, чтобы вычислять сходства посредством побитового умножения соответствующих представлений. Объекты с дискретными признаками требуют некоторой техники из Анализа формальных понятий. Случай объектов с непрерывными признаками использует логистическую регрессию, разделение области изменения на подынтервалы с помощью теории информации и представление, соответствующее выпуклой оболочке сравниваемых интервалов.

1 Дискретные признаки

Чтобы закодировать объект, описываемый только дискретными признаками, нам нужно вычислить вспомогательные битово-строчные представления значений каждого признака. Мы предполагаем, что эксперт в состоянии связать эти значения в отношении "общий"/"частный". Упорядочение должно образовывать нижнюю полурешетку после добавления специального значения 'null' (с сокращением '_' в некоторых случаях), чтобы обозначить тривиальное (отсутствующее) сходство между значениями заданного признака у сравниваемых объектов.

Представление целого объекта будет конкатенацией кодирований значений его признаков в некотором фиксированном порядке. Тогда побитовое умножение длинных строк сведется к перемножениям кодирований каждого атрибута. Следовательно, кодирование должно заменять сходство между значениями на побитовое умножение.

Так как любая нижняя полурешетка легко превращается в решетку (с добавлением наибольшего элемента, если его нет), Анализ формальных понятий (АФП) обеспечивает все необходимые средства.

Современная формулировка фундаментальной теоремы АФП утверждает

Для каждой конечной решетки пусть будет (над)множеством всех -неразложимых элементов и будет (над)множеством всех -неразложимых элементов. Для выборка породит решетку всех кандидатов , которая изоморфна первоначальной решетке .

Элемент решетки называется -неразложимым, если и для всех и влекут .
Элемент решетки называется -неразложимым, если и для всех и влекут .

Решетка ниже содержит -неразложимые элементы, отмеченные красным цветом, -неразложимые элементы, отмеченные синим.

Фундаментальная теорема (первоначально доказанная проф. Рудольфом Вилле с помощью выборки ) задает минимальную выборку вида

чтобы породить решетку всех кандидатов, изоморфную исходной решетке.

Отметим, что выборка Вилле требует 121 бит, а новая выборка нуждается только в 24 битах!

Автор предложил следующий алгоритм, чтобы кодировать значения битовыми строками:

1. Топологически сортируем элементы нижней полурешетки.
2. В матрице порядка ищем столбцы, которые совпадают с побитовым умножением предыдущих (каждый такой столбец соответствует -приводимому элементу).
3. Все найденные (-приводимые) столбцы удаляются.
4. Строки оставшейся матрицы задают коды соответствующих значений.

Этот алгоритм являются частью обеих CPython-библиотек: 'vkfencoder' внутри конструктора класса vkfencoder.XMLImport и 'vkf' внутри конструктора класса vkf.FCA. Разница в источнике данных: vkf.FCA читает такблицу БД под управлением MariaDB, а vkfencoder.XMLImport читает XML файл.

2 Непрерывные признаки

Мы обсуждаем шаги кодирования непрерывных признаков в соответствии с порядком их изобретения. Сначала мы применим идею системы C4.5 обучения деревьям решений для разделения области значений переменной на подынтервалы с использованием энтропийных методов.
После этого мы закодируем появление значения в некотором подынтервале битовой строкой таким образом, чтобы побитовое умножение соответствовало выпуклой оболочке сравниваемых подынтервалов.
Наконец, мы рассмотрим, как комбинировать несколько признаков, чтобы получить их дизъюнкцию или импликации. Ключом является логистическая регрессия между признаками.

2.1 Энтропийный подход

Когда мы имеем непрерывный признак, его область значений должна быть разбита на несколько подынтерваловв с различным влиянием на целевое свойство. Чтобы выбрать корректные пороги мы свяжем этот признак и целевое свойство через энтропию.

Путь будет дизъюнктным объединением обучающих примеров и контр-примеров . Интервал значений непрерывного признака порождает три подмножества и
.

Энтропия интервала значений непрерывного признака равна

Средняя информация разбиения интервала значений непрерывного признака равна

Порог это значение с минимальной средней информацией.

Для непрерывного признака обозначим через , и пусть будет произвольным числом, превосходящим . Пороги вычисляются последовательно расщеплением подынтервала с наибольшей энтропией.

2.2 Кодирование битовыми строками для выпуклой оболочки

Мы представляем значение непрерывного признака битовой строкой длины , где число порогов. Битовые строки могут рассматриваться как строки индикаторных (Булевских) переменных

где .

Тогда строка является битовым представлением непрерывного признака на объекте .

Следующая лемма утверждает, что результат побитового умножения выпуклая оболочка интервалов для аргументов.

Путь представляет и предстваляет . Тогда

соответствует .

Отметим, что тривиальное сходство соответствует тривиальному условию .

2.3 Отношения между непрерывными признаками

Подход к машинному обучению на основании АФП естественно рассматривает конъюнкцию нескольких бинарных аттрибутов как возможную причину целевого свойства. В случае дискретных признаков эксперт имеет возможность выразить дизъюнкцию значений путем добавления новых значений (в решеточных структурах параграфа 1). Случай непрерывных признаков отличается. Так что мы нуждаемся в некоторой технике, чтобы включить и этот случай.

Ключевой является следующая лемма

Дизъюнкция пропозициональных переменных эквивалентна выполнимости неравенства для любого .

Так как мы ограничиваемся двумя целевыми классами, то мы ищем классификатор

Классификатор это отображение R, где область объектов классификации (описываемых непрерывными признаками) и метки целевых классов.

Как обычно, мы предположим существование некоторого вероятностного распределения , которое может быть разложено как

где побочное (маргинальное) распределение объектов, a условное распределение меток на заданном объекте, т.е. для каждого выполняется следующее разложение

Вероятность ошибки классификатора равна

Байесовский классификатор относительно
задается правилом

Мы напомним хорошо известную теорему об оптимальности Байесовского классификатора

Байесовский классификатор имеет наименьшую ошибку классификации:

Теорема Байеса влечет

где и хорошо известная логистическая функция.

2.4 Логистическая регрессия между непрерывными признаками

Давайте приблизим неизвестную линейной комбинацией базисных функций () относительно неизвестных весов .

Для обучающей выборки введем знаки . Тогда

Заметим, что логарифм правдоподобия

является вогнутой функцией.

Метод Ньютона-Рафсона приводит к итеративной процедуре

С помощью мы получаем

где диагональная матрица с элементами
и вектор с координатами .

где итеративно вычисляемые веса.

Как обычно, ридж-регрессия поможет избежать плохо-обусловленной ситуации

В компьютерной программе "ВКФ-система" мы используем стандартный базис: константу 1 и сами признаки.

Наконец, нам нужен критерий значимости регрессии. Для логистической регрессии применялись два типа критериев:

Критерий Кокса-Снелла объявляет признак значимым, если

Критерий МакФаддена объявляет признак значимым, если

Заключение

"ВКФ-система" была применена к массиву Wine Quality из репозитория данных для машинного обучения (Универсистет Калифорнии в г. Ирвайн). Эксперименты продемонстрировали перспективы предложенного подхода. Для высококачественных красных вин (с оценкой >7), все примеры были классифицированы корректно.

Ситуация с дизъюнкцией (из параграфа 2.3) возникла при учете взаимоотношения "алкоголь" и "сульфаты". Положительные (хотя и слабо различные) веса соответствуют разным шкалам измерения различных признаков, а порог оказался строго между 0 и 1. Ситуация с "лимонной кислотой" и "алкоголем" была аналогичной.

Но ситуация с парой ("pH", "алкоголь") радикально отличалась. Вес "алкоголя" был положительным, тогда как вес "pH" оказался отрицательным. Но с помощью очевидного логического преобразования мы получили импликацию ("pH" "алкоголь").

Автор выражает благодарности своим колегам и студентам за поддержку и стимулы.