Фото 1. Один из дата-центров Internet Archive в
Сан-Франциско
Internet
Archive некоммерческая организация, которая с 1996 года
сохраняет копии веб-страниц, графические материалы, видео- и
аудиозаписи и программное обеспечение. Каждый может зайти в
Wayback
Machine и посмотреть, как выглядел
Хабр в 2006 году или
Яндекс в 1998 году, хотя загрузка архивных копий занимает около
минуты (это не для реализма 90-х, а по техническим причинам, см.
ниже).
Архив быстро растёт. Сейчас объём всех накопителей достиг 200
петабайт. Но Internet Archive принципиально не обращается к
стороннему хостингу или облачному сервису вроде AWS. У
некоммерческой организации собственные дата-центры, свои серверы и
свои инженеры. Это гораздо дешевле, чем услуги AWS.
Архив Интернета против облаков
Технические подробности серверного устройства Internet Archive
раскрыл Джона Эдвардс (Jonah Edwards), руководитель инженерной
группы Core Infrastructure Team.
По его мнению, понятие облако многих людей вводит в заблуждение как
нечто абстрактное. На самом деле это просто чужие компьютеры, то
есть серверы посторонней компании. Для Internet Archive это
неприемлемо. У организации собственные серверные в собственных
зданиях, компьютеры принадлежат им, и персонал тоже свой.
Четыре дата-центра Internet Archive располагаются в
Сан-Франциско, Ричмонде и Редвуд-Сити (это пригороды
Сан-Франциско)
Кто-то может посчитать такой подход архаичным, но в некоторых
случаях он действительно оправдан. В случае Internet Archive на то
есть три причины: это дешевле, обеспечивает лучший контроль за
серверами и даёт гарантию, что пользователей не отслеживают
рекламные трекеры.
Деньги на обслуживание инфраструктуры и зарплаты сотрудникам
собираются преимущественно за счёт пожертвований и грантов, годовой
бюджет составляет около $10 млн.
Инфраструктура
Что представляет собой инфраструктура, которой управляет Core
Infrastructure Team? На февраль 2021 года цифры такие:
- 750 серверов, возраст до 9 лет;
- 1300 виртуальных машин;
- 30 000 устройств хранения данных;
- более 20 000 жёстких дисков в парах друг с другом (paired
storage), обычно пара разнесена по дата-центрам или странам для
надёжности;
- общий объём накопителей почти 200 петабайт.
Разумеется, техника постепенно обновляется. На смену старым
накопителям приходят новые. Например, маленькие диски на 2 и 3
терабайта полностью вышли из обращения в 2017 и 2018 годах,
соответственно, а с прошлого года постоянно растёт доля дисков на
16 ТБ.
Как показано на графике ниже, несмотря на увеличение ёмкости
накопителей, общее число HDD тоже постепенно растёт: за три года
оно выросло с 15 тыс. до 20 тыс.
Количество жёстких дисков разного объёма на серверах Internet
Archive
Диски реплицируются по дата-центрам, для производительности контент
по запросу выдаётся одновременно со всех копий. Все элементы Архива
представляют собой директории на дисках. Веб-страницы Wayback
Machine хранятся в файлах WARC (Web ARChive, сжатые файлы Web
Archive). При запросе отдельной страницы её нужно извлечь из
середины архива WARC, а если страница требует загрузки
дополнительных ресурсов, то процесс повторяется. Это одна из
причин, почему полная загрузка страниц из Wayback Machine достигает
90 секунд, хотя закэшированные копии и популярный контент
загружаются быстрее.
Для надёжности копии Архива хранятся не только в Сан-Франциско, но
и ещё в нескольких локациях по всему миру, в том числе
в Амстердаме (Нидерланды) и Новой Александрийской библиотеке
(Египет).
В 1996 году первые серверы Internet Archive подняли на недорогих
компьютерах из стандартных комплектующих: по сути, на обычных
десктопах под Linux. Хотя инфраструктура сильно выросла, в качестве
операционной системы всегда использовали только Linux. С 2004 года
все серверы перешли на Ubuntu, сейчас
продолжается миграция на Ubuntu 20.4 LTS (Focal Fossa).
Объём Архива
В последнее время объём Архива возрастает примерно на 25% в год,
сейчас это соответствует 56 петабайтам в квартал. С учётом
резервных копий нужно добавлять накопителей на 1012 петабайт в
квартал.
Одна копия Архива занимает более 45 петабайт, но на дисках и лентах
хранится минимум две копии каждого объекта.
Как видно на графике вверху, обновление дискового массива
происходит только за счёт моделей максимальной ёмкости. Например, в
конце 2021 года планируется переход на диски по 20 ТБ, и тогда в
серверы будут устанавливать только их. Остальные HDD постепенно
доживают свой век, и их количество медленно снижается.
Internet Archive возлагает большие надежды на новые технологии
записи данных, такие как
HAMR (heat-assisted magnetic recording), чтобы ёмкость HDD
увеличивалась ещё быстрее. Технология HAMR предусматривает
предварительное нагревание магнитной поверхности лазером в процессе
записи, что позволяет значительно уменьшить размеры магнитной
области, хранящей один бит информации и увеличить плотность записи.
Нагрев выполняется с помощью лазера, который за 1 пс разогревает
область записи до 100 C.
Разработка этой технологии затянулась на 15 лет, но в январе 2021
года
были официально представлены первые диски HAMR на 20 ТБ. Пока
что они официально поставляются только избранным клиентам в рамках
фирменного сервиса Seagate Lyve, но вскоре должны появиться в
свободной продаже.
Seagate обещает, что HAMR позволит наращивать ёмкость HDD на 20% в
год. Поэтому в ближайшее время можно ожидать модель на 24 ТБ, а в
будущем диски на 30 и 50 ТБ. Internet Archive тоже надеется на это
и внимательно следит за последними разработками.
На текущем размере дисков понадобится 15 вот таких серверных стоек,
чтобы разместить одну копию Архива:
У Internet Archive 750 серверов и 20 000 жёстких дисков
Сейчас в дата-центрах установлено 75 серверных стоек, что
обеспечивает некоторый запас и избыточное копирование.
По состоянию на февраль 2021 года на серверах хранились копии 534
млрд веб-страниц, 16 млн аудиозаписей, 8,7 млн видеозаписей
фильмов, клипов и телепередач, 3,8 млн изображений, 629 тыс.
компьютерных программ, более 29 млн книг и текстов, в том числе
72 771 текст на русском языке.
Любой пользователь может создать аккаунт и добавить в архив
медиафайлы.
Internet Archive поддерживает
API
для внешних сервисов. Например, сторонний сервис может забирать
контент из хранилища и показывать его на своём сайте или в
приложении. Можно строить собственные каталоги на базе этого
хранилища, эксплуатируя IA просто как удалённый бесплатный хостинг
файлов с хотлинками. Подобную модель использует книжный каталог
Open
Library на базе Internet Archive. Хотлинки и модель подобной
эксплуатации собственных ресурсов поощряется со стороны Архива.
Кстати, аналогичные правила действуют в Wikimedia Commons:
холинкинг разрешён и даже поощряется, что недавно вызвало
казус
с фотографией цветка: по непонятной причине ежедневно в сеть
Wikimedia Commons поступало около 90 млн одинаковых запросов на
получение одного файла
AsterNovi-belgii-flower-1mb.jpg. Будем надеяться, что
у Internet Archive таких инцидентов не случится.
Сеть
В 2020 году Internet Archive пережил серьёзный рост количества
запросов и объёма внешнего трафика с 40 до 60 Гбит/с. Из-за
пандемии коронавируса и самоизоляции ресурсы Архива стали более
востребованы. Количество запросов росло так быстро, что в
определённый момент маршрутизаторы Internet Archive перестали
справляться с нагрузкой, пришлось делать апгрейд сетевой
инфраструктуры быстрее, чем планировалось. Сейчас веб-сайт входит в
топ-300 крупнейших сайтов интернета.
Работа на собственных серверах имеет и свои недостатки. Основные
причины сбоев Internet Archive обрывы оптоволокна из-за
строительных работ в городе, сбои энергоснабжения, случайные
провалы напряжения в сети. Впрочем, прошлый год сайт завершил с
аптаймом 99,9%.
Internet Archive планирует расширять внешний канал. Ожидается, что
в ближайшее время внешний трафик вырастет до 80 Гбит/с.
Примерно так выглядит дизайн внутренней сети:
Дата-центры подключены к нескольким провайдерам первого уровня
(Tier 1) и соединены между собой по оптоволокну с применением
технологии плотного спектрального уплотнения (DWDM). Локальные
университетские сети подключаются к этому кольцу напрямую через
локальные точки обмена трафиком.
Вместо нынешнего оптоволокна планируется проложить пары
100-гигабитных кабелей по всему кольцу из четырёх дата-центров, так
что внешний трафик тоже можно будет увеличить до 100 Гбит/с.
Прокладка новых кабелей по Сан-Франциско весьма хлопотное и дорогое
дело. Приходится перекладывать асфальт на автомобильных дорогах и
тротуарах. К счастью, Internet Archive удалось получить официальный
статус
библиотеки, что даёт доступ к государственным
субсидиям, в том числе к бюджету Федеральной комиссии по связи США
(FCC) на подключение всех библиотек к интернету. Таким образом,
львиную долю расходов на прокладку, обслуживание оптоволокна и
трафик оплачивает FCC по программе
E-Rate Universal Service Program.
С 2005 года Internet Archive начал проект
Open Library по
сканированию книг. С одной стороны, это действительно важный
общественный проект. С другой стороны, он позволил получить
государственные льготы и финансирование в качестве публичной
библиотеки.
Кроме государственных грантов и пожертвований, организация
оказывает
платные услуги
по сканированию книг, в основном, для других библиотек и
университетов. Это ещё один источник финансирования.
Планы на будущее
Инженеры Internet Archive сейчас обдумывают варианты использования
SSD и GPU в основных серверах, чтобы увеличить их
производительность. Главная проблема здесь в том, что все
дата-центры находятся в стеснённых городских условиях Сан-Франциско
и пригородов с очень ограниченными возможностями охлаждения (см.
фото 1). Так что каждый апгрейд требуется хорошо обдумать: не
приведёт ли он к повышению температуры.
Интересно наблюдать за ростом инфраструктуры Internet Archive с
увеличением количества серверных стоек. Есть подозрение, что рано
или поздно наступит момент, когда сложность поддержания своей
инфраструктуры превысит некий порог и библиотека откажется от
собственных дата-центров. Но пока что инженеры Core Infrastructure
Team успешно справляются с работой.
В зависимости от методологии расчёта, хранение данных в собственных
дата-центрах Internet Archive обходятся в 25 раз дешевле, чем в
облаке. И это только хранение. Сложно даже посчитать, сколько будет
стоить круглосуточный исходящий трафик 60 Гбит/с на AWS. Вероятно,
он обойдётся даже дороже, чем хранение 200 петабайт.
Похоже, что некоторые сервисы просто слишком велики для облака.
Компаниям приходится поднимать собственные дата-центры, потому что
у них нет выхода. Другой вопрос: должна ли библиотека заниматься
этим самостоятельно? Получается, что современная цифровая
библиотека это по сути хостинг-провайдер и дата-центр?
На правах рекламы
Эпичные серверы это
надёжные VDS на Linux или Windows с мощными процессорами
семейства AMD EPYC и очень быстрой файловой системой, используем
исключительно NVMe диски от Intel. Попробуйте как можно
быстрее!
21.09.2020 12:22:00 |
Автор: 
Категории: