Русский
Русский
English
Статистика
Реклама

Биография

История жизни и смерти хакера, взломавшего пентагон и NASA в 15 лет

15.03.2021 16:12:10 | Автор: admin


Как правило, хакеры стараются вести скрытный образ жизни и соблюдать анонимность. Многим это удается, но некоторые из них обретают популярность вопреки собственной воле. Так случилось, например, с Кевином Митником или Робертом Моррисом. Но есть и другие компьютерные гении, о судьбе которых известно гораздо меньше, чем об их подвигах. Одного из таких парней, оставивших заметный след в истории мирового хакерства, звали Джонатан Джеймс. Это человек с яркой, но трагичной историей жизни, завершившейся ранней и таинственной смертью.


Как только не называли Джонатана Джеймса журналисты в своих многочисленных публикациях: и самым юным, но при этом самым талантливым хакером Америки, которому удалось проникнуть на серверы НАСА, взломать Пентагон, похитить программное обеспечение, управляющее МКС, и установить бекдор на севрерах одного из американских военных ведомств. И все это в пятнадцатилетнем возрасте. В качестве дальнейшего развития своей уникальной карьеры Джонатан Джеймс стал первым несовершеннолетним в США, отправившимся за решетку именно по обвинению в хакерстве. Вместе с тем, известно о нем широкой публике крайне немного: в англоязычной Википедии Джеймсу посвящена скромная страничка на полтора экрана, в русскоязычной и того меньше. Но история этого парня, вне всяких сомнений, заслуживает гораздо более подробного рассказа.

Детство


Джонатан Джозеф Джеймс (Jonathan Joseph James) родился 12 декабря 1983 года в небольшом, как бы у нас сказали, поселке городского типа Пайнкрест, расположенном в округе Майами-Дейд, штат Флорида. Население городка насчитывает всего 18 с небольшим тысяч жителей, но, несмотря на это, здесь дважды в месяц выходит собственная газета Пайнкрест Трибьюн. Еще в местечке Пайнкрест располагается известный на весь штат ландшафтный парк культуры и искусств Южной Флориды. Больше эта деревня, занимающая скромную площадь в семь с половиной квадратных миль, пожалуй, ничем не отметилась в богатой на события истории Соединенных Штатов. Ну, кроме того, что она стала родиной одного из самых талантливых хакеров Северной Америки.



Джонатан рос в самой обычной по американским меркам семье: его отец, Роберт Джеймс, был программистом, мать домохозяйкой. Еще в шестилетнем возрасте он начал проявлять интерес к компьютерам и регулярно сидел за клавиатурой домашней машины своего отца, играя в игры. В интервью, опубликованных уже после смерти сына, Роберт Джеймс вспоминал, что неоднократно устанавливал на ПК различные средства родительского контроля, потому что Джонатан торчал за экраном ночи напролет, что отрицательно сказывалось на его учебе в школе. Но тот неизменно отыскивал хитрые способы обойти введенные родителями ограничения. Видимо, это и стало самым первым хакерским опытом юного Джонатана Джеймса. С возрастом интересы мальчугана понемногу менялись: наигравшись в игры, тот начал понемногу изучать язык Си. Однажды Джонатан и вовсе удивил собственного отца: вернувшись с работы, тот обнаружил, что отпрыск снес с его персоналки Windows вместе со всем софтом, после чего установил туда Linux, чтобы протестировать незнакомую операционку и понять, как она работает.

Когда Джонатану исполнилось 13 лет, его увлечение высокими технологиями показалось родителям чересчур болезненным и опасным для здоровья. На семейном совете было решено отобрать у подростка компьютер, за которым тот проводил большую часть свободного времени днем и почти все ночи. В ответ Джонатан сбежал из дома, и категорически отказывался возвращаться, пока ему не вернут доступ к персоналке. В качестве аргумента юноша упирал на то, что занятия программированием и видеоигры никак не отражаются на его учебе в школе, где он неизменно получает высокие оценки. Что, в прочем, неудивительно: чуть позже выяснилось, что Джонатан успешно взломал компьютерную сеть образовательных учреждений округа Майами-Дейд и периодически подправлял собственные баллы в табелях успеваемости. Примерно в то же время Джонатан Джеймс придумал для себя ник C0mrade, под которым общался с другими хакерами на форумах и в личной переписке.

Через тернии к звездам


Баловство с электронными журналами успеваемости быстро наскучило Джонатану, и он решил выбрать для себя цель покрупнее. Первой серьезной жертвой пятнадцатилетнего хакера C0mrade стало подразделение AT&T под названием BellSouth, это одна из крупнейших телекоммуникационных компаний в США со штаб-квартирой в Атланте, Джорджия. О деталях этого взлома известно немного, и более того, в самой BellSouth узнали, что серверы компании подверглись атаке C0mrade, только когда хакер сам признался в этом эпизоде после ареста. Нас регулярно пытаются взломать, сообщил изданию Tampa Bay Times представитель компании BellSouth Сперо Кантон и примерно в то время, о котором говорит Джонатан, действительно имел место один инцидент. Судя по всему, этот взлом не нанес BellSouth какого-либо ущерба, поскольку основной целью C0mrade была не нажива, а развлечение и проверка собственных знаний. Позже он говорил журналистам: Я знаю UNIX и Cи как свои пять пальцев, потому что я прочитал уйму книг и постоянно зависал за компом. Самое сложное не проникновение в систему, а обучение и получение знаний, чтобы потом понимать, что с этим можно сделать.

Вдохновленный успехом, Джонатан решил не останавливаться на достигнутом. Просиживая ночами в своей комнате за клавиатурой Pentium-266, он искал уязвимые серверы, к которым можно было бы подключиться в обход установленной админами системы защиты. 29 июня 1999 года один такой сервер обнаружился в городе Хантсвилл, штат Алабама. Установив на него вредоносную программу, юный хакер сумел повысить собственные привилегии в системе и получить доступ к 13 другим компьютерам во взломанной сети. Как оказалось, сервер и сеть, куда проник C0mrade, принадлежат подразделению НАСА под названием Центр космических полетов имени Джорджа Маршалла (Marshall Space Flight Center). Эта правительственная научно-исследовательская организация занимается разработкой и испытанием перспективных ракетных двигателей, а также созданием систем коммуникаций и программного обеспечения для Международной космической станции.



Среди прочей любопытной информации, к которой получил доступ Джонатан Джеймс, стали исходники программы, служащей для контроля над критическими элементами жизнеобеспечения Международной космической станции. По утверждениям специалистов НАСА, этот софт был предназначен для поддержания физической среды в жилых отсеках МКС, включая контроль над температурой и влажностью. Эксперты оценили стоимость этого софта в 1,7 млн. долларов, хотя сам Джеймс позже утверждал, что эти исходники оказались полным барахлом, и не тянут на такую сумму. К слову, после этого замечания часть исходного кода для МКС, к которой он получил доступ, была переписана начисто.

После обнаружения вторжения сотрудники Центра Маршалла на 21 день отключили скомпрометированный сервер и компьютеры от сети, чтобы проанализировать причины и хронологию взлома. Это нанесло НАСА прямой ущерб на сумму 41000 долларов. Примерно тогда же служба безопасности НАСА передала информацию об атаке в ФБР, и федеральные агенты начали кропотливый поиск таинственного могущественного хакера, покусившегося на национальную космическую программу США. Который днем вместе с другими школьниками посещал занятия в общественном колледже Майами-Дейд, а ночами бродил по сети в поисках уязвимых серверов, на которые он мог бы проникнуть из чистого любопытства.

Преступление и наказание


Сентябрьским вечером 1999 года Джонатан Джеймс во время сканирования сети обнаружил, что на один из серверов в Даллесе, штат Вирджиния, какой-то неизвестный доброжелатель установил бекдор. Троян позволял подключаться к серверу из интернета фактически кому угодно, что C0mrade незамедлительно и сделал. Тогда юный хакер еще не знал, что скомпрометированный сервер принадлежит Defense Threat Reduction Agency (DTRA) одному из подразделений Министерства обороны США, которое занимается анализом внешних угроз национальной безопасности страны. Недолго думая, Джеймс установил на сервер снифер и принялся анализировать проходящий через него трафик в поисках логинов, паролей и прочей интересной информации.

Улов оказался богатым. В период с сентября по октябрь 1999 года он сумел перехватить учетные данные пользователей DTRA, которые открыли ему доступ к 10 компьютерам Министерства обороны, и позволили скачать более 3300 писем из почтовых ящиков сотрудников Пентагона. Джонатан с интересом изучал их содержимое и исследовал обнаруженные на взломанных компьютерах файлы, при этом не уделяя должного внимания вопросам анонимности. Естественно, успешное проникновение во внутреннюю сеть одной из дочерних структур Пентагона (как утверждали в Министерстве обороны США первое в истории) не могло остаться незамеченным. Расследование длилось недолго и закончилось 26 января 2000 года в этот день агентам Министерства обороны и полицейским из Департамента охраны правопорядка Пайнкреста был отдан приказ арестовать хакера.

Признаюсь, в тот день я стал очень популярным чуваком в колледже, когда ко мне в дом вломились эти парни в бронежилетах и с автоматами, с улыбкой рассказывал потом журналистам Джонатан Джеймс. В его жилище состоялся обыск в результате которого агенты изъяли шесть устройств: четыре настольных ПК, ноутбук и один карманный компьютер. После ареста Джонатан начал активно сотрудничать со следствием и рассказывать полиции о том, как ему удалось совершить все эти взломы. Их, конечно, беспокоило то, что в сеть правительственной организации может запросто проникнуть кто-то несовершеннолетний, говорил потом хакер. Главная их проблема заключается в том, что они не уделяют должного внимания безопасности. Но, похоже, они это хотя бы понимают.



На руку Джеймсу сыграло, прежде всего, что он не предпринимал во взломанных системах никаких деструктивных действий не менял пароли, не удалял файлы и не запускал вирусы. Кроме того, он являлся несовершеннолетним: в момент совершения преступлений ему было всего 15 лет, а на день оглашения приговора только-только исполнилось 16. Если бы Джонатан Джеймс был взрослым, ему грозило бы как минимум 10 лет тюремного заключения и большой денежный штраф. Но в силу юного возраста, а также поскольку он заключил сделку со следствием, добровольно признав вину в двух инкриминируемых эпизодах (взлом НАСА и Министерства обороны США), суд признал его виновным в преступлениях, совершенных несовершеннолетним, так как другие уголовные статьи по законам штата к нему в этом возрасте применить было нельзя. Наказание также оказалось весьма гуманным: Джеймс получил шесть месяцев домашнего ареста и запрет на пользование компьютером в развлекательных целях (однако он по-прежнему мог садиться за клавиатуру, если это было необходимо для учебы). Кроме того, хакер должен был принести письменные извинения за содеянное НАСА и Министерству обороны США.

Однако мягкость приговора, видимо, не пошла Джеймсу на пользу. Вскоре он был задержан полицией на улице за нарушение условий домашнего ареста, и кроме того, в его анализах обнаружили следы наркотиков. В результате суд изменил условное наказание на реальное, и Джонатан отправился за решетку еще на шесть месяцев, которые должен был провести в исправительном центре для несовершеннолетних. Это был первый случай в США, когда подросток отправился в тюрьму по обвинению в совершении компьютерного преступления, и потому история привлекла повышенное внимание прессы. В интервью изданию Miami Herald Джонатан Джеймс утверждал, что твердо решил завязать с хакерством. Оно того не стоит, сказал он корреспонденту, я делал это просто ради развлечения, для меня это была игра, а они сажают меня в тюрьму. Я не хочу, чтобы это повторилось снова. Я могу найти другие вещи для развлечения.

Полностью отсидев отмерянный судьей срок, Джонатан вышел на свободу и на некоторое время пропал из поля зрения спецслужб и прессы, решив вести обычную уединенную жизнь в доме своих родителей в Пайнкресте. К сожалению, продлилось это уединение, как и сама жизнь Джонатана Джеймса, недолго.

Смерть героя


17 января 2007 года группа хакеров, возглавляемая известным деятелем киберподполья Альберто Гонзалисом, предприняла серию массированных атак на крупные торговые и финансовые организации США. Среди жертв оказалась популярная в Америке сеть супермаркетов TJX, клуб оптовиков BJ, Boston Market, Barnes & Noble, Sports Authority, OfficeMax и несколько других коммерческих предприятий. В результате атаки хакеры похители данные кредитных карт и персональную информацию миллионов клиентов этих фирм, а самим фирмам (как и их репутации) был нанесен значительный ущерб.

В ходе расследования инцидента Секретная служба США (United States Secret Service) вышла на причастных к этому преступлению соратников Гонзалиса. Несколько из них были знакомы и общались на хакерских форумах с Джонатаном Джеймсом, из-за чего тот также попал под подозрение. Весомости этим подозрениям придавал и тот факт, что с Альберто Гонзалисом сотрудничал неизвестный хакер, скрывающийся под псевдонимом JJ. Этот злоумышленник похитил данные и ПИН-коды кредиток, взломав беспроводную сеть магазинов канцелярских товаров OfficeMax, а позже передал украденное Гонзалесу, создав для него анонимный почтовый ящик. Ник JJ совпадал с инициалами Джонатана Джеймса. Этого обстоятельства, а также сетевого знакомства с членами команды Альберто Гонзалиса оказалось достаточно, чтобы агенты Секретной службы ворвались с обыском в дома самого Джонатана Джеймса, его родного брата и его девушки. Позже, правда, следователи пришли к выводу, что таинственным анонимом JJ, скорее всего, был близкий друг Гонзалеса Стив Ватт, часто подписывавшийся в сети псевдонимом Джим Джонс. В ходе обысков агенты не нашли ничего, что связывало бы Джеймса с этим преступлением. Они обнаружили в его доме только винтовку, которую не изъяли, поскольку она была официально зарегистрирована.



Позже отец Джонатана Джеймса Роберт вспоминал, что после возвращения из тюрьмы тот страдал депрессиями и часто пребывал в тревожном и подавленном состоянии. Обыск и постоянная слежка, которую чувствовал за собой Джонатан, не добавляли ему спокойствия. Вскоре после того, как в дом хакера ворвались агенты Секретной службы, Роберт позвонил ему с вопросом, найдут ли следователи что-то, что позволит им выдвинуть обвинение. Джонатан ответил отрицательно. Это был последний разговор отца с сыном.

В воскресенье, 18 мая 2008 года 25-летний Джонатан Джеймс был найден мертвым в ванной комнате своего дома с огнестрельным ранением в голову из стой самой официально зарегистрированной винтовки, которую агенты не изъяли при обыске. Рядом обнаружилось предсмертное письмо, адресованное его отцу, брату и девушке. Среди прочего там содержались пароли Джонатана к его учетной записи PayPal и MySpace. В этой записке Джонатан писал: Я не верю в нашу систему правосудия возможно, мои сегодняшние действия и это письмо станут серьезным сигналом для общественности, но я потерял контроль над ситуацией, и это мой единственный способ ее исправить. Если честно, я не имею никакого отношения ко всей этой истории с TJX. Несмотря на то, что Крис (Скотт) и Альберт Гонзалес самые опасные и разрушительные хакеры, которых когда-либо поймали федералы, я гораздо более соблазнителен [в качестве жертвы] для общественного мнения, чем эти два случайных идиота. Такова жизнь. Помните: дело не в том, что вы выигрываете или проигрываете, а в том, что лично я выигрываю или проигрываю, сидя в тюрьме в течение 20, 10 или даже 5 лет за преступление, которое я не совершал. Это мой способ выиграть, но как минимум, я умру свободным.

В охолохакерской среде до сих пор бродят слухи, что обстоятельства смерти Джонатана Джеймса были инсценированы, а истинной причиной его гибели якобы стала сверхсекретная информация, которую он сумел раздобыть на серверах НАСА и Пентагона. Этим же, дескать, обусловлен пристальный интерес к его персоне со стороны Секретной службы США. Но официальное расследование постановило, что Джеймс покончил жизнь [роскомнадзором], а все остальные версии являются лишь досужими домыслами.

Как бы то ни было, короткая жизнь Джонатана Джеймса навсегда вписана в историю мирового хакерства, как бы пафосно это ни звучало. В коротком некрологе, который напечатала на своих страницах газета Miami Herald, сказано: Джонатан, окончивший школу Бет Ам в 1995 году, запомнится друзьям и семье как исключительно умный молодой человек, который никогда ничего не делал по правилам. Компьютерный гений согласно всем определениям этого термина, он постоянно поражал друзей, семью и правительство своими достижениями. Его будет очень не хватать брату, отцу, тете, дяде, двоюродным братьям, бабушке и дедушке, а также многим, многим друзьям.

Составители некролога забыли разве что упомянуть то обстоятельство, что Джонатан C0mrade Джеймс был не просто хакером и компьютерным гением, а хакером и компьютерным гением, который не сделал в своей жизни, в общем-то, ничего плохого. Тем печальнее, что его жизнь оборвалась так рано.

Подробнее..

Прыгни со скалы! взлеты и падения легендарного геймдизайнера Уоррена Спектора

02.06.2021 10:16:01 | Автор: admin
image

Будь у игровой индустрии зал славы, почетное место там занял бы Уоррен Спектор. Человек-легенда, визионер, автор культовых Deus Ex и System Shock, основоположник жанра immersive sim, давший игрокам неслыханную свободу выбора. Кажется, что с таким авторитетом и признанием открываются все двери и любая идея находит поддержку. Но, увы, не всё так просто, и биография Спектора тому подтверждение: много раз он прыгал со скалы, пытаясь сделать игру своей мечты, и почти всегда сталкивался с неразрешимыми проблемами и непониманием инвесторов. Давайте вместе с журналистом Джейсоном Шрайером проследим тернистый творческий путь легенды геймдева.

От настолок к созданию Deus Ex


С самого детства Уоррен был одержим созданием интерактивных историй. Он рано увлекся настольными ролевыми играми, а когда переехал в 22 года в Остин (штат Техас), присоединился к компании приятелей, регулярно играющих в Dungeons & Dragons. Любопытный факт одна из игровых сессий продлилась 10 лет, а гейм-мастером был будущий корифей жанра киберпанк Брюс Стерлинг. В Техасском университете Спектор изучал кинематограф, писал диссертацию и преподавал, чтобы было чем оплачивать счета, пока в один прекрасный день его не уволили. Спустя некоторое время друг пригласил его поработать редактором настолок в компанию Steve Jackson Games. Скромная зарплата Уоррена не смущала: тогда, по его словам, он был геймером-любителем, и такая работа давала возможность создавать собственные игровые системы и кампании.
image

Через три года, в 1986 г., ему позвонили из TSR Inc. висконсинской фирмы, стоявшей за созданием D&D, и предложили должность редактора: событие, сопоставимое приглашению в NBA студента, играющего за баскетбольную команду родного колледжа. Тем не менее, долго он там не задержался: сказывался не только суровый северный климат, но и однообразная работа, которая быстро наскучила Спектору. Вскоре он вернулся в Техас, чтобы присоединиться к недавно созданной Origin Systems, которую основал знаменитый Ричард Гэрриот.
image
Ultima

Благодаря успеху игры Ultima (к 1989 г. вышло уже несколько продолжений) и на волне бума видеоигровой индустрии, студия быстро расширялась. Работа в Origin научила Спектора ремеслу продюсера руководить командами дизайнеров, управлять проектами и делать, казалось бы, невозможные вещи: объединять упрямых талантливых людей единым творческим видением. Вместе с Гэрриотом Спектор работал над Ultima VI, помогая создавать детально проработанную историю об орде горгулий (где они применили новаторский для того времени прием, наделив антагонистов сложными мотивами действий), а вместе с Крисом Робертсом над известным космическим симулятором Wing Commander. Бизнес-модель у меня была следующая, вспоминает Спектор. Я запускал четыре проекта (два внешних и два внутренних) и каждый год два наименее успешных закрывал, призывая всех сотрудников работать так, чтобы именно их проект оказался в числе лучших.

image
System Shock

В эти же годы началась дружба Спектора и Пола Нейрата, главы кембриджской студии Looking Glass, сотрудничавшей с Origin. Вместе с Looking Glass были выпущены Ultima Underworld и System Shock игры разные по сеттингу, но близкие по геймдизайну, построенному на принципах Dungeons & Dragons. Обе они помогли сформироваться тому жанру, что сегодня часто называют immersive sim (букв. симулятор погружения). Речь об играх, которые дают игроку инструменты для решения игровых задач различными способами, множеством вариантом, в отличие от тех же стандартных экшн-шутеров, которые в процессе прохождения будет требовать только одного уничтожить противника. Дать игроку ощущение неограниченных возможностей и свободы выбора для индустрии начала 1990-ых это был фундаментальный сдвиг парадигмы.

image
Пол Нейрат

Увы, несмотря на новаторский геймдизайн, у Origin возникли проблемы с финансированием, и в 1992 г. Гэрриот продал компанию крупному издателю Electronic Arts (EA). Поначалу всё шло отлично: менеджеры EA дали Спектору большой бюджет и свободу в творчестве, однако ожидаемой отдачи не было. Затраты у команды Уоррена были большими, счет проектов в работе шел на десятки, но успешных, по меркам EA, среди них так и не оказалось. Начался прессинг: руководство издателя зачастило в Остин, а в адрес Спектора посыпались упреки в неэффективном управлении. EA заявляли, что их главный приоритет увеличение прибыли акционеров, а с теми продуктами и жанрами, которые культивирует Уоррен, добиться серьезного роста невозможно. В пример ставили коллегу Криса Робертса, чей Wing Commander стал чрезвычайно успешен как коммерческий продукт, в то время как проекты Спектора, хоть и высоко оценивались критиками и сообществом, приносили очень маленькую прибыль.

image
Джон Ромеро

На фоне всего этого оставалось только уволиться из Origin. После разговора с Нейратом, в 1996 г. Спектор открыл в Остине офис студии Looking Glass и начал работу над новым проектом научно-фантастической многопользовательской игрой Junction Point. Но и тут не ждал успех: не получив инвестиций, студия закрылась через несколько месяцев, а игра в итоге осталась на стадии проекта. В поисках финансирования, Спектор чуть было не подписал контракт на разработку РПГ по серии Command & Conquer (C&C), но тут в дело вмешался легендарный Джон Ромеро. Разругавшись с коллегами из id Software, автор Doom создал собственную студию под названием Ion Storm и вот теперь предлагал Уоррену вместо сделки по C&C поработать на него. Да еще и на шикарных условиях: Неограниченный бюджет на разработку и больший маркетинговый бюджет, чем когда-либо. Мне предложили сделать игру моей мечты, без какого-либо вмешательства. Какой дурак от такого откажется?, вспоминает Спектор.

image
Результатом стала Deus Ex уникальная смесь жанров и воплощение идеи immersive sim, в котором все препятствия игрок мог преодолевать совершенно разными способами. Как позже писал Спектор, цель была в том, чтобы сделать игру о самовыражении игрока, а не о том, насколько умны мы сами дизайнеры, программисты и рассказчики. Игра вышла в июне 2000 года и стала не только феноменом, новой страницей в истории индустрии, но и коммерческим успехом (было продано более миллиона копий).

Однако вскоре Спектору снова повезло: из независимой компании Ion Storm превратился в подразделение крупного издателя Eidos. Несмотря на успех Deus Ex, на активную работу над продолжением (Deus Ex: Invisible War) и над новой игрой из серии Thief, менеджеры и маркетологи издателя третировали Спектора и его подход к геймдизайну. В частности, запретили разрабатывать игру про Дикий Запад, аргументируя отказ тем, что эта тема никогда не принесет больших денег (что позже успешно опровергли Rockstar с серией Red Dead Redemption). Дошло до того, что боссы попросили его не употреблять слово история в дискуссиях о видеоиграх.

Индустрия игр построена на конфликте между двумя фракциями творческими людьми, пытающимися создать создать произведение искусства, и коммерсантами, которым нужно получить прибыль. И этот конфликт основная причина большинства проблем индустрии видеоигр.


Спектор работал, не задумываясь о требованиях прибыльности и оптимизации затрат: Я никогда в жизни, ни в одном своем проекте не составлял бюджет и расписание. И всегда спрашиваю в этом случае: можете ли вы назвать хоть одну по-настоящему замечательную игру, которая была выпущена в срок и в рамках бюджета? В глазах издателя эта позиция выглядела безответственно, и неудивительно, что в 2004 г. Спектор покинул Ion Storm (а в 2005 г. студия была закрыта).

Что же дальше? Куда податься почти 50-летнему геймдизайнеру в индустрии, где, кажется, правят бал двадцатилетние? На каждый проект уходит по 2-3 года, большая часть в итоге не доходит до релиза, сколько проектов он сумеет завершить?

Прыгни со скалы! Прыгни со скалы!


Возможно, именно эти слова супруги Спектора Кэролайн заставили его набраться храбрости и открыть собственную студию, названную Junction Point (в честь отмененной игры). К поиску заказчиков и инвесторов Уоррен привлек своего приятеля Шеймуса Блэкли, интеллектуала с хорошими связями в индустрии. На тот момент Блэкли как раз работал в качестве агента, помогающего привлекать финансирование и успевшего поработать с Тимом Шафером (Psychonauts, Grim Fandango) и Лорном Лэннингом (Oddworld). Первой стала сделка на разработку фэнтэзийной RPG под названием Sleeping Giants для компании Majesco, однако та отменила игру год спустя. Вторым проектом стал новый эпизод Half-Life 2, и его тоже через несколько месяцев отменили.

Трудно поверить, но команда опытнейших разработчиков во главе с легендой индустрии не могла найти финансирование на новый проект. Если бы эта ситуация возникла спустя несколько лет, то они вполне могли бы воспользоваться альтернативными способами, доступными инди-разработчикам: Kickstarter, самостоятельная дистрибуция, небольшие издатели. Но в середине 2000-ых таких возможностей еще не существовало. Единственным вариантом для Спектора были крупные издатели типа EA и Activision, но, похоже, никому из них творчество Спектора не было интересно

Это было похоже на конец карьеры. Прыгнув со скалы, можно легко разбиться о камни.

image

Спасение пришло оттуда, откуда никто не ожидал, из Disney. Перед игровым подразделением корпорации стояло две большие задачи: запустить собственное игровое подразделение (до этого лицензии на создание игр с персонажами отдавали другим компаниям) и разработать игру с Микки Маусом, который, хоть и был легендой анимации, но в играх серьезной популярности не имел. Игровое подразделение возглавил Грэм Хоппер, который нанял стажеров и поручил им делать игру о противостоянии Микки Мауса и кролика Освальда персонажа, которого Уолт Дисней создал на заре своей карьеры (глава студии Боб Айгер специально для этого случая выкупил права на Освальда у Universal). Прототип игры получился довольно впечатляющим, однако студийные боссы хотели, чтобы таким знаковым проектом занималась известная и крутая студия. Так состоялась встреча с Уорреном Спектором.

С одной стороны, для Спектора это было большой радостью: кто откажется работать над игрой о знаменитом на весь мир персонаже, да еще и за хорошую оплату (с учетом того, как тяжело было найти финансирование). Но с другой, было условие, которое шло вразрез со всем личным опытом: Disney настаивал на поглощении студии Junction Point. То, что раньше произошло с Origin и Ion Storm, ставших частью больших корпораций, теперь должно было случиться и с его собственной студией, и Спектор догадывался, чем это могло закончиться. Но другого выхода попросту не было за исключением Disney, денег никто не предлагал. Поэтому, после долгих обсуждений, размышлений и торгов, Спектор согласился на сделку.

На разработку игры ушло три года. Epic Mickey стал эксклюзивом для платформы Nintendo Wii, сочетавшим необычный способ управления (посредством контроллера Wiimote) с элементами immersive sim: каждый выбор игрока имел последствия, влияя на сюжет и диалоги. Не любивший укладываться в сроки и бюджет, Спектор часто конфликтовал с руководством Disney, несколько раз его чуть было не увольняли. Однако ему удалось продавить своё видение и график, и в конце 2010 года игра наконец вышла.

Продажи Epic Mickey оказались хорошими (1,3 млн копий за первый месяц), критикам и аудитории игра пришлась по душе. Проект почти окупился, что для консольного эксклюзива уже считалось успехом. Казалось, что победа одержана, всё замечательно и стоит ждать сиквела, но

Disney наносит ответный удар


image
Джон Плезантс

К концу нулевых игровая стратегия Disney кардинально изменилась. Виной тому была не только рецессия на глобальном рынке, но и стремительный рост популярности мобильных игр и игр на социальных площадках типа Facebook. Многие аналитики и вовсе всерьез считали, что игровые консоли скоро вымрут. За несколько месяцев до релиза Epic Mickey мышиный дом заключил сделку на 763 миллиона долларов с компанией Playdom, выпускавшей социальные игры. Руководителем Хоппера стал бывший босс Playdom Джон Плезантс, веривший в онлайн и, кажется, презиравший консольные игры, неудивительно, что Хоппер скоро уволился, тем самым оставив Спектора без защиты. С точки зрения Плезантса, корпеть годами над одной игрой, тем более сжигая деньги на сиквел для умирающих консолей, было крайне бессмысленно куда рациональнее было вкладываться в быстрые проекты, которые смогли бы приносить прибыль уже через год.

А Уоррен Спектор так не мог: для него три года были эталонным сроком создания игры. Вот и теперь, как когда-то в Origin, он разделил студию на команды, каждая из которых работала над своим проектом, и к концу 2010 года, уже через несколько месяцев, был готов прототип сиквела Epic Mickey, на который Спектор планировал потратить еще два-три года спокойной работы параллельно с разработкой новых игр.
Но сразу после рождественских каникул пришла директива: во-первых, никаких новых проектов. Во-вторых, Disney подсчитал, что окупиться продолжение Epic Mickey сможет, только если выйдет к осени 2012 года, и поэтому потребовал усилить штат студии и форсировать производство. Результатом стало не только то, что штат студии вырос до 200 человек (и это в то время, когда Disney закрывала целые студии!), но и снижение качества продукта: времени на поиск решений не хватало, а из-за притока новых людей возникали конфликты и недопонимания. Под давлением Disney разработчикам приходилось лезть в те области, в которых они были новичками, но корпорация настаивала на включение в игру популярных трендовых элементов, вплоть до вариантов с переходом на freemium-модель или превращения в MMORPG. Спектору это не улыбалось. Он всё меньше и меньше участвовал в разработке, предпочитая заниматься новыми прототипами и идеями.

image
В начале 2012 г. конфликт перешел в острую стадию. Во время обсуждения перспектив студии Плезантс и Спектор доспорились до того, что последний швырнул в оппонента указкой и ушел, хлопнув дверью. Ответной мерой стала директива по сокращению расходов часть сотрудников требовалось уволить, остальных загрузить сверхурочной работой. Спектор старался сохранить штат и оставить хотя бы 75 сотрудников (из 200), но ни один из его многочисленных планов спасения не поддержали. Всего лишь за пару лет Junction Point превратилась из флагманской студии Disney в бесправную жертву гонки за новыми трендами.

Epic Mickey 2 вышла 18 ноября и это оказалось провалом. Критики осуждали игру за скучный и однообразный игровой процесс и за непроработанность персонажей. Но главная беда продажи были удручающе низкими: по количеству проданных копий сиквел существенно уступал первой части, и это при том, что он уже не являлся эксклюзивом Wii, а был доступен на популярных платформах XBox и PlayStation. Это стало окончательным приговором для студии. И хотя Спектор никак не мог с этим смириться (он даже организовал мозговой штурм на тему создания мобильной игры), всё было кончено. 29 января 2013 г., через два месяца после предрелизных кранчей, Спектор собрал сотрудников в комнате отдыха и объявил, что студия закрывается. Сам он очень тяжело переживал произошедшее, винил в крахе студии себя, свое поведение на встречах, неучастие в разработке игры.

Я съехал с катушек. Несколько месяцев я только и делал, что валялся на диване с пультом и просто щелкал пультом. Я был подавлен и просто ничего не мог делать. Disney был моим лучшим этапом в моей профессиональной деятельности и одновременно худшим.


Долгий эпилог, который, хочется верить, станет новой главой


Уйти на пенсию 57-летнему Спектору помешал звонок из родного Техасского университета его пригласили читать курс по дизайну и разработке видеоигр, чем он с энтузиазмом занимался три года, пока не понял, что его больше привлекает не преподавание, а само создание игр. Да и грант, выделенный на курс, заканчивался, а финансировать продолжение желающих не нашлось. Игра Underworld Ascendant, в которой Спектор выступил как консультант и которую называли новым словом в разитии жанра immersive sim, провалилась: аудитория не оценила монотонный геймплей и забагованность (что, в свою очередь, возможно, стали результатом нехватки финансирования средств, привлеченных черех краудфандинг, оказалось недостаточно). В конце 2015 г. Джон Нейрат пригласил его поучаствовать в создании System Shock 3, продолжение культовой игры, к разработке которой Спектор имел непосредственное отношение. Но, увы, и тут возникли финансовые проблемы: шведский издатель Starbreeze, с которым был заключен контракт на финансирование, обанкротился, и Спектору пришлось, как в старые добрые времена, самому примерять роль коммерсанта и летать на встречи с инвесторами. В мае 2020 года спаситель наконец-то был найден: права на издание игры приобрел китайский холдинг Tencent. Новость оптимистичная, учитывая мощь и возможности корпорации, однако не то ли самое можно было когда-то сказать и о Disney?

image
Концепт-арт System Shock 3

***

В индустрии игр немного людей, которые отдали ей свыше тридцати лет своей жизни, как это сделал Спектор, и именно его биография показывает, почему их так немного. Все четыре студии, с которыми связана его карьера (Origin, Looking Glass, Ion Storm, Junction Point), закрылись или при нем, или через несколько лет после его ухода. Спектор делал игры, которые стали культовыми и были высоко оценены критиками, но так и не добился значительного коммерческого успеха. Его путь, при всей уникальности, это символ той нестабильности, с которой постоянно приходится сталкиваться разработчикам видеоигр (при том, что ему еще повезло: не было необходимости переезжать из города в город к новому работодателю, как это часто происходит в геймдеве).
Своими играми Спектор вдохновил тысячи разработчиков и оказал огромное влияние на всю индустрию, однако его собственным проектам и студиям это не помогло выжить. По крайней мере, пока



Облачные серверы от Маклауд быстрые и безопасные.

Зарегистрируйтесь по ссылке выше или кликнув на баннер и получите 10% скидку на первый месяц аренды сервера любой конфигурации!

Подробнее..

О том, как гениальный беспризорник и профессор пили виски и придумывали первую модель искусственного нейрона

29.10.2020 10:19:47 | Автор: admin

Первая модель искусственного нейрона Мак-Каллока-Питтса

Сейчас один из самых популярных инструментов искусственного интеллекта это нейронные сети. Само название намекает на то, что речь идёт о некотором аналоге естественных нейронов и синаптических связей в мозгу. Отсюда вытекает распространённое ошибочное предположение, что нейронные сети являются точной копией своего биологического прототипа. Конечно же, это не так, а точнее не совсем так: учёные действительно работают над созданием импульсных нейронных сетей, предназначенных для максимально достоверной симуляции процессов, происходящих в нервной ткани, но обычно искусственный нейронные сети довольно сильно отличаются от своих биологических прародителей. Революция глубокого обучения произошла благодаря моделям, похожим на мозг примерно в той мере, в которой самолёты похожи на птиц. И всё-таки у истоков создания этих моделей стояли попытки учёных три четверти века назад постичь принципы работы нервной системы живых существ.

Один из дедушек современных нейросетей это перцептрон Розенблатта, представленный публике в конце 1950-х, но его появлению предшествовали другие, менее известные попытки описать принципы, по которым могла бы работать думающая машина, подобная мозгу. К ним относятся исследования Уолтера Питтса и Уоррена Мак-Каллока. Их модель, увидевшая свет в 1943-м году в статье под названием Логическое исчисление идей, относящихся к нервной активности, была весьма новаторским изобретением. И за ней стоит довольно занятная история. Кто такие были эти товарищи, приложившие руку к созданию модели? Чопорные учёные в очках с роговой оправой или, может, аналог современных хипстеров из thinktankов?

Согласно рукописи нашего коллеги Сергея Маркова aka oulenspiegel, по рассказам очевидцев, этих учёных объединяла не только любовь к математике и нейрофизиологии, но и, например, левые взгляды: на вечеринках у Уоррена Мак-Каллока собиралась интеллигенты, пили виски и обсуждали разные актуальные научные и политические вопросы. Но об этом немного позже.

Предыстория


Начнём с того, что если бы не было Уолтера Питтса, может быть, никакой модели и не было бы создано. Как смог Питтс, простой мальчишка из Детройта, выросший в неблагополучной семье, познакомиться с профессором? Часто он сбегал из дома, так как, по словам друга и коллеги Питтса, Джерома Летвина, отец мальчика был водопроводчиком и часто бил сына. В один из таких эпизодов Питтс провёл неделю в библиотеке, где в его руки попала книга Бертрана Рассела и Альфреда Уайтхеда Principia Mathematica (Основания математики; в научных трудах эту фундаментальную работу обычно называют просто PM). Мир математики, такой уютный и безопасный, в отличие от реального, не на шутку увлёк мальчика. Уже тогда, в 13 лет, он смог сформулировать ряд вопросов, письмо с которыми адресовал Расселу. Тот ответил с восхищением и благодарностью и предложил Питтсу приехать учиться в аспирантуре в Кембридже. Увы, для тринадцатилетнего подростка это было абсолютно нереально, но через несколько лет, когда Рассел прибыл в США прочитать курс лекций в Чикагском университете, Питтс отправился в Чикаго, сбежав из отчего дома, чтобы уже не вернуться в него никогда. Рассел с радостью встретил юного Уолтера и представил его своему приятелю Рудольфу Карнапу, математику, который в то время работал в Чикагском университете. Карнап остался впечатлён. Но из-за того, что пятнадцатилетний вундеркинд закончил лишь неполное школьное образование, он не смог официально стать студентом университета. В итоге юноше выделили специальную небольшую стипендию, которой хватало на то, чтобы снимать небольшую комнатёнку и перебиваться с хлеба на воду. Работая с Карнапом, Питтс заинтересовался работами по математической теории нервной проводимости, написанными Николаем Рашевским, украинским иммигрантом в США, отцом-основателем математической биофизики.

Работая с Карнапом, Питтс быстро пришёл к выводу, что, хотя структура мозга должна определяться генетически, гены никак не могут задавать каждую из триллионов
синаптических связей. Необходимый объём генетической информации был бы попросту слишком велик. Питтс предположил, что человек рождается с около-случайными математическими параметрами нейронов, и в результате некоторого процесса они меняются на подходящие к выполнению той или иной задачи. C технической точки зрения такой подход оказался удобным, мы используем его и сейчас веса нейронных сетей на начальном этапе обычно инициализируются случайным образом.

Так как Питтс заинтересовался темой математического моделирования мозга, Джером Летвин, со слов которого мы много знаем о юности Питтса, решил познакомить того с Уорреном Мак-Каллоком, который занимался исследованиями мозга и на тот момент недавно перебрался в Чикаго. Последний быстро привлек юношу к своему проекту по созданию логической модели мозга и нервной системы.

Питтс на несколько лет перебрался в дом Мак-Каллоков, где эти двое начали работу над взломом логики нейронных сетей мозга. Неделями они анализировали потоки сигналов по разветвлённым мозговым путям, вспоминал позже Летвин. При этом 18-летний Питтс, похожий на уточку-очкарика, разительно контрастировал со своим коллегой, философом и мечтателем 42-х лет, который частенько сопровождал свои штудии бокалом хорошего виски. Посиделки товарищей вылились в одну из основополагающих работ в области искусственного интеллекта, название которой мы уже упоминали Логическое исчисление идей, относящихся к нервной активности.

Уолтер Питтс

Мак-Каллок был сыном бизнесмена. Он получил религиозное школьное образование, но вскоре отошёл от религии и стал размышлять в научных терминах о том, как устроен человек. Если разумом движет не бог, то значит какие-то механизмы, рассуждал он. В поиске этих механизмов он и пришёл к своей исследовательской теме как работает мозг и сознание. Он получил хорошее университетское образование и с 1934-го года работал в Лаборатории нейрофизиологии Йельского университета, а в 1941 перешёл на факультет психиатрии Иллинойсского университета.

Уоррен Мак-Каллок

Кстати, у семейства Мак-Каллоков Уоррена и жены было в собственности целое ранчо. Они купили его, чтобы организовать там летний лагерь для нуждающихся детей (видимо, будучи под впечатлением от жизненной истории Питтса). Позже туда стали съезжаться на отдых разного рода интеллектуалы. Вечеринки, как правило, проходили в либеральном ключе, с купанием голышом. Несмотря на протесты своей ультраконсервативной супруги, бывал там и Норберт Винер, один из отцов-основателей кибернетики. Посетители ранчо часто видели его в шезлонге с сигарой в руках. Здесь он забывал о повседневной рутине и погружался в мир размышлений и интеллектуальных бесед.

И опять Летвин знакомит Питтса с человеком, с которым ему предстоит работать с Винером. История повторяется Винер остаётся так впечатлён талантом юноши, что предлагает ему позицию аспиранта в MIT, несмотря на отсутствие у Питтса формального образования. В 1943-го году они начинают работать вместе над математическим моделированием мозга. Винер надеялся помочь Питтсу своими знаниями теории вероятностей и статистики, так как понимал, что нейронные сети могут лечь в основу вычислительных машин, а это предвещало кибернетическую революцию.

Питтс быстро приобрёл большой авторитет в компании кибернетиков многие исследователи просили его прочитать их статьи перед публикацией, чтобы быть уверенными, что их математические выкладки не содержат ошибок. Но отношения с самим Винером у Питтса были непростыми.

Винер был обеспокоен недостаточным прогрессом своего ученика в работе над диссертацией и считал, что корнем проблемы является разрушительное влияние приятелей Питтса Летвина и Оливера Селфриджа, которые постоянно ввязывались в различные авантюры. Одна из них касалось геологии. Питтс был уверен, что в скалах Массачусетса должны быть изумруды, и с помощью Селфриджа раздобыл динамит, чтобы взорвать его в предполагаемом месте их залегания. В результате последовавшего взрыва Питтс сломал руку. Другой авантюрой стал дебют Летвина и Питтса в роли начинающих сценаристов в Голливуде. Они написали пьесу Шестое королевство о не говорящем по-английски человеке из Польши, который посещает врача с жалобой на головную боль и в результате серии недоразумений оказывается в сумасшедшем доме.

Однажды Питтс забыл в камере хранения чемодан с манускриптом статьи, который Винер дал ему на вычитку. После долгой череды приключений статью удалось вернуть, но Винер был сильно рассержен: он опасался, что из-за досадной задержки с публикацией результатов его опередит Клод Шеннон, который также работал над этой темой.

Впрочем, Винер и сам был знаменит своей рассеянностью, история сохранила множество забавных воспоминаний современников об этом. Например, Роберт Фано, коллега Винера, профессор электротехники и информатики в MIT, рассказывал, что однажды в конце беседы в институтском коридоре, Винер спросил своего собеседника, в каком направлении он шёл и, услышав ответ, сказал: Хорошо! Это значит, что я уже пообедал.


Норберт Винер
Источник фото


Тем временем, Мак-Каллок перебрался к Питтсу в Бостон, получив щедрый грант на исследование мозга в стенах MIT. На дверях кабинета коллег красовалась надпись Экспериментальная эпистемология. Будучи воодушевлёнными таким успехом, они пишут Винеру и Розенблюту, его коллеге, письмо в шуточном тоне, которое начинается со слов Знайте, о благороднейшие, великодушные и могущественные лорды.... Это шуточное послание совершенно неожиданно для его авторов стало спусковым крючком цепи нелепых событий, изменивших судьбу Мак-Каллока и Питтса, а также, возможно, пути развития науки на заре нейросетевой эры.

Винер в то время пребывал в состоянии депрессии издательства, ещё вчера конкурировавшие за право издать его Кибернетику, одно за другим отказывались публиковать автобиографию учёного. В ней он довольно неоднозначно отзывался о некоторых своих коллегах, и никто из издателей не хотел скандала. Жена Винера Маргарет решила, что это подходящий момент для того, чтобы поссорить его с коллегами, которые по её мнению оказывали на Винера плохое влияние. Маргарет рассказывает мужу удивительную историю о том, что несколькими годами ранее, когда их дочь Барбара несколько месяцев жила на ранчо Мак-Каллоков перед поступлением в университет, Летвин и Питтс якобы много раз соблазняли их дочь. Депрессия, прошлые обиды из-за статьи, ужасный рассказ жены всё это привело Винера в состояние, в котором шутливое письмо стало последней каплей. Он в довольно резком тоне попросил передать бывшим товарищам, что с этого момента никакого сотрудничества между ними быть не может.

Ссора с Винером сильно подкосила Питтса. На это наложились и научные неудачи. Результат его с Летвином эксперимента над зрением лягушек плохо согласовывался с предположениями Питтса и Мак-Каллока. Товарищи показывали амфибиям разные источники света, картинки из их естественной среды, троллили их управляемыми искусственными мухами на магнитах. Летвин записывал сигналы, передаваемые глазом в мозг, и сопоставлял их с использованными стимулами. Оказалось, глаз не просто регистрирует видимое, но фильтрует и анализирует информацию о визуальных характеристиках о контрастности, изгибах и движении! В будущем результаты этих исследований были изложены в ставшей классической статье Что сообщает глаз лягушки мозгу лягушки (1959).


Джером Летвин (слева) и Уолтер Питтс
Источник фото

Почему Питтс расстроился, получив такие результаты? Он предполагал, что мозг является дискретным логическим устройством, выполняющим обработку сигналов органов чувств, однако выяснилось, что за обработку сигналов во многом отвечают аналоговые процессы, происходившие в хитросплетениях клеток сетчатки.

Питтс уничтожил свою недописанную диссертацию, стал много пить и почти забросил науку. В 1964-м году во время лекционного тура в Стокгольм остановилось сердце 70-летнего Винера. А в мае 1969-го, в возрасте 46 лет, умирает Питтс. Мак-Каллок пережил его лишь на несколько месяцев и умер в сентябре 1969-го.

В субботу, 21 апреля 1969 года, дрожащей рукой алкоголика, Питтс передал письмо из своей палаты в больнице Бет-Исраэль в палату Мак-Каллока в отделении интенсивной терапии сердца в госпитале Бригама: Я понимаю, что у тебя был лёгкий коронарный приступ; что ты присоединен ко множеству датчиков, подключенных к панелям и сигналам тревоги, которые постоянно контролирует медсестра, и, в силу этого, ты не можешь перевернуться в постели. Без сомнения, это кибернетика. Но всё это вызывает во мне ужасную грусть.

Лишь Летвин надолго пережил своих товарищей и умер в 2011-м. Во многом благодаря ему мы и знаем подробности жизни этих выдающихся людей.

Что же такого в работе Мак-Каллока и Питтса?


Уоррен Мак-Каллок ещё до встречи с Питтсом задавался вопросом, как можно описать причинную структуру нейронных событий и вывести логическую теорию знания. Он пытался найти то, что сам же назвал психоном, элементарную единицу нервной деятельности. Отчасти он был вдохновлён попытками Лейбница представить человеческое знание при помощи универсального символьного языка. Но не он один ставил себе такие задачи. Николай Рашевский и его группа математической биофизики занималась похожими вещами, за исключением того, что они пытались работать с гладкими функциями и дифференциальным исчислением, в то время как Мак-Каллок хотел использовать математическую логику и булеву алгебру. Такие схожие мысли пришли в голову двум разным людям неспроста: на тот момент совсем недавно сделали свои открытия Ричард Катон, Сантьяго Рамон-и-Кахаль, Луи Лапик, а затем и Ханс Бергер.

В современных учебниках нейрон Мак-Каллока и Питтса очень часто описывается неправильно. То, что приводится в качестве схемы работы этого нейрона, в действительности является описанием нейрона розенблаттовского перцептрона.

Важно понимать, что в нейроне Мак-Каллока и Питтса нет привычных нам изменяемых синаптических весов. Принцип работы нейрона Мак-Каллока и Питтса формулируется следующим образом: нейрон x срабатывает на шаге t, если соблюдаются два условия: 1) нет ни одного нейрона, связанного с нейроном x ингибирующей связью, сработавшего на шаге t 1, и 2) число нейронов, связанных с нейроном x возбуждающей связью и сработавших на шаге t 1, больше .

Вместо суммирования входящих сигналов, умноженных на соответствующие синаптические веса, есть подсчёт числа сработавших нейронов, связанных с данным возбуждающей связью, и сравнение их с пороговой величиной. При этом ингибирующая связь полностью запрещает срабатывание нейрона. Нейрон Мак-Каллока и Питтса это полностью дискретная модель, созданная вполне в духе символьной логики Рассела и Уайтхеда. Конечно, нейрон Мак-Каллока и Питтса при ближайшем рассмотрении оказывается частным случаем нейрона Розенблатта, на который наложены дополнительные ограничения. Синаптические веса в нём могут принимать значения равные лишь 1 или .

В сетях Мак-Каллока и Питтса изначально в принципе отсутствует механизм обучения первые попытки придумать такой механизм были предприняты лишь во второй половине 1940-х годов (работы Шимбела и Раппопорта). Дискретное наследие сетей Мак-Каллока и Питтса ещё долго тяготело над нейросетевыми исследованиями. Даже Розенблатт, сделавший под влиянием работ Хебба, Фарли, Кларка и Рочестера серьёзный шаг вперёд в обучении нейронных сетей, доказав теорему о сходимости перцептрона, не смог полностью преодолеть ментальный фреймворк символьного подхода в его перцептронах функции активации так и остались ступенчатыми, что делало невозможным применение методов градиентного спуска для обучении нейронных сетей. Именно поэтому проблема обучения многослойных перцептронов так и не была решена им в удовлетворительной мере. Впрочем, работа Фрэнка Розенблатта заслуживает как минимум одного отдельного поста.

Важно помнить, что в отличие от Розенблатта, которого интересовало, в первую очередь, создание обучающихся машин, Мак-Каллока и Питтса занимал совершенно другой вопрос о том, как логика и закономерности мышления могут быть связаны с физиологическим субстратом, как структуры, составленные из клеток, передающих импульсы, могут рассуждать, строить логические выводы.

Чтобы построить модель мышления, Питтсу и его старшему коллеге нужно было решить две задачи. Во-первых, научиться вычислять поведение любой заданной сети, а во-вторых, научится находить сеть, которая будет вести себя заданным образом (если, конечно, такая сеть существует). Иными словами, им предстояло найти паттерн активации сети при различных конфигурациях, и для этого сформулировать условия активации нейрона в разных условиях.

На ранних этапах своей работы Мак-Каллок столкнулся с проблемой петель (или кругов, как он их называл). Поведение линейной цепи без петель (сейчас мы называем такие сети сетями прямого распространения feedforward neural networks) более-менее понятно, сигналы передаются от предшествующих в цепочке нейронов к следующим за ними и так далее. Моменту обработки каждого нейрона можно строго сопоставить некоторый момент времени t (сегодня мы говорим о t как о номере слоя сети, в котором находится нейрон). Однако как только в сети появлялись циклы (то есть сеть в современных терминах становилась рекуррентной), величина t теряла свой смысл. Кстати, существование петель в нейронных сетях мозга тогда ещё ставили под вопрос. Если они и существуют, предполагали тогда, наверное, именно они и вызывают эпилепсию. Сейчас-то мы знаем, что эпилепсия вызвана рядом других механизмов!

Именно в момент теоретического кризиса, вызванного проблемой петель, на помощь Мак-Каллоку пришёл Питтс. Он отлично знал логику, неудивительно, ведь он был учеником Рудольфа Карнапа одного из крупнейших специалистов в области формальной логики и ведущего представителя логического позитивизма. Именно карнаповский Язык-II (Language II) было решено использовать в дальнейшем для нотации. Но в итоге он оказался настолько сложен, что даже самым крутым математикам непросто его читать, да и авторы из-за этого допустили несколько ошибок.

Кроме того, Питтс до этого написал три статьи на связанные темы. Для решения задачи петель он предложил выделить подмножество циклических нейронов (на рис. 1 это нейроны 1 и 2), и для них необходимо:

1. Найти количество шагов N такое, чтобы состояния этих нейронов N шагов назад определяли их текущие состояния.

2. Найти для этих нейронов все возможные комбинации состояний и показать, как они меняются через каждые N шагов.

3. Связать сеть с конкретным утверждением, которое нужно проверить.

рис. 1

Определим N для этой сети, оно будет равно двум (то есть, состояние циклических нейронов будет зависеть от состояния два шага назад). Затем опишем все возможные состояния этой сети X.

X_1(t) = N_1(t) и N_2(t) (то есть оба нейрона активировались во время t)
X_2(t) = N_1(t) и не N_2(t)
X_3(t) = не N_1(t) и N_2(t)
X_4(t) = не N_1(t) и не N_2 (t) (ни один из двух нейронов не активировался во время t)

Дальше мы можем сопоставить сеть с определённым утверждением и проверить, является ли X_i (t) истинным или ложным.

Вот такой он, северный олень, способ рассчитать поведение сети любой конфигурации. Если он кажется вам сложным, значит его запись в нотации Карнапа покажется вам вообще нечитаемой.

***

Вопреки распространённому заблуждению, Мак-Каллок и Питтс не приводят нигде формального доказательства тьюринг-полноты (тьюринг-полнота модели означает, что с её помощью можно представить любую логическую операцию, заданную конечным количеством слов) созданной ими модели, этот вывод они, по всей видимости, считали тривиальным, по крайней мере фон Нейман считал этот факт доказанным.

Кстати, в третьей части своей статьи исследователи предлагают распространить результаты своих наработок и на то, что мы бы сейчас назвали гуманитарными и социальными разделами психологии. Они, например, говорят, что их теории достаточно, чтобы описать и бихевиоризм, и интроспективную психологию, и физиологическую. Более того, они утверждают, что психиатру совсем не обязательно знать личное прошлое пациента, чтобы поставить диагноз, так как нейронная сеть определяется её текущим состоянием и текущими входными сигналами (это, вероятно, камень в огород Фрейда, который многое объяснял событиями из детства).

Модель Мак-Каллока и Питтса оказала огромное влияние на дальнейшее развитие информатики, но, возможно, вовсе не так, как принято писать в институтских учебниках. Конечно, её появление повлияло на дальнейшее развитие искусственных нейронных сетей, однако не меньшее влияние она оказала на развитие электронной вычислительной техники и классических символьных вычислений. Знаменитый Отчёт от EDVAC, ставший продуктом труда Джона фон Неймана и его коллег и впервые сделавший достоянием общественности классическую архитектуру фон Неймана, содержит единственную ссылку на работы других исследователей. И это ссылка на статью Мак-Каллока и Питтса. Сигнал, циркулирующий в петлевом контуре нейронной сети, стал для фон Неймана прообразом оперативной памяти цифровой машины.

Именно статья Мак-Каллока и Питтса стала в начале 1950 отправной точкой для одной из фундаментальных работ Стивена Клини. Он, в отличие от фон Неймана, не считал вопрос о тьюринг-полноте сетей Мак-Каллока и Питтса самоочевидным и решил построить формальное доказательство. Он определил понятие регулярные события [regular events] (сегодня называемые регулярными языками [regular languages], рациональными языками [rational languages] или регулярными множествами [regular sets]) и доказал, что сети Мак-Каллока и Питтса могут представлять [represent] регулярные события (в современной терминологии они могут принимать [accept] регулярные языки). Именно от этого термина происходит понятие регулярные выражения [regular expressions], хорошо известный большинству современных программистов.

Теперь, каждый раз набирая в ноутбуке строку import re, вы просто обязаны вспомнить добрым словом двух романтиков эпохи первых нейронных сетей.

Забавно, что термин регулярные в отношении событий, языков, множеств и выражений, является хорошей иллюстрацией принципа нет ничего более постоянного, чем временное. В своей работе Клини пишет: Сейчас мы опишем класс событий, которые будем называть регулярными событиями (мы будем рады любым предложениям относительно более наглядного термина). Как видим, за 70 лет подходящих предложений не поступило. Прилагательное regular в английском языке имеет несколько значений. Это и регулярный, и обычный, и очередной, и правильный, и даже официальный. Что именно из этого имел в виду Клини? Этим вопросом исследователи задаются и в наши дни. По всей видимости, он хотел указать на то, что эти события обязательно происходят всякий раз, когда модель находится в одном и том же состоянии и получает на вход один и тот же сигнал.

В той же статье Клини также определил альтернативный формализм, являющийся обобщением сетей Мак-Каллока и Питтса, позволив ячейкам (то есть нейронам) сети принимать любые из конечного числа внутренних состояний. Клини назвал свой новый формализм конечными автоматами [finite automata] и показал, что сети Мак-Каллока и Питтса вычислительно эквивалентны конечным автоматам.

И на сладкое: Питтс и Летвин пробовали себя в роли сценаристов, а Мак-Каллок писал стихи. Поистине универсальные умы, сочетающие в себе и физику, и лирику!

Вот один из опусов Мак-Каллока в переводе Сергея Маркова:

Мы замки на небе возводим,
И не растаять им в пыли,
Пока мы ими сумасбродим,
Пока с ума нас не свели.

Таскай их (жребий безысходен)
По разным уголкам Земли.
Мы замки на небе возводим,
И не растаять им в пыли.

И славен час, коль отцвели,
Но прежде чем во тьму уходим,
Находим ум, что плодороден,
Где б семена взойти могли.
Мы замки на небе возводим,
И не растаять им в пыли.
Подробнее..

Категории

Последние комментарии

  • Имя: Макс
    24.08.2022 | 11:28
    Я разраб в IT компании, работаю на арбитражную команду. Мы работаем с приламы и сайтами, при работе замечаются постоянные баны и лаги. Пацаны посоветовали сервис по анализу исходного кода,https://app Подробнее..
  • Имя: 9055410337
    20.08.2022 | 17:41
    поможем пишите в телеграм Подробнее..
  • Имя: sabbat
    17.08.2022 | 20:42
    Охренеть.. это просто шикарная статья, феноменально круто. Большое спасибо за разбор! Надеюсь как-нибудь с тобой связаться для обсуждений чего-либо) Подробнее..
  • Имя: Мария
    09.08.2022 | 14:44
    Добрый день. Если обладаете такой информацией, то подскажите, пожалуйста, где можно найти много-много материала по Yggdrasil и его уязвимостях для написания диплома? Благодарю. Подробнее..
© 2006-2024, personeltest.ru