Глава 1. Введение

Сейчас 2051 год, а вы обнаруживаете себя в ресторанном деле! Автоматизация, по большей части роботами- рабочими, но, как оказывается, люди всё ещё время- от - времени любят поесть. В вашем ресторане все сотрудники являются роботами: естественно, гуманоиды, но вне всяких сомнений роботы. Наиболее успешным производителем роботов, конечно же, является Threading Inc., а роботы- исполнители от этой компании стали именоваться "ThreadBots" {Поточные боты - Серийные боты}.

За исключением этой одной незначительной детали ваш ресторан выглядит и работает как один из ресторанов старого доброго времени, скажем, 2018. Ваши гости в поиске винтажных впечатлений. Им требуются свежие продукты, приготовленные с нуля. Они хотят сидеть за столиками. Они хотят дожидаться своих порций - но только не долго. Они желают расплачиваться в конце, а порой они, конечно, по- старинке даже соблаговолят оставить чаевые.

Естественно, являясь новичком в роботизированном ресторанном бизнесе, вы делаете то же, что и прочие рестораторы и вы нанимаете небольшую флотилию роботов: одного для приёма новых посетителей на стойке регистрации (hostbot, метрдотель); одного ожидающего у столика для приёма заказов (waitbot, официант); одного на готовку (chefbot, повар); и одного на управление баром (winebot, бармен).

Голодные посетители появляются у стойки регистрации и встречаются вашим Серийным ботом метрдотелем. Затем Серийный бот официант принимает заказ на кухню на блокнотный листочек (потому что вы желаете сохранять старинную атмосферу, помните?). Ваш бот- повар просматривает заказ на листе из блокнота и начинает готовить еду. Принявший заказ официант периодически проверяет не готовы ли ваши блюда, и, если это так, немедленно доставляет яства за столик посетителя. Когда гости готовы покинуть заведение, они возвращаются к встречавшему их боту, который выставляет счёт и желает им приятного дальнейшего времяпровождения.

Вскоре вы откроете свой ресторан и, в точности как вы и ожидали, ваше меню стало хитом и вы вскоре наращиваете число своих посетителей. Ваши роботы работники делают в точности то что вы им поручили и они отлично справляются с теми задачами, которые вы им назначили. Всё идёт хорошо и вы на самом деле не могли бы быть счастливее.

Со временем, однако, вы начинаете замечать некие проблемы. О, ничего серьёзного, впрочем. Просто пара вещей кажется идёт не очень хорошо. У всякого иного роботизированного ресторана, похоже, имеются подобные проблемы с придирками. Также немного беспокоит, пожалуй, что эти проблемы нарастают по мере того как вы становитесь всё успешно.

Несмотря на их редкость, происходят случайные коллизии, которые очень тревожат: иногда, когда блюдо с едой готовится на кухне, бот официант выхватывает его прежде чем бот- повар разрешает его забрать. Обычно это приводит к тому что тарелка разбивается и оставляет большой беспорядок. Бот- повар, конечно же, всё вычищает, но вы начинаете обдумывать как бы этим роботам- пионерам быть слегка более слаженными друг с другом. Это же происходит и в баре: порой бот- бармен уже поместит некий новый заказанный напиток на стойку, а бот официант уже его хватает прежде чем бармен ему позволит, в результате бокал вдребезги и пролит Недербургский Каберне Совиньон!

Порой метрдотель усаживает посетителей в тот самый момент, когда официант решает убрать тот столик, что он считает чистым. Это очень неловко для ваших посетителей! Вы пытаетесь добавить логику задержки в функцию уборки стола официанта, или задержки в функцию рассаживания метрдотеля, но в действительности это не помогает, так как накладки всё же происходят. По крайней мере, это только случайные события.

Ну да ладно, это были случайные события. Ваш ресторан получил такую популярность, что вам пришлось нанять несколько дополнительных Серийных ботов. На каждый загруженный вечер пятницы или субботы вам приходится добавлять второго метрдотеля и двух дополнительных официантов. К сожалению, контракты с Серийными ботами означают, что вам приходится нанимать их на полную неделю, следовательно на самом деле это означает, что большую часть такой недели вы содержите трёх дополнительных Серийных бота, которые в действительности вам не нужны.

Другая проблема ресурсов, помимо дополнительной стоимости, естественно, состоит в том, что стало гораздо больше работы для вас чтобы присматривать за этими дополнительными Серийными ботами. Было здорово следить за четырьмя ботами, но теперь их стало семь! Держать на глазу семь Серийных ботов это намного больше работы, а поскольку ваш ресторан становится всё более и более популярным, вы начинаете беспокоиться о том, чтобы привлечь к работе ещё больше Серийных ботов. Это станет самостоятельным занятием с полной занятостью отслеживать то, что делает каждый Серийный бот! И опять же: эти дополнительные Серийные боты потребляют намного больше пространства внутри вашего ресторана. Ваши посетители оказываются достаточно сильно стеснёнными со всеми этими снующими туда и обратно роботами. Вы обеспокоены тем, что когда вам потребуется добавить ещё больше ботов, данная проблема пространства станет ещё более сильной. Вы желаете использовать пространство ресторана для посетителей, а не для Серийных ботов!

Раз вы добавили больше Серийных ботов, коллизии стали ещё хуже. Теперь два официанта получают в точности тот же самый заказ с одного и того же столика в одно и тоже время. Это как если бы они оба заметили, что данный столик готов сделать заказ и приехали получить его, причём без какого бы то ни было уведомления о том, что другой бот официант делает в точности то же самое. Как вы можете себе представить, это приводит в результате к дублированию заказов блюд , что приводит к дополнительной нагрузке на кухню и увеличивает шансы накладок, при подборе уже готовых блюд. Вы обеспокоены тем, что если вы добавите ещё больше ботов официантов, проблема может только усугубиться.

Время идёт.

Затем, во время одного очень- очень загруженного вечера в пятницу у вас наступает особый момент прояснения: время замедляется, прояснение снисходит на вас и вы видите некий моментальный снимок вашего замороженного на мгновение ресторана. Мои Серийные боты ничего не делают! Честно говоря, не совсем ничего, но они просто ... ждут.

Каждый из ваших трёх ботов официантов на различных столиках ожидает пока один из посетителей за их столом сделает им заказ. Бот бармен уже приготовил 17 напитков, которые теперь ожидают пока их заберут (это отнимет всего несколько секунд), и теперь он ждёт новых заказов на напитки. Один их ботов метрдотелей встречает новую группу гостеу, говорит что им следует подождать минутку, пока он их рассадит и ждёт ответа от этих гостей. Другой бот метрдотель теперь обрабатывает некий платёж кредитной картой для следующего посетителя, который собирается покинуть заведение и ожидает подтверждения данного платежа от терминального устройства. Даже ваш бот повар, который в настоящий момент готовит 35 блюд, на самом деле не делает ничего в данный момент, а просто ожидает пока одно из этих блюд завершит готовиться с тем, чтобы поместить его на поднос, который в руках у одного из ботов официантов.

Вы осознаёте, что хотя ваш ресторан теперь наполнен Серийными ботами и вы даже рассматриваете возможность привлечения дополнительных (со всеми вытекающими из этого проблемами), те, которых вы используете в настоящее время даже не используются полностью.

Момент истины проходит, но его осознание остаётся. Вы ждёте окончания недели и первое что вы делаете, вы добавляете модуль сбора данных для ваших Серийных ботов. Для каждого из Серийных ботов вы измеряете сколько времени потрачено на выполнение его работы. На протяжении следующей недели собираются все данные и в воскресенье вечером вы анализируете полученные результаты. Оказывается, даже когда ваш ресторан забит под завязку, ваш самый загруженный Серийный бот простаивает около 98% всего времени! Ваши Серийные боты настолько экономически эффективны, что они способны выполнять любую задачу за доли секунды.

Как для предпринимателя, такая неэффективность на самом деле является вашим сбоем. Вы знаете, что все прочие владельцы роботизированных ресторанов ведут свои дела так же как и вы со многими теми же самыми проблемами. Но, как вы полагаете, хлопнув кулаком по столу, "Должен быть иной способ!"

Итак, на следующий же день, который является спокойным понедельником, вы пытаетесь сделать нечто очень смелое: вы программируете одного из своих Серийных ботов на выполнение всех имеющихся задач. И всякий раз когда он начинает ждать, даже хотя бы секунду, вместо ожидания, этот Серийный бот будет переключён на следующую задачу, которая может возникнуть во всём ресторане. Это звучит невероятно на первый взгляд, только один Серийный бот выполняет всю работу всех оставшихся, но вы уверены, что ваши вычисления верны. И к тому же, понедельник - очень спокойный день, поэтому если что- то пойдёт не так, потери будут небольшими. Для такого нового проекта вы именуете своего бота "loopbot" (циклическим ботом, фигаро), потому что он в цикле выполняет все задания в вашем ресторане.

Такое программирование намного сложнее обычного. Дело не только в том, что вам пришлось запрограммировать одного из Серийных ботов на все различные задачи; вам также пришлось запрограммировать некую логику когда переключаться между задачами. Но на данном этапе у вас есть богатый опыт программирования таких Серийных ботов, поэтому вам это удалось.

Наступил понедельник, и вы видите, что ваш бот фигаро как ястреб. Он перемещается между позициями за доли секунды, проверяя нет ли для него какой работы. Через какое- то время после открытия за стойкой появляется самый первый посетитель. Ваш бот фигаро появляется почти мгновенно и спрашивает не желает ли клиент присесть за столик у окна или у стойки бара. А затем, поскольку этот бот фигаро начинает ждать, его программа заставляет его переключиться на следующую задачу и он со свистом уносится прочь! Это выглядит как ужасная ошибка, но вы видите, что ваш посетитель начинает говорить "у окна, пожалуйста", и бот фигаро снова на месте! Он принимает ответ и проводит гостя к столику 42. И покидает гостя снова, проверяя наличие заказа на напитки, еду, уборку стола и приём гостей снова и снова.

Поздно вечером в понедельник вы поздравляете себя со значительным успехом! Вы проверяете свой модуль сбора данных для бота фигаро и тот подтверждает, что даже когда один единственный Серийный бот делает работу семерых, он всё ещё простаивает почти 97%!. Такой результат вселяет в вас уверенность продолжить данный эксперимент на протяжении всей оставшейся недели.

По мере приближения сильно загруженной пятницы вы размышляете о великом успехе своего эксперимента. Для обслуживания на протяжении обычной рабочей недели вы можете запросто управляться одним единственным ботом фигаро. А к тому же есть ещё один момент, который вы заметили: больше нет накладок. на самом деле: так как имеется только один зацикленный бот, он не может конфликтовать сам с собой. Больше нет дублированных заказов, поступивших на кухню, и больше нет никакой неразберихи относительно того когда забирать блюдо или напиток.

Начинается обслуживание вечера в пятницу и вы надеетесь, что ваш единственный Серийный бот управится со всеми посетителями и задачами и обслуживание будет даже лучше чем ранее. Вы представляете вы можете даже заполучить ещё больше посетителей теперь и не заботитесь о вовлечении дополнительных Серийных ботов. Вы представляете себе сколько денег вы можете сэкономить.

К сожалений, то- то идёт не так: подгорело одно из блюд, сложное суфле! Этого никогда раньше не случалось в вашем ресторане. Вы начинаете изучать своего циклического бота более пристально. Оказывается, за одним из ваших столиков находится очень болтливый посетитель. Этот гость пришёл в ваш ресторан один и продолжает попытки поддержать разговор с вашим ботом фигаро, даже когда ваш бот фигаро что- то держит в руках. Когда это происходит, ваш бот фигаро не может отойти и отслеживать весь всё растущий перечень задач в прочих местах вашего ресторана. Именно так вам повар и допустил своё первое в жизни подгоревшее суфле. Ваш бот фигаро не имел возможности вернуться назад на кухню чтобы снять суфле с огня, так как он был занят каким- то посетителем.

Обслуживание в пятницу завершено и вы отправляетесь домой чтобы обдумать то, что вы узнали. Это на самом деле так, что ваш единственный циклический бот всё ещё способен выполнять всю имеющуюся работу, которая требуется в загруженном обслуживании пятницы; но с другой стороны ваша кухня самый первый раз испортила блюдо, нечто, чего не происходило никогда ранее. Болтливые посетители постоянно загружали ботов официантов, но это никогда не сказывалось на обслуживании кухни.

Рассмотрев все стороны, вы приходите к заключению, что всё ещё лучше продолжать применять одного единственного циклического бота. Эти тревожные накладки больше не происходят, а в вашем ресторане стало намного больше свободного места, пространства, которое вы можете использовать для большего числа посетителей. Но вы осознаёте, что в вашем циклическом боте есть некая глубокая проблема: он может быть действенным только если все задачи очень краткие; или же они по крайней мере могут выполняться за очень непродолжительный период времени. Если некое действие удерживает вашего циклического бота слишком долго, прочие задачи могут не получить должного внимания.

Трудно знать наперёд какие именно задачи могут потребовать слишком много времени. Что если посетитель закажет некий коктейль, который потребует очень сложного приготовления, намного более длительного чем обычно? Что если некий посетитель пожелает жаловаться на еду, откажется платить и схватит вашего бота фигаро за руку, не позволяя ему переключиться на другую задачу? Вы решаете, что вместо того, чтобы разбираться со всеми этими проблемами в лоб, вам лучше продолжить с вашим циклическим ботом, записывая по возможности побольше информации и решать проблемы по мере их появления.

Прошло ещё какое- то время.

Постепенно прочие владельцы ресторанов замечают ваши действия и в конце концов они выясняют, что также могут обойтись, и даже преуспеть, всего лишь с одним единственным Серийным ботом. Молва расходится. Вскоре все отдельные рестораны начинают работать таким образом и становится трудно припомнить, что роботизированные рестораны вообще когда бы то ни было работали со множеством Серийных ботов.

В нашей истории все имеющиеся роботы исполнители в нашем ресторане выступают в роли некоторого отдельного потока (thread). Основным ключевым наблюдением в нашей истории является то, что сама природа всех работ в нашем ресторане связана с большим ожиданием, просто потому что requests.get() ожидает отклика от некоего сервера.

В ресторане время его исполнителя, затрачиваемое на ожидание, не является гигантским когда медленный людской персонал делает свою работу вручную, однако когда сверх- эффективные и быстрые роботы берутся за эту работу, тогда почти всё их время тратится на ожидание. При программировании компьютера то же самое справедливо при вовлечении сетевого программирования. ЦПУ выполняют свою "работу" и "ждут" сетевого ввода/ вывода. В современных компьютерах ЦПУ чрезвычайно быстрые, в сотни и в тысячи раз быстрее чем сетевой обмен. Таким образом, исполняющие сетевые программы ЦПУ тратят слишком много времени на ожидание. {Прим. пер.: пожалуй, слишком ограничивающее утверждение, при наличии интерконнекта с очень высокой полосой пропускания и низкими значениями латентности тщательный подбор параметров обмена становится ещё более актуальным, например, см. Эффективное применение RDMA для служб ключ- значение, Рекомендации по разработке высокопроизводительных систем RDMA.}

Суть данного сюжета в том, что программы могут быть написаны в явном виде чтобы перемещать имеющийся ЦПУ между задачами по мере необходимости. Хотя и имеется некое улучшение экономичности (применение меньшего объёма ЦПУ для одной и той же работы), действительное преимущество, по сравнению с подходом потоков (множества ЦПУ) состоит в исключении условий состязательности.

Однако это ещё не все цветочки: как мы обнаружили в данном сюжете, для большинства технических решений имеются преимущества и недостатки. Наше введение в LoopBot решило определённый класс проблем, но также создало и новые проблемы - не последняя из которых состоит в том, что владельцам ресторанов придётся изучить слегка иные способы программирования.