Хостинг серверов Minecraft playvds.com
  1. Вы находитесь в русском сообществе Bukkit. Мы - администраторы серверов Minecraft, разрабатываем собственные плагины и переводим на русский язык плагины наших собратьев из других стран.
    Скрыть объявление

Вся правда о Java Сервере

Тема в разделе "Альтернативные серверные платформы", создана пользователем hummer, 30 ноя 2012.

  1. Автор темы
    hummer

    hummer Старожил Пользователь

    Баллы:
    123
    Skype:
    bond_russia
    Те, кто мог видеть мою прошлую статью (а она довольно related к данной теме), знают, что вот уже больше полутора лет я разрабатываю собственную реализацию сервера Minecraft, рассчитанную, в первую очередь, на высокие нагрузки. Тем не менее, в своей работе мы используем так же и стандартный сервер (Bukkit) для нескольких мини-серверов, просто чтобы было разнообразие. И вот, столкнувшись с очередной версией сервера, которая стала раз в 5 хуже предыдущих, я уже не выдержала, и решила написать эту статью.

    Статья больше похожа на рассказ, чем на обучающий материал, так что вряд ли вы почерпнете из неё полезных навыков кодинга, но, надеюсь, кому-то она покажется интересной или даже полезной. Но если вы ходите увидеть кучу кода и примеров, то не открывайте статью, она не об этом. Об этом, надеюсь, будет следующая статья.

    Вам не нужно знать ничего о майнкрафте и особенно о его сервере, в данной статье я хочу просто рассказать, как работает оригинальный сервер Minecraft, а так же его «обвязка» — Bukkit, рассказать, почему такая система не работает и не должна. Я не претендую на идеальные знания о разработке серверов и не утверждаю, что мой сервер написан правильно и лучше всех. Я просто делюсь своим опытом, основанным на двух годах работы с сервером от всем известной Mojang и на полутора годах разработки своего сервера. Вся представленная здесь информация является моим личным мнением, а статья предназначена для расширения кругозора или даже обучения и может быть интересна как новичкам, так и продвинутым профессионалам.

    Начнём, пожалуй, с самого чистого («ванильного») сервера Minecraft, а точнее с того, чем же он вообще занимается. Данные вещи обрабатывает сервер:
    • Чанки — для тех, кто не знает, весь мир Minecraft разделён на куски площадью 16х16 кубов и высотой в зависимости от настроек. Все чанки в радиусе видимости игроков загружены в память сервера и находятся в HashMap-е, каждый «тик» сервера каждый чанк обрабатывается. В это время выполняется следующее: все активные чанки (те, которые находятся в определенном радиусе от игроков) перебираются по очереди. Для каждого чанка выполняется обработка погоды (насыпать снег, ударить молнией), а так же случайная обработка блоков — из всего чанка выбирается несколько десятков случайных блоков, проверяется, нужно ли эти блоки обновлять (по типу блока) и вызывается специальная функция на выбранном блоке.
    • Тайлы — это специальные блоки, которые обрабатываются каждый тик, а не случайно. К данным блокам относятся печи (обновление статуса пережигания материала, оставшегося топлива, это должно делаться равномерно, а не случайно, как тик остальных блоков), так же там находятся спавнеры мобов (блоки, которые спавнят мобов вокруг себя), котлы для зельеварения и подобные вещи. Они все хранятся в списке (List), который заполняется при загрузке чанка или при установке нового тайла во время работы, и перебираются каждый цикл по очереди.
    • Срочные блоки — они, конечно, так не называются, но тем не менее, это блоки, которые нужно обработать «срочно», то есть на следующем цикле или с небольшой задержкой (тоже в циклах, тут все считается в циклах, даже время, даже аллах), а не случайно, т.к. случайные блоки обрабатываются раз в несколько минут в среднем. Обрабатываются примерно как тайлы, только у них может быть указана задержка, через сколько циклов их нужно обработать. Задачи на обработку обычно генерируются во время работы сервера из-за действий игрока или других блоков. В частности, так обрабатывается редстоун, который должен очень быстро реагировать на внешние изменения, блоки огня, текущая вода и подобные.
    • Обновление света — Minecraft использует статическое освещение, разделенное на блоки. Каждый блок имеет свой уровень освещённости от 15 до 0. При изменении блоков их освещённость должна быть пересчитана, алгоритм не очень сложный, но рекурсивный, а так же есть два типа освещения — от блоков (факелов, огня и тп) и от неба, они должны рассчитываться независимо, то есть два раза на каждое изменение (если в мире есть небо, в Nether его нет).
    • Entity — это практически все объекты. Мобы, игроки, предметики, валяющиеся на полу, тележки, лодки, картины, молния, стрелы и прочее. Все они хранятся в одном большом списке и по очереди на них вызывается функция tick(), перед этим проверяется, не умерли ли они, если умерли, то они удаляются из списка и из памяти сервера, соответственно.
    • Спавн мобов — тоже отдельное действие. Мобы спавнятся в определенном радиусе от игрока, при этом выбирается случайная точка в чанке и на основе нескольких сдвигов в разные стороны выбирается, можно ли поставить туда моба, и он создаётся
    • Обработка игроков — все пакеты, которые прислали игроки необходимо обработать, очевидно.
    • Загрузка и генерация чанков — если происходит попытка доступа к блоку чанка, которого нет в памяти, чанк должен быть загружен с диска, если его нет на диске, он должен быть сгенерирован. Не надо объяснять, что жесткий диск почти всегда очень узкое место. Генерация чанка ещё сложнее, чем его загрузка.
    • Сохранение чанка — во время общего сохранения сервера или просто, когда чанк долго не использовался и может быть выгружен, чанки необходимо сохранить на диск — преобразовать в поток и записать в файл.
    Казалось бы, все нормально и тут нет ничего преступного, все сделано довольно хорошо и добавить нечего. Проблема тут такая: всё это обрабатывается в одном основном потоке. В последних версиях в Mojang почитали немного про многопоточные штуки и научились сохранять чанки на диск в отдельном потоке. Безусловно это прорыв, потому что это было чертовски узкое место, давным-давно сервер сохранялся по 15 минут и на это время полностью вис, теперь такого нет. Тем не менее, проблема не решена.

    Вы спросите, в чем же тут проблема? Так многие делают: основная логика приложения в одном потоке, это очень удобно программировать, не нужно заботиться о синхронизации и прочих проблемах параллельных приложений. Проблема тут в том, что если на сервере больше 40 человек, вместо стандартных 20 циклов он делает уже 15, если 70 человек, то 10, если 100 — то проседает до невероятных значений. Это при том, что у меня вообще-то мощный 6-ядерный Core i7 и 64Gb оперативной памяти! И куда мне теперь деть эти ресурсы, если из 12 потоков заняты от силы два?

    Не буду пустословить, приведу пример:
    На сервере 223 игрока, при этом радиус видимости выбран достаточно маленький, в памяти находится 46577 чанков, 524 «срочных» блока, 87 блоков редстоуна и поршней, 11240 Entity предметов, 4274 Entity животных, 19 тележек и лодок, 717 других Entity, игроки, которые тоже являются Entity и требуют соответствующей обработки.
    Количество тайлов и обновлений света мой сервер не выводит в информации (мне это не нужно), но можете поверить, их много.

    Одна лишь обработка животных ужасно тяжелый процесс — они регулярно выполняют поиск пути, поиск других Entity вокруг, у них есть AI (в последних версиях довольно продвинутый), поэтому обработать 4 тысячи животных — уже большая работа.

    Обойти 3 миллиона блоков (примерно столько обрабатывается случайных блоков при таком количестве чанков) — тоже не тривиальная задача.

    11 тысяч предметов надо сдвинуть, сделать некоторые другие действия, отправить обновления об их положении игрокам и прочее.

    И всё это нужно успеть сделать за 50 миллисекунд, иначе все начнет тормозить, ведь скорость рассчитывается в циклах. Если сервер делает меньше циклов в секунду, чем должен, то, например, мобы начинают ходить медленно и рывками. Плюс расчётов в циклах очевиден — если сервер подвиснет или произойдёт огромная сборка мусора (сервер ведь на Java), то не получится так, что тележка, едущая на полной скорости на следующем цикле превратится в быстро движущийся маленький объект, и придётся рассчитывать её движение по более сложным алгоритмам.

    При этом есть ещё и Bukkit!
    Bukkit — это такой «враппер» для ванильного сервера. Он добавляет API для создания плагинов, он супер-удобен для разработчиков плагинов и сделан действительно качественно. Но, грубо говоря, всё становится только хуже. Если игрок присылает пакет, что он немного сдвинулся или повернул голову… создаётся событие и посылается по всем плагинам, которые его обрабатывают. А при этом функция обработки движения и так довольно сложная. При ломании блока или установке происходит то же самое, а так же при около сотни других действий, которые создаёт игрок или сам сервер, включая махание рукой, смена состояния редстоуна, перетекание воды, спавн моба, AI, тысячи их… То есть, как бы система хорошая, но создаёт кучу дополнительных вызовов при обработке всего.

    К счастью, некоторые разработчики плагинов научились вытаскивать тяжелую логику своих плагинов в отдельный поток. Яркими и хорошими примерами служат плагины OreObfuscator и Dynmap. Первый «чистит» посылаемые игроку блоки от лишних данных, чтобы игрок не мог читами смотреть сквозь стены. Он делает это в отдельном потоке, складывая пакеты в очередь и обрабатывая их отдельно от логики сервера. Второй генерирует динамическую карту для браузера, тоже очень качественно сделан. В общем, хвала им, что не нагружают основной поток ещё сильнее.

    Так же есть плагин, который уменьшает количество вещей, которые обрабатывает сервер за цикл. Объединяет лежащие рядом предметы, выгружает мобов, ограничивает обработку чанков. Это очень круто, ни один сервер не обходится без этого плагина — NoLagg.

    Как делать правильно (по-моему)
    Мы долго мучились со всем этим, когда полтора года назад наш онлайн вырос до 100 человек, а скорость работы просела до 0.5-1 цикла в секунду. Мы пытались делать оптимизации сервера, правили код, пытались убрать как можно больше лишнего, изменили в некоторых местах работу не по циклам а по секундам (например, в печи. В Bukkit это потом тоже добавили… через несколько месяцев). В конце концов мы достигли ужасной нестабильности сервера и решили плюнуть на всё это.

    Единственным вариантом, который сможет обеспечить нам комфортный онлайн такого количества игроков, какой мы хотели, был масштабируемый сервер. Не думаю, что нужно объяснять, что поток у процесса сущность не масштабируемая, может работать только на одном ядре процессора одновременно и его производительность ограничена производительностью ядра. Ядра в процессорах сейчас довольно производительные, но и работы много, да и процессоры сейчас делают многоядерными, не то время, чтобы не делать что-то многопоточным.

    Разделить уже существующий сервер на несколько потоков не представляется возможным. Многопоточное программирование — штука тонкая, сложная, требующая большого знания кода, с которым работаешь, и в существующее приложение практически не встраиваемая. Код надо писать с нуля.

    Так родился сервер, в основе которого было заложено как можно больше потоков: мир делится на куски по 64х64 чанка и каждый такой кусок обрабатывает чанки в одном потоке, один поток для обработки срочных блоков, один поток для редстоуна и поршней, один поток для мобов, один поток для предметов, один поток для тележек, один поток обрабатывает другие Entity и прочую информацию о мире, один поток пересчитывает свет, четыре потока по разным частям света сохраняют мир на диск, один поток рендерит карту, один поток занимается обслуживанием сервера и команд консоли, обновляет статистику. Для игроков используется система, которая позволяет обработку пакетов ставить либо на отдельный поток для каждого игрока, либо на пул потоков, либо на отдельные потоки для каждого игрока. При этом всё можно разделить на ещё несколько потоков: обрабатывать один и тот же тип объектов хоть в 20 разных потоках. А так же Netty (NIO) в качестве сетевого движка, в отличии от стандартного I/O.

    Разработка стабильной версии такого сервера, не обладающего всем функционалом, стоило примерно 8 месяцев работы одной меня без обладания опытом. Весь код рассчитан на асинхронный доступ ко всем данным. Но оно того стоило — совсем недавно мы поставили рекорд в 559 человек, которые не просто стояли в одном месте, лагали и снимались на фрапс, а проходили очень большой ивент с редстоуном, и при этом чувствовали себя комфортно.

    Мораль сей басни такова: если вы рассчитываете на то, что ваш проект будет хоть сколько-нибудь популярным и думаете, что хоть чуть-чуть теоретически возможно, что на сервере будет хоть сколько-нибудь много человек… не поскупитесь на создание масштабируемой архитектуры.

    Источник http://habrahabr.ru/post/157921/
     
    Hilgert, InterWall, maximusorg и 22 другим нравится это.
  2. Хостинг MineCraft
    <
  3. delour

    delour Участник Пользователь

    Баллы:
    43
    Skype:
    restles_s
    Имя в Minecraft:
    d3lour
    Охохо. Так кто же ты? Анечка с ГринКубс? Я думал ты - парень. Но это не так важно.:D
    А так, очень познавательно и интересно написано.
     
    slavik123123123, sprighy, skynetxxx и 9 другим нравится это.
  4. Автор темы
    hummer

    hummer Старожил Пользователь

    Баллы:
    123
    Skype:
    bond_russia
    Нет не автор. я нашел данную статью и подумал вам будет интересно почитать
     
  5. user13

    user13 Активный участник

    Баллы:
    73
    Если бы ты ещё что-то понял - было бы вообще отлично ;)
     
  6. Serrrgio

    Serrrgio Старожил Пользователь

    Баллы:
    173
    Skype:
    nonecsa
    Имя в Minecraft:
    None
    в общем-то основные понятия, как примерно работает сервер даны и написаны понятным языком

    но получился какой-то самопиар, вот я такая хорошая написала многопоточный сервер :) IMHO
     
  7. El Romerro

    El Romerro Активный участник

    Баллы:
    78
    Вы суть статьи то поняли вообще? Или к вам тоже можно отнести №4 пост данной темы? :) Суть не о том как работает сервер, а о том что в нем работает не верно. И статья вообще не о майнкрафте, а об архитектуре, планировании так сказать (понятии не ведомом в Mojang когда те писали свое детище по ходу). Что касается пиара, то что она там пиарит? Себя любимую? Ссылок на их сервер и даже сколь-нибудь мелкого призыва посетить их ресурс там не наблюдается :)
     
    MineMan910 и korsakik нравится это.
  8. Serrrgio

    Serrrgio Старожил Пользователь

    Баллы:
    173
    Skype:
    nonecsa
    Имя в Minecraft:
    None
    :)

    лично знаете сотрудников и политику компании в плане разработки minecraft? :)
     
    Bagetta3003 и Droid нравится это.
  9. El Romerro

    El Romerro Активный участник

    Баллы:
    78
    Профессиональное. Что уж там было на самом деле - можете предположить сами, благо на выбор всего два варианта. Либо упомянутое выше отсутствие планирования, либо банальная халатность и соответственно как следствие описанный в 1м посте Аней быдлокод.
     
    skynetxxx и korsakik нравится это.
  10. user13

    user13 Активный участник

    Баллы:
    73
    @El Romerro, да, похоже и товарища модератора причислим к стаду. увидел умное слово "многопоточность", посчитав это самопиаром. по сему видно - ему невдомёк, что многопоточные приложения являются совершенно нормальным явлением. если это всё, что он извлеклёк из данного сообщения, просто пусть забудет его. и прочтёт сразу вывод. ну.. если не всем дано.
     
    PedrO, stew и ufes нравится это.
  11. Serrrgio

    Serrrgio Старожил Пользователь

    Баллы:
    173
    Skype:
    nonecsa
    Имя в Minecraft:
    None
    а мой статус на форуме тут при чем? я всего лишь высказал свое мнение, как обычный пользователь форума, какое у меня сложилось впечатление от прочтения статьи.
    не претендую на единственность а абсолютную правильность моего мнения.

    и не нужно фантазировать, я не говорил, что многопоточные приложения являются ненормальными.
    и не нужно мне говорить что мне делать, и я не скажу куда вам идти :)

    и последнее, вы хотели меня оскорбить, относя меня к животным (стадо), которые по определению не обладают интеллектом?
    умываю руки из темы, ибо начинается срач.
     
    Droid нравится это.
  12. delour

    delour Участник Пользователь

    Баллы:
    43
    Skype:
    restles_s
    Имя в Minecraft:
    d3lour
    Не прими за унижение (или что-нибудь еще), но ты - модератор. Ты должен предотвратить срач.
    Избавляйся от срача.:)
     
    PedrO, stew, Attelis и ещё 1-му нравится это.
  13. Attelis

    Attelis Старожил Переводчик Пользователь

    Баллы:
    173
    Skype:
    attelis
    Имя в Minecraft:
    Attelis
    Модератор сам разводит срач? Где это видано?
     
    ufes и lesha_ki нравится это.
  14. BrilZliaN

    BrilZliaN Активный участник Пользователь

    Баллы:
    88
    Skype:
    brillianikz
    Имя в Minecraft:
    BrilZliaN
    Спалил годноту, %random_name% ты эдакий.
    Я после этого поста решил свою реализацию сервера на Netty пилить, но как только дошел до пакетов карты и интайти бросил все это дело, ибо через жопу протокол написан.
     
    skynetxxx и Flumaster нравится это.
  15. Flumaster

    Flumaster Старожил Девелопер Пользователь

    Баллы:
    153
    Skype:
    alexey_aristov
    Я протоколы и похлеще видал. Помню линяги сервер поднимал, на Interlude...
     
  16. alexandrage

    alexandrage Администратор

    Баллы:
    173
    Skype:
    alexandr0116
    Статья хорошая но, где же этот великий сервер с 500++ игроками :)?
    Пустые слова, а самого сервера нету, и никогда не было.
     
  17. delour

    delour Участник Пользователь

    Баллы:
    43
    Skype:
    restles_s
    Имя в Minecraft:
    d3lour
    greencubes.org
     
    ufes нравится это.
  18. El Romerro

    El Romerro Активный участник

    Баллы:
    78
    Еще раз повторю для тех кто не понял. Статья не о сервере с 500+ игроками, а о том как нужно и не нужно этот сервер делать. Статья не для тех кто "скачал, поставил и ОК", а для тех кто мб хочет написать качественное ПО но не знает как лучше к этому подойти. Судя по всему, я понял, что статья не для вас.
     
    korsakik и Boo.kr нравится это.
  19. AllPowerful

    AllPowerful Старожил Пользователь

    Баллы:
    123
    Skype:
    m1ster375
    Имя в Minecraft:
    AllPowerful
    А что ты хотел от школьников, которые могут скачать ведёрко, пару плагинов и переводов, и орать: "ГО ВСЕ НА МОЙ МЕГАСУПЕРПУПЕР СЕРВЕР!!!11АДЫН"?
     
    skynetxxx и Vova96 нравится это.
  20. El Romerro

    El Romerro Активный участник

    Баллы:
    78
    Я? Ничего :) А, Аня писала это явно не для них :)
     
  21. AllPowerful

    AllPowerful Старожил Пользователь

    Баллы:
    123
    Skype:
    m1ster375
    Имя в Minecraft:
    AllPowerful
    Не для них и не для меня, так как далёк от программирования, но если мой проект пойдёт в гору, буду искать того, кто за деньги реализует мне эту самую многопоточность, нетти и ещё какие нибудь приблуды. :D
     

Поделиться этой страницей