andrzejn: (Default)
Андрій Новосьолов ([personal profile] andrzejn) wrote2011-07-27 12:06 pm

Опять с DDoSом проблемы...

[livejournal.com profile] igrick рассказывает, почему LJ опять плохо. К сожалению, рассказывает он это в том самом LJ, которому плохо, так что фиг прочитаешь. К счастью, я смог достать эту запись из кэша Яндекса. Вот копия:

За что? А пDDoSто так!

Folks, прошло достаточно времени для того, чтобы собрать необходимые данные и с уверенностью сделать из этого неутешительный вывод — к сожалению, это был и есть DDoS, причем такой мощности и характера, что до серверов LiveJournal он даже не дошел, т.е. магистральные провайдеры Qwest и Verizon, поставляющие услуги в дата-центр, где расположены наши сервера, не выдержали нагрузки, и весь дата-центр, т.е. не только LiveJournal, были отрезаны от мира как минимум на 5 часов. Не работала даже резервная консоль, которая позволила бы нам хоть как-то понять, что происходит с сетевым оборудованием (при этом данные пользователей по-прежнему надежно защищены ввиду архитектуры LiveJournal, за это можете не переживать), поэтому единственным источником информации для нас были вышеупомянутые провайдеры, отвечающие на наши вопросы, и не только наши, но и остальных клиентов, в стиле «we are experiencing network routing issues». Позднее был настроен и запущен DDoS Mitigation Protocol, по результатам которого стало видно, что трафик в нашу сторону составлял в среднем около 6 гигабит при пиках в 8 гигабит (напомню, в прошлые разы он составлял около 2-х гигабит в пике), что по всей видимости является потолком для Qwest и Verizon на данной площадке. При этом, как и в прошлый раз, никаких преференций с точки зрения атакуемых выбрано не было и «валят» весь LiveJournal.

Картинки с DDoS Mitigation Report от Verizon:

На данный момент этот протокол все еще в работе и площадку все еще атакуют, и именно работой этой системы и вызвана вся та нестабильность, которая сейчас проявляется при работе с LiveJournal. Но тут либо нестабильность, либо полный blackout (и опять же — не только для нас, но и для всей площадки), так что из двух зол мы выбрали меньшее.

Из того, что в отдельных случаях может не работать (например, на работе работает, а дома — нет):

  • отправка записей;
  • отправка комментариев;
  • изменение настроек;
  • новая авторизация;
  • регистрация;
  • добавление/удаление друзей;
  • и прочие операции, осуществляемые методом POST с более-менее весомым телом.

Из того, что мы делаем/сделали — c Апреля мы увеличили пропускную способность текущих каналов почти в два раза и даже успели прокопать третий, который в данный момент подключают. Производительность оборудования так же была увеличена в разы, и мы в процессе еще большего расширения. Mitigation протоколы настроены и включены.

В очередной раз надеюсь на понимание, терпение и непереключение.

otawa: (Default)

[personal profile] otawa 2011-07-27 09:51 am (UTC)(link)
И все бы ничего, но на Дриме нас еще как-то маловато...
vitus_wagner: My photo 2005 (Default)

[personal profile] vitus_wagner 2011-07-27 10:12 am (UTC)(link)
Интересно, сколько активных юзеров будет достаточно для того, чтобы вот таким же образом начал падать DW?
vitus_wagner: My photo 2005 (Default)

[personal profile] vitus_wagner 2011-07-27 10:29 am (UTC)(link)
ЖЖ сейчас упирается не в движок, а в каналы. Опять же, сколько волка ни корми, а у слона понятно что больше. Поэтому оптимизация движка вряд ли сильно прибавит DW мощности. Хотя, конечно, отсутствие ljtimes оно способствует. Но DW тоже страдает creeping featurism-ом. А деньги на поддержку датацентра - существенно меньшие. Так что в 100 раз я не верю.
vitus_wagner: My photo 2005 (Default)

[personal profile] vitus_wagner 2011-07-27 10:41 am (UTC)(link)
Я бы, конечно, предпочел чтобы было десять (лучше 100) независимых сайтов, подобных DW, и чтобы кроссайтавая аутентификация между ними работала не так как у DW иLJ а нормально, не создавая заметных неудобств, вроде невозможности поместить в комментарий ссылку.

Хотя бы для тех внешних ID, кому я это явным образом разрешил делать в своем журнале.

Ну и чтобы свой журнал вместе с комментариями можно было реплицировать на 3-4 из этих 10-100 сайтов.
petropavel: (Default)

[personal profile] petropavel 2011-07-27 11:26 am (UTC)(link)
По аналогии с NoSQL предлагаю назвать такую экосистему NoЖЖ :-)

(Anonymous) 2011-07-27 12:07 pm (UTC)(link)
Попробую.
petropavel: (Default)

[personal profile] petropavel 2011-07-27 10:57 am (UTC)(link)
ЧуднОй этот ваш дрём, но посмотрим покамест )
petropavel: (Default)

[personal profile] petropavel 2011-07-27 06:13 pm (UTC)(link)
Что-то субъективно DW вот прямо счас у меня тормозит весьма ощутимо; покуда ЖЖ не колбасило, он отзывался существенно быстрее :-(
Может, это потому, что много жж-юзеров одномоментно захотели перейти на DW :-)

(Anonymous) 2011-07-27 12:00 pm (UTC)(link)
Этот сервис вроде ЖЖ? Тогда я бы не возражала завести аккаунт - но, как видно на странице регистрации, требуется приглашение либо плата... А я не припомню никого из своих друзей, кто пользовался бы этим сервисом.
Танда-МИФ

(Anonymous) 2011-07-27 12:57 pm (UTC)(link)
Спасибо большое!
tanda_mif_chgk: (рыжая)

[personal profile] tanda_mif_chgk 2011-07-27 01:52 pm (UTC)(link)
Ну вот, теперь осталось только ждать, когда сюда перекачаются посты из ЖЖ. Хотя, если б было время и ЖЖ нормально работал, то я бы не все посты перенесла.
tanda_mif_chgk: (огонек)

[personal profile] tanda_mif_chgk 2011-07-27 09:30 pm (UTC)(link)
Спасибо! Придется, конечно, привыкать к машинному переводу - русскоязычного сервиса я что-то не вижу. Или не там ищу?
tanda_mif_chgk: (огненнофрактально)

[personal profile] tanda_mif_chgk 2011-07-28 05:25 am (UTC)(link)
Ну, значит, буду надеяться, что машинный перевод достаточно точен :)

[personal profile] observer75 2011-07-28 12:50 pm (UTC)(link)
пробую комментировать первый раз тут...

[personal profile] observer75 2011-07-28 12:54 pm (UTC)(link)
кстати, новостей про ЖЖ новых нет никаких? Я за сегодня ничего нового не видел

[personal profile] observer75 2011-07-28 01:05 pm (UTC)(link)
Змінимо життя на краще (С), да?

[personal profile] observer75 2011-07-28 01:13 pm (UTC)(link)
Я так понимаю, что в этом датацентре не только ЖЖ живет. Но раз так - то где пострадавшие кроме ЖЖ? Вроде на провайдеров больше никто не жаловался и все работают нормально, т.е. DDos - скорее всего действительно отмазка