З’єднання, що завершується тайм-аутом, не каже тобі майже нічого. На тому боці може нічого не слухати, файрвол за три хопи може мовчки відкидати твій SYN, не залишивши навіть рядка в журналі, або маршруту може просто не існувати. А звідти, де ти сидиш, усе це виглядає однаково. Ти чекаєш. Нічого не відбувається.
Тож заявку записують як «порт 445 десь заблокований», і саме це «десь» змушує її відбиватися. Провайдер перевіряє свій край мережі, бачить, що там чисто, і повертає заявку. Ти перевіряєш файрвол на хості, бачиш, що там чисто, і повертаєш назад. Минає тиждень. Нічого не виправлено.
Шкоду робить слово «десь». Його там бути не мусить. Кожен маршрутизатор між тобою і ціллю зобов’язаний сказати тобі, коли винен саме він, і цей обов’язок записаний у стандартах з 1995 року. Треба лише правильно запитати.
Чому це треба розжувати
Бо надто багато людей у цій галузі не вміють базових речей, і щотижня це коштує їхнім роботодавцям справжніх грошей.
Я не про джуніорів. Я про людей із роками досвіду за плечима, сертифікатами на стіні й словом «senior» у назві посади, чия діагностика порту з тайм-аутом закінчується на «він заблокований» і далі не йде. Вони запускають ping. Він не проходить або проходить, і так чи так вони нічого не дізналися про порт, про який їх питали. Потім заявка йде провайдерові, провайдер її відбиває, і два тижні чиєїсь зарплати йдуть у переписку, яка могла бути однією командою.
Нічого з цього не складне. Відрізнити drop від reject, прочитати TTL у відповіді, знати, що зірочка в traceroute сама по собі нічого не означає: на це вистачить одного пообіддя, а служить воно всю кар’єру. Люди цього не знають не тому, що вони тупі. А тому, що цього ніхто не вчить. Навчання від вендора вчить тебе консолі вендора. Сертифікації вчать тебе іспиту. Основи під цим усім вважаються відомими з першого дня й ніколи насправді не викладаються, тож люди доходять до старших посад, ні разу цього не побачивши, а тоді вже соромно питати.
Тож замість бурчати ось воно, записане. Це основи, розкладені по поличках, з командами й скриптом, який ти можеш запустити сьогодні.
І слово про те, навіщо я взагалі за це взявся: поки писав, я прогнав це на власній лінії й знайшов три несправності, про які не знав. Дроп SMB за одинадцять хопів. Підроблені скидання SMTP за один хоп. Правило файрвола, яке існує на IPv4 і не існує на IPv6. Одне пообіддя, без root, на лінії, яку я доглядаю сам і за якою стежу. Подумай, що непоміченим сидить у мережах, за обслуговування яких комусь платять.
Чому тут немає Fisher-Price OS (Windows)
Тут її немає з двох причин. Одна технічна, друга ні, і я радше назву тобі обидві, ніж вдаватиму, що все це інженерія.
Технічна в тому, що вона цього не вміє. tracert надсилає ICMP echo requests і нічого більше: власний довідник Microsoft описує його як «sending Internet Control Message Protocol (ICMP) echo Request or ICMPv6 messages to the destination with incrementally increasing time to live (TTL) field values», і ніде в його синтаксисі немає параметра порту. pathping це той самий інструмент із прикрученою статистикою. Test-NetConnection скаже тобі, що TCP-порт відкритий чи закритий, і анічогісінько про те, з якої відстані прийшла відповідь. Жоден із них не вміє зондувати порт, який тебе насправді цікавить, на обраній відстані, а в цьому весь метод цього допису.
Обійти це скриптом теж не вийде. Задати TTL на сокеті в .NET досить просто, але прочитати ICMP-помилку назад це важча половина, і там немає відповідника трюку, на який спирається цей допис: немає способу змусити ядро повідомити помилку на звичайному сокеті, який її спричинив. Лишається raw-сокет, а власна документація Microsoft каже «only members of the Administrators group can create sockets of type SOCK_RAW». Тож непривілейованого шляху не існує, а привілейований вимагає токена локального адміністратора. Ти вже качаєш сторонні програми, ще не почавши.
Друга причина в тому, що мені байдуже, і я радше скажу це прямо, ніж прикрашатиму. Назва теж не дешевий укол, це опис. Це ОС, яку тобі видають, коли ти ніколи не мав іншої, вона ховає від тебе машину як мету дизайну, а не випадково, і щойно ти хочеш поставити мережі точне запитання, виявляється, що інструмент так і не збудували, бо від людей, для яких її збудовано, ніколи й не чекали, що вони питатимуть. Тридцять років минуло, а tracert досі не вміє націлити пакет на порт.
Це не справжня операційна система для справжніх айтішників, і якщо це єдина, якою ти будь-коли користувався, то ти не робиш цю роботу на тому рівні, для якого написано цей допис. Я знаю, що це звучить різко. Я пишу не для того, щоб мене любили, я записую те, що вимірюю, для людей, які вимірюють, і мені не надто важливо, що хтось, хто ніколи нічого іншого не запускав, волів би, щоб я сказав це інакше.
Аргумент тут список інструментів, а не думка. Кожен Unix у таблиці нижче дасть тобі задати ліміт хопів і вибрати протокол, чотири з них однією командою, а Linux зробить усе вимірювання навіть без sudo. І не тому, що ними важче користуватися. А тому, що їх будували люди, які чекали, що той, хто сидить за клавіатурою, хотітиме щось знати. Операційна система, чия діагностика закінчується на ping, чітко сказала тобі, що вона думає про людину, яка нею користується, і тридцять років, протягом яких люди з цим мирилися, привели нас до галузі, яка не може знайти відкинутий пакет.
Тож я її не запускаю, не запускав усерйоз уже багато років і не писатиму їй окремий розділ, щоб виглядати неупереджено щодо прогалини, яка справжня. Усе, на чому я будую, і все, з чого варто вимірювати, це Unix, і саме там живе цей допис.
Якщо зламаний ящик виявиться на Fisher-Price OS (Windows), у методі це нічого не змінює. Візьми shell на будь-чому іншому, на віртуалці з Linux, на Mac, на Raspberry Pi в тому самому комутаторі, і веди ліміт хопів у його бік. Вимірюванню анітрохи не важливо, що працює на тому кінці. Йому важливо лише те, що посередині.
TTL це бюджет хопів, і кожен маршрутизатор винен тобі квитанцію
У заголовку IPv4 є 8-бітне поле Time to Live. Назва лишилася з минулого: його визначили в секундах, і вже десятки років ніхто не трактує його як секунди. RFC 1812 поклав край суперечці в 1995 році й зробив прочитання як кількості хопів нормативним:
Each router (or other module) that handles a packet MUST decrement the TTL by at least one, even if the elapsed time was much less than a second. Since this is very often the case, the TTL is effectively a hop count limit on how far a datagram can propagate through the Internet.
Далі те, що тут важливо, з того самого розділу:
If the TTL is reduced to zero (or less), the packet MUST be discarded, and if the destination is not a multicast address the router MUST send an ICMP Time Exceeded message, Code 0 (TTL Exceeded in Transit) message to the source.
Це MUST. Не люб’язність, не порада. RFC 792 у 1981 році казав лише, що шлюз «may also notify the source host»; через тринадцять років вимогу посилили, і RFC 1812 прямо пояснює чому:
ICMP Time Exceeded messages are required because the traceroute diagnostic tool depends on them.
IPv6 покинув удавання й перейменував поле. RFC 8200 називає його Hop Limit, «8-bit unsigned integer. Decremented by 1 by each node that forwards the packet», а повідомлення про вичерпання стало ICMPv6 типу 3, код 0, «hop limit exceeded in transit».
Прочитай це як інструмент, а не як правило, і воно скаже щось корисне. Кожен маршрутизатор на шляху це маяк, до якого можна звернутися за відстанню. Постав ліміт хопів 4, і четвертий маршрутизатор назве себе. Тобі не треба знати топологію, не треба доступу ні до чого й не треба співпраці оператора. Треба по одному пакету на хоп.
Traceroute робить саме це з кінця 1980-х. Погано він робить те, що тебе насправді цікавить, бо за замовчуванням зондує UDP-порти десь у діапазоні 33 434, а цей порт ніхто не фільтрує й ніхто не обслуговує, тож він розповідає тобі про шлях, яким нічого справжнього ніколи не ходить. Чистий traceroute до хоста, до якого ти не можеш достукатися по TCP/445, доводить лише те, що UDP/33434 туди доходить. А питали зовсім не про це.
Тож зондуй порт, який тебе цікавить.
Читай, що повернулося, а не чи щось повернулося
Перш ніж рахувати хопи, подивися, що робить той кінець, коли ти дістаєшся до нього зі звичайним лімітом хопів. Є п’ять різних відповідей, і люди постійно зводять їх до однієї.
| Що повертається | Що це означає | Хто це надіслав |
|---|---|---|
| SYN-ACK, з’єднання відкривається | порт відкритий | хост або щось, що відповідає за нього |
| TCP RST | активна відмова | хост, на якому ніщо не слухає, або пристрій, налаштований відхиляти |
| ICMP 3/13, communication administratively prohibited | пристрій відмовляє за політикою й каже про це | цей пристрій: його адреса джерела і є твоя відповідь |
| ICMP 3/1, 3/2, 3/3 | хост, протокол або порт недосяжні | останній маршрутизатор або хост |
| нічого взагалі | хтось мовчки відкидає | невідомо, тож піди й виміряй |
Через третій рядок варто змінити звички. Коли файрвол налаштований відхиляти, а не відкидати, він ставить власну адресу в поле джерела ICMP і віддає тобі винуватця задарма. На Linux це те, що видає nft ... reject with icmpx admin-prohibited, і те, що завжди видавав iptables -j REJECT --reject-with icmp-admin-prohibited. Більшість інструментів це викидає й друкує «filtered». nmap --reason це покаже. І скрипт нижче теж.
Рядки два й п’ять це цікаві збої. Тихий дроп це рішення політики нічого тобі не казати, і оскільки це поведінка за замовчуванням майже на кожному комерційному файрволі, саме з ним ти й зустрінешся. Чекай тиші.
Рядок два теж заслуговує на підозру. Скидання не доводить, що його надіслав хост, і я до цього повернуся з живим прикладом, бо знайшов такий на власній лінії, поки це писав.
Пройди порт, який тебе цікавить, двічі
Метод це два прогони й порівняння. От і все.
- Підіймай ліміт хопів від 1 до 20, використовуючи той самий протокол і порт, що не працює, і записуй, який маршрутизатор відповідає на кожному хопі.
- Зроби те саме з чимось, що працює: в ідеалі той самий хост і порт, що відкривається.
- Хоп, де відповіді в першому прогоні припиняються, а в другому йдуть далі, і є пристрій, що тебе відкидає. Другий прогін дає тобі його адресу.
Чому відповіді припиняються, а не змінюються: маршрутизатор застосовує свій вхідний список доступу раніше за все інше, що робить із пакетом, тож якщо політика каже відкинути, пакета вже немає, перш ніж шлях пересилання взагалі гляне на ліміт хопів, Time Exceeded не генерується, і пристрій ніколи не підписується під тим, що зробив. Тож тиша починається на хопі-порушнику, а не після нього.
Я написав для цих проходів невеликий інструмент, бо жоден із нативних не робить цього переносимо. Він задає IP_TTL (або IPV6_UNICAST_HOPS) на звичайному сокеті, з’єднується й читає назад ICMP-помилку. На Linux IP_RECVERR повідомляє цю помилку на тому самому сокеті, який її спричинив, а отже усе працює без привілеїв: ні root, ні raw-сокетів, ні capabilities. На macOS, BSD і Solaris ядро не віддасть тобі ICMP таким способом, тож інструмент переходить на raw-сокет і потребує root.
Це 279 рядків стандартної бібліотеки й нічого більше, і весь він надрукований наприкінці цього допису, якщо ти волієш прочитати його, а не завантажувати.
python3 hopfind.py example.net 445 # the port under suspicion
python3 hopfind.py example.net 443 # the reference run
python3 hopfind.py example.net 53 --proto udp
python3 hopfind.py 2001:db8::1 443 -6
Використовуй той самий протокол для обох прогонів. Порівнювати TCP-слід з ICMP-слідом означає порівнювати два шляхи, бо балансування навантаження хешує п’ятірку параметрів, а в ICMP немає портів для хешування. Той самий хост, той самий протокол, інший порт: оце чесне порівняння.
Усе нижче це справжній вивід із моєї власної лінії 28 серпня 2026, запущений від непривілейованого користувача на Fedora. Кожну адресу в ньому переписано в документаційні діапазони: RFC 5737 для IPv4, RFC 3849 для IPv6, причому один ідентифікатор інтерфейсу теж змінено. Тож 198.51.100.x це мій власний маршрутизатор і мій провайдер, 203.0.113.x це транзит і пірінг, 192.0.2.x далека мережа, а 2001:db8::/32 увесь шлях IPv6. Структуру збережено скрізь: ті самі межі префіксів, ті самі форми хостової частини, та сама кількість окремих мереж. Номери хопів, час, типи ICMP і те, який хоп замовк, точно такі, як виміряно.
Один хост, три порти, три різні несправності
Ціль увесь час та сама: хост у публічному інтернеті, за чотирнадцять хопів, з відкритим 443. Спершу контрольний прогін.
$ python3 hopfind.py 192.0.2.4 443 --max 15
walking to 192.0.2.4 TCP/443 hop limit 1-15
1 198.51.100.254 0.3 ms ICMP 11/0 time exceeded in-transit
2 198.51.100.133 28.8 ms ICMP 11/0 time exceeded in-transit
3 *
4 198.51.100.153 6.3 ms ICMP 11/0 time exceeded in-transit
5 *
6 203.0.113.240 16.5 ms ICMP 11/0 time exceeded in-transit
7 203.0.113.188 16.5 ms ICMP 11/0 time exceeded in-transit
8 203.0.113.185 16.5 ms ICMP 11/0 time exceeded in-transit
9 203.0.113.15 15.6 ms ICMP 11/0 time exceeded in-transit
10 203.0.113.125 16.1 ms ICMP 11/0 time exceeded in-transit
11 192.0.2.31 26.6 ms ICMP 11/0 time exceeded in-transit
12 *
13 *
14 192.0.2.4 19.5 ms connected
Verdict: TCP/443 is open. It answered at hop 14.
Зверни увагу на хопи 3, 5, 12 і 13. Чотири маршрутизатори на шляху, який явно працює, нічого не сказали, бо чимало обладнання налаштовано не генерувати ICMP від себе або жорстко його обмежувати за частотою. Зірочка не є доказом файрвола. Якщо винесеш звідси лише одне, хай це буде воно. Сигнал ніколи не в наявності зірочок в одному прогоні; він там, де два прогони перестають збігатися.
Тепер той самий хост на 445, який звідси впирається в тайм-аут.
$ python3 hopfind.py 192.0.2.4 445 --max 15
walking to 192.0.2.4 TCP/445 hop limit 1-15
1 198.51.100.254 0.3 ms ICMP 11/0 time exceeded in-transit
2 198.51.100.133 8.0 ms ICMP 11/0 time exceeded in-transit
3 *
4 198.51.100.153 6.4 ms ICMP 11/0 time exceeded in-transit
5 203.0.113.76 5.6 ms ICMP 11/0 time exceeded in-transit
6 203.0.113.240 15.9 ms ICMP 11/0 time exceeded in-transit
7 203.0.113.188 15.8 ms ICMP 11/0 time exceeded in-transit
8 203.0.113.185 16.6 ms ICMP 11/0 time exceeded in-transit
9 203.0.113.15 15.9 ms ICMP 11/0 time exceeded in-transit
10 203.0.113.125 15.0 ms ICMP 11/0 time exceeded in-transit
11 *
12 *
13 *
14 *
15 *
Verdict: answers stop after hop 10 (203.0.113.125).
Whatever swallows TCP/445 is hop 11.
Walk a port that works and read off the address at hop 11.
Хоп 11 відповів прогону на 443 за 26,6 мс і зовсім нічого не сказав прогону на 445. Той самий ящик, той самий шлях, ті самі десять маршрутизаторів перед ним. Звір із прогоном, що працює, і хоп 11 отримує ім’я: 192.0.2.31. Це пристрій, що відкидає SMB, за три хопи до цілі й за вісім хопів після краю мого провайдера. Не мій і не мого провайдера.
Хоп 5 показує те саме про зірочки з протилежного боку. У прогоні на 443 він був зірочкою, а в прогоні на 445 відповів, тобто навпаки щодо несправності. Це може бути обмеження частоти ICMP, а може бути, що два прогони пішли різними шляхами через балансувальник. Я не знаю, що саме, і ти теж не знатимеш. Повтори обидва прогони, перш ніж повірити будь-якому.
Потім порт 25. Тут я зупинився.
$ python3 hopfind.py 192.0.2.4 25 --max 15
walking to 192.0.2.4 TCP/25 hop limit 1-15
1 192.0.2.4 0.4 ms TCP reset
Verdict: a reset came back to a probe with a hop limit of 1.
Nothing more than one hop away can have sent it, so check the reply
TTL before you believe the host did.
Ліміт хопів 1 означає, що пакет помер на моєму власному маршрутизаторі. Він пройшов один хоп. Він не міг пролетіти чотирнадцять. Проте скидання TCP повернулося за 0,4 мс з адресою цілі, і моє ядро слухняно повідомило connection refused. Без заданого ліміту хопів я прочитав би це як «на тому кінці немає поштового сервера» й закрив би заявку.
Щось за один хоп від мене підробляє скидання для вихідного SMTP і підписує їх адресою цілі. Блокувати вихідний 25 цілком звичайна справа для домашнього маршрутизатора чи провайдера, і робити це скиданням, а не дропом, мабуть, навіть ввічливіший варіант, але скидання несе чужу адресу, а я гадки не мав, що мій так робить. Зловив це саме ліміт хопів, і ніщо інше у відповіді цього б не зробило.
Помилка на одиницю: де в конвеєрі стоїть список доступу
Висновок вище каже, що відкидає хоп 11, бо відповіді припинилися після хопу 10. Обережно з цією арифметикою, бо вона залежить від того, в якому порядку пристрій-порушник виконує дві роботи.
Більшість обладнання спершу застосовує вхідну політику, а вже потім перевіряє ліміт хопів. Спрацьовує deny, пакет відкидається, і жоден Time Exceeded не генерується, тож пристрій ніколи не з’являється, а тиша починається на його власному номері хопу. Це випадок вище. І він же поширений.
Деякі платформи обробляють вичерпання ліміту хопів у швидкому шляху ще до оцінки політики. Там пристрій відповідає на зонд, адресований йому, і відкидає лише зонди, націлені далі, тож він з’являється як звичайно, а тиша починається на хоп пізніше.
Тож чесне прочитання «відповіді припиняються після хопу N» таке: відкидає хоп N+1, якщо він викинув твій зонд, перш ніж помітив, що бюджет вичерпано, або сам хоп N, якщо він відповів на адресований йому зонд і ковтнув усе, що націлене далі. Два сусідні пристрої, і прогін, що працює, називає обидва. Наводь адреси, а не номер хопу: номер хопу нічого не означає для людини, яка читає твою заявку, бо вона рахує звідкись інакше.
TTL відповіді каже, хто насправді відповів
Скидання SMTP вище зловив ліміт хопів на шляху туди. Є друга, незалежна перевірка, доступна в кожній відповіді, що повертається назад, і вона нічого не коштує.
Початкові значення TTL не стандартизовані, але на практиці їх три:
| Починається з | Типовий відправник |
|---|---|
| 64 | Linux, macOS, BSD, illumos, більшість хостів |
| 255 | Cisco IOS, Junos, Solaris, власний трафік більшості мережевого обладнання |
| 128 | Fisher-Price OS (Windows), яку тобі все одно треба знати, щоб читати відповідь від неї |
Відніми отриманий TTL від найближчого більшого значення, і отримаєш назад кількість хопів. Відповідь, що прийшла з TTL 50, почалася з 64 і пройшла 14 хопів. Та, що прийшла з TTL 250, почалася з 255 і пройшла 5. ping друкує це без прохання:
ping -c1 192.0.2.4 # ttl=50 → 14 hops away
tcpdump -n -v 'icmp' # -v prints the ttl of every packet it shows
Звідси випливають дві речі. Обидві безкоштовні.
Відповідь, чия зворотна кількість хопів не збігається з іншими відповідями хоста, надіслав не хост. Якщо echo reply від сервера повертається з 14 хопів, а RST на порт 25 з 1 хопу, RST написав проміжний пристрій. Той самий трюк, що в розділі вище, з іншого кінця, і він працює навіть тоді, коли ти не можеш задати вихідний TTL.
Відповідь, що почалася з 255, прийшла від мережевого обладнання, а не від сервера. Корисно, коли намагаєшся з’ясувати, хто тобі відмовляє: хост чи маршрутизатор перед ним.
Щоб побачити це поле в TCP, а не в ICMP, потрібне захоплення трафіку, і фільтр варто запам’ятати:
# every hop-limit expiry coming back to you, IPv4 and IPv6
tcpdump -n -v 'icmp[icmptype] == 11 or icmp6[icmp6type] == 3'
# who is resetting you, and from how far
tcpdump -n -v 'tcp[tcpflags] & tcp-rst != 0'
tcpdump друкує вичерпання як ICMP time exceeded in-transit: та сама фраза, що й у стандартах, і та сама подія, яка на платформах, що формулюють це так, з’являється як «TTL expired in transit».
Той самий трюк нативними інструментами, на п’яти Unix
Якщо не хочеш запускати скрипт, нативні інструменти зроблять більшу частину. Просто вони розходяться між собою більше, ніж ти очікуєш. -P зокрема означає три різні речі залежно від того, чий traceroute у тебе в руках, і одна з них тихо зіпсує тобі тест.
Linux (traceroute 2.1.x) | macOS / FreeBSD | OpenBSD | NetBSD | Solaris 11 | |
|---|---|---|---|---|---|
| TCP-зонди | -T | -P tcp | непридатне | ні | ні |
| ICMP-зонди | -I | -I | -I | -I | -I |
| UDP на фіксований порт | -U -p N | -e -p N | ні | ні | ні |
| порт призначення | -p N (сталий для TCP) | -p N (зростає без -e) | -p N (зростає) | -p N (зростає) | -p N (зростає) |
що означає -P | не використовується | протокол зонда | номер протоколу, «will not work reliably for most protocols» | ставить DF і зондує path MTU | пауза між зондами, у секундах |
| потрібні привілеї | так, для -T і -I | так | так | так | так |
Кожному з них потрібні raw-сокети, тож кожному потрібні привілеї, хоча macOS і BSD зазвичай постачають traceroute із setuid root, тож sudo перед ним набирати, можливо, не доведеться. Linux так не робить, і Fedora не робить, і це половина причини, чому існує скрипт вище.
У цій таблиці три пастки, і я бачив, як кожна з них з’їдала пообіддя.
На BSD і macOS -p це базовий порт, який зростає з кожним зондом. Тож traceroute -P tcp -p 445 host перевіряє 445, потім 446, потім 447, і на хопі 10 ти вже питаєш про порт, про який ніхто ніколи не чув. Тобі потрібен ще й -e, який сторінка man називає режимом обходу файрвола і який насправді означає лише «тримай порт на місці»:
sudo traceroute -P tcp -e -p 445 example.net # macOS, FreeBSD
На Linux простий -p робить те саме для методу UDP за замовчуванням, і для сталого UDP-порту потрібен -U -p. Для TCP -T -p уже сталий: сторінка man прямо каже, що «for TCP and others specifies just the (constant) destination port to connect».
sudo traceroute -T -p 445 example.net # Linux
sudo traceroute -U -p 53 example.net # Linux, UDP/53 specifically
На Solaris і NetBSD закріпити порт узагалі неможливо, а на Solaris -P це пауза в секундах, тож скопійований рядок команди з Linux відпрацює без помилки й не виміряє нічого з того, про що ти питав. Режиму TCP-зондів у Solaris теж немає. Це випадок, коли тобі потрібен скрипт.
Redox тут білою вороною, і на нього варто одне речення, бо я чекаю цього питання. Увесь його мережевий інструментарій це netutils: dns, ifconfig, nc, ping, telnetd, wget. Ні traceroute, ні tcpdump, нічим захоплювати трафік, нема нічогісінько. Якщо ящик на Redox це один кінець проблеми, вимірюй з іншого кінця й націль прохід на нього.
mtr теж заслуговує на згадку, бо робить ту частину з повторами й усередненням, яку таблиці вище змушують тебе робити вручну:
sudo mtr -T -P 445 --report --report-cycles 20 example.net
Запусти це на порт, що не працює, і ще раз на робочий, поруч. Той самий метод, гарніший вивід.
Ніщо з цього не працює, якщо хтось блокує ICMP
Кожне вимірювання в цьому дописі складається з ICMP-помилок, що мандрують назад до мене. Заблокуй їх, і вся діагностика гасне, а з нею й чимало іншого.
Повне блокування ICMP досі подекуди вважають безпековою позицією. Захищати її не можна з 1990-х. Атаки, які воно нібито зупиняє, це ping of death і smurf, і обидві виправили в мережевих стеках, а не на кордоні, і обидві виправили ще до того, як народилися деякі інженери, що досі повторюють цю пораду. Сьогодні повне блокування зупиняє діагностику. І більше нічого.
RFC 1812 не лишає місця для тлумачень: Time Exceeded це MUST, і стандарт прямо каже, що причина в тому, що на ньому тримається traceroute. Відкинь його, і ти зламав інструмент, який власний документ вимог до маршрутизаторів інтернету називає виправданням самого існування цього повідомлення.
Path MTU discovery коштує найдорожче. Їй потрібен ICMP 3/4, fragmentation needed, що повертається до відправника. Відфільтруй його, і отримаєш несправність, за якою кожен мережевий інженер хоч раз ганявся: рукостискання завершується, малі передачі працюють, а все, що несе пакет повного розміру, висить вічно. SSH з’єднується, а scp стоїть. Сторінка вантажиться, а картинка так і не приходить. У журналах нічого. Нема що grep’ати.
В IPv6 це перестає бути справою смаку. RFC 4890 §4.3.1 перелічує повідомлення, які файрвол не сміє відкидати:
- Destination Unreachable (Type 1) - All codes
- Packet Too Big (Type 2)
- Time Exceeded (Type 3) - Code 0 only
- Parameter Problem (Type 4) - Codes 1 and 2 only
а щодо Packet Too Big він прямо каже про наслідок: «Effectively, parts of the Internet will become inaccessible.» Маршрутизатори IPv6 не фрагментують. Якщо Packet Too Big не може дістатися відправника, шляху відновлення немає.
Засіб контролю тут обмеження частоти, а не дроп. Дозволь тип 3 і тип 11 на вхід, рахуй їх, обмеж приблизно сотнею на секунду, журналюй усе, що понад ліміт, і ти зберіг діагностику, зберіг роботу path MTU discovery і зберіг до краплі той захист, який нібито давало повне правило. Обмежувати, скільки чогось ти приймаєш, це контроль. Відмовлятися від усього й називати це посиленням захисту означає просто відмовлятися, щоб тебе виміряли.
Для тих, хто керує MSP: якщо лінія твого клієнта відкидає ICMP-помилки, ти відібрав у нього змогу довести, в якій мережі несправність, і в себе теж. Наступного разу, коли несправність сидітиме між двома провайдерами, які обидва кажуть, що в них чисто, ось рахунок за цю політику.
Окрім echo. Його відкидай.
Усе вище стосується ICMP-помилок. Echo це зовсім інший звір, і це єдина частина протоколу, яку я прибрав би з дроту на кордоні.
Подивися, чого вимагає від нього стандарт. В IPv4 RFC 792 каже про echo request, що «the data received in the echo message must be returned in the echo reply message». IPv6 ще прямолінійніший: RFC 4443 визначає поле як «zero or more octets of arbitrary data», а потім вимагає, щоб воно «MUST be returned entirely and unmodified in the ICMPv6 Echo Reply message».
Прочитай це як нападник, а не як оператор. Стандарт зобов’язує кожен хост на землі прийняти обраний тобою блок байтів і повернути його тобі назад. Це не побічний ефект. Це обов’язковий, двобічний канал із довільним вмістом, що йде протоколом, який більшість файрволів пропускає без перевірки, а більшість журналювання записує як кількість пакетів, а не як вміст.
Люди будують на ньому тунелі вже тридцять років. Loki зробив це в Phrack 49 у 1996 році. Ptunnel пронесе повну TCP-сесію всередині ping і вже два десятиліття за одну команду встановлення пакета. Якщо твоя політика на вихід звучить як «блокувати все, дозволити ICMP, бо мережевикам треба», то в тебе немає політики на вихід. У тебе VPN з додатковими кроками, і трафік виходить так, ніби хтось перевіряє, чи працює інтернет.
RFC 4890 зі мною не згоден, і це варто сказати прямо, а не цитувати лише ту половину, що мені зручна. §4.3.1 ставить Echo Request і Echo Response до того самого списку «не відкидати», що й помилки. А тепер прочитай обґрунтування, яке він дає:
For Teredo tunneling [RFC4380] to IPv6 nodes on the site to be possible, it is essential that the connectivity checking messages are allowed through the firewall.
Заявлена причина тримати echo відкритим полягає в тому, що комусь треба збудувати ним тунель крізь твій файрвол. Це мій аргумент, записаний людьми, які доводять протилежне.
Тож політика вузька, а не повна:
# transit rules. permit the errors, drop the ping
ip protocol icmp icmp type { destination-unreachable, time-exceeded, parameter-problem } \
limit rate 100/second accept
ip protocol icmp icmp type { echo-request, echo-reply } drop
ip6 nexthdr ipv6-icmp icmpv6 type { destination-unreachable, packet-too-big, \
time-exceeded, parameter-problem } limit rate 100/second accept
ip6 nexthdr ipv6-icmp icmpv6 type { echo-request, echo-reply } drop
В IPv6 не перенось цей шаблон на link-local чи на ланцюжок хоста, не зберігши neighbour discovery. Типи від 133 до 137, від nd-router-solicit до nd-redirect, це те, як IPv6 робить роботу, яку в IPv4 робить ARP. Відкинь їх, і сегмент перестане працювати за кілька хвилин, і це не виглядатиме як несправність файрвола. Фільтруй echo на кордоні, а не на дроті між хостом і його власним маршрутизатором.
Чого це тобі коштує? ping через межу, і більше нічого. Усе в цьому дописі працює далі, бо жодне вимірювання тут не надсилає echo request. hopfind.py проходить TCP й UDP і читає помилки, що повертаються; traceroute -T і -U роблять те саме. Path MTU discovery потребує Packet Too Big, а це помилка. Трюк зі зворотним TTL працює на будь-якій відповіді, а TCP-рукостискання тобі її дасть. Втрачаєш ти лише найменш інформативний інструмент у скрині, а весь цей допис якраз про те, що зупинятися на ping і є проблема.
Моя власна лінія вже робить саме це, хоча навряд чи навмисно. ping до мого шлюзу за замовчуванням дає 100 % втрат, а ICMP Time Exceeded від того самого шлюзу повертається за 0,3 мс, як показує кожне трасування в цьому дописі. Echo закрито, помилки відкриті. Хто б не випустив цю прошивку, він дійшов правильної відповіді, а я дізнався про це, лише коли пішов шукати.
Те саме правило, написане один раз
Ось несправність, яку я не чекав знайти у власному домі. Публічний DNS-резолвер, пройдений на TCP/443 через обидві родини адрес, з різницею в кілька хвилин.
$ python3 hopfind.py 192.0.2.53 443 --max 10
walking to 192.0.2.53 TCP/443 hop limit 1-10
1 *
2 *
3 *
4 *
5 *
6 *
7 *
8 *
9 *
10 *
Verdict: nothing answered at all, not even the first hop.
Нічого взагалі. Жодного хопу. Мій власний маршрутизатор навіть не повідомив про вичерпання, яке мусив згенерувати, те саме вичерпання, про яке він повідомляв за 0,3 мс у кожному іншому проході в цьому дописі, тож дроп стається на хопі 1, ще до того, як перевірка ліміту хопів узагалі запускається, а хоп 1 мій.
Зі шляхом усе гаразд, і та сама ціль доводить це по UDP:
$ python3 hopfind.py 192.0.2.53 53 --proto udp --max 10
1 198.51.100.254 0.3 ms ICMP 11/0 time exceeded in-transit
2 198.51.100.133 5.4 ms ICMP 11/0 time exceeded in-transit
3 *
4 198.51.100.167 14.5 ms ICMP 11/0 time exceeded in-transit
5 203.0.113.50 6.3 ms ICMP 11/0 time exceeded in-transit
6 203.0.113.174 5.7 ms ICMP 11/0 time exceeded in-transit
7 203.0.113.201 6.4 ms ICMP 11/0 time exceeded in-transit
8 *
Сім хопів чистих відповідей до тієї самої адреси. Тож це не маршрутизація й не ціль: щось на моїй лінії відкидає TCP до цього хоста й пропускає до нього UDP.
Потім той самий резолвер, той самий порт, через IPv6:
$ python3 hopfind.py 2001:db8:53::53 443 -6 --max 10
walking to 2001:db8:53::53 TCP/443 hop limit 1-10
1 2001:db8:1:ee:beef:abcd:fec0:2a30 0.5 ms ICMP 3/0 hop limit exceeded in-transit
2 2001:db8:1::15c 24.6 ms ICMP 3/0 hop limit exceeded in-transit
3 *
4 2001:db8:2:200::50 5.5 ms ICMP 3/0 hop limit exceeded in-transit
5 2001:db8:2:2::4 5.7 ms ICMP 3/0 hop limit exceeded in-transit
6 2001:db8:2:991:: 16.6 ms ICMP 3/0 hop limit exceeded in-transit
7 2001:db8:53::53 5.7 ms connected
Verdict: TCP/443 is open. It answered at hop 7.
Прямо наскрізь. Сім хопів, жодної драми. Той самий сервіс, той самий порт, той самий намір, а правило існує лише в одній родині адрес.
Хто б не писав це правило, він написав його для IPv4 і так і не написав двійника. Гадки не маю, чого воно мало досягти, моя здогадка: щось про те, щоб тримати DNS локально, але хай що це було, воно досягає цього на половині трафіку відтоді, як на цій лінії є IPv6. Якщо воно там із причини, воно не працює. Якщо без причини, його там не має бути.
Це буденна версія проблеми dual-stack, і вона значно поширеніша за суперечки про те, чи взагалі розгортати IPv6. Два зводи правил. Доглянутий один.
Скрипт повністю
Без залежностей, без встановлення, нічого, крім стандартної бібліотеки. Python 3.6 або новіший, а на Linux жодних привілеїв узагалі.
Два класи це вся історія переносимості. ErrorQueue це шлях Linux: увімкни IP_RECVERR на сокеті, а після невдачі зонда прочитай MSG_ERRQUEUE і витягни адресу маршрутизатора зі структури sock_extended_err, до якої ядро її додає. RawIcmp для всього іншого: відкрий raw ICMP-сокет, читай усе, що приходить, бери адресу джерела з пакета. Першому нічого не треба, другому треба root, а решті програми байдуже, який із них їй дали.
Одну деталь варто підкреслити, бо саме вона відрізняє правильну відповідь від правдоподібної. У probe() чергу помилок вичитують до того, як дивляться на SO_ERROR. ICMP-помилка доходить до TCP-сокета як звичайний errno, ICMP 3/3 port unreachable приходить як ECONNREFUSED, точно як справжнє скидання, тож якби спершу перевіряти SO_ERROR, підроблене скидання SMTP вище в цьому дописі було б звітовано як чесна відмова з того кінця. Прочитай спершу чергу, і ee_origin скаже тобі, що говорив маршрутизатор.
#!/usr/bin/env python3
"""hopfind - work out how many hops away the thing blocking your port is.
Walks the IPv4 TTL, or the IPv6 hop limit, up from 1 and records which router
answers at each step - using the protocol and port you actually care about
instead of traceroute's default UDP high ports.
Run it twice. Once against something that works, once against the port that
does not. The hop where the answers stop is the device dropping you, and the
run that works gives you its address.
python3 hopfind.py example.net 445 # the port under suspicion
python3 hopfind.py example.net 443 # the reference run
python3 hopfind.py example.net 53 --proto udp
python3 hopfind.py 2001:db8::1 443 -6
On Linux this needs no privileges at all: IP_RECVERR and IPV6_RECVERR hand the
ICMP errors back on the ordinary socket that caused them. On macOS, the BSDs
and Solaris the errors have to be read off a raw ICMP socket, which means root.
Written for https://blogs.damiendye.uk/networking/how-far-away-is-the-firewall/
Public domain. Do what you like with it.
"""
import argparse
import errno
import os
import select
import socket
import struct
import sys
import time
# Linux socket options. Absent from the socket module on some builds, so they
# are spelled out rather than looked up.
IP_RECVERR = 11
IPV6_RECVERR = 25
# ee_origin values from linux/errqueue.h. Anything else means the errno came
# from the local stack rather than from a router.
SO_EE_ORIGIN_ICMP = 2
SO_EE_ORIGIN_ICMP6 = 3
ICMP_V4 = {
(11, 0): "time exceeded in-transit",
(11, 1): "fragment reassembly time exceeded",
(3, 0): "net unreachable",
(3, 1): "host unreachable",
(3, 2): "protocol unreachable",
(3, 3): "port unreachable",
(3, 4): "fragmentation needed",
(3, 9): "net administratively prohibited",
(3, 10): "host administratively prohibited",
(3, 13): "communication administratively prohibited",
(5, 0): "redirect",
}
ICMP_V6 = {
(3, 0): "hop limit exceeded in-transit",
(3, 1): "fragment reassembly time exceeded",
(1, 0): "no route to destination",
(1, 1): "communication administratively prohibited",
(1, 3): "address unreachable",
(1, 4): "port unreachable",
(2, 0): "packet too big",
}
def describe(family, icmp_type, icmp_code):
table = ICMP_V4 if family == socket.AF_INET else ICMP_V6
return table.get((icmp_type, icmp_code), "unrecognised")
def is_expiry(family, icmp_type):
"""Was this the router saying 'your hop budget ran out here'?"""
return icmp_type == (11 if family == socket.AF_INET else 3)
class ErrorQueue:
"""Linux. The kernel reports the ICMP error on the socket that provoked it."""
def arm(self, sock, family):
if family == socket.AF_INET:
sock.setsockopt(socket.IPPROTO_IP, IP_RECVERR, 1)
else:
sock.setsockopt(socket.IPPROTO_IPV6, IPV6_RECVERR, 1)
def extra_readers(self):
return []
def collect(self, sock, family):
try:
_, ancillary, _, _ = sock.recvmsg(0, 1024, socket.MSG_ERRQUEUE)
except OSError:
return None
wanted = (socket.IPPROTO_IP, IP_RECVERR) if family == socket.AF_INET \
else (socket.IPPROTO_IPV6, IPV6_RECVERR)
for level, kind, data in ancillary:
if (level, kind) != wanted or len(data) < 16:
continue
# struct sock_extended_err, then the sockaddr of the router that
# sent the error - SO_EE_OFFENDER in the kernel headers.
_, origin, icmp_type, icmp_code = struct.unpack_from("=IBBB", data, 0)
if origin not in (SO_EE_ORIGIN_ICMP, SO_EE_ORIGIN_ICMP6):
return None
addr = None
if len(data) >= 24:
offender_family, = struct.unpack_from("=H", data, 16)
if offender_family == socket.AF_INET:
addr = socket.inet_ntoa(data[20:24])
elif offender_family == socket.AF_INET6 and len(data) >= 40:
addr = socket.inet_ntop(socket.AF_INET6, data[24:40])
return addr, icmp_type, icmp_code
return None
class RawIcmp:
"""macOS, the BSDs, illumos, Solaris. Read the ICMP off a raw socket, as root."""
def __init__(self, family):
proto = socket.IPPROTO_ICMP if family == socket.AF_INET else socket.IPPROTO_ICMPV6
self.sock = socket.socket(family, socket.SOCK_RAW, proto)
self.sock.setblocking(False)
def arm(self, sock, family):
pass
def extra_readers(self):
return [self.sock]
def collect(self, sock, family):
try:
packet, peer = self.sock.recvfrom(1500)
except OSError:
return None
if family == socket.AF_INET:
# BSD raw sockets hand back the IP header too.
header_len = (packet[0] & 0x0F) * 4
packet = packet[header_len:]
if len(packet) < 2:
return None
return peer[0], packet[0], packet[1]
def probe(dest, port, proto, family, hop_limit, timeout, listener):
"""One probe at one hop limit. Returns (icmp, socket_state, note)."""
kind = socket.SOCK_STREAM if proto == "tcp" else socket.SOCK_DGRAM
sock = socket.socket(family, kind)
if family == socket.AF_INET:
sock.setsockopt(socket.IPPROTO_IP, socket.IP_TTL, hop_limit)
else:
sock.setsockopt(socket.IPPROTO_IPV6, socket.IPV6_UNICAST_HOPS, hop_limit)
listener.arm(sock, family)
sock.setblocking(False)
try:
if kind == socket.SOCK_DGRAM:
sock.connect((dest, port))
sock.send(b"\x00" * 32)
else:
try:
sock.connect((dest, port))
except BlockingIOError:
pass
except OSError as exc:
sock.close()
return None, None, "local error: %s" % exc.strerror
readers = [sock] + listener.extra_readers()
writers = [] if kind == socket.SOCK_DGRAM else [sock]
deadline = time.time() + timeout
icmp = state = None
while time.time() < deadline:
ready_r, ready_w, ready_x = select.select(
readers, writers, [sock], max(0.01, deadline - time.time()))
if not (ready_r or ready_w or ready_x):
continue
# Drain the error queue first, always. An ICMP error reaches a TCP
# socket as a plain errno, so SO_ERROR on its own cannot tell you
# whether a router spoke or the far end did.
icmp = listener.collect(sock, family)
if icmp:
break
if ready_w:
err = sock.getsockopt(socket.SOL_SOCKET, socket.SO_ERROR)
if err == 0:
state = "connected"
elif err == errno.ECONNREFUSED:
state = "TCP reset"
else:
state = os.strerror(err)
break
sock.close()
if icmp or state:
return icmp, state, None
return None, None, "no reply"
def walk(dest, port, proto, family, first, last, timeout, listener):
print("walking to %s %s/%d hop limit %d-%d" % (dest, proto.upper(), port, first, last))
answered = []
for hop in range(first, last + 1):
started = time.time()
icmp, state, _ = probe(dest, port, proto, family, hop, timeout, listener)
rtt = (time.time() - started) * 1000
if icmp:
addr, icmp_type, icmp_code = icmp
print(" %2d %-39s %7.1f ms ICMP %d/%d %s"
% (hop, addr or "?", rtt, icmp_type, icmp_code,
describe(family, icmp_type, icmp_code)))
if is_expiry(family, icmp_type):
answered.append((hop, addr))
else:
return answered, hop, "icmp-reject", addr
elif state:
print(" %2d %-39s %7.1f ms %s" % (hop, dest, rtt, state))
return answered, hop, state, dest
else:
print(" %2d *" % hop)
return answered, None, "silent", None
def main():
parser = argparse.ArgumentParser(description=__doc__.splitlines()[0])
parser.add_argument("host")
parser.add_argument("port", nargs="?", type=int, default=443)
parser.add_argument("--proto", choices=("tcp", "udp"), default="tcp")
parser.add_argument("--first", type=int, default=1, help="hop limit to start at")
parser.add_argument("--max", type=int, default=20, help="hop limit to stop at")
parser.add_argument("--wait", type=float, default=2.0, help="seconds to wait per hop")
parser.add_argument("-6", dest="v6", action="store_true", help="force IPv6")
parser.add_argument("-4", dest="v4", action="store_true", help="force IPv4")
args = parser.parse_args()
family = socket.AF_INET6 if args.v6 else socket.AF_INET
kind = socket.SOCK_STREAM if args.proto == "tcp" else socket.SOCK_DGRAM
dest = socket.getaddrinfo(args.host, args.port, family, kind)[0][4][0]
if sys.platform.startswith("linux"):
listener = ErrorQueue()
else:
try:
listener = RawIcmp(family)
except PermissionError:
sys.exit("%s cannot report ICMP errors on a normal socket, so this "
"needs a raw one. Run it as root." % sys.platform)
answered, stop, why, who = walk(dest, args.port, args.proto, family,
args.first, args.max, args.wait, listener)
what = "%s/%d" % (args.proto.upper(), args.port)
print()
if why == "connected":
print("Verdict: %s is open. It answered at hop %d." % (what, stop))
elif why == "icmp-reject":
print("Verdict: %s at hop %d is refusing %s on policy, and is honest "
"enough to say so." % (who, stop, what))
elif why == "TCP reset":
print("Verdict: a reset came back to a probe with a hop limit of %d." % stop)
print(" Nothing more than %s away can have sent it, so check the reply"
% ("one hop" if stop == 1 else "%d hops" % stop))
print(" TTL before you believe the host did.")
elif answered:
last_hop, last_addr = answered[-1]
print("Verdict: answers stop after hop %d (%s)." % (last_hop, last_addr))
print(" Whatever swallows %s is hop %d." % (what, last_hop + 1))
print(" Walk a port that works and read off the address at hop %d."
% (last_hop + 1))
else:
print("Verdict: nothing answered at all, not even the first hop. Either the")
print(" first hop is the one dropping you, or the ICMP errors are being")
print(" filtered on the way back. Walk a port that works to tell those")
print(" two apart.")
if __name__ == "__main__":
main()
Чого це не може тобі сказати
Метод дешевий і чесний щодо більшості речей, але це не сканер топології. Будь прямим у заявці щодо того, що ти насправді виміряв.
Різні п’ятірки параметрів можуть іти різними шляхами. ECMP хешує порти джерела й призначення у вибір наступного хопу, тож два прогони на двох різних портах зовсім не гарантовано проходять через ті самі маршрутизатори, і це одна з двох речей, що можуть пояснити, чому хоп 5 вище відповів одному прогону й мовчав в іншому. Повтори обидва прогони. Межа, яка рухається, не доведена.
MPLS ховає хопи. Ядро з комутацією міток може виглядати як один хоп або взагалі як жоден. Будь-який підрахунок через чужу магістраль це нижня межа.
Генерація ICMP майже скрізь обмежена за частотою. Зондуй швидше, ніж маршрутизатор відповідатиме, і ти сам наробиш собі зірочок. hopfind.py надсилає один зонд на хоп і чекає; це навмисно.
Зворотний шлях не мусить збігатися з прямим. Кількість хопів туди не дорівнює кількості хопів назад, а арифметика зворотного TTL вимірює лише зворотну ділянку.
Anycast означає, що хост на хопі N може двічі не бути тим самим ящиком. Особливо публічні резолвери й CDN.
Завершене рукостискання не означає, що сесія виживе. Stateful-файрвол може пропустити SYN і відкинути те, що йде далі, після перевірки. Якщо з’єднання відкривається, а потім помирає, це не той інструмент: іди й захоплюй трафік.
Ти знайшов перший пристрій, що відкидає, а не той, до якого хтось признається. У CGN чи мережі оператора адреса на хопі N+1 може бути одним із кількох ящиків за однією адресою. Наводити її все одно правильно, бо це факт про шлях.
Для чого це насправді
Щоб покласти край відбиванню. У цьому вся віддача від вправи.
«Порт 445 десь заблокований» це запрошення повернути заявку. А це ні:
TCP/445 до 192.0.2.4 мовчки відкидається на хопі 11, адреса 192.0.2.31. Хоп 11 відповідає ICMP Time Exceeded на TCP/443 тим самим шляхом за 26 мс і нічого не відповідає на 445, тож дроп це рішення політики на цьому пристрої, а не збій маршрутизації. Десять хопів перед ним чисті. Відтворено чотири рази за двадцять хвилин, з непривілейованого shell, скрипт додано.
Таке ніхто не повертає. Тут названо пристрій, сказано, що він зробив, сказано, чого він не зробив, і показано розрахунки. Чи захочуть вони це змінити, все одно вирішувати їм. Але тиждень пінг-понгу скінчився, і на це пішло чотири команди.
Усе в цьому вийшло з 8-бітного поля, яке в 1981 році визначили як таймер, ні разу так і не використали як таймер, і яке тихо перетворює «десь» на адресу.
Варто навчитися його читати.