Network #3

Day 1: Physical Infrastructure & Cabling (L1)

Single-Mode (OS2) vs Multi-Mode (OM3/OM4) & Connectors

  • Single-Mode Fiber (OS2): Core เล็ก (~9 µm) ใช้แสงเลเซอร์ เหมาะกับระยะทางไกล (ข้ามตึก/ข้าม Data Center แตะระดับหลายสิบกิโลเมตร) อุปกรณ์ Transceiver มีราคาสูงกว่า
  • Multi-Mode Fiber (OM3/OM4): Core ใหญ่ (~50 µm) ใช้แสง VCSEL/LED ส่งสัญญาณสะท้อนหลายโหมด เหมาะกับระยะสั้นภายในตึกหรือ Data Center (ไม่เกิน 300–400 เมตร) Transceiver มีราคาประหยัดกว่า
  • ชนิดหัวต่อ:
    • LC: หัวเล็กแบบ duplex นิยมใช้มากที่สุดกับ Transceiver ทั่วไป (SFP+, SFP28)
    • SC: หัวสี่เหลี่ยมแบบกดล็อก นิยมในงานโทรคมนาคมหรือ Patch panel ยุคก่อน
    • MPO/MTP: หัวมัลติไฟเบอร์ (8, 12, หรือ 24 cores) ใช้สำหรับการส่งข้อมูลความเร็วสูง เช่น 40G (QSFP+) หรือ 100G (QSFP28) รองรับการทำ Breakout เช่น แปลง 1x MPO (40G/100G) แยกออกเป็น 4x LC Duplex (4x10G หรือ 4x25G)

Bending Radius, การทำความสะอาดสาย & ค่า DOM/DDM

  • Bending Radius: รัศมีการดัดโค้งของสายใยแก้วนำแสง ห้ามดัดโค้งเกินสเปกผู้ผลิต (ทั่วไปประมาณ 10–20 เท่าของเส้นผ่านศูนย์กลางสาย) เพื่อป้องกันสัญญาณลดทอน (Macro-bending loss) หรือสายหักภายใน
  • Dirty Optics & Cleaning: ฝุ่นขนาดไมครอนทำให้เกิด Optical Attenuation สูงและสะท้อนกลับ (Back Reflection) ต้องทำความสะอาดด้วย One-click cleaner หรือแอลกอฮอล์ Isopropyl 99% ร่วมกับ Dry lint-free wipes ก่อนเสียบเสมอ
  • DOM / DDM (Digital Optical/Diagnostic Monitoring):
    • Tx Power: กำลังส่งแสงของโมดูลตัวเรา (หากต่ำผิดปกติ แสดงว่า Transceiver มีปัญหา)
    • Rx Power: กำลังรับแสงจากปลายทาง (หากต่ำเกิน Threshold แสดงว่าสายหัก, ขาด, สกปรก หรือระยะไกลเกินไป)

Data Center Best Practices, Laser Safety & ESD

  • Hot/Cold Aisle: จัดการทางเดินลมเย็น (Cold Aisle ปล่อยลมเย็นเข้าหน้ารองรับ Server Intake) และทางเดินลมร้อน (Hot Aisle ระบายลมร้อนจากหลัง Server กลับสู่ระบบแอร์) เพื่อประสิทธิภาพพลังงาน
  • Blanking Panel: แผ่นปิดช่องว่างใน Rack (U ที่ไม่มีเครื่อง) ป้องกันไม่ให้ลมร้อนวนกลับมาฝั่งหน้ารวมกับลมเย็น
  • Airflow Direction: อุปกรณ์เน็ตเวิร์กและเซิร์ฟเวอร์ต้องมีทิศทางพัดลมตรงกัน เช่น Front-to-Back (Port-side exhaust หรือ Port-side intake) ให้สอดคล้องกับตำแหน่งติดตั้ง
  • Laser Safety: ห้ามมองตรงเข้าไปในหัวไฟเบอร์หรือพอร์ต Transceiver โดยตรง (อันตรายต่อเรตินา แม้แสงเลเซอร์อินฟราเรดจะมองไม่เห็นด้วยตาเปล่า)
  • ESD Prevention: สวมใส่ ESD Wrist Strap หรือแตะจุด Grounding ของ Rack ทุกครั้งก่อนจับสัมผัสอุปกรณ์ Hardware หรือแผงวงจร

Day 2: Data Link Layer & Switching (L2)

Frame Anatomy, CAM Table & ARP Table

  • Ethernet Frame Anatomy: Preamble/SFD -> Destination MAC -> Source MAC -> EtherType/VLAN Tag -> Data/Payload -> Frame Check Sequence (FCS/CRC)
  • MAC Address Table (CAM Table): ตารางบน Switch ที่จับคู่ Destination MAC Address เข้ากับ Physical Port ใช้ในการตัดสินใจ Forwarding เฟรมใน Layer 2
  • ARP Table: ตารางบน Host/Router ที่จับคู่ IP Address (L3) เข้ากับ MAC Address (L2) เพื่อใช้ Encapsulate แพ็กเก็ตก่อนส่งลงสาย

VLAN (802.1Q), Trunking vs Access & Native VLAN

  • Access Port: พอร์ตที่ส่งมอบทราฟฟิกให้ End-device (เช่น Server, PC) โดยเฟรมที่ส่งออกไปจะไม่มี VLAN Tag (Untagged)
  • Trunk Port: พอร์ตสำหรับเชื่อมระหว่าง Switch ด้วยกัน หรือ Switch ไปยัง Server/Hypervisor ที่มีหลาย VLAN โดยจะแท็ก 802.1Q Header (VLAN ID 12 บิต) เข้าไปในหัวเฟรม
  • Native VLAN: VLAN บน Trunk Port ที่ส่งเฟรมแบบ Untagged (ค่าเริ่มต้นคือ VLAN 1 นิยมเปลี่ยนเพื่อความปลอดภัย ป้องกัน VLAN Hopping Attack)

STP/RSTP, Loop Prevention, BPDU Guard & Broadcast Storm

  • STP (802.1D) / RSTP (802.1w): โพรโทคอลป้องกัน Switching Loop ด้วยการบล็อกบางพอร์ต (Blocking/Discarding) หากตรวจพบทางเดินซ้ำซ้อน
  • Broadcast Storm: อาการที่เฟรม Broadcast หมุนวนซ้ำในลูปไม่สิ้นสุด ส่งผลให้ Bandwidth เต็มและ CPU อุปกรณ์ค้าง (100% Load)
  • BPDU Guard: ฟังก์ชันรักษาความปลอดภัยบน Access Port (PortFast) หากได้รับเฟรม BPDU พอร์ตจะถูกสั่ง Disable (Err-disable) ทันที เพื่อป้องกันคนนำ Switch ตัวอื่นมาเสียบต่อขยายจนโครงสร้างล่ม

LACP / Link Aggregation (802.3ad) & Port-channel

  • Link Aggregation: การรวม Physical Links หลายเส้นเข้าด้วยกันเป็น Logical Link เดียว (Port-Channel / Bond) เพื่อเพิ่ม Bandwidth และทำ Redundancy (Failover)
  • LACP (IEEE 802.3ad): โพรโทคอลเปิดใช้งานการเจรจาระหว่างอุปกรณ์ 2 ฝั่งเพื่อตรวจสอบความพร้อมก่อนรวมพอร์ต ช่วยป้องกันปัญหา Misconfiguration (ส่งทราฟฟิกลงสายที่คอนฟิกไม่ตรงกัน)

Day 3: Network & Transport Layer (L3 – L4)

Subnetting, Default Gateway, MTU & PMTU Black Hole

  • Subnetting & Gateway: การแบ่งกลุ่ม Network เป็นส่วนย่อยด้วย Subnet Mask; ส่วน Default Gateway คือ IP ของ Router ประจำ Subnet นั้น ใช้ส่งทราฟฟิกไปยัง Network ภายนอก
  • MTU (Maximum Transmission Unit): ขนาดสูงสุดของ IP Packet ที่ส่งผ่าน L2 ได้โดยไม่ต้องแตกชิ้น (มาตรฐานอยู่ที่ 1500 bytes)
  • Jumbo Frames (9000 bytes): ช่วยลด Header Overhead และภาระ CPU ของเซิร์ฟเวอร์ เหมาะกับงาน Storage (iSCSI/NFS) และการซิงค์ข้อมูลปริมาณมหาศาล
  • PMTU Black Hole: เกิดขึ้นเมื่อ Packet มีขนาดใหญ่เกิน MTU ของบางจุดระหว่างทาง แต่มีการตั้งค่า Don’t Fragment (DF Flag) ไว้ และ Router กลางทาง Drop ทราฟฟิกทิ้งโดยบล็อก ICMP Type 3 Code 4 (Fragmentation Needed) ทำให้ต้นทางไม่รู้ตัวและ Session เกิดอาการค้าง

TCP vs UDP, Handshake & Error States

  • TCP vs UDP: TCP เป็น Connection-oriented (เชื่อถือได้ มีการยืนยันข้อมูล, ควบคุม Flow Control); UDP เป็น Connectionless (ส่งข้อมูลเร็ว ไม่รอ ACK เหมาะกับ DNS, Video Streaming, VoIP)
  • TCP 3-Way Handshake:SYN (ไคลเอนต์ขอเชื่อมต่อ) -> SYN-ACK (เซิร์ฟเวอร์รับทราบและขอเชื่อมกลับ) -> ACK (ไคลเอนต์ยืนยันการเปิด Session)
  • Connection Timed Out: เกิดจากการส่ง SYN ไปแล้วปลายทางเงียบหาย (Silent Drop) มักมีสาเหตุจาก Firewall Drop แพ็กเก็ต, Routing มีปัญหา หรือปลายทางปิดเครื่องอยู่
  • Connection Refused: เซิร์ฟเวอร์ตอบกลับด้วยแฟล็ก RST (Reset) แสดงว่า Network ส่งถึงตัวเครื่องได้ แต่ไม่มี Service หรือ Daemon เปิดฟัง (Listen) อยู่ที่ Port นั้น

Leaf-Spine Architecture

  • สถาปัตยกรรม Leaf-Spine: สถาปัตยกรรมแบบ 2-Tier ใน Data Center โดย Leaf ทุกตัวจะเชื่อมต่อไปยัง Spine ทุกตัวโดยตรง
  • ประโยชน์:
    • การันตีความเร็วและ Latency เท่ากันในระดับ 1 Hop (East-West Traffic ระหว่าง Server-to-Server)
    • ใช้ ECMP (Equal-Cost Multi-Path) กระจายโหลดบน L3 แทนการปิดพอร์ตของ STP
    • ขยายระบบแบบ Scale-Out ได้ง่ายเพียงแค่เพิ่ม Leaf หรือ Spine ตามความต้องการ

Day 4: Linux OS & Command-Line Troubleshooting

คำสั่งเน็ตเวิร์กพื้นฐาน

  • ip addr: ตรวจสอบสถานะ Interface, ลิงก์สถานะ (UP/DOWN) และ IP Configuration
  • ip route: ตรวจสอบ Routing Table และค่า Default Gateway
  • ip neigh: ตรวจสอบ ARP/Neighbor Cache ว่าเครื่องรู้จัก MAC Address ของปลายทางหรือ Gateway หรือไม่
  • ethtool <interface>: ดู Physical Link (Speed, Duplex, Auto-negotiation, Link Detected)
  • ethtool -m <interface>: อ่านค่า DOM/DDM ของ Transceiver (Tx/Rx Optical Power, Temp, Voltage)
  • ss -tulpn: ตรวจสอบสถานะ Socket และ Ports ที่กำลัง Listen อยู่ พร้อมแสดง Process ID (PID)
  • tcpdump -i <interface> -nn: ดักจับและวิเคราะห์ Packet แบบเรียลไทม์เพื่อดูการรับ-ส่งข้อมูลจริง
  • traceroute <ip>: ตรวจสอบเส้นทาง Hop-by-Hop ว่าติดปัญหาคอขวดหรือ Drop ที่จุดใด
  • dig <domain> / nslookup: ทดสอบการ Resolve Domain Name และความเร็วในการตอบสนองของ DNS

การตรวจ System Logs

  • /var/log/syslog หรือ journalctl -xe: บันทึกเหตุการณ์ระดับ OS และ Services ใช้เช็กข้อผิดพลาดของ Network Manager หรือ Daemon
  • dmesg -T | grep -i eth (หรือ grep link): ดู Kernel Ring Buffer เพื่อตรวจหาเหตุการณ์ Hardware, ไดรเวอร์ NIC แคช, หรือการเกิด Link Flap (Interface สลับ UP/DOWN บ่อยครั้ง)

Day 5: Troubleshooting Framework & Scenario-based Thinking

Bottom-Up Troubleshooting Approach

  1. L1 (Physical): เช็กไฟ LED สถานะพอร์ต, สายเคเบิล, การดัดงอ, ค่า DOM (Tx/Rx Power)
  2. L2 (Data Link): เช็ก Link State บน OS, Duplex/Speed mismatch, VLAN tag, Port-Channel status, ARP Table
  3. L3 (Network): เช็ก IP Address, Subnet Mask, Default Gateway, Ping ตรวจสอบการ Routing, MTU Size
  4. L4 (Transport): เช็กว่า Service Listen Port เปิดอยู่หรือไม่ (ss/netstat), ทดสอบ TCP Handshake (telnet/nc), กฎ Firewall (iptables/nftables)
  5. L7 (Application): เช็ก Application Config, Health Check, Log ไฟล์ระดับ Application, สิทธิ์การเข้าถึง

Framework การตอบ Scenario (4 ขั้นตอน)

1. Scope & Impact

  • ประเมินขอบเขตของผลกระทบ: เป็นปัญหาเฉพาะจุด (Single Host), ตกทั้งตู้ (Single Top-of-Rack/Rack), หรือล่มทั้ง Row/Data Center
  • ระบุระดับความรุนแรง (Severity Level) เพื่อวางแผนสื่อสารและแนวทางแก้ไขเบื้องต้น

2. Isolate & Check Layer

  • ไล่หาสาเหตุอย่างมีระบบ (เริ่มจาก L1 เสมอ):
    • L1: ตรวจไฟพอร์ต, หัวสาย, อ่านค่า ethtool -m
    • L2: เช็ก ip link, ip neigh เพื่อดูว่าเจอกับ Switch/Gateway หรือไม่
    • L3/L4: ทดสอบ ping <gateway>, traceroute, ss -tulpn และ curl/nc

3. Action & Verify

  • ดำเนินการแก้ไขทีละหนึ่งปัจจัย (One variable at a time): สลับสายเคเบิล, เปลี่ยนพอร์ต, สลับโมดูล SFP, แก้ไข Config พอร์ต, หรือ Restart Service
  • ทำการทดสอบซ้ำ (Verify) เพื่อยืนยันว่าปัญหายุติและไม่มี Side Effect อื่นตามมา

4. Safety & Post-incident

  • ตรวจสอบความปลอดภัยตามขั้นตอนความปลอดภัยทางฮาร์ดแวร์และระบบ
  • บันทึก Ticket สรุป Root Cause Analysis (RCA), แนวทางแก้ไขที่ทำไป และแจ้ง Escalation หรือปรับปรุง Runbook ตาม SOP