GPU কী এবং কেন AI-র জন্য এত গুরুত্বপূর্ণ

ChatGPT-র সাথে আপনি যখন কথা বলেন, পেছনে হাজার-হাজার GPU কাজ করছে। কিন্তু GPU কী? এটা CPU-র চেয়ে কীভাবে আলাদা? কেন NVIDIA-র share price আকাশছোঁয়া?

আজকের আর্টিকেলে আমরা এই hardware-এর জগতে যাব।

প্রথমে CPU বুঝি

আপনার laptop-এ একটা CPU (Central Processing Unit) আছে — Intel i7, AMD Ryzen ইত্যাদি। CPU হলো computer-এর "brain"।

CPU-এর characteristics:

সাধারণত ৪-১৬ cores (high-end-এ ৬৪+)
প্রতিটা core খুব fast কিন্তু sequential
General purpose — যেকোনো task করতে পারে
Complex decision making-এ ভালো

Analogy: CPU হলো একজন PhD professor। সব কিছু জানেন, complex problems solve করতে পারেন। কিন্তু একটা একটা করে।

এবার GPU

GPU (Graphics Processing Unit) original-ভাবে video games-এর graphics render করার জন্য বানানো হয়েছিল।

GPU-এর characteristics:

হাজার-হাজার cores (NVIDIA H100-এ ১৬,৮৯৬ CUDA cores)
প্রতিটা core CPU-র চেয়ে slow, কিন্তু massively parallel
Specialized for matrix calculations
একসাথে অনেক simple কাজ করতে পারে

Analogy: GPU হলো ১০,০০০ জন undergraduate student। প্রতিজন PhD professor-এর মতো smart না, কিন্তু একসাথে কাজ করলে বিশাল workload handle করতে পারে।

কেন AI-তে GPU দরকার?

Neural networks-এর সব কাজ মূলত matrix multiplication। একটা typical model train করতে কোটি কোটি matrix operation লাগে।

CPU দিয়ে এটা করতে কয়েক বছর লাগবে। GPU দিয়ে কয়েক দিন। এটাই difference।

একটা example

ChatGPT-র মতো একটা model train করতে:

CPU দিয়ে: ~১০০+ বছর
১০,০০০ GPU দিয়ে: ~৩-৬ মাস

এই গণিতই সব বলে দেয়।

NVIDIA-র Dominance

বর্তমানে AI hardware market-এ NVIDIA প্রায় ৯০%+ control করে। কারণ:

১. CUDA

CUDA হলো NVIDIA-র software platform যা GPU programming সহজ করে। এটা ২০০৭ সাল থেকে develop হচ্ছে — competitors অনেক পিছিয়ে।

২. Specialized AI Cores

Modern NVIDIA GPUs-এ Tensor Cores আছে যেগুলো AI workload-এর জন্য specially designed।

৩. Ecosystem

PyTorch, TensorFlow, JAX — সব major AI framework NVIDIA-র জন্য optimized।

বর্তমান GPU Lineup

Hopper Generation (২০২২)

H100:

80 GB HBM3 memory
3.35 TB/s memory bandwidth
Price: $25,000-40,000

H200:

141 GB HBM3e memory
একই Hopper architecture, কিন্তু বেশি memory

Blackwell Generation (২০২৪-২৫)

B200:

180 GB HBM3e memory
8 TB/s bandwidth
Dual-die design with 208 billion transistors
H100-এর তুলনায় training-এ 4x throughput

GB200 Grace Blackwell Superchip:

1 Grace CPU + 2 B200 GPUs
900 GB/s NVLink interconnect
Price: $60,000-70,000 per unit

GB200 NVL72:

72টা Blackwell GPU
1.4 exaFLOPS AI performance
30 TB fast memory
LLM inference: 30x faster than H100

আসছে: Vera Rubin (২০২৬)

HBM4 memory
288 GB per GPU
13 TB/s bandwidth
3.6 ExaFLOPS per rack

Supercomputers: AI কোথায় Train হয়

বর্তমানে world-এর top supercomputers:

১. El Capitan (USA) — 1.809 ExaFLOP/s, AMD MI300A ২. Frontier (Oak Ridge, USA) — 1.35 ExaFLOP/s ৩. Aurora (Argonne, USA) ৪. JUPITER (Germany) — ইউরোপের প্রথম exascale

ChatGPT, Claude — এই সব model এদের মতো (বা smaller) supercomputers-এ train হয়।

বাংলাদেশ থেকে GPU access কীভাবে?

ভালো খবর — আপনার নিজের GPU কেনা লাগবে না। Options:

১. Google Colab (Free)

Free tier-এ T4 GPU
Colab Pro ($10/month) — A100 access
শুরু করার জন্য perfect

২. Kaggle (Free)

প্রতি সপ্তাহে ৩০ ঘণ্টা GPU free
Notebook environment

৩. Lambda Labs / RunPod

Pay-as-you-go
H100 ~$2-3/hour
B200 ~$5-7/hour

৪. AWS / GCP / Azure

Enterprise-grade
Spot instances cheaper
Free credits available for students

ভবিষ্যৎ: কী আসছে?

২০২৬: Vera Rubin launch ২০২৭: Rubin Ultra ২০২৮: Feynman architecture ২০৩০: ZettaFLOP-scale computing (২০x current exascale)

পাশাপাশি:

Quantum computing + classical hybrid
Neuromorphic chips — brain-inspired
Optical computing — light দিয়ে computation

শেষ কথা

GPU বুঝা মানে AI-র physical foundation বুঝা। পরের আর্টিকেলে আমরা যাব "Neural Network কীভাবে কাজ করে" — যেখানে এই hardware-এ আসলে কী চলছে সেটা ক্লিয়ার হবে।

—রেজোয়ান