এলএলএম ফাইন-টিউনিংয়ের জন্য সেরা ক্লাউড জিপিইউগুলি

ভাড়া করা GPU থেকে ফাইন-টিউনিং আসলে কী চায়

ফাইন-টিউনিং একটি প্রি-ট্রেইনড মডেল নিয়ে তা একটি সংকীর্ণ ডেটাসেটে প্রশিক্ষণ চালিয়ে নিয়ে যায় যাতে এটি আপনার ডোমেইন, টোন বা কাজের সাথে মানিয়ে নিতে পারে। স্ক্র্যাচ থেকে মডেল ট্রেনিংয়ের তুলনায়, কম্পিউট বিল অনেক কম হয়, তবে মেমরি এবং ওয়ার্কফ্লো প্রয়োজনীয়তা এখনও খুব নির্দিষ্ট। সবচেয়ে বড় সীমাবদ্ধতা হল ভিআরএএম, কারণ ফাইন-টিউনিং চলাকালীন GPU-কে একই সময়ে মডেল ওজন, গ্রেডিয়েন্ট, অপটিমাইজার স্টেট এবং ব্যাচের জন্য অ্যাক্টিভেশন মেমরি ধারণ করতে হয়। ঐ মিলিত ফিঙ্গারপ্রিন্ট, কাঁচা টেরাফ্লপস নয়, সাধারণত নির্ধারণ করে যে আপনি উপরের তুলনায় যে কার্ডটি ভাড়া নিচ্ছেন তাতে কাজটি ফিট হবে কিনা।

এই ফিঙ্গারপ্রিন্ট কতটা ভারী হবে তা সম্পূর্ণরূপে নির্ভর করে আপনি কোন ফাইন-টিউনিং পদ্ধতি বেছে নেন তার উপর:

• পূর্ণ ফাইন-টিউনিং প্রতিটি ওজন আপডেট করে এবং এটি সবচেয়ে বেশি মেমরি খরচ করে। একটি আনুমানিক নিয়ম হল, অপটিমাইজার স্টেট অন্তর্ভুক্ত করার পর, আপনাকে মডেলের প্যারামিটার সংখ্যার কয়েক গুণ ভিআরএএম প্রয়োজন হয়, যা বড় ভাষা মডেলগুলোর পূর্ণ ফাইন-টিউনিং সাধারণত মাল্টি-GPU নোডে করা হয়।
• লোরা এবং কিউলোরা বেস ওজন ফ্রিজ করে এবং ছোট লো-র‍্যাঙ্ক অ্যাডাপ্টার ট্রেন করে, যা গ্রেডিয়েন্ট এবং অপটিমাইজার স্টেটের জন্য প্রয়োজনীয় মেমরি অনেক কমিয়ে দেয়। কিউলোরা ফ্রিজ করা বেস মডেলকে ৪-বিট কোয়ান্টাইজড ফর্মে লোড করে, তাই যেসব মডেল সাধারণত মাল্টি-GPU নোড প্রয়োজন, সেগুলো প্রায়ই একক উচ্চ ভিআরএএম কার্ডে ফাইন-টিউন করা যায়।
• প্যারামিটার-কার্যকর পদ্ধতিগুলো সাধারণত (অ্যাডাপ্টার, প্রিফিক্স টিউনিং) সামান্য সঠিকতা হ্রাসের বিনিময়ে হার্ডওয়্যার প্রয়োজনীয়তা নাটকীয়ভাবে কমিয়ে দেয়, এবং এ কারণেই অনেক ব্যবহারিক ফাইন-টিউনিং মাঝারি স্তরের ভাড়া করা GPU-তে চলে, ফ্ল্যাগশিপ অ্যাক্সেলারের বদলে।

কাজের সাথে কার্ড মিলানো

মেমরি ওয়াল প্রধান হওয়ায়, উপরের তুলনাটি পড়ার সবচেয়ে কার্যকর উপায় হল আপনি যে সবচেয়ে বড় মডেল ফাইন-টিউন করতে চান এবং যে পদ্ধতি ব্যবহার করবেন তা থেকে শুরু করে, তারপর ভিআরএএম পর্যন্ত পিছনে কাজ করা।

• একক উচ্চ ভিআরএএম GPU (ডেটা-সেন্টার কার্ড যা বড় HBM পুল বহন করে): মাঝারি আকারের ভাষা মডেল, ভিশন মডেল এবং বেশিরভাগ ডিফিউশন ফাইন-টিউনিংয়ের জন্য আদর্শ। এটি খরচ সচেতন অ্যাডাপ্টার-ভিত্তিক কাজের জন্য সেরা পয়েন্ট।
• NVLink বা সমতুল্য দ্রুত ইন্টারকানেক্ট সহ মাল্টি-GPU নোড: বড় মডেলের পূর্ণ ফাইন-টিউনিংয়ের জন্য প্রয়োজন, যেখানে ওজন এবং অপটিমাইজার স্টেট কার্ডগুলোর মধ্যে শার্ড করা হয় ZeRO/FSDP-এর মতো প্রযুক্তি ব্যবহার করে। এখানে ইন্টার-GPU ব্যান্ডউইথ প্রতি কার্ডের ভিআরএএমের মতোই গুরুত্বপূর্ণ, কারণ শার্ডেড ট্রেনিং ক্রমাগত গ্রেডিয়েন্ট বিনিময় করে; দ্রুত ফ্যাব্রিক সহ একটি নোড GPU-গুলোকে খাওয়াতে পারে যেখানে PCIe-শুধু লিঙ্কগুলো বটলনেক সৃষ্টি করতে পারে।
• GDDR মেমরি সহ কনজিউমার-ক্লাস কার্ড: বাজেটে ছোট মডেল এবং কিউলোরা পরীক্ষার জন্য ব্যবহারযোগ্য, তবে তাদের কম ভিআরএএম সিলিং এবং দ্রুত মাল্টি-GPU ইন্টারকানেক্টের অভাবের কারণে একবার একটি কাজ এক কার্ডে ফিট না হলে তারা খারাপ ফিট।

প্রিসিশন সাপোর্ট অন্য একটি হার্ডওয়্যার বিবরণ যা পরীক্ষা করা উচিত। আধুনিক ফাইন-টিউনিং BF16 এবং FP16 মিক্সড প্রিসিশনের উপর নির্ভর করে, এবং কোয়ান্টাইজড পদ্ধতিগুলো INT8/4-বিট কার্নেলের উপর নির্ভর করে। এই ফরম্যাটগুলোর জন্য পরিপক্ক টেনসর-কোর সাপোর্ট সহ কার্ডগুলো অর্থবহভাবে দ্রুত ফাইন-টিউন করবে এবং বড় ব্যাচ ফিট করতে দেবে, যেখানে পুরানো হার্ডওয়্যার কম দক্ষ পথ অনুসরণ করে।

প্রোভাইডার ফিচার যা ফাইন-টিউনিং রান সফল বা ব্যর্থ করে তোলে

ফাইন-টিউনিং পুনরাবৃত্তিমূলক: আপনি একটি কনফিগারেশন চেষ্টা করেন, লস কার্ভ দেখেন, হাইপারপ্যারামিটার সামঞ্জস্য করেন এবং পুনরায় চালান। এই ছন্দ কিছু প্রোভাইডার ফিচারকে এক-বারের ইনফারেন্সের চেয়ে বেশি গুরুত্বপূর্ণ করে তোলে।

• স্থায়ী স্টোরেজ এবং দ্রুত ডেটা লোডিং: আপনার ডেটাসেট, টোকেনাইজার ক্যাশ এবং চেকপয়েন্টগুলো সেশনগুলোর মধ্যে টিকে থাকতে হবে। এমন প্রোভাইডার যারা আপনাকে প্রতিবার বড় কর্পাস পুনরায় আপলোড করতে বাধ্য করে তারা প্রকৃত অর্থ নষ্ট করে। চেক করুন ইনস্ট্যান্স বন্ধ করার পর স্টোরেজ টিকে থাকে কিনা এবং ডেটা এক্সগ্রেস কিভাবে বিল করা হয়।
• চেকপয়েন্টিং এবং ইন্টারাপ্টিবিলিটি: ঘণ্টাব্যাপী ফাইন-টিউনিং রানগুলো ঘন ঘন চেকপয়েন্ট লেখার সুবিধা পায়, যা সস্তা স্পট বা ইন্টারাপ্টিবল ইনস্ট্যান্স ব্যবহারের যোগ্য করে তোলে। যদি আপনার কোড শেষ চেকপয়েন্ট থেকে সুষ্ঠুভাবে পুনরায় শুরু হয়, তবে একটি বাধা কয়েক মিনিটের ক্ষতি করে, পুরো রান নয়।
• বিলিং গ্রানুলারিটি: প্রতি সেকেন্ড বা প্রতি মিনিট বিলিং পরীক্ষামূলক স্টপ-স্টার্ট প্রকৃতির জন্য পুরস্কৃত করে, যেখানে আপনি ফলাফল পর্যালোচনা করার সময় আইডল থাকেন। ঘন্টাভিত্তিক মোটা বিলিং একই ওয়ার্কফ্লোকে শাস্তি দেয়।
• পরিবেশ নিয়ন্ত্রণ: SSH অ্যাক্সেস, ডকার ইমেজ এবং জুপিটার নোটবুক আপনাকে নির্দিষ্ট ফ্রেমওয়ার্ক এবং CUDA সংস্করণ পিন করতে দেয়, যা গুরুত্বপূর্ণ কারণ কোয়ান্টাইজেশন এবং PEFT লাইব্রেরিগুলো সংস্করণ-সংবেদনশীল।
• মাল্টি-নোড নেটওয়ার্কিং: যদি আপনি বড় মডেলের পূর্ণ ফাইন-টিউনিং আশা করেন, নিশ্চিত করুন প্রোভাইডার সত্যিকার অর্থে দ্রুত ইনট্রা-নোড এবং ইন্টার-নোড ইন্টারকানেক্ট সহ নোড সরবরাহ করে, শুধু একটি বক্সে GPU সংখ্যার নয়।

উপরের তুলনাটি খরচের জন্য পড়া

ফাইন-টিউনিং কাজগুলো সাধারণত সংক্ষিপ্ত এবং বিস্ফোরণধর্মী হয়, সবসময় চালু থাকে না, তাই ভাড়া কৌশল ইনফারেন্স সার্ভিং থেকে আলাদা। অন-ডিমান্ড মূল্য আপনাকে একটি গুরুত্বপূর্ণ রান জন্য গ্যারান্টিযুক্ত, অবিচ্ছিন্ন সেশন দেয়; স্পট এবং ইন্টারাপ্টিবল ক্যাপাসিটি চেকপয়েন্ট-সুবিধাজনক পরীক্ষার জন্য কার্যকর খরচ কমাতে পারে যেখানে পুনরায় শুরু সস্তা। ফ্ল্যাগশিপ অ্যাক্সেলেটরগুলো খরচের শীর্ষে থাকে এবং সাধারণত কম পাওয়া যায়, তাই অ্যাডাপ্টার-ভিত্তিক ফাইন-টিউনিংয়ের জন্য উপরের তালিকার একটু পুরানো উচ্চ ভিআরএএম কার্ড প্রায়ই ভাল খরচ-ফলাফল অনুপাত দেয়। লাইভ, প্রোভাইডার-নির্দিষ্ট মূল্য এবং প্রাপ্যতার জন্য টেবিল ব্যবহার করুন; দাম প্রায়ই পরিবর্তিত হয় এবং অঞ্চল ও ইনস্ট্যান্স টাইপ অনুযায়ী ভিন্ন হয়, তাই সেখানে থাকা যেকোনো সংখ্যা বর্তমান সত্য হিসেবে বিবেচনা করুন, প্রবন্ধে উল্লেখিত সংখ্যার উপর নির্ভর করবেন না।

প্রায়শই জিজ্ঞাসিত প্রশ্ন

LLM ফাইন-টিউনিংয়ের জন্য কত GPU মেমরি প্রয়োজন?

এটি মডেলের আকার এবং পদ্ধতির উপর নির্ভর করে। কিউলোরা একটি একক উচ্চ ভিআরএএম কার্ডে আশ্চর্যজনকভাবে বড় মডেল ফিট করতে পারে কারণ ফ্রিজ করা বেস ৪-বিট কোয়ান্টাইজড, যেখানে একই মডেলের পূর্ণ ফাইন-টিউনিং ওজন, গ্রেডিয়েন্ট এবং অপটিমাইজার স্টেটের জন্য একাধিক GPU-এর পুল করা মেমরি প্রয়োজন হতে পারে। আপনার সবচেয়ে বড় লক্ষ্য মডেল এবং নির্বাচিত পদ্ধতি থেকে শুরু করুন, তারপর উপরের তুলনায় একটি কার্ড বা নোড বেছে নিন যার অ্যাক্টিভেশন এবং ব্যাচ সাইজের জন্য পর্যাপ্ত হেডরুম আছে।

একক GPU কি যথেষ্ট, নাকি মাল্টি-GPU নোড প্রয়োজন?

ছোট থেকে মাঝারি মডেলের জন্য লোরা এবং কিউলোরায় একক উচ্চ ভিআরএএম GPU সাধারণত যথেষ্ট। বড় মডেলের পূর্ণ ফাইন-টিউনিং বা বড় ব্যাচ সাইজে ট্রেনিং সাধারণত মাল্টি-GPU নোড প্রয়োজন দ্রুত ইন্টারকানেক্ট সহ যাতে শার্ডেড ওজন এবং গ্রেডিয়েন্ট বিনিময় বটলনেক ছাড়াই হয়।

আমি কি সস্তা স্পট বা ইন্টারাপ্টিবল ইনস্ট্যান্স ব্যবহার করতে পারি ফাইন-টিউনিংয়ের জন্য?

হ্যাঁ, যদি আপনার ট্রেনিং লুপ ঘন ঘন চেকপয়েন্ট করে এবং সুষ্ঠুভাবে পুনরায় শুরু হয়। কারণ ফাইন-টিউনিং রানগুলো শেষ চেকপয়েন্ট থেকে পুনরায় শুরু করা যায়, একটি বাধা কেবল সেই চেকপয়েন্ট থেকে কাজের ক্ষতি করে, যা স্পট ক্যাপাসিটিকে পরীক্ষামূলক রানগুলোর জন্য কার্যকর খরচ কমানোর উপায় করে তোলে যেখানে কঠিন সময়সীমা নেই।

ফাইন-টিউনিং কি পূর্ণ ট্রেনিংয়ের মতো হার্ডওয়্যার প্রয়োজন?

না। ফাইন-টিউনিং, বিশেষ করে প্যারামিটার-কার্যকর পদ্ধতিগুলো, স্ক্র্যাচ থেকে মডেল ট্রেনিংয়ের তুলনায় অনেক কম মেমরি এবং কম্পিউট চায়, তাই আপনি প্রায়ই স্ক্র্যাচ রান থেকে ছোট বা পুরানো কার্ড ভাড়া করতে পারেন। ফ্ল্যাগশিপ অ্যাক্সেলেটরগুলো সাধারণত অ্যাডাপ্টার-ভিত্তিক ফাইন-টিউনিংয়ের জন্য অতিরিক্ত এবং বড় স্কেলের প্রি-ট্রেনিংয়ের জন্য সংরক্ষিত।