স্থিতিশীল ডিফিউশন এবং ইমেজ জেনারেশনের জন্য সেরা ক্লাউড জিপিইউগুলি

স্টেবল ডিফিউশন আসলে ভাড়া নেওয়া GPU থেকে কী চায়

স্টেবল ডিফিউশন এবং সংশ্লিষ্ট ডিফিউশন মডেলগুলি (SDXL, SD 1.5, SD 3, এবং নতুন ফ্লো-ম্যাচিং ইমেজ ও ভিডিও মডেল) AI ওয়ার্কলোডের মধ্যে অস্বাভাবিক কারণ এগুলি বড় ভাষা মডেলের তুলনায় অনেক কম মেমোরি-খরচী, তবুও কাঁচা কম্পিউট থ্রুপুট এবং প্রতি ধাপের বিলম্বের প্রতি খুব সংবেদনশীল। একটি ৫১২x৫১২ বা ১০২৪x১০২৪ ইমেজ তৈরি করতে একটি ডিনয়েজিং লুপ ২০ থেকে ৫০ ধাপের মধ্যে U-Net বা ট্রান্সফরমার ব্যাকবোনের মাধ্যমে চালানো হয়, এবং প্রতিটি ধাপ একটি ম্যাট্রিক্স গুণনের বিস্ফোরণ। এটি ঠিকই নির্ধারণ করে আপনি উপরের তুলনায় কী খুঁজবেন।

ইমেজ জেনারেশনের জন্য গুরুত্বপূর্ণ শিরোনাম সংখ্যা হলো:

• ভিআরএএম — বেস SD 1.5 ইনফারেন্স আরামদায়কভাবে ৬ থেকে ৮ জিবিতে ফিট হয়, SDXL ১২ থেকে ১৬ জিবি পছন্দ করে যখন আপনি রিফাইনার এবং যুক্তিসঙ্গত ব্যাচ সাইজ যোগ করেন, এবং নতুন বড় মডেলগুলি (SD 3, FLUX-ক্লাস ট্রান্সফরমার) ১৬ থেকে ২৪ জিবির দিকে ধাবিত হয়। LoRA প্রশিক্ষণ বা ফাইন-টিউনিং স্পষ্টতই শুধুমাত্র ইনফারেন্সের চেয়ে বেশি হেডরুম প্রয়োজন।
• FP16 / BF16 টেনসর থ্রুপুট — ডিফিউশন স্যাম্পলিং অর্ধ-প্রিসিশন ম্যাট্রিক্স গণনায় আধিপত্য বিস্তার করে, তাই FP16/BF16-তে টেনসর-কোর পারফরম্যান্স ইমেজ-প্রতি-মিনিটের একক সেরা পূর্বাভাসক। INT8 এবং FP8 পথ কোয়ান্টাইজেশনের মাধ্যমে বিদ্যমান কিন্তু সাধারণ সৃজনশীল ওয়ার্কফ্লোর জন্য কম গুরুত্বপূর্ণ।
• মেমোরি ব্যান্ডউইথ — U-Net ছোট ব্যাচ সাইজে ব্যান্ডউইথ-সীমাবদ্ধ, তাই দ্রুত মেমোরি সম্পন্ন কার্ডগুলি একই VRAM ক্ষমতা থাকলেও প্রতিটি ডিনয়েজিং ধাপ দ্রুত শেষ করে।
• একক-GPU শক্তি বনাম বহু-GPU স্কেলিং — একটি ইমেজ জেনারেশন প্রায়ই একাধিক GPU জুড়ে বিস্তৃত হয় না। আপনি আরও স্বাধীন ইনস্ট্যান্স চালিয়ে স্কেল করেন, কার্ড সংযোগ করে নয়, তাই NVLink এবং বহু-নোড ফ্যাব্রিক এখানে বেশিরভাগ ক্ষেত্রে অপ্রাসঙ্গিক।

আপনার ইমেজ ওয়ার্কফ্লোর সাথে হার্ডওয়্যার স্তর মিলানো

কারণ ডিফিউশন মেমোরিতে হালকা কিন্তু থ্রুপুট পছন্দ করে, তাই মিষ্টি স্থান প্রায়শই একটি মধ্য-মধ্যম বা কনজিউমার-ক্লাস অ্যাক্সিলারেটর, ট্রিলিয়ন-প্যারামিটার মডেল প্রশিক্ষণের জন্য তৈরি ফ্ল্যাগশিপ ডেটা-সেন্টার কার্ডের চেয়ে। উপরের তালিকা পড়লে, আপনি যা আসলে করছেন তার উপর ভিত্তি করে বিকল্পগুলি সাজানো সুবিধাজনক।

ইন্টারেক্টিভ, একক-ইমেজ সৃজনশীল কাজ

যদি আপনি ওয়েব UI বা নোটবুকে একবারে একটি ইমেজ প্রম্পট, টুইক এবং পুনরাবৃত্তি করেন, তাহলে আপনি কম প্রতি-ইমেজ বিলম্ব এবং আপনার মডেলের জন্য যথেষ্ট VRAM চান। ১৬ জিবি বা ২৪ জিবি কনজিউমার-গ্রেড GPU সাধারণত এখানে সেরা অভিজ্ঞতা-প্রতি-টাকার মান দেয়। ফ্ল্যাগশিপ ৪০ জিবি বা ৮০ জিবি ডেটা-সেন্টার কার্ড দ্রুত ইমেজ তৈরি করবে, কিন্তু আপনি এমন VRAM এবং ইন্টারকানেক্টের জন্য অর্থ দিচ্ছেন যা আপনি কখনও ব্যবহার করবেন না, তাই একক সৃজনশীল সেশনের জন্য সাধারণত অতিরিক্ত।

ব্যাচ জেনারেশন এবং ডেটাসেট তৈরি

যখন আপনার হাজার হাজার ইমেজ দরকার, থ্রুপুটই রাজা। বড় VRAM আপনাকে ব্যাচ সাইজ বাড়াতে দেয় যাতে প্রতিটি কার্নেল লঞ্চ প্রতি পাসে আরও ইমেজ তৈরি করে, এবং লক্ষ্য হয় প্রতি ঘণ্টা প্রতি টাকায় সর্বাধিক ইমেজ। এখানে হিসাব পরিবর্তিত হয় তুলনায় সবচেয়ে বেশি FP16 টেনসর থ্রুপুট দেয় এমন কার্ডের দিকে, এবং স্পট বা ইন্টারাপ্টেবল ইনস্ট্যান্স খুব আকর্ষণীয় হয় কারণ ব্যাচ কাজগুলি চেকপয়েন্ট করে পুনরায় শুরু করা যায়।

ফাইন-টিউনিং, LoRA, এবং ড্রিমবুথ

অ্যাডাপ্টার বা পূর্ণ ফাইন-টিউন প্রশিক্ষণ মেমোরি দরজা বাড়ায় কারণ আপনি এখন অপটিমাইজার স্টেট, গ্রেডিয়েন্ট এবং অ্যাক্টিভেশন মডেল ওজনের পাশাপাশি রাখেন। SDXL ফাইন-টিউনিং ২৪ জিবি বা তার বেশি মেমোরিতে অনেক আরামদায়ক, এবং পূর্ণ-মডেল প্রশিক্ষণ বড় VRAM এবং BF16 সমর্থন সহ ডেটা-সেন্টার কার্ড থেকে উপকৃত হয়। এটি একমাত্র ইমেজ-জেনারেশন পরিস্থিতি যেখানে উপরের টেবিলের উচ্চতর স্তরে যাওয়া justified, অপচয় নয়।

প্রোভাইডার বৈশিষ্ট্য যা নিঃশব্দে ইমেজ জেনারেশন গড়ে তোলে বা ভেঙে দেয়

হার্ডওয়্যার সিদ্ধান্তের মাত্র অর্ধেক। বেশ কয়েকটি প্রোভাইডার-পার্শ্বীয় ক্ষমতা বিশেষভাবে ডিফিউশন ওয়ার্কফ্লোতে বড় প্রভাব ফেলে:

• বিলিং গ্রানুলারিটি — প্রতি সেকেন্ড বা প্রতি মিনিট বিলিং সৃজনশীল সেশনের বিস্ফোরক, শুরু-এবং-বিরতি প্রকৃতিকে পুরস্কৃত করে; মোটা ঘণ্টাভিত্তিক ন্যূনতম বিলিং আপনাকে কয়েকটি ইমেজ রেন্ডার করার জন্য স্পিন আপ করার জন্য শাস্তি দেয়।
• কোল্ড-স্টার্ট এবং মডেল-লোড সময় — SDXL চেকপয়েন্টগুলি একাধিক গিগাবাইট, তাই আপনার ওজন, VAE, LoRA, এবং এমবেডিংয়ের জন্য দ্রুত স্থায়ী বা ক্যাশড স্টোরেজ আপনাকে প্রতি সেশনে কয়েক গিগাবাইট পুনরায় ডাউনলোড থেকে রক্ষা করে।
• স্থায়ী স্টোরেজ — সেশনের মধ্যে আপনার কাস্টম মডেল এবং আউটপুট সংযুক্ত ভলিউমে রাখা বারবার স্থানান্তর সময় এবং ইগ্রেস এড়ায়।
• স্পট বনাম অন-ডিমান্ড — ইন্টারাপ্টেবল ইনস্ট্যান্স ব্যাচ-জেনারেশন খরচ উল্লেখযোগ্যভাবে কমাতে পারে; লাইভ ইন্টারেক্টিভ কাজের জন্য, সেশনের মাঝখানে বিরতি আরও বিঘ্নিতকারী, তাই অন-ডিমান্ড নিরাপদ।
• প্রি-বিল্ট ইমেজ এবং সহজ প্রবেশাধিকার — CUDA, PyTorch, এবং একটি ডিফিউশন UI সহ পরিবেশ বা Jupyter/SSH এক্সপোজ করা আপনাকে ড্রাইভার সংস্করণ নিয়ে লড়াই না করে মিনিটের মধ্যে জেনারেট করতে দেয়।

উপরের তুলনাটি ব্যবহার করে এই মাত্রাগুলিতে ফিল্টার করুন, সবচেয়ে বড় কার্ডের পিছনে না ছুটে। বেশিরভাগ স্টেবল ডিফিউশন ব্যবহারকারীর জন্য, দ্রুত স্টোরেজসহ প্রতি সেকেন্ড বিল করা একটি মধ্য-ভিআরএএম GPU ঘণ্টাভিত্তিক বিলিং ফ্ল্যাগশিপ অ্যাক্সিলারেটরের চেয়ে ভালো।

প্রায়শই জিজ্ঞাসিত প্রশ্ন

ক্লাউডে স্টেবল ডিফিউশন চালাতে কত VRAM প্রয়োজন?

SD 1.5 ইনফারেন্স প্রায় ৬ থেকে ৮ জিবিতে চলে, SDXL ১২ থেকে ১৬ জিবি আরামদায়ক যখন রিফাইনার এবং মাঝারি ব্যাচিং যুক্ত হয়, এবং নতুন বড় ট্রান্সফরমার-ভিত্তিক ইমেজ মডেল ১৬ থেকে ২৪ জিবির দিকে ঝুঁকে। যদি আপনি ফাইন-টিউন বা LoRA প্রশিক্ষণ পরিকল্পনা করেন, তাহলে ২৪ জিবি বা তার বেশি হেডরুমের জন্য লক্ষ্য করুন। উপরের টেবিলটি প্রতি ইনস্ট্যান্স VRAM তালিকাভুক্ত করেছে যাতে আপনি আপনার মডেলের সাথে মেলাতে পারেন।

শুধুমাত্র ইমেজ জেনারেশনের জন্য একটি ফ্ল্যাগশিপ ডেটা-সেন্টার GPU ভাড়া নেওয়া কি মূল্যবান?

সাধারণত একক-ইমেজ ইন্টারেক্টিভ কাজের জন্য নয়। ডিফিউশন কম VRAM ব্যবহার করে এবং কখনও একাধিক GPU জুড়ে বিস্তৃত হয় না, তাই ফ্ল্যাগশিপ কার্ডের অতিরিক্ত মেমোরি এবং উচ্চ-গতির ইন্টারকানেক্ট প্রায়শই ব্যবহার হয় না। তারা মূলত বড় ফাইন-টিউনিং রান বা খুব উচ্চ-পরিমাণ ব্যাচ সার্ভিংয়ের জন্য তাদের খরচ অর্জন করে; দৈনন্দিন জেনারেশনের জন্য একটি মধ্য-পরিসরের GPU সাধারণত অনেক ভালো মান দেয়।

স্টেবল ডিফিউশনের জন্য স্পট বা ইন্টারাপ্টেবল ইনস্ট্যান্স ব্যবহার করা উচিত?

যে ব্যাচ কাজগুলি অনেক ইমেজ তৈরি করে, হ্যাঁ — এগুলি খরচ উল্লেখযোগ্যভাবে কমায় এবং ইনস্ট্যান্স পুনরুদ্ধার হলে আপনি চেকপয়েন্ট এবং পুনরায় শুরু করতে পারেন। লাইভ, ইন্টারেক্টিভ সেশনের জন্য বিরতি আরও কষ্টদায়ক, তাই অন-ডিমান্ড ইনস্ট্যান্স নিরাপদ পছন্দ। অনেক ব্যবহারকারী অন-ডিমান্ডে অনুসন্ধানমূলক প্রম্পটিং করে এবং তারপর স্পট ক্যাপাসিটিতে বড় রেন্ডার নির্ধারণ করে।

একই GPU তে একটি প্রোভাইডার আরেকটির থেকে দ্রুত কেন?

প্রায়ই এটি GPU নয় বরং স্টোরেজ এবং স্টার্টআপ আচরণ। বহু-গিগাবাইট চেকপয়েন্টের জন্য দ্রুত স্থায়ী স্টোরেজ, ক্যাশড মডেল ওজন, প্রি-বিল্ট ডিফিউশন পরিবেশ, এবং সূক্ষ্ম বিলিং গ্রানুলারিটি সবই প্রথম ইমেজ রেন্ডার হওয়ার আগে সময় এবং অর্থ কমায়। উপরের তালিকায় কাঁচা FP16 থ্রুপুটের পাশাপাশি এগুলো তুলনা করুন।