قدرت پنهان کارت‌های گرافیک انویدیا آزاد شد؛ افزایش تا دو برابری توان هوش مصنوعی RTX 20، 30 و 40

گروهی از توسعه‌دهندگان مستقل موفق شده‌اند محدودیت عملکرد برخی محاسبات هوش مصنوعی در کارت‌های گرافیک GeForce RTX انویدیا را دور بزنند. نتایج اولیه نشان می‌دهد توان پردازشی هسته‌های Tensor در برخی مدل‌ها تقریباً دو برابر شده است؛ دستاوردی که می‌تواند برای اجرای مدل‌های هوش مصنوعی روی کامپیوترهای شخصی اهمیت زیادی داشته باشد.

در شرایطی که اجرای محلی مدل‌های هوش مصنوعی به یکی از کاربردهای مهم کارت‌های گرافیک تبدیل شده، پروژه‌های متن‌باز جدیدی توانسته‌اند بخشی از ظرفیت محاسباتی محدودشده در پردازنده‌های گرافیکی انویدیا را فعال کنند.

این دستاورد که گزارش‌های آن از ۲۵ اکتبر ۲۰۲۶ مورد توجه رسانه‌های سخت‌افزاری قرار گرفته، نسل‌های GeForce RTX 20، RTX 30 و RTX 40 را هدف قرار می‌دهد.

نکته قابل‌توجه این است که برای دستیابی به نتایج گزارش‌شده، نیازی به تعویض قطعات کارت گرافیک، اضافه‌کردن هسته پردازشی یا فلش‌کردن VBIOS نیست؛ بلکه تغییراتی در تنظیمات سطح پایین GPU، پیش از بارگذاری درایور انویدیا اعمال می‌شود.

بااین‌حال، این روش هنوز آزمایشی است و افزایش دو برابری قدرت محاسباتی به معنی دو برابر شدن سرعت همه برنامه‌های هوش مصنوعی یا بازی‌ها نیست.

چرا کارت‌های گرافیک GeForce از تمام ظرفیت Tensor Core استفاده نمی‌کنند؟

پردازنده‌های گرافیکی RTX علاوه بر هسته‌های CUDA، واحدهای محاسباتی اختصاصی به نام Tensor Core دارند.

این هسته‌ها برای پردازش سریع عملیات ماتریسی طراحی شده‌اند؛ محاسباتی که نقش اساسی در آموزش شبکه‌های عصبی، اجرای مدل‌های زبانی و تولید تصویر با هوش مصنوعی دارند.

اما بررسی‌های توسعه‌دهندگان پروژه GPU-Unlock نشان می‌دهد که انویدیا نرخ اجرای برخی دستورهای Tensor Core را در کارت‌های مصرفی GeForce محدود کرده است.

این محدودیت به‌ویژه در محاسبات FP16 و BF16 با انباشت نتایج در دقت FP32 دیده می‌شود.

به زبان ساده، کارت گرافیک می‌تواند ضرب ماتریسی را با اعداد ۱۶ بیتی انجام دهد و حاصل محاسبات را با دقت ۳۲ بیتی جمع‌آوری کند. این روش در بسیاری از کاربردهای یادگیری ماشین استفاده می‌شود.

در برخی کارت‌های GeForce، نرخ اجرای چنین دستورهایی تقریباً نصف حالتی است که سخت‌افزار امکان پشتیبانی از آن را دارد.

کارت‌های حرفه‌ای انویدیا می‌توانند در این نوع عملیات از نرخ بالاتری استفاده کنند. همین تفاوت نشان می‌دهد که بخشی از اختلاف عملکرد محصولات حرفه‌ای و مصرفی، در بعضی بارهای کاری، به تنظیمات و محدودیت‌های پردازشی مربوط می‌شود.

البته این موضوع به معنی یکسان‌بودن کامل کارت‌های GeForce و محصولات حرفه‌ای نیست؛ زیرا ظرفیت حافظه، قابلیت‌های سازمانی، درایورها و سایر ویژگی‌های آن‌ها نیز متفاوت است.

پروژه GPU-Unlock چگونه محدودیت انویدیا را دور می‌زند؟

پروژه متن‌باز GPU-Unlock که توسط توسعه‌دهنده‌ای با نام Zagitta منتشر شده، از تحقیقات قبلی درباره محدودیت‌های کارت‌های پردازشی انویدیا الهام گرفته است.

این پروژه از روشی برای تغییر تنظیمات محافظت‌شده GPU پیش از بارگذاری درایور اصلی استفاده می‌کند.

در این فرایند، محدودیت نرخ اجرای برخی دستورهای Tensor Core برداشته می‌شود تا هسته‌های پردازشی بتوانند تعداد بیشتری از آن محاسبات را در واحد زمان انجام دهند.

تفاوت مهم این روش با اورکلاک سنتی در آن است که هدف اصلی افزایش فرکانس هسته یا حافظه نیست.

در عوض، محدودیتی که روی نرخ اجرای گروه مشخصی از دستورهای محاسباتی اعمال شده، تغییر می‌کند.

این تغییرات موقتی هستند و با بازگشت سخت‌افزار به وضعیت اولیه پس از قطع کامل برق یا راه‌اندازی عادی، می‌توانند از بین بروند.

البته اجرای این روش به دسترسی سطح پایین به GPU وابسته است و در شرایط نامناسب می‌تواند پایداری سیستم را مختل کند.

نتایج بنچمارک؛ افزایش چشمگیر عملکرد RTX 4090 و RTX 3090 Ti

گزارش‌های منتشرشده از پروژه‌های GPU-Unlock و نسخه‌های توسعه‌یافته آن نشان می‌دهند که نتایج در محاسبات مشخص بسیار قابل‌توجه هستند.

این اعداد از آزمایش‌های مختلف به دست آمده‌اند و نباید به‌عنوان یک بنچمارک استاندارد و مستقیماً قابل‌مقایسه میان کارت‌ها در نظر گرفته شوند.

در RTX 4090، تقریباً دو برابر شدن نرخ اجرای دستورها به معنی دو برابر شدن عملکرد همه عملیات ماتریسی نیست.

برای نمونه، در یکی از آزمایش‌های مستقل با کتابخانه cuBLAS، افزایش عملکرد واقعی ضرب ماتریسی FP16 بسته به اندازه ماتریس بین ۱۲ تا ۳۴ درصد گزارش شده است.

این اختلاف نشان می‌دهد که حتی پس از برداشتن محدودیت پردازشی، عوامل دیگری مانند مصرف برق، پهنای باند حافظه و نحوه اجرای برنامه می‌توانند عملکرد نهایی را محدود کنند.

خبر امیدوارکننده برای دارندگان RTX 4070 Ti

یکی از نتایج قابل‌توجه به کارت گرافیک RTX 4070 Ti مربوط می‌شود.

در یک آزمایش تجربی روی ویندوز، نسخه ویژه‌ای از این روش توانسته عملکرد محاسبات ماتریسی FP16 را حدود ۸۰.۱ درصد و BF16 را حدود ۷۶.۴ درصد بهبود دهد.

بااین‌حال، این نتایج مربوط به یک کارت و پیکربندی مشخص هستند و هنوز نمی‌توان آن‌ها را برای همه مدل‌های RTX 4070 Ti یا تمامی نسخه‌های ویندوز تعمیم داد.

از سوی دیگر، گزارش‌های پروژه GPU-Unlock-Ada نشان می‌دهند که پشتیبانی از بسیاری از کارت‌های RTX 40 همچنان در مرحله آزمایشی قرار دارد.

بنابراین پیش از نتیجه‌گیری درباره عملکرد یک مدل خاص، باید میان «ثبت نتیجه موفق روی یک نمونه» و «پشتیبانی پایدار از تمام کارت‌های آن مدل» تفاوت قائل شد.

آیا اجرای ChatGPT و مدل‌های هوش مصنوعی محلی دو برابر سریع‌تر می‌شود؟

این پرسش احتمالاً مهم‌ترین بخش خبر برای کاربران عادی است.

پاسخ کوتاه این است: بستگی دارد مدل هوش مصنوعی از چه نوع محاسباتی استفاده کند.

برای درک بهتر، عملکرد مدل‌های زبانی را می‌توان به دو مرحله اصلی تقسیم کرد.

مرحله اول: پردازش ورودی یا Prefill

در این مرحله، مدل زبانی متن ورودی، دستورها و اطلاعات اولیه را پردازش می‌کند.

این فرایند معمولاً شامل تعداد زیادی عملیات ماتریسی است و می‌تواند از افزایش توان Tensor Core بهره ببرد.

در نتایج اولیه مربوط به RTX 3090، افزایش سرعت پردازش ورودی مدل‌های زبانی در برخی آزمایش‌ها حدود ۱۴ تا ۳۶ درصد گزارش شده است. گزارش‌های جدیدتر مشارکت‌کنندگان پروژه نیز در برخی پیکربندی‌ها بهبودهای بالاتری را نشان می‌دهند.

به‌عنوان مثال، هنگام ارسال یک سند طولانی به یک مدل هوش مصنوعی محلی، بهبود مرحله Prefill ممکن است باعث شود مدل سریع‌تر پردازش اولیه را کامل کند.

مرحله دوم: تولید پاسخ یا Decode

در این مرحله، مدل شروع به تولید توکن‌های خروجی می‌کند.

سرعت تولید توکن در بسیاری از مدل‌های زبانی، به‌ویژه مدل‌های کوانتیزه‌شده، بیشتر به پهنای باند حافظه و انتقال داده وابسته است تا توان خام ضرب ماتریسی.

به همین دلیل، نتایج منتشرشده نشان می‌دهند که در برخی آزمایش‌ها سرعت تولید توکن تقریباً تغییری نکرده است.

بنابراین اگر مدلی پیش از اعمال تغییرات با سرعت ۳۰ توکن در ثانیه پاسخ تولید می‌کند، نمی‌توان انتظار داشت این عدد الزاماً به ۶۰ توکن برسد.

تأثیر GPU-Unlock بر ComfyUI، Stable Diffusion و تولید ویدئو

برخلاف بعضی مدل‌های زبانی، بخش زیادی از محاسبات تولید تصویر مبتنی بر عملیات سنگین ماتریسی است.

در نتیجه، ابزارهایی مانند Stable Diffusion و بعضی گردش‌کارهای ComfyUI می‌توانند از افزایش توان محاسباتی هسته‌های Tensor بهره ببرند؛ البته در صورتی که مدل، نوع داده و هسته‌های پردازشی مورد استفاده با تغییرات جدید سازگار باشند.

گزارش‌های مشارکت‌کنندگان GPU-Unlock در برخی گردش‌کارهای تولید تصویر، افزایش سرعت حدود ۳۰ تا ۵۵ درصد را نشان داده‌اند. برای بعضی بارهای کاری تولید ویدئو با محاسبات BF16 نیز بهبودهای کوچک‌تری گزارش شده است.

اما این نتایج عمومی و تضمین‌شده نیستند.

برای مثال، اگر فرایند تولید تصویر بیشتر با محدودیت VRAM، انتقال داده میان RAM و GPU یا استفاده از محاسبات INT8 روبه‌رو باشد، برداشتن محدودیت FP16/BF16 ممکن است تأثیر بسیار کمتری داشته باشد.

نکته مهم دیگر اینکه این پروژه هیچ حافظه VRAM جدیدی به کارت گرافیک اضافه نمی‌کند.

یک کارت ۱۲ گیگابایتی پس از اعمال تغییرات همچنان ۱۲ گیگابایت حافظه گرافیکی خواهد داشت و مدل‌هایی که به حافظه بیشتری نیاز دارند، همچنان با همان محدودیت روبه‌رو می‌شوند.

آیا FPS بازی‌ها نیز افزایش می‌یابد؟

خیر؛ نتایج فعلی چنین چیزی را نشان نمی‌دهند.

محدودیتی که توسعه‌دهندگان موفق به دورزدن آن شده‌اند، به گروه خاصی از محاسبات Tensor Core مربوط است.

این تغییر برخلاف ارتقای کارت گرافیک یا افزایش فرکانس هسته، توان پردازش عمومی بازی‌ها، تعداد هسته‌های CUDA یا پهنای باند حافظه را افزایش نمی‌دهد.

بنابراین انتظار افزایش محسوس FPS در بازی‌هایی مانند Cyberpunk 2077 یا سایر عناوین سنگین، بر اساس این نتایج منطقی نیست.

همچنین نباید فرض کرد که عملکرد DLSS یا سایر فناوری‌های هوش مصنوعی بازی‌ها به همان نسبت افزایش می‌یابد؛ چنین ادعایی به آزمایش‌های اختصاصی نیاز دارد.

کدام کارت‌های گرافیک پشتیبانی می‌شوند؟

پروژه‌های متن‌باز مرتبط، سه نسل اصلی از کارت‌های انویدیا را هدف گرفته‌اند:

• RTX 20 — معماری Turing: آزمایش‌های موفق روی RTX 2080 Ti گزارش شده و پشتیبانی از مدل‌های دیگر همچنان تجربی است.
• RTX 30 — معماری Ampere: پروژه اصلی GPU-Unlock نتایج متعددی برای مدل‌هایی از RTX 3060 تا RTX 3090 Ti ارائه کرده است.
• RTX 40 — معماری Ada Lovelace: نتایج موفق برای RTX 4090 و برخی مدل‌های دیگر وجود دارد، اما وضعیت سازگاری در بسیاری از مدل‌ها هنوز آزمایشی است.

برای کارت‌های RTX 50 مبتنی بر معماری Blackwell، در زمان انتشار این خبر روش تأییدشده مشابهی ارائه نشده است.

همچنین بیشتر پیاده‌سازی‌های اصلی برای لینوکس توسعه یافته‌اند، هرچند نسخه‌های آزمایشی ویندوز نیز در دست بررسی هستند.

آیا استفاده از GPU-Unlock خطرناک است؟

بله، این روش هنوز برای استفاده عمومی توصیه نمی‌شود.

اگرچه تغییرات لزوماً شامل افزایش فرکانس یا فلش‌کردن VBIOS نیستند، اجرای کد در سطوح پایین فریمور GPU می‌تواند با خطراتی همراه باشد.

از جمله مشکلات احتمالی می‌توان به هنگ‌کردن سیستم، اختلال در بوت، ناپایداری درایور، از دست رفتن داده‌ها و احتمال آسیب سخت‌افزاری اشاره کرد.

برخی توسعه‌دهندگان نیز هشدار داده‌اند که اجرای طولانی‌مدت محاسبات سنگین Tensor می‌تواند فشار مصرف انرژی و حرارت را افزایش دهد.

در نتیجه، کاربران نباید صرفاً بر اساس نتیجه یک بنچمارک، این تغییرات را روی سیستم اصلی یا کارت گرافیک موردنیاز کار روزانه خود اجرا کنند.

آیا انویدیا محدودیت‌ها را به‌صورت رسمی حذف خواهد کرد؟

تا زمان تهیه این گزارش، تصمیم رسمی تأییدشده‌ای از سوی انویدیا برای برداشتن این محدودیت‌ها از کارت‌های GeForce اعلام نشده است.

بااین‌حال، پروژه GPU-Unlock بحث قدیمی تفاوت میان سخت‌افزارهای مصرفی و حرفه‌ای را دوباره مطرح کرده است.

اگر بخشی از توان محاسباتی یک پردازنده گرافیکی از طریق سیاست‌های تنظیم عملکرد محدود شده باشد، برداشتن این محدودیت برای کاربرانی که از کارت‌های قدیمی‌تر برای هوش مصنوعی استفاده می‌کنند می‌تواند ارزش اقتصادی ایجاد کند.

از طرف دیگر، افزایش جذابیت کارت‌هایی مانند RTX 3090 و RTX 4090 برای اجرای محلی هوش مصنوعی ممکن است تقاضا برای مدل‌های دست‌دوم با حافظه زیاد را افزایش دهد؛ هرچند تأثیر واقعی این موضوع بر بازار هنوز مشخص نیست.

جمع‌بندی؛ ظرفیت جدیدی برای هوش مصنوعی شخصی

پروژه‌های GPU-Unlock نشان داده‌اند که برخی کارت‌های GeForce می‌توانند در محاسبات مشخص Tensor Core عملکرد بسیار بالاتری نسبت به تنظیمات پیش‌فرض خود ارائه دهند.

اما اهمیت واقعی این دستاورد صرفاً اعداد بزرگ بنچمارک نیست.

برای کاربران هوش مصنوعی، نتیجه مهم‌تر آن است که بعضی مدل‌های زبانی، گردش‌کارهای تولید تصویر و عملیات آموزش مدل ممکن است بدون خرید کارت گرافیک جدید سریع‌تر اجرا شوند.

بااین‌حال، محدودیت حافظه، پهنای باند VRAM، مصرف انرژی و نوع محاسبات نرم‌افزار همچنان تعیین‌کننده خواهند بود.

در نهایت، GPU-Unlock فعلاً یک دستاورد فنی امیدوارکننده و آزمایشی است، نه ارتقای رایگان و تضمین‌شده برای تمام کارت‌های RTX.

منابع و مستندات

• پروژه اصلی GPU-Unlock در GitHub
• پروژه GPU-Unlock-Ada برای RTX 40
• پروژه Turing-Unlock برای RTX 20
• گزارش VideoCardz