اشتباهات gpt4 با خود gpt4 اصلاح کنید ؟

https://openai.com/index/finding-gpt4s-mistakes-with-gpt-4/

اگر به دنبال بهترین Parameter Efficient Fine-Tuning هستید و میخواهید از بین این الگوریتم های بهترین یوز کیس را برای فاین تیون کردن مدل های زبانی خود انتخاب کنید‌:

Soft Prompt Tuning
Prefix Tuning
Adapters
BitFit
LoRA
QLoRA
QA-LoRA
ReLoRA
S-LoRA
DoRA
SPAFIT
NOLA
MoRA
پیشنهاد میکنم این مقاله را مشاهده بفرمایید
https://aman.ai/primers/ai/parameter-efficient-fine-tuning/

مزایای استفاده از این الگوریتم ها :
Advantages

Parameter-efficient fine-tuning is useful due the following reasons:
Reduced computational costs (requires fewer GPUs and GPU time).
Faster training times (finishes training faster).
Lower hardware requirements (works with cheaper GPUs with less VRAM).
Better modeling performance (reduces overfitting).
Less storage (majority of weights can be shared across different tasks).

aman.ai

Aman's AI Journal • Primers • Parameter Efficient Fine-Tuning

Aman's AI Journal | Course notes and learning material for Artificial Intelligence and Deep Learning Stanford classes.

همانطور که دقت کرده اید مدل 8b aya23 از مدل 13b aya101 بسیار قدرتمند تر شده
این نتیجه حکم صحتی روی صحبت پروفسور یان لوکان هست
Yann LeCun advises students coming into the industry:
"Don't work on LLM. This is in the hands of large companies, there's nothing you can bring to the table. You should work on next-gen AI systems that lift the limitations of LLMs. "

نسخه‌های ۸ میلیارد و ۳۵ میلیارد پارامتری مجموعه مدل‌های زبانی Aya 23 توسط Cohere به صورت اپن‌سورس منتشر شد. این مجموعه ۲۳ زبان مختلف از جمله فارسی را پوشش می‌دهد. برای مطالعه جزئیات فنی اینجا (https://cohere.com/research/aya/aya-23-technical-report.pdf) را بخوانید. برای تست نسخه 35B اینجا (https://huggingface.co/spaces/CohereForAI/aya-23) را مشاهده کنید.
طبق تست های گرفته شده برای زبان فارسی دقت بالاتری نسبت به لاما سه میدهد (زبان فارسی جز ریسورس های بالا در این مدل در نظر گرفته شده)

سلام و وقت بخیر
به دلایلی دیگر در این کانال فعالیتی ندارم اگر کسی مایل به ادمین بودن هست پیام دهد.

????
ستاره بختتان بالا
سپیده صبحتان تابناک
سایه عمرتان بلند
ساز زندگیتان کوک
سرزمین دلتان سبز

فرا رسیدن سال نو پیشاپیش مبارک
????