پرده‌ی آخر
بنتر در دفاعیاتش واژه و مفهوم کنجکاوی را به گند کشید. اما مباحث تئوریک اخلاق و علم را در یادها زنده کرد. من عمیقا باور دارم که اخلاق را نمی‌توان از علم توقع کرد. چه آن‌که در علم با مشاهدات تجربی و نظایر آن سر و کار داریم و در اخلاق با ارزش‌ها. در نظر من اخلاق یک مقوله‌ی کاملا ماوراء علمی است. علم به مثابه فهمیدن پدیده‌ها یا کشف ناشناخته‌ها است و البته مشاهده‌پذیری مرز میان گزاره‌ی علمی و غیرعلمی است. از این رو قضاوت‌های علمی روشمندند اما پرسش اصلی این است که آیا قضاوت اخلاقی بر مبنای مشاهده‌پذیری هم روشمند است؟

در میان بزرگان علم شاید فاینمن تا حدودی توانسته این مساله را تبیین کند. او بار مسئولیت اخلاقی را صرفا  متوجه خودِ محقق می‌داند و ذات علم را بری از هر گونه ارزش اخلاقی. به دیگر بیان، علم نسبت به اخلاق خنثی است. فاینمن از تجربه‌ی زیسته‌ی خود خاطره‌ای را نقل می‌کند؛ روزی روزگاری یک راهب بودایی به او گفته بود که به هر فرد انسانی کلیدی اعطا شده تا با آن در بهشت را بگشاید. اما همان کلید در جهنم را هم می‌تواند باز کند. این گفته دقیقا بازتاب‌دهنده‌ی قصه‌ی پژوهشگر و کلید علم است.

شاید تجربه‌ی تلخ فاینمن از پروژه‌ی منهتن که منجر به ساخت بمب اتم شد او را بر آن داشت که نسبت به وظایف اخلاقی اهالی علم هشدار بدهد و بگوید که آن‌ها موظفند حتی به تاثیرات غیر مستقیم یافته‌های علمی خود مسئولانه بیندیشند.

اما ین‌که خاستگاه اخلاق کجاست و آیا باید برای تبیین مسئولیت اخلاقی در ساحت علم لزوما دست به دامن دین شد و آیا تحمیل هنجارهای اخلاقی، خود مانع آزاداندیشی و کنجکاوی در ساحت علم است، خود مجال دیگری را می‌طلبد. عجالتا داستان بنترِ صورتی می‌تواند بهانه‌ی خوبی باشد که بیشتر در این باره بیندیشیم و به قول جناب محمد علی فروغی، ذکاء الملک، ببینیم نهایت کار انسان به کجا می‌کشد؟ (۵/۵)

مورد دوم اتهامی او البته سنگین‌تر بود. از او پرسیدم دلیل به همراه آوردن یک کارت شبکه‌ی Alfa با خودش به دانشگاه چیست؟ موضوع را کلا انکار کرد. با نشان دادن سری دوم اسلایدها به او ثابت کردم که این کارت شبکه‌ی بی‌سیم با مارک Alfa همانی است که او با آن به شبکه‌ی بی‌سیم دانشگاه گاهی متصل می‌شده و کارهای روتین خود را مانند چک کردن ای‌میل‌ها و غیره را انجام می‌داده و با توجه به ثبت و ضبط آدرس سخت‌افزاری MAC آن نمی‌تواند منکر داشتنش شود. پاسخ داد که خب دوست داشتم که لپ‌تاپم با این کارت شبکه کار کند. دلیلش را پرسیدم. گفت کنجکاوی! گفتم چرا از کارت شبکه‌ای استفاده کرده‌ای که قابلیت Packet Injection دارد؟ گفت اصلا نمی‌داند Packet Injection چیست! با نشان دادن سری بعدی اسلایدها به او ثابت کردم که خود کذابش بارها اقدام به تزریق Packet به شبکه‌ی بی‌سیم دانشگاه کرده است. چیزی نداشت بگوید.

مورد اتهامی سوم این دانشجو برای دانشگاه حیثیتی بود. دانشجو بدون اطلاع دیگران به صورت زنده کلاس‌های دانشگاه را با Discord پخش زنده کرده بود. آن هم محتوای Copyright دار! پرسیدم چرا؟ گفت هرگز این کار را نکرده است. اسلاید آخر را، تصاویر دوربین مداربسته‌ی کلاسی که او درش حضور داشت، نشانش دادم؛ به وضوح داشت با یک وب‌کم External و متصل به لپ‌تاپش کلاس را Stream می‌کرد. چیزی نگفت.

پرسیدم آیا حالا موارد اتهامی را قبول داری؟ باز گفت نه! گفتم خوب است تمام اسناد و شواهد را دیدی. گفت هر چه کرده صرفا از سر کنجکاوی بوده و کنجکاوی سرآغاز کشف علمی است. کلافه شده بودم ولی قصد جر و بحث با او را نداشتم. بسنده کردم به گفتن اینکه آخرین دفاعیاتت را بگو! گفت حرفی نمانده و فکر نمی‌کند که علاقه‌ی ذاتیش به کشف و کنجکاوی‌ علمی جرم تلقی شود. دیدم طرف به رغم رنگ وردیّة (صورتی) چفیه‌اش اصلا در باغ نیست! گفتم بنتر جان! فقط همین یک قلم مورد اتهامی سومت، سوای اخراج از دانشگاه صدها هزار پوند در دادگاه برایت جریمه دارد. اینجا دیگر نیشش را بست و دست‌هایش لرزان شد. دیدم موقعیت خوبی است. سرم را اندکی نزدیک بردم و گفتم «کنجکاوی» به دادت نمی‌رسد. دیگر عرق بر پیشانیش نشسته بود. گفت چه کار کنم؟ گفتم اگر قبول داری چه شکرهایی خورده‌ای، مکتوبش کن و تقاضای بخشش کن. بی‌درنگ قلم و کاغذ خواست و تند تند نوشت.

در همین اثنا رئیس دانشکده من را به بیرون از اتاق صدا زد. تعجب کردم که به چه مناسبت شخصا قدم رنجه کرده؟
بیرون که رفتم دیدم شخص دیگری هم همراهش هست. گفت بابک این آقا از بخش ضد تروریسم فلان جا آمده است. طی تحقیقات دیگری کاشف به عمل آمده این دانشجو در شبکه‌های اجتماعی از عکس پروفایلی استفاده می‌کند که بسیار شبیه به پرچم داعش است. فلذاست که این آقا هم در جلسه حضور خواهند داشت. شما هم وقتی کارتان تمام شد از اتاق بیرون بروید. وقتی برگشتم بنتر دو صفحه کامل اقرار کرده بود. ختم جلسه را اعلام کردیم و گفتیم ما می‌رویم ولی ایشان فعلا تشریف داشته باشند. (۴/۵) 👇

پرده‌ی سوم
در ماه دسامبر نامه‌ای از طرف رئیس دانشکده به دستم رسید که در آن دستور داده بود در جلسه‌ی کمیته‌ی انضباطی Disciplinary Meeting شرکت کنم. معمولا در هر ترم تحصیلی یکی دو باری ممکن است از من بخواهند در چنین جلسه‌ای شرکت کنم. اما لحن این نامه متفاوت بود. به من ماموریت داده بودند که در مقام داور فنی-علمی نظر خود را درباره‌ی تخلف یک دانشجو اعلام کنم. چون این دانشجو حساب‌های کاربری دانشگاه را هک کرده بود.
با خواندن موارد اتهامی حس دوگانه‌ای در من به وجود آمد. از یک سو با خودم می‌گفتم که این دیگر چه احمقی است که به خودش جرات داده در این دپارتمان و زیر چشمان تیزبین متخصصان همین رشته چنین خبطی بکند و از سویی دیگر تحسینش می‌کردم که به بالاخره سرفصل‌های آموزشی توانسته مخ یکی را به کار بیندازد. اسم دانشجو «پنتر» بود. رئیس دانشکده غیر از من پنج نفر دیگر را هم ملزم کرده بود در آن جلسه شرکت کنند. به من اطمینان داده بود جزئیات و سیاهه‌ی Log فعالیت‌های مخرب دانشجو را در روز موعود در اختیارم خواهد گذاشت.

بالاخره روز موعود فرارسید. صبح دیدم واحد حقوقی دانشگاه ای‌میل مفصلی برایم فرستاده، شامل ضمائمی که از پرونده‌ی مزبور ضمیمه کرده بودند. در گزارش آمده بود پنتر داستان ما با سه مورد اتهام مواجه بود. اول تلاش برای کشف توپولوژی شبکه‌ی داخلی دانشگاه و نفوذ به اکانت‌های هم‌‌کلاسی‌هایش در دامنه‌ی دانشجویی. دوم تلاش برای هک شبکه‌ی بی‌‌سیم دانشگاه به کمک یک کارت شبکه‌ی بی‌سیم که قابلیت تزریق بسته‌ی داده Packet injection را دارد. سوم استفاده از وب‌کم و پخش زنده‌ی کلاس‌های دانشگاه در دیسکورد.

برای هر سه مورد اتهامی مدارک متقن و غیرقابل‌انکاری وجود داشت. وظیفه‌ی من بازپرسی از پنتر درباره‌ی انگیزه و دلایل ارتکاب این جرائم بود. اگر پنتر اقرار می‌کرد که این کارها را کرده، اقرارش ثبت می‌شد و من داوری نهایی را به رئیس دانشکده و واحد حقوقی دانشگاه ارسال می‌کردم.

اعضای پنل همگی در اتاق جلسه حاضر شده بودیم و وظایف هر کس از قبل مشخص شده بود. یکی میرزا بنویس یا همان منشی جلسه بود، دیگری باید به متهم تفهیم اتهام می‌کرد، دیگری جلسه را می‌گرداند و الخ. همه چیز حاضر بود و فقط منتظر بودیم جناب پنتر از راه برسد. بالاخره انتظارمان به سررسید و دانشجوی خاطی وارد شد. پنتر از در درآمد و لبخند فاتحانه بر لب عین چناری مقابلمان ایستاد. به آن‌چه چشمانم می‌دید شک داشتم. دوباره پرونده را بررسی کردم که ببینم نام دانشجوی خاطی را درست خوانده‌ام؟! اسمش را پرسیدم. با لهجه‌ی عربی گفت «بنتر». هکر متخلف دانشگاه، بنتر، همان عمر بن عبدود با چفیه‌ی صورتی است. گفتم بنشین.

جلسه رسما آغاز شد و برایش شرح دادند که موضوع جلسه چیست. در اثنای صحبت هر از گاهی نیشش تا بناگوش باز می‌شد و لبخند حرص‌درآری می‌زد. برای آرام کردن خودم می‌گفتم لابد لبخند هیستریک است. نوبت من شد و پرسیدم چرا به روش آزمون و خطا و غیر مجاز می‌خواستی به اکانت‌های هم‌کلاسانت دسترسی داشته باشی؟ از در انکار وارد شد و گفت من چنین کاری نکردم. اسلایدهایی را که درباره‌ی ساعت، دقیقه و توالی دستوراتی که اجرا کرده بود ساخته بودم، نشانش دادم. گفت صرفا از روی کنجکاوی بوده و شروع کرد درباره‌ی اهمیت کنجکاوی و کاوش علمی داد سخن دادن. صبر کردم افاضاتش تمام شود. بعد گفتم اگر من این خودکار را در شکمت فرو کنم و در پاسخ به اعتراضت بگویم که صرفا کنجکاو بودم ببینم با خودکار می‌توان شکم کسی را سوراخ کرد یا نه، از من می‌پذیری؟

گفت در مثالی که زدی قبح عمل از پیش برایت روشن است. اما من نمی‌دانستم اجرای این فرامین بالذات مغایر قانون است. گفتم تو ملزم به حضور در جلسات Welcome Week بوده‌ای و طبق ثبت و ضبط صورت‌گرفته در آن شرکت کرده‌ای. گفت بله. گفتم در یکی از جلسات آن هفته تمامی مخاطرات امنیتی و حریم شخصی مربوط به مباحث امنیت سایبر به شما آموزش داده شده است. چیزی نگفت. ادامه دادم چون اسلایدها را من تهیه کرده بودم، یادم هست حتی درباره‌ی اجرای دستور Ping هم هشدارهای لازم را گنجانده بودم. با سر تایید کرد که از قبل می‌دانسته چه خلافی را مرتکب می‌شود. (۳/۵) 👇

مثلا فرض کنید که از یک مدل زبانی بخواهید فرآیندی را به شما توضیح دهد. به‌جای این‌که بنویسید:
Explain the process of “موضوعی که می‌خواهید مدل زبانی برایتان فرآیندش را توضیح دهد”
بنویسید:
As a lecturer, Explain the process of “موضوعی که می‌خواهید مدل زبانی برایتان فرآیندش را توضیح دهد” for a master student in Psychology.

۴- بکارگیری اصلاح‌کننده‌ها در Prompt: باید در Promptهایتان کلمات یا عباراتی را درباره چگونگی انجام کار محول شده به مدل زبانی بگنجانید. به این کلمات Modifier می‌گویند. مثلا به‌جای این‌که بنویسید:
As a lecturer, write an email to my student discussing his absences.
بنویسید:
As a lecturer, write an informal and short email to my student discussing his absences
اینجا دو کلمه informal و short اصلاح‌کننده‌های ما هستند که لحن و کیفیت خروجی را مشخص می‌کنند.

۵- در Prompt هایتان همیشه از مدل‌های زبانی بخواهید تا بیش از یک پاسخ (خروجی) برایتان تولید کند. این تکنیک باعث می‌شود مدل زبانی انبوهی از پاسخ‌های محتمل را برایتان تولید کند و هر یک از آن‌ها صورتی از صور پرسش شما را بکاود. مثلا به‌جای این‌که بنویسید:
Generate an interview question about a job in “data science”
بنویسید:
As an employer, generate three questions for a job interview for “Data Scientist” position in “a cyber security” related company.

۶- زنجیره‌ی Promptها رمز موفقیت شماست. در Prompt هایتان همواره به دنبال پالایش زنجیره‌ی دستورات خود در انجام Taskهایتان باشید. همان‌گونه که قبلا هم اشاره شد هرگز به نوشتن یک یا دو Prompt و پاسخ‌های ابرمدل‌های زبانی به آن‌ها راضی نباشید. با گرفتن هر پاسخی به Prompt قبلی خود سعی کنید کمبودهای پاسخ تولیدشده را با طراحی Prompt دیگری از ابرمدل زبانی بخواهید.

۷- از تکنیک Chain of Thought غافل نشوید. این تکنیک از ابرمدل زبانی می‌خواهد تا استدلال یا فرایند انجام وظیفه‌ی محول‌شده‌ به او را قدم به قدم برای شما توضیح دهد. چنین شرح مبسوطی نه تنها باعث شفافیت فرایند استنتاج مدل زبانی می‌شود، بلکه از بین‌برنده‌ی ابهامات و حتی آشکارکننده‌ی خظاهای محاسباتی یا منطقی مدل‌های زبانی خواهد بود. مثال:
As a researcher in AI, I am conducting a research on “optimising neural network for image classification”. Explain step by step how to approach the problem of “overfitting”, including the reasoning behind each solution.

در این Prompt؛ درخواست برای خروجی به صورت تشریح قدم به قدم و توضیح دلیل پشت آن، مدل زبانی را مجبور می‌کند تا به تشریح منطق پشت انجام این وظیفه‌ی محول‌شده بپردازد.

۸- آموزش دادن مدل زبانی با چند مثال (few-shot-training): ترجمه‌ی لغوی این تکنیک چیزی شبیه این است: «تمرین با چند پیمانه». در این روش شما سعی خواهید کرد تا ابرمدل زبانی با نوشتن Prompt آموزش دهید که چگونه وظیفه‌ای را که از او می‌خواهید انجام دهد، برایتان بهبود دهد و به آن سامان بخشد. مثلا می‌توان از این تکنیک در آموزش یک مدل زبانی برای تحلیل احساسات (Sentiment Analysis) در متن استفاده کرد:

Classify the sentiment of the following sentences as Positive or Negative:

1. "I love this product!" -> Positive
2. "This is the best day ever!" -> Positive
3. "I am so disappointed with this." -> Negative
4. "This is absolutely terrible." -> Negative
   حال اگر بپرسید که:
5. "The service was great, I will come back!" ->
   پاسخ می‌گیرید:
   Positive!

به نظرم اگر چهار نکته‌ی فوق‌الذکر (که برای نکته‌ی چهارم ۸ تکنیک در اینجا بحث شد) را به هنگام مواجهه خود با ابرمدل‌های زبانی نظیر ChatGPT یا Gemini و امثالش لحاظ کنید، می‌توانید قدرت واقعی این زیرمجموعه از هوش مصنوعی مولد را در زندگی خود ببینید و از پیشرفت علم متلذذ و بهره‌مند شوید. (۶/۶)
@onejot

پرده‌ی آخربا تمام این تحولات اما وضعیت ما در ایران دستخوش تغییرات شگرفی نشده است. به عبارت دیگر هنوز اراده‌ی ملی در حوزه‌ی توسعه‌ی ابرمدل‌های زبانی حول زبان فارسی شکل نگرفته است.
آنچه امثال من به آن دل‌بسته‌ایم گسترش آگاهی و آموزش عمومی است تا شاید با ارتقاء سطح سواد هوش مصنوعی در جامعه ارتقاء سطح مطالبه‌گری راه را بر سوء مدیریت‌ها ببندد. به همین منظور نکاتی را سفارش می‌کنم و امید دارم با ارتقاء سواد عمومی خود در به‌کارگیری هوش مصنوعی مولد استانداردهای زندگی مجازی خود را ارتقاء بدهند:

نخست آن‌که تا اطلاع ثانوی بهینه‌ترین راه ارتباطی شما با ابرمدل‌های زبانی از طریق طراحی دستورات موسوم به Prompt به زبان انگلیسی است. بازدهی این مدل‌های زبانی به زبان انگلیسی قابل مقایسه با استفاده از آن به زبان فارسی نیست. پس لاجرم اگر دقت و کیفیت خروجی این مدل‌ها برایتان اهمیت دارد، به زبان انگلیسی با آن‌ها تعامل کنید و دست آخر خروجی‌هایشان را به زبان فارسی ترجمه کنید.

دوم این‌که مدل‌های زبانی برای کندوکاو در وب طراحی نشده‌اند. هر چند در یک‌سال گذشته به این دلیل که استفاده‌ی نابه‌جا از این مدل‌های زبانی و فرکانس بالای پرسش‌هایی شبیه وب‌گردی، سازندگان این سرویس‌ها را بر آن داشته است تا جست‌وجوی وب را نیز در کنار پردازش مدل زبانی ارائه دهند. ولی همچنان این توصیه‌ی موکد پابرجاست که: مدل‌های زبانی برای سوالاتی از قبیل این‌که کدام پادشاه در چه سالی مرد یا به تخت نشست یا مساحت فلان کشور چند کیلومتر مربع است؟ یا مزامیر داوود چند کتاب را مشمول می‌شود و... طراحی نشده است.

سوم اینکه هنگام کار با مدل‌های زبانی باید صبور بود. امکان آن‌که شما برای انجام یک‌کار بتوانید با یک Prompt به مقصود خود برسید تقریبا صفر است. باید آهسته و پیوسته تلاش کنید گاهی برای انجام یک کار نیاز به نوشتن ۸ الی ۹ Prompt دارید. هنگام کار با مدل‌های زبانی باید نتیجه‌گرا باشید و به کاوش روی باز نشان دهید.

چهارم این‌که باید از طراحی دستورات به صورت اتمیک و استاندارد پرهیز کنید. با آن‌که اینترفیس مدل‌های زبانی باهوش‌تر شده و لکنت زبانی موجود در Promptها را تشخیص می‌دهند، دیگر زمان آن گذشته که برای انجام کارهای خود توسط مدل‌های زبانی مانند ChatGPT دستوراتی مانند Write و Generate و Create استفاده کنید. باید پا را فراتر گذاشت. پیشنهاد من این است که دیگر انواع Promptها را امتحان کنید:

۱- مانند Promptهای دستوری: باید در Promptهای خود دستورالعمل‌های صریح با لحاظ کردن نقاط تمرکز مشخص باشد. مثلا برای خلاصه کردن یک مقاله بجای Prompt زیر:

summerize the attached file
این‌گونه بنویسید:
write a review of the attached file focusing on on “زاویه نگاهی که می‌خواهید این مقاله را از جهت آن خلاصه کنید”

۲- استفاده از Promptهای نقش‌محور: مدل زبانی را وادارید تا یک نقشی را در زمینه‌ی کار شما بازی کند. مثلا اگر دانشجو هستید و می‌خواهید نامه‌ای به سوپروایزر خود بنویسید به‌جای این‌که بنویسید:
write an email asking “مقصودتان از نوشتن نامه”
این‌گونه بنویسید:
As a PhD student, write an email to my supervisor asking “مقصودتان از نوشتن نامه”

۳- بکارگیری Promptهای مخاطب محور: برای مدل‌های زبانی مشخص کنید که مخاطب خروجی مدل‌زبانی کیست.
(۵/۶)??
@onejot

از رهگذر چنین پیشرفت‌هایی است که حالا صدای ماشین‌های خودران به وضوح و در همین نزدیکی‌ها شنیده می‌شود. مثلا شرکت Waymo که خود از السابقون این حوزه است ابایی ندارد بگوید که از همین ویژگی Multimodal بودن Gemini شرکت گوگل نهایت بهره را در طراحی مدل هوش مصنوعی ماشین‌های خود برده است و تا حدقابل اطمینانی توانسته دقت و کارایی سیستم مسیریابی و تشخیص مانع خودروهایش را ارتقاء دهد. البته اگر خودروی خودران هنوز در دسترس من و شما نیست، شاید برای ما کاربران معمولی، سرویس NotebookLM شرکت گوگل مظهر استفاده از منابع داده‌ای چندرسانه‌ای برای انجام کارهای روزمره‌مان باشد که خوشبختانه این دیگر در دسترس است.

اما آنچه برای من بیش از هر چیز اهمیت دارد موج Open Source ای است که در دنیای ابرمدل‌های زبانی به راه افتاده است. هرجا تشکیلات متن-باز راه افتاد خلاقیت و شکوفایی آنجاست! این تجربه‌ی زیسته‌ی بیش از چهاردهه‌ی من است. اگر بخواهم در دنیای سایبر حوزه‌ای را از این سور عمومی منفک کنم شاید تنها بخش‌هایی از امنیت سایبر باشد. خوشبختانه دنیای ابرمدل‌های زبانی از این قاعده مستثنی نمانده‌اند. احتمالا برجسته‌ترین تلاش‌ها هم در این حوزه مربوط به ابرمدل زبانی LLAMA باشد. گویی مارک زاکربرگ می‌خواهد کفاره‌ی گناهانش را ( در ارتباط با فروش داده‌ی مردم در فیسبوک به شرکت Cambridge Analytica) بدهد. البته که او در این راه تنها نیست؛ شرکت مایکروسافت هم مدل‌های زبانی متن-باز عرضه کرده است؛ با نام Phi!

گوگل هم با Gemma! جنبش متن-باز؛ موتور پیشران پدیده‌ی میمون دیگری است به نام مدل‌های زبانی کوچک (Small Language Models). این SLM‌ها به علت سایز کوچکشان قابلیت استقرار بر روی کامپیوترهای شخصی را دارند و به همین دلیل گزینه‌های بسیار مناسبی هستند برای آموزش این مدل‌ها با داده‌ی شخصی و تدقیق آن‌ها برای به‌کارگیری در حوزه‌های تخصصی‌ای نظیر بورس، درمان، آموزش و غیره باشد. از این جا می‌خواهم به نکته‌ی مهم دیگری که در سال گذشته جلوه کرده است اشاره کنم.

شخصی‌سازی هوش مصنوعی مولد که بیش از همه مرهون نهضت متن-باز و SLMهاست، از رویش‌های یک سال اخیرِ دنیای هوش مصنوعی مولد در حوزه مدل‌های زبانی است. صدها استارتاپ با ایده‌های جاندار که مبتنی بر Fine-Tunning و شخصی‌سازی مدل‌های زبانی (بزرگ و کوچک) هستند شکل گرفته است. عنصر محوری در همه‌ی این کسب و کارها استفاده از یک مدل زبانی است. شاید برخی را در فروشگاه‌های اپلیکیشن اندروید یا اپل دیده باشید. یکی برایتان فیلم زیرنویس می‌کند دیگری برایتان (و به جایتان)در بورس تجارت می‌کند. آن یکی کمک می‌کند برای تدریس یا ارائه‌ی مطلب، از دست‌نوشته‌ها و فایل‌های صوتی و تصویری اسلاید بسازید و الخ!

البته اپلیکیشن‌ها و سرویس‌های رایج (و قدیمی) در حوزه‌های گوناگون هم از این موج شخصی‌سازی بی‌نصیب نمانده‌اند. شاهد این مدعا بهبود چشمگیر سیستم‌های توصیه‌کننده (Recommender System) در اپلیکیشن‌ها یا سرویس‌های مجازی است. یا ارتقاء سیستم‌های مدیریت (یا پشتیبانی) مشتریان یا قابلیت‌های تعاملی آن‌ها با پشتیبانی از ورودی چندرسانه‌ای! (۶/۴) ?
@onejot

پرده‌ی دوم
راهی که در یک سال اخیر و پس از انتشار یادداشتم به مناسبت نخستین سالروز تولد ChatGPT پیموده شده در مقایسه با سیر خطی پیشرفت‌های تکنولوژیک در حوزه‌های دیگر حیرت‌انگیز است. اگر بخواهم به مطایبه بگویم گویی مدل تغییرات چیزی بین خطی و غیرخطی است. کافی است مثلا به قدرت استنتاج و حل مساله در به‌روزرسانی‌های یک سال اخیر ابرمدل‌های زبانی نگاه کنیم. هوش از سر انسان می‌برد.

اگر رندی کنید و با استفاده از تکنیک‌هایی نظیر Chain of Thought از این مدل‌ها بخواهید که مقر بیایند و بگویند که چگونه برایتان صغری و کبری کرده‌اند، خواهید دید که رسما با مدل هوشمندی طرف هستید که شفاف است و پاسخگو و جزئیات استنتاج خود را نیز مو به مو برایتان شرح می‌دهد؛ آن هم با کیفیتی که شاید دچار این توهم شوید که دارید از یک سیستم Explainable AI استفاده می‌کنید.

همین یک فقره قدرت استنتاج می‌تواند برای شما نقش یک دستیاری را بازی کند که واجد توانایی تفکر انتقادی است و خدا می‌داند که اگر به من و شما ذره‌ای از آن شیوه‌ی تفکر را داده بودند، چه سیرهای آفاق و انفسی که نمی‌کردیم! شاید روزی در همین کانال درباره‌ی کاربرد هوش مصنوعی مولد در تفکر انتقادی نوشتم. قدرت استدلال و موشکافی ابرمدل‌های زبانی در ابطال اوهام و تلبیس، و البته تدلیس، دکان بسیاری از شیادان در شئونات مختلف زندگی و به‌ویژه مذهب و شبه علم (در ایران هنوز عده‌ای دکاندارشان هستند) را خواهد بست.

در این سالی که گذشت مثلا همین کمپانی OpenAI که چت‌جی‌پی‌تی را به دنیا عرضه کرده، با معرفی مدل دیگری به نام توت‌فرنگی چرت همه را پاره کرد. توت‌فرنگی قادر است در مسائل بسیار پیچیده (مثل مسائل دشوار ریاضی) به‌صورت استدلالی راه حل ارائه نماید. همین توت فرنگی توانسته اعضای کمیته‌ی امنیت ملی آمریکا را متقاعد کند که ابزار کارامدی در تدوین استراتژی‌های بلندمدت و کلان است. شاید هم همین امر موجب شده که معرفی عمومی این ابزار به تعویق بیفتد. این‌که در مدل آتی چت‌جی‌پی‌تی تا چه میزان از این هوش استنتاجی استفاده شود پرسشی است که عوامل تحدیدکننده‌ی خارجی پاسخ را معلوم خواهند کرد.

ریشه‌ی ارتقاء توان استدلال مدل‌های زبانی، استفاده از تکنیکی به نام Self Taught Reasoning است. در تکنیک استدلال خودآموز با استفاده از انجام فرآیندی تکراری برای تولید و بهبود استدلال‌ها، توانایی استدلال مدل‌های زبانی تقویت می‌‌شود. برای این منظور یک مدل زبانی آموزش‌دیده (LLM) با نمونه‌های محدودی از استدلال‌ها، وادار به تولید استدلال‌های گام‌به‌گام برای حل مسائل می‌شود. سپس استدلال‌های تولیدشده فیلتر شده و فقط استدلال‌هایی که منجر به پاسخ صحیح می‌شوند، پذیرفته و حفظ می‌گردند. برای مسائلی که مدل موفق به ارائه‌ی استدلال (منتج به پاسخ صحیح) نمی‌شود، با استفاده از پاسخ صحیح، استدلال‌های جدیدی ایجاد می‌شود (که به آن منطق‌سازی می‌گوییم) و در نهایت مدل بر روی داده‌های جمع‌آوری‌شده از استدلال‌ها (استدلال‌های ارائه‌شده از سمت خودش و انسان) آموزش می‌بیند و این فرآیند در یک چرخه به‌صورت تکراری انجام می‌شود.

به بیان غیرعلمی، چیزی شبیه تلفیق تکنیک‌های Chain of Thought و Few-Shot-Training در مقیاس بزرگ و بر روی داده‌ی استدلالی و منطقی بزرگ! حتی بدون این پیشرفت‌ها همین نسخه‌های موجود ابرمدل‌های زبانی در حل مسائل ریاضی یا امتحانات پزشکی (مبتنی بر تشخیص بیماری و پیشنهاد درمان) کارنامه‌ی خوبی از خود بر جا گذاشته‌اند. حالا فرض کنید که اگر پای چوبین استدلالی آن‌ها با تکنیک‌هایی مانند استدلال خودآموز تقویت شود، شاهد چه دستاوردهایی خواهیم بود!

نکته‌ی مهم دیگری که سال گذشته خودنمایی می‌کرد، روی آوردن اکثر ابرمدل‌های زبانی (نظیر GPT؛ LLAMA؛ Gemini و…) به رویکرد چندرسانه‌ای است. اگر در ابتدا تنها راه ارتباطی با موتور این مدل‌ها فقط از طریق متن و چت کردن بود، حالا دیگر این مدل‌ها دارند در پذیرفتن انواع دیگر داده‌ی ورودی از کاربر از یکدیگر سبقت می‌گیرند. دیگر شما می‌توانید با این ابرمدل‌ها حرف بزنید؛ تصویر خود را بارگذاری کنید یا متن مقاله‌ی خود را (PDF یا Docx) ضمیمه کنید و ورودی‌هایتان را با هر تنوع داده‌ای که دارند در خدمت یک هدف (یا Task) ردیف کنید.

هرچند کارایی این ابرمدل‌های زبانی در پردازش تصاویر (در استخراج -یا تبدیل- تصویر به متن یا استخراج مفهوم از تصویر) یا در پردازش صوت‌ (تبدیل دقیق صوت به متن) مانند هم نیست، اما جوابگوی نیازهای روزمره‌ی ما هستند. شاید متوجه شده باشید که این پیشرفت‌های بالادستی تبعات مثبت پایین‌دستی هم داشته‌اند. مثلا پیشرفت در حوزه‌ی NLP (پردازش زبان طبیعی) که نتایجش را مستقیما می‌توان در کاربردهایی مانند ترجمه‌ی ماشینی دید. سرویس‌های ترجمه‌ی ماشینی رشد شگفت‌آوری کرده‌اند. همچنین سرویس‌های تبدیل عکس به متن و امثالهم. (۶/۳) ?
@onejot

گفت این سیستم از ترم تحصیلی گذشته به کار گرفته شده است و دانشگاه از من خواسته با انجام یک پژوهش، تاثیرات آن را بر یادگیری متعلمان بسنجم و خب چه کسی بهتر از تو؟!

آمدم بگویم انجام چنین پژوهش‌هایی (در سطحی که او تشریح کرد) که پرسشنامه‌محور هستند دیگر نیازی به اتلاف وقت من و شما ندارد و می‌توان به یک دانشجوی کارشناسی ارشد سپرد که یادم آمد اکنون خودم یک دانشجوی کارشناسی ارشد هستم! ناچار تیر آخر را در چله گذاشتم و رندانه گفتم استاد چه فرق ماهوی‌ای میان پیشنهاد من و شماست؟ در هر دوی این پژوهش‌ها ما به دنبال بررسی تاثیرات هوش مصنوعی در آموزش هستیم. در پاسخ گفت آنچه را که کاش نمی‌گفت! گفت هوش مصنوعی مولد آن‌قدر بالغ نشده است که من بخواهم به او نقش محوری در آموزش و یادگیری بدهم و در تمامی پرسش‌های پژوهشی که تو مطرح کردی، هوش مصنوعی مولد فعال ما یشاء است و آموزش و یادگیری نقش پسینی دارند و فرضیه‌ی پژوهشی تو در آن‌ها چه رد شود چه تایید، نتیجه‌ی پژوهش رسمیت دادن به هوش مصنوعی مولد در این حوزه است؛ چیزی که اکنون از نظر زمانی زود است.

در ادامه جمله‌ی دیگری هم گفت که بیشتر آتشم زد: و این‌چنین که تو خیز برداشته‌ای فرضیه‌های پژوهشیت هم تایید خواهند شد که در آن‌صورت نام من به عنوان تاییدکننده‌ی پژوهش به آن یافته‌های ناصواب در مجامع علمی ضریب می‌دهد. این جمله آخری را با لبخند شیطنت‌آمیزی بیان کرد تا زهر کلام را بگیرد. بلافاصله گفتم نمی‌دانم از کجای توضیحات من چنین برداشت کرده است که من نسبت به فرضیه‌ی پژوهشی خودم تعصب پیشینی دارم. اما دیگر اصراری بر تصویب آن پرسش‌ها ندارم. ادامه دادم که همین پژوهشی را که او می‌گوید، حاضرم انجام دهم. خوشحال شد و گفت همواره می‌خواسته این پژوهش را کسی انجام دهد که در حوزه‌ی هوش مصنوعی تخصصی داشته باشد. بقیه‌ی آن ملاقات به طراحی یک زمانبندی برای انجام پژوهش گذشت…

هنگامی که پای خود را از دفتر خانم پروفسور بیرون گذاشتم لبریز از خشم بودم. خشمگین از حجم مساله‌نافهمی! خشمگین از تعصبات علمی! و خشمگین از غرور علمی این‌که تو در نحله‌ای از نحل علمی متخصص باشی و چنان به خود غره شوی که در حوزه‌ی دیگری از علم به خود اجازه دهی قاطعانه حکم کنی! فشارهای ناشی از این خشم باعث شد که یک تصمیم جاهلانه بگیرم. مصمم شدم همه‌ی این پژوهش را که مبدل به پایان‌نامه‌ام خواهد شد، با کمک هوش مصنوعی مولد انجام دهم. قسم خوردم جز نام خودم حتی یک کلمه در پایان‌نامه از آن من نباشد!

به‌عنوان یک دانشگاهی واقف بودم که در صورت شکست این کار یا لو رفتنش نه‌تنها مدرک فوق لیسانس به فنا می‌رود؛ بلکه حتی ممکن است به جرم سرقت علمی ادامه‌ی کار آکادمیک من در انگلستان با مشکل مواجه شود.
اما شد آنچه که شد. خوب یادم هست که تمامی مراحل پژوهش از فرموله کردن پرسش تا برکشیدن متغیرهای وابسته و پیوسته و Confounding تا انجام و نوشتن مرور ادبیات پژوهش به صورت انتقادی تا طراحی پرسش‌های متناظر با متغیرها برای پرسشنامه تا طراحی مدل نمونه‌گیری و حتی طراحی اینترفیس جمع‌آوری داده (از پرسش‌نامه‌های پسینی و پیشینی) و جمع‌آوری داده و البته انجام آزمون‌های آماری سنجش پایایی و… تحلیل نتایج و حتی خلاصه و جهت‌گیری آینده‌ی پژوهش را با کمک ابرمدل‌های زبانی (با بهره‌کشی از سه ابرمدل GPT ‌؛ LLAMA و Gemini در یک محیط چندعاملی و تعاملی) تماما انجام دادم و برای این‌که قسمم راست دربیاید تنها کلمه‌ای که از خودم بر جبین پایان‌نامه نشاندم، دکتر بابک حکمت بود!

با عشق این پژوهش را به خود پروفسور تقدیم کردم ولی شرم کردم که به رسم معهود خود که در آغاز هر متن علمی‌ای که می‌نویسم نام حضرت حق را در پیشانی آن قرار می‌دهم عمل کنم. جالب است بگویم پایان‌نامه‌ی سنتزشده دارای یک درصد تشابه با متون علمی بود! حدس بزنید نتیجه چه شد؟ دکتر بابک حکمت موفق به دریافت مدرک کارشناسی ارشد از آن دانشگاه معروف دنیا شد و توانست با نمره‌ی عالی (Distinction) فارغ‌التحصیل شود!

استادم که خود از نامداران رشته خودش در دنیاست به پژوهش من می‌نازد و اصرار هم دارد که به زودی آن را مقاله کنم! هرچند این راز تا زنده‌ام سر به مهر خواهد ماند اما آنچه فاش و عیان شد عمق ناآشنایی جامعه‌ی علمی با پدیده‌ی ابرمدل‌های زبانی است. (۶/۲) ?
@onejot

به بهانه‌ی دوسالگی چت‌جی‌پی‌تی
هشیوار و بیدار و بسیارویر*

پرده‌ی اول

در سالی که گذشت به یاد عهد شباب تصمیم گرفتم دوباره دانشجو شوم. اما این‌بار دانشجوی رشته‌ی معلمی!
در انگلستان برای این‌که بتوان به‌عنوان استاد دانشگاه استخدام شد، باید علاوه بر مدارک تحصیلی مرتبط با حوزه‌ی تدریس، متقاضی کار مدرکی با عنوان PGCE ارائه دهند. این واژه‌ی مختصر سرنام عبارت Postgraduate Certificate in Education است. ترجمه‌اش می‌شود چیزی شبیه «گواهی تحصیلات تکمیلی در آموزش». فرض بر آن است که دارنده‌ی چنین گواهی‌ای شرط لازم برای شروع به کار در آموزش عالی در کسوت معلمی را دارد (هر چند که من معتقدم جوهره‌ی معلمی بیشتر ذاتی است تا اکتسابی!). برای اخذ چنین گواهی‌ای نیاز به گذراندن یک دوره تقریبا دو ترمه است؛ چیزی حدود شصت واحد آموزشی.

اما از آنجا که علم برای خود درجاتی دارد و از دانش‌آموزی فراغتی نیست، برخی استادان هوس می‌کنند که ۱۲۰ واحد دیگر هم پشت سر بگذارند و در مجموع یک مدرک ناقابل فوق‌لیسانس در رشته‌ی آموزش -در تحصیلات تکمیلی- بگیرند. شاید به مثابه جوری جنس، روزی به کار آید و خب این دومی همان داستان متعلمی من در سال گذشته بود.

برای این منظور یک دانشگاه بسیار خوب در انگلستان را انتخاب کردم. از آن دانشگاه‌هایی که در زمره‌ی ده دانشگاه برتر دنیاست و پس از انجام مراحل ثبت نام مثل یک بچه‌ی خوب در کلاس‌ها شرکت کردم. خوبی شرکت در این کلاس‌ها این است که همکلاسی‌هایت هم تقریبا هم‌سن و سالت هستند و البته هم‌کسوت و همکار نیز هستند! این‌که همه‌ی دانشجویان کلاس، خود در جای دیگری استاد هستند محاسنی دارد. مثلا نوبتی چرت می‌زنند و در تشخیص تکنیک‌های مدیریت استادان تبحر دارند، چشم و هم‌چشمی درکارشان نیست و مهم‌تر از همه این‌که فضا بسیار محترمانه و حرفه‌ای است.

برای انتخاب موضوع پایان‌نامه دغدغه‌ای نداشتم چون حتی قبل از شروع دوره به این فکر می‌کردم که چه حیطه‌ی پژوهشی‌ای مهم‌تر از نقش هوش مصنوعی مولد در آموزش؟! ذیل چنین حیطه‌ای پژوهشی چندین پرسش پژوهش جاندار فرموله کرده بودم که مو لای درز درستیشان چه به لحاظ بداعت، مختص‌بودن، قابل انجام بودن و الخ نمی‌رفت. اساتید را هم حسابی زیر نظر داشتم تا گلشان را برای خود سوا کنم و البته اینکار را کردم. کمیت‌های علم‌سنجی در کارنامه استادی که من زیر نظرش گرفته بودم به حدی بالا بود که مثلا باید تمامی کمیت‌های مشابه کارنامه علمی خود را در عددی شبیه دو یا حتی سه ضرب می‌کردم تا مانند او می‌شدم.

یک خانم پروفسورتمام با h-index ای جادویی که البته شباهتهای ظاهری زیادی با مادربزرگم داشت. از آنها که مانند آنگلا مرکل لباس می‌پوشند و البته به سختی هم می‌خندید ولی در تخصص خودش کتبی نوشته بود که از آمریکای شمالی گرفته تا کره جنوبی کتب مرجع دانشگاهی شناخته می‌شوند. از او وقت گرفتم ‌و به دفترش رفتم. برایش یک جلد ترجمه اشعار عمرخیام هم تهیه کرده بودم که دست‌خالی نباشم. دقایقی به خوش و بش گذشت و از دانشگاه محل خدمتم پرسید. از شیوه تدریس Pedagogy محبوبم سوال کرد. اجازه خواستم تا درباره پرسش‌های پژوهشی مورد علاقه‌ام صحبت کنم. یکان یکان (به قول صالح علا) پرسش‌ها را با آب و تاب برایش شرح دادم به دقت گوش می‌کرد. حتی از قبل فکر این‌ را کرده بودم که پرسش‌ها را قلمی کنم و با فونت درشت برایش پرینت بگیرم و چنین بود که همزمان که داشتم درباره متغیرهای هر پرسش توضیح می‌دادم او هم از بالای عینک می‌خواند.

در پایان توضیحات من سرش را از روی کاغذ بلند نکرد اما از بالای عینک نگاهی کرد و گفت بابک بی‌خیال هوش مصنوعی شو! هوش مصنوعی مولد همه‌ما را دچار Hallucination کرده. گفتم جسارت نباشد اما همین توهم در جهان داده تا ۲۰۳۰ چنان عالم گیر می‌شود که داده مصنوعی تولید شده و مصرف شده از حجم داده تولید شده توسط انسان پیشی می‌گیرد. پرسید تو به داده مصنوعی اعتماد می‌کنی؟ گفتم تا کیفیتش چه باشد گفت ضوابط تشخیص کیفیت داده سنتز شده چیست؟ برایش به تفصیل شرح دادم گفت قبول داری که داده‌ای که امروزه تولید می‌شود به چنان استانداردی که تو از آن دم می‌زنی نرسیده است. آمدم بگویم آنقدر هست که بانگ جرسی می‌آید که نفس نداد گفت اینکه یک مدل زبانی کلماتی را تصادفی و کاتوره‌ای کنار هم می‌نشاند را نباید آنقدر جدی گرفت در حدی که برایش نقش تعیین کننده سلبی یا ایجابی در آموزش قائل شد. باز آمدم از تئو‌ریهای یادگیری و استنتاج و شباهت بینظیر ترنسفورمرها - به عنوان موتور پیشران این مدل‌های زبانی- با مغز انسان بگویم که بلافاصله گفت من برایت یک سورپرایز دارم. لبخند تلخی زدم ادامه داد به تازگی دانشگاه ما یک پلتفرم تعاملی برای آموزش از راه دور خریده است که مجهز به سرویس‌های مبتنی بر هوش مصنوعی است. (۶/۱) ?
@onejot

بیتی از خواجوی کرمانی:

نباشد به گیتی چو او یک دلیر
هشیوار و بیدار و بسیارویر

اینجاست که نمی‌توان به عنوان یک شهروند «ناامنی» را برای شخص دوم حاکمیت دستمایه‌ی طنز کنی و از همان حکومت تضمین امنیت خودت را بخواهی! نمی‌شود سیلی خوردن وزیر یک حکومت را در خیابان جشن بگیری اما خشم ناشی از پایمال شدن روزانه‌ی حرمت شهروندان همین حکومت را فریاد کنی! پس اگر مثلا «امنیت» به معنای موسع آن یکی از اولویت‌ها در منافع ملی است، شاه و گدا ندارد و برای همه‌ی آحاد مردم است. نمی‌شود در لجن‌پراکنی نسبت به حاکمان کشورت و حامیانشان در نزد بیگانه، برای جلب ترحم یا رسیدن به اغراض سیاسی اغراق کنی و توقع داشته باشی که بیگانه حریم و حرمت کشورت را پاس بدارد.

کشور ما به‌ویژه نخست در سطح نخبگانش نیاز به یک مفاهمه‌ی ملی و البته بین‌ نسلی در زمینه‌ی شناخت و احصاء منافع ملی دارد. این یک باید است! آنچه قبل و بعد از انقلاب ۱۳۵۷ به عنوان ارزش‌ها و منافع ملی از سوی حاکمیت‌ها مطرح شده و می‌شود، امروزه نزد اکثریت مردم ایران مقبولیت عام ندارد. باید این گسست ملی هرچه سریع‌تر اصلاح شود. اگر اکثریت مردم ایران روی عناصر سازنده‌ی منافع ملی خود اجماع کنند، آن‌وقت بسیاری از نابسامانی‌های امروز ایران رنگ می‌بازد. امیدوارم آن روز خیلی زود برسد. (۴/۴)
@onejot