10 yil bo’libdi. Shu platformasiz Germaniyaga kelmagan bo’lar edim.

?

Menga ham shu platforma yordam bergan. Men Amazonga apply qilmaganman, qolgan hamma kompaniyalarga apply qilgan paytimda. Amazon mani leetcode va profilinmi yangilaganim sababli topgan. 2022-yil yanvarda ozlari linkedin orqali chiqishgan. O'sha payt, 1 oydan keyin qaytib kelin deb javob berganman, va qogan FAANGlarga topshirib chiqanman

Agar student yoki kareerani boshlang'ich yo'llaridagi ijnener bo'lsangiz, Nuruddin Iminokhunov interview/podkastlarini maslahat beraman. Nuruddin injener, product va project manager bo'lib ishlagan (Ozbekistondan turib Meta corp. product specialist bo'lgan). Hozirga IT-kompaniya asoschi-boshqaruvchisi, podkastda O'zbekistondagi imkoniyatlar, injenerlarga talab/taklif va product/project manager ishi haqida fikr-mulohazalarini bo'lishadi. Yani yosh kadrlar imkoniyati, ish-talablarini yoritadilar. O'z professional (de fua) yo'llarini yoritadilar (spoiler - har doim harakat qilish kere). O'zim yana bir bor amin bo'ldimki, Super Dispatch istedotlarni kashf etadigan korxona.

YouTube

Podcast: Nuruddin Iminokhunov (Product Manager & GDG Lead)

Keyingi podcastimiz Product Manager soxasida ko'p yillik tajribaga ega va GDG communitysida yetakchi Nuruddin Iminokhunov bilan bo'ldi. Suxbat juda oson va silliq bo'ldi va men uchun mazza bo'ldi. Quyidagi qiziq mavzularni yoritdik: 00:00 Preview 00:45 Gullarni…

Nodir Turakulov is visitng Amsterdam's office.
For context: He is a Principal Engineer at AWS, and from Uzbekistan. He has teams in Amsterdam under his supervision ( my sister teams)

LLM, GPT va chatbot-ga kirish.

(3-minutlik material)

Amazon Q va ChatGPT ishlashini ko'rib chiqilaylik. Shunda ish o'rinlarimizni olmoqchi bo'lgan "AI" dushmani yaxshiroq bilib olamiz. Boshlashdan oldin - men ,ML/Data Science va AI larda chuqur
Ilmiy bilimlarim yo'q. Men dasturchi va Q-Servisini qurishda, bazaviy ML/AI tushunchalar, chatbotlarning arxitekturasi va ishlash printsiplarini o'rganganim bilan bo'lishaman.
Chatbotlarning o'zagi bu LLM - katta til modellari. Eshitgan bo'lsangiz kerak chatGPT 4 trillion token larga o'rgatilgan bo'lgan. Oddiy qilib etkanda token bu so'z + vektor, yani boshqa so'zlarga bog'liqlik darajasi. Misol "ilm" va "fan" so'zlari bir-birig mano jihatdan yaqin, va ko'p holarda birga ishlatiladi. Shunda LLM- da bu ikki so'z vektorlari ham "yaqin" qiymatlariga ega bo'ladi. LLM-ning So'z va Vektorlardan gap tuzish qobiliyati "Transformer Layerlar" dan kelib chiqadi. Ularni vazifasi ham oddiy - so'zlar ketma-ketligini grammatik, sinktatik va kontekst orqali bog'lash. Misol eng mashhur transformer layerlardan biri bu Attention layer - u so'rovdagi asosiy so'zlarni topishda va ularga weight ( o'lchov og'irligi ) beradi. Yana biri Embedding layer, so'zlarni syntaktik va semantik bog'ligini o'lchaydi( grammatika va kontekst). Chatgt-4 da 120 ta transforming layerlar ishlatilgan. Transformerlar Vektor parameterlari/o'lchamlarini boyitshdan tashqari, mavjudlarini ham to'girlab ketishadi.
GPT - generative pre-trained transformer - Tekst va unga o'xshash ma'lumotlar(misol kod) yaratishda LLM-dan foydalanib so'zma so'z bog'lanish tuzadigan arxitektura. Yani savolni ham parchalab o'qib, parchalab javob tuzadi. Misol: "eng kuchli kompyuter qaysi"
"Eng", "Eng kuchli", "eng kuchli kompyuter" va hakozo. Shu usulda u ikkilamchi, asosiy so'zlarni, ularning bog'liqligi, abstrakt/kontekst va hakozo parameterlarini yeg'adi. Va javob berishda ham so'zma-so'z ketma-ketlik tuzib har bir yangi so'zda transforming layerlarni yurg'izdirib chiqadi.
Shuning uchun ham chatbotlarda to'lov belgisi bu so'rov-javobdagi so'zlar/belgilar soni, chunki har biri uchun butun boshlik arxitektura yana boshidan ketma-ketlikda yurg'izdiriladi.
Chatgpt-ning texnologik innovatsiyasi ham shunda edi. Birdaniga javob berish o'rniga eng maqbul so'zlarni birin-ketin topish orqali gap tuzish. Shunda eng o'rinli so'zlar bilan ma'noli gap tuzish ehtimoli oshadi
LLM lar Foundation Model(FM) ustida qurilgan. Yani training paytida yeg'ilgan bilimlar, va inson aralashuvisiz bilim ustida bilim qurish orqali to'plangan token va vektor qiymatlarini ishlatadi. FM-lar Peta-bayt (million terrabayt) hajmdagi internet-tarmoqda mavjud bo'lgan informatsiya bilan o'rgatilgan. Har bir so'z uchun 120ta transformer algorithm-larni yurg'izish uchun kuchli kompyuterlar kerak. Lekin, xayriyatki, ular parallelashitiriladigan funktsiyalar. Parallel ishlash esa GPU xaritalar orqali juda oson. Va AI revolutsiyasi GPU va Data-Processing narxlarini oshirtirib yuborgan.

Keyingi qismda LLM-dagi topK topP va temperaturasi haqida gaplashamiz, chatbotlarning gallyutsinatsiya qilish sabablarini tushunamiz.

20 minut ?

Seniorlikka yo'l

Eski komandamni o'zgartirayotganimda o'zimdan ikki kala yuqori bo'lgan, L7, injenerlardan o'zim haqida feedback olgim keldi. O'zi L7-larni vaqti tig'iz bo'ladi, lekin yo'llarimiz chekinayotgani uchun rozi bo'lishdi. Ular oldiga qo'ygan savolim "2 yil ichida seniorlikka chiqish niyatim bor, nima qilishim kerak?".
Ular feedback va feedforward berishdi:
Feedback - L5 uchun majburiy bo'lgan, yuqori standardlar (code-quality, texnologik bilim kengligi, dokumentatsiya yozish) ishni vaqtida va hajmida(vazifa baho berish va ularni amalga oshirish) a'lo darajada bo'lishi kerak.
Feedforward -L6 bo'laman desang, jamoa senga ishonishi va malum bir qismida faqat senga tayana olib ish bajara olishi kerak (earn trust, Deliver through others). Texnik va jamoa qobilyati jihatdan sen chuqur bilimga ega bo'lishing kerak.
Ko'rib turganizdek shaffof bo'lmagan mazmun. Bunday feedbackdan keyin, vatandoshimiz, principal engineer, Nodir aka Turakulovga chiqishga qaror qildim. Ular bilan endi aws-ga kirganimda gaplashgan edim. Shu bilan bir hafta ichida bog'landik - vaziyatimni tushuntirdim , maqsadimni etdim. Bergan maslahat va mulohazalari bilan bo'lishaman:
⁃ code va texnik biliminga ikkilanish bo'lmaslik kerak.
⁃ Ishlayotgan vazifalar critical-path-da bo'lishi kerak. Design bosqichidan egalik qilsang, undanda yaxshi. Katta ish qilayotgan bo'lishin mumkin, lekin u hech kimga kerak emas bo'lsa, promotion olish qiyin
⁃ Ko'zga ko'rin, jamoa va leadership sani ovozingi eshitib turishi kerak
⁃ Jamoalar aro ishlashga harakat qil. Noming va tasirin yuqori bo'lishi ehtimoli yuqori bo'ladi.
⁃ Manager-ing bilan promotion va promotion plan haqida muntazam gaplashib tur. Maqsadini bilib, koproq ishonch berishga harakat qiladi.
Gap olakay, ular mening jamoam va servisimiz haqida eshitgan va qiziqqan ekanlar. Shuni hisobga olib L6 yo'lini batafsilroq va o'rinli qilib yoritib berdilar.

Big-tech da seniorlikka o'tish kamida 1-1.5yil oladi. Bu eng tez yo'lida , chunki kamida 6 oy seniorlik vazifasini oshkora (yani acting) bajarish kerak, yutuqqa erishgan yakun bilan. Qoshimchasiga 6 oy jamoa va boshliqlardan ijobiy feedback yeg'ishga va yangi kontraktga qo'l qo'yishga ketadi.

Amazondagi meetinglar

Trillion qiymatli bo'lishiga qaramay, amazon byurokratiyaga berilmay , startup madaniyatini saqlashga urinadi. Qaysidir darajada buni udalaydi. Ko'p holatda aws console-dagi bir sahifa bu kichik organizatsiya. Unda o'z tartiblari bo'ladi. Yani demo qilish, har 2 haftada bilim bilan bo'lishish - sys-admin(operational) bo'ladimi, sys-architecture bo'ladimi yoki yangi dastur(feature), ularni boshqalarga yoritib turish kerak.
Organizatsiya ichida, har bir injener Demo qilishi va jamoa nomidan yangiliklar/yutuqlar bilan bo'lishishi kerak, bunday majlislarda 50-100ta kishi qatnashadi (3-4 bosh yuqori bo'lgan boshliqlar bilan). Boshqalardan review/feedback/maslahat olish imkoni yaratiladi. Katta yutuq, o'rganish bo'lsa, saralangan chiqishlar butun AWS darajasidagi meetingda chiqish qiladi. Galim kelsa, organizatsiya ichidagi yig'ilishlarga tayyorgarlik qilgim keladi. Chunki ingliz tilim ham, prezentatsiya qilish mahoratim ham yuqori darajada emas. Tayyorgarlik qilayotganda, ishni chuqur va tilni epchil qilishga eslatmalar yozib ketaman. Principal injenerlar va General Managerlar savol berib tashashi turgan gap. Shu kichik imtihondan ko'zga ko'rinib o'tsam, yaxshi nom va o'sish imkoni yuqoriroq bo'ladi. Bu ham bir selling point. Shunday tadbirlar introvert injenerlardan, kelajak managerlar va leaderlarni tayyorlashga yordam beradi.

Clean code haqida

Middledan seniorlikka o'tishda, ozoda code yozish qobiliyati bu eng asosiy talablardan biri bo'lsa kerak. O'zim shu yo'nalishda oxirgi kun izlanishlarim bilan bo'lishmoqchiman:
Clean Code tasnifi va tarkibiy qismlari haqida
Code Complexity - murakkab code va uni belgilari (code smell yomon code belgisi haqida)
Cyclomatic Complexity Defined Clearly, With Examples (youtube link, wiki link)
Cognitive Complexity - a new way of measuring understandability (mualifdan video-demo - Refactoring with Cognitive Complexity, eng asosiy material deya olaman)
Bullar SonarQube dan asosan olingan, lekin ular qo'llayotgan termin va tasniflar industriyamizdagi umumiy va keng tarqalgan tushuncha va ko'rsatkichlardan yasalgan. Evropada ta'lim olgan hamkasblarim buni unversitetdan bilishar ekan. Clean-code kitobi albatta yaxshi va o'qimagan bo'lsangiz albatta o'qing. Kitobni asosiy manba desak, tepadagi ilovalar uni mantiqiy davomlari