Жаңалықтар

GOAT AI зерттеу командасының озық open-source моделі

Кеше түнде MMLU және BigBench Hard метрикаларында озық нәтиже көрсеткен алғашқы LLaMA-2 fine-tune моделімізді шығардық. Модель open-source форматында қолжетімді, оны Hugging Face-тегі сілтемеден тікелей жүктеп, лайк басуға болады.

Сілтеме

Бұл ChatGPT сияқты AI ассистенттің ашық нұсқасы. Оны fine-tuning үшін немесе ғылыми мақсатта жергілікті құрылғыда қолдануға болады. Демо да төмендегі сілтемеде қолжетімді.

Бірнеше маңызды ерекшелік:

• Контекст көлемі: 4096
• Модель көлемі: 7B параметр
• Датасет көлемі: 72 мың диалог

Жұмысымыздың ерекшелігі неде? Біз деректерді мұқият тазалауға назар аудардық, бұл деректерді талдаудағы ғылыми тәсілдің ажырамас бөлігі. Деректерді бір рет қана тазаламай, жұмысымызды итеративті түрде жақсарта бердік.

Жақсы нәтижеге жетудегі негізгі қадамдардың бірі датасеттен ірі AI модельдерінің «Sorry, as an AI assistant I cannot...» секілді стандарт жауаптарын алып тастау болды. Осыдан кейін моделіміз қолжетімді 7 миллиард параметрлі модельдердің арасында үздік нәтиже көрсетті.

Әзірлеушілер командасында DSML KZ мүшелері бар:

• Ерзат Дулат @rlprompt
• Айбек Бекбаев @qaszjo
• Сонбэ Чан @Sungbae_Chun
• Джимми Ямазаки @myxik

Модельдің шығуына арналған блогтан қосымша техникалық мәлімет таба аласыз.

Arbuz.kz ChatGPT негізінде тағамдар мен рецепттер ұсынатын Arbuz Chef чат-ботын іске қосты. Әр рецептке себетке қосуға болатын өнімдер жиынтығы ұсынылады. Әзірге функция Friends адалдық бағдарламасының мүмкіндігі ретінде iOS пен вебте қолжетімді.

Жоба бастамашысы, Arbuz.kz аналитика жетекшісі Әлібек Үтюбаев мына тәжірибемен бөлісті:

• Arbuz Chef жасауға қатысты күмәнді сейілткен серпін Аймолдин мырзаның сөзі болды: «БАӘ-дегі бәсекелестеріміз бізден озып, рецепттерге арналған ботты іске қосты. Неге Қазақстанда мұны бірінші болып жасамасқа?»
• Техникалық жағынан бұл OpenAI API-іне арналған қабықша. Ал бизнес тұрғысынан — бұрын бірнеше ай мен бөлек ML командаларын қажет ететін өнімді бірнеше аптада іске қосу мүмкіндігі.
• Негіз ретінде Twitter-де тарап кеткен осындай ассистенттерге арналған промпт алынып, біздің қажеттіліктерімізге бейімделді.
• ChatGPT нақты формат нұсқауларын жақсырақ орындауы үшін мысалдар берген пайдалы. Нәтижені қалай шығару керегін сипаттап қана қоймай, қажетті форматтың үлгісін де көрсету керек.
• Біз аналитиканы бірден ойластырдық: пайдаланушылардың сұрауларын сақтаймыз, тауарды себетке қосу оқиғаларын және басқа да метрикаларды енгіздік.
• Бот пайдаланушыларға «бүгін не пісірсем екен?» деген сұрақты if-else логикасымен бағдарламалау мүмкін емес жеке қажеттіліктерді ескере отырып шешуге көмектеседі деп үміттенеміз. Мысалы, ыстық күнге жеңіл тағам немесе әлемнің әр асханасынан қызықты мәзір ұсына алады. Негізінде бұл жай чат-бот емес, Arbuz.kz-тің кең ассортиментімен әрекеттесудің жаңа тәсілі.

NU-ға ҰБТ нәтижесімен түсу мүмкін емес. Талапкер халықаралық SAT немесе университеттің ішкі NUET емтиханын тапсырып, IELTS бойынша жалпы кемінде 6.5 балл алуы керек, әр бөлімнің ең төменгі балы — 6.0.

NU-дағы екі бағдарламаны таңдадық:

• Computer Science

Орташа талапкер көрсеткіші: IELTS — 7.3; SAT Reasoning — 1443. Бағдарлама компьютерлік ғылымдардың іргелі негіздеріне көбірек көңіл бөліп, деректер ғылымын ішінара қамтиды. Негізгі пәндер: Programming for Scientists and Engineers; Performance and Data Structures; Discrete Mathematics; Calculus I–II; Linear Algebra with Applications; Probability; Computer Systems and Organization; Programming Languages; Algorithms; Artificial Intelligence; Database Systems; Software Engineering.

• Mathematics

Орташа талапкер көрсеткіші: IELTS — 7.2; SAT Reasoning — 1395. Бағдарлама математикалық негіздерге және деректер ғылымының негізіндегі теорияларды дәлелдеуге бағытталған. Негізгі пәндер мен элективтер: Discrete Mathematics; Calculus I–II; Linear Algebra with Applications; Probability; Time Series Analysis; Statistical Programming; Statistical Learning (Master's); Regression Analysis; Nonlinear Optimization; Mathematical Statistics; Numerical Methods with Applications; Advanced Linear Algebra; Stochastic Processes; Stochastic Calculus; Advanced Linear Algebra.

Негізгі пәндерден бөлек, студенттер мамандығына қарамастан әртүрлі департаменттердің элективтерін таңдай алады, соның ішінде Computer Science, Political Science, Economics және Nursing департаменттері бар.

Оқу ақысы туралы: студенттердің көбі грантта оқиды, бірақ NU-да ақылы оқу мүмкіндігі де бар. Бакалавриат бағдарламаларының жылдық құны шамамен 9 039 000 теңге немесе $23 000.

Қазақстандық Cerebra стартабынан керемет жаңалық. Нейрорадиология саласында жасанды интеллект дамытып, ишемиялық және геморрагиялық инсультті автоматты диагностикалайтын компания MedTech Innovator ірі халықаралық медициналық технологиялар акселераторына қатысуға шақырылды.

MedTech Innovator — медициналық технологиялар стартаптарының жетекші акселераторы ғана емес. Ұйым денсаулық сақтау саласын өзгертетін компанияларды қолдап, дамыту арқылы пациенттердің өмір сапасын жақсартуды мақсат етеді. Бүгінде акселератор портфелінде 509 сәтті түлеп шыққан компания, FDA-ның 200-ден астам мақұлдауы мен рұқсаты және шамамен $6,8 млрд көлеміндегі жоба қаржыландыруы бар.

Акселераторға қатысу аясында Cerebra ғасырдан астам тарихы бар медициналық жабдық өндіруші әлемдік Zimmer Biomet компаниясынан менторлық қолдау алды.

Дегенмен, Cerebra негізін қалаушы Досжан Жүсіпов ел ішіндегі қолдауды күшейту қажет екенін атап өтеді. Компанияның болашақ табысы отандық IT қауымдастығы үшін маңызды үлгі болып, мемлекеттік органдарды инновациялық жобаларды белсендірек қолдауға ынталандырады деп үміттенеміз.