Խոշոր լեզվական մոդելների (LLMs) ներկայիս ճարտարապետությունը թելադրված է մի կայուն ու ծախսատար իրողությամբ՝ «քառակուսային մասշտաբայնության» (quadratic scaling) խնդրով։ Երկարատև տվյալների՝ օրինակ՝ խոշոր կորպորատիվ ծածկագրերի (codebases), իրավական արխիվների կամ CRM-ի բարդ պատմությունների մշակման հաշվողական արժեքը տարիներ շարունակ աճել է էքսպոնենցիալ՝ մուտքային տվյալների ծավալի մեծացմանը զուգընթաց։ Սա ստեղծում է տեխնիկական «առաստաղ», որը սահմանափակում է AI-ի վրա հիմնված բիզնես-վերլուծությունների խորությունն ու արագությունը։

Այնուամենայնիվ, Մայամիում հիմնված Subquadratic նորաստեղծ ընկերությունը դուրս է եկել ստվերից՝ համարձակ հայտարարությամբ. նրանք պնդում են, որ գտել են այս տասնամյա խոչընդոտը շրջանցելու մաթեմատիկական ուղին։ Թեև սկզբնական հայտարարությունը թերահավատություն առաջացրեց ոլորտի որոշ մասնագետների շրջանում, ընկերությունը սկսել է հրապարակել տեխնիկական փաստաթղթեր, որոնք վկայում են արդյունավետության այնպիսի բեկման մասին, որը կարող է հիմնովին փոխել AI-ի ներդրման տնտեսական մոդելը։

Մասշտաբայնություն՝ քառակուսային պատնեշից այն կողմ

Խնդրի հիմքում ընկած է Attention Mechanism-ը (ուշադրության մեխանիզմը)՝ GPT-4-ի նման մոդելների մաթեմատիկական շարժիչը։ Ավանդաբար, երբ օգտատերը մոդելին ավելի շատ տվյալներ է տրամադրում, մշակման պահանջները քառակուսային աճ են գրանցում. դա նշանակում է, որ մուտքային տվյալների կրկնապատկումը հանգեցնում է հաշվողական պահանջարկի քառապատկման։ Ահա թե ինչու երկարատև կոնտեքստով AI-ն կարող է չափազանց դանդաղ և թանկ լինել բարձր ծավալի կորպորատիվ գործառնությունների համար։

Subquadratic-ի մոտեցումը, կարծես թե, կենտրոնացած է այդ նեյրոնային ցանցերի հիմքում ընկած գծային հանրահաշվի օպտիմալացման վրա։ Կարգավորելով այն ձևը, թե ինչպես են թոքենները փոխկապակցվում, նրանք նպատակ ունեն նվազեցնել հաշվողական ծախսերը, որոնք անհրաժեշտ են երկար հաջորդականությունների ընթացքում «հիշողությունը» պահպանելու համար։ Եթե նրանց արդյունքները հաստատվեն գործընկերային լայն ստուգումների և գործնական կիրառման ընթացքում, ապա հետևանքները բիզնեսի համար նշանակալի կլինեն.

  • Ծախսարդյունավետություն. Մեկ թոքենի համար հաշվողական պահանջների կտրուկ նվազեցում, ինչը կիջեցնի խոշոր AI համակարգերի տիրապետման ընդհանուր արժեքը (TCO):
  • Արձագանքման արագություն. Ավելի արագ պատասխաններ այն AI գործակալների համար, որոնք մշակում են բարդ, բազմաշերտ տվյալների հավաքածուներ։
  • Խորը կոնտեքստուալիզացիա. Հազարավոր էջեր կազմող հաճախորդների պատմական տվյալները կամ տեխնիկական փաստաթղթերը մշակելու հնարավորություն՝ առանց կոնտեքստային սահմանափակումներին բախվելու։

Ճարտարապետական արդյունավետության ROI-ն

Բիզնես ղեկավարների համար սա ընդամենը համակարգչային գիտության ակադեմիական վարժություն չէ, այլ ROI-ի (ներդրումների վերադարձելիության) ուղղակի լծակ։ Ներկայումս կազմակերպությունները հաճախ վարանում են ընդլայնել իրենց AI գործակալների օգտագործումը, քանի որ եզրակացության (inference) ծախսերը չեն համապատասխանում յուրաքանչյուր լրացուցիչ հարցման սահմանային արժեքին։ Եթե subquadratic մոտեցումը դառնա ոլորտի նոր ստանդարտ, մենք, ամենայն հավանականությամբ, կտեսնենք AI-ի վրա հիմնված Թվային փոխակերպման այնպիսի նախագծերի աճ, որոնք նախկինում համարվում էին չափազանց թանկ և անարդյունավետ։

Այն ընկերությունները, որոնք այժմ փորձում են կամրջել իրենց CRM տվյալների և գործնական AI վերլուծությունների միջև եղած բացը, ամենաշատը կշահեն։ Ավելի արդյունավետ ճարտարապետության շնորհիվ AI գործակալները կկարողանան իրական ժամանակում մանրամասն վերլուծել հաճախորդների հետ տարիների փոխգործակցությունը՝ տրամադրելով անհատականացված առաջարկներ այնպիսի մասշտաբով, որը նախկինում տեխնոլոգիապես անհնար էր։

Այս տեխնոլոգիայի հասունացմանը զուգընթաց՝ մրցակցային առավելությունը «մեծ» մոդելներ ունենալուց կտեղափոխվի դեպի «արդյունավետ» մոդելներ ունենալը։ Բիզնես ղեկավարները պետք է առաջնահերթություն տան մոդուլային AI ռազմավարություններին, որոնք թույլ կտան ներդնել այս օպտիմալացված ճարտարապետությունները՝ դրանց հասանելի դառնալուն պես։

Ավելի արդյունավետ, subquadratic AI-ի կողմն անցումը նշանավորում է ոլորտի հասունացման փուլը՝ փորձարկումներից դեպի իրական գործառնական մասշտաբայնություն։ AOODAX-ում մենք օգնում ենք կազմակերպություններին կողմնորոշվել այս անցման մեջ՝ ստեղծելով հատուկ AI գործակալներ, որոնք նախագծված են այս բարձր արդյունավետությամբ մոդելները ձեր առկա ենթակառուցվածքին ուղղակիորեն ինտեգրելու համար՝ ապահովելով ձեր առաջատար դիրքը՝ առանց կատարողականության կամ բյուջեի զոհաբերության։