3 dəqiqəyə oxunur
AI inteqrasiyası neçəyə başa gəlir?
Büdcə nədən ibarətdir: prototip, hazırlama və inteqrasiya, aylıq API xərcləri və dəstək. Token xərcini real nümunə ilə hesablayırıq və xərcləri necə nəzarətdə saxlamağı göstəririk.
«Çat-bot neçəyə olar?» sualı «ev neçəyə olar?» sualına bənzəyir. Bir otaqlı mənzil də evdir, üç mərtəbəli villa da. Ona görə bu yazıda bir rəqəm deməyəcəyik. Əvəzində büdcənin nədən yarandığını izah edəcəyik ki, istənilən təklifi özünüz qiymətləndirə biləsiniz və nəyə pul verdiyinizi biləsiniz.
Xərcin dörd hissəsi
- Təhlil və prototip. Prosesi öyrənirik, fayda verəcək ssenarini seçirik və real məlumatlarınız üzərində işləyən ilk versiyanı qururuq.
- Hazırlama və inteqrasiya. Adətən ən böyük hissə budur. Modelin özünü qoşmaq asandır, vaxtın çoxu sayta, CRM-ə, messencerlərə qoşulmağa, giriş hüquqlarına, idarəetmə panelinə və istisna hallara gedir.
- Modelin aylıq istifadəsi. API-yə ödəniş və ya öz serverinizdə model işlədirsinizsə, serverin icarəsi.
- Dəstək və təkmilləşdirmə. Bilik bazasının yenilənməsi, uğursuz dialoqların təhlili, yeni ssenarilər.
Birinci və ikinci hissə birdəfəlik xərcdir, üçüncü və dördüncü isə aylıq. Bir çox təklifdə yalnız birinci rəqəm görünür, sonra aylıq xərclər sürpriz olur. Ona görə hər dördünü əvvəlcədən hesablayırıq.
Niyə prototipdən başlayırıq
Prototip bir neçə həftə çəkir və bir konkret prosesi əhatə edir: məsələn, müştərilərin çatdırılma və qaytarma barədə sualları. Real suallar üzərində ölçürük: neçə faizinə düzgün cavab verildi, əməkdaşın nə qədər vaxtı qənaət olundu, harada model çətinlik çəkdi. Bu rəqəmlərlə böyük büdcəyə «bəli» və ya «xeyr» demək çox asandır. Bəzən prototip göstərir ki, problem süni intellektdə deyil, qaydaların heç yerdə yazılmamasındadır, bu da faydalı nəticədir.
API xərcini özünüz hesablayın
Bulud modelləri tokenlə ödənilir. Token sözün bir hissəsidir: ingilis dilində 1000 token təxminən 700–750 sözdür, Azərbaycan və rus dillərində eyni mətn daha çox token tutur. Hər sorğu təkcə sualdan ibarət deyil: ona təlimatlar, bilik bazasından tapılmış fraqmentlər və dialoqun əvvəli də əlavə olunur. Cavab tokenləri ayrıca və daha baha ödənilir.
Gəlin nümunə hesablayaq. Dəstək botu gündə 500 dialoq aparır, hər dialoqda 4 mesaj var. Hər mesajda modelə təxminən 3000 token göndərilir və 300 token cavab gəlir.
- Gündə sorğu: 500 × 4 = 2000
- Giriş tokenləri: 2000 × 3000 = 6 milyon
- Cavab tokenləri: 2000 × 300 = 600 min
| Model sinfi | Təxmini qiymət (1 mln token) | Gündə | Ayda |
|---|---|---|---|
| Kiçik, sürətli model | $0.40 giriş / $1.60 cavab | ≈ $3.4 | ≈ $100 |
| Flaqman model | $3 giriş / $15 cavab | ≈ $27 | ≈ $810 |
Qiymətlər tez-tez dəyişir və provayderdən asılıdır, ona görə cədvəli dəqiq tarif kimi yox, miqyas kimi oxuyun. Əsas nəticə budur: eyni bot model seçimindən asılı olaraq səkkiz dəfə fərqli məbləğə başa gələ bilər.
Xərcləri necə azaldırıq
- Marşrutlaşdırma. Sadə suallar ucuz modelə, mürəkkəb təhlil güclü modelə gedir. Real layihələrdə sorğuların böyük hissəsi sadədir.
- Yalnız lazımi fraqmentlər. Bütün sənədi modelə göndərmirik, semantik axtarışla yalnız uyğun hissələri tapırıq. Bunun necə işlədiyini embedding barədə məqalədə izah etmişik.
- Keşləmə. Hər sorğuda təkrarlanan uzun təlimatlar keşlənir, provayderlər belə tokenlərə ciddi endirim edir.
- Limitlər. İstifadəçi və gün üzrə limit qoyulur ki, səhv və ya sui-istifadə hesabı şişirtməsin.
- Panel. Xərcləri gün, ssenari və model üzrə görürsünüz, artım olanda dərhal bilirsiniz.
Öz serverinizdə model daha ucuzdurmu?
API hesabı olmur, amma GPU serverinin aylıq icarəsi və onu idarə etmək xərci olur. Bu məbləğ sorğu sayından asılı olmayaraq sabitdir. Ona görə öz serverində model adətən iki halda sərfəlidir: sorğu həcmi çox böyükdürsə və ya məlumatlar heç bir halda perimetrdən çıxmamalıdırsa. İkinci halı məlumat təhlükəsizliyi barədə yazıda ətraflı müzakirə etmişik.
Az danışılan xərclər
- Məlumatların hazırlanması. Köhnəlmiş təlimatlar, bir-birinə zidd sənədlər, heç yerdə yazılmamış qaydalar. Bunları qaydaya salmaq çox vaxt əməkdaşlarınızın vaxtını tələb edir.
- Test sualları. Keyfiyyəti ölçmək üçün düzgün cavabları olan 100–200 real sual toplamaq lazımdır.
- İnteqrasiyanın mürəkkəbliyi. Sisteminizin API-si varsa iş sürətli gedir, yoxdursa, əlavə həll lazım olur. Bu barədə CRM və 1C inteqrasiyası haqqında yazıda danışmışıq.
Nəticəni necə ölçmək olar
Ən sadə üsul: avtomatlaşdırılan işi saatla ölçmək. Əgər operator gündə 3 saatını təkrarlanan suallara sərf edirsə və bot bu sualların yarısını bağlayırsa, ayda 30 saatdan çox vaxt qənaət olunur. Bunu operator saatının dəyəri ilə müqayisə edin və aylıq API və dəstək xərclərini çıxın. Rəqəm müsbətdirsə, layihə özünü ödəyir. Mənfidirsə, başqa ssenari axtarmaq lazımdır, prototipin mənası da elə budur.
Nəticə
Süni intellekt inteqrasiyasının qiyməti bir rəqəm deyil, dörd hissədir və hər biri idarə oluna bilər. Kiçik prototiplə başlamaq, model seçimini ağıllı etmək və xərcləri paneldə izləmək büdcəni proqnozlaşdırılan edir.
Bizim AI inteqrasiyası xidmətimiz məhz belə qurulub: əvvəl bir proses üçün prototip, sonra real rəqəmlərlə qərar. Sizin ssenari üçün təxmini hesablama istəyirsinizsə, müraciət qoyun.
