Süni intellekt səhv cavab versə nə olacaq?

Dürüst cavabla başlayaq: süni intellekt səhv edəcək. Yeni işə götürülmüş operator da səhv edir, təcrübəli mütəxəssis də. Doğru sual «səhv edəcəkmi?» yox, «səhv edəndə nə baş verəcək və bunu kim görəcək?» sualıdır.

Tipik qorxu belədir: bot müştəriyə çatdırılmanın pulsuz olduğunu deyir, halbuki pulludur. Və ya mövcud olmayan endirim vəd edir. Bu yazıda belə halların niyə baş verdiyini və onların qarşısını necə aldığımızı izah edirik.

Model niyə səhv edir

Dil modeli faktlar bazası deyil. O, verilmiş mətnin ardınca ən ehtimal olunan davamı yaradır. Lazımi məlumat əlində olmayanda boşluğu inandırıcı səslənən mətnlə doldurur. Buna «halüsinasiya» deyirlər və ən təhlükəli tərəfi odur ki, səhv cavab düzgün cavab qədər inamlı səslənir.

Səhvlərin əsas səbəbləri:

• model sizin qaydalarınızı bilmir və ümumi biliklə cavab verir;
• bilik bazasında məlumat köhnəlib və ya sənədlər bir-birinə ziddir;
• sual qeyri-müəyyəndir və model onu başqa cür başa düşüb;
• modelə lazım olduğundan artıq sərbəstlik verilib.

Birinci qayda: cavab yalnız sizin materiallarınızdan

Assistent ümumi bilikdən deyil, sizin sənədlərinizdən cavab verməlidir. Bunun üçün RAG adlanan yanaşmadan istifadə edirik: sual gələndə sistem əvvəlcə bilik bazasında mənaca ən yaxın fraqmentləri tapır, sonra onları modelə «yalnız bu mətnlərə əsaslanaraq cavab ver» təlimatı ilə verir. Axtarışın mənaya görə necə işlədiyini embedding barədə məqalədə göstərmişik.

Cavabın altında mənbə göstərilir: hansı sənəd, hansı bənd. Əməkdaş və ya müştəri bir kliklə yoxlaya bilər. Bu, həm etibarı artırır, həm də səhvi tez tapmağa kömək edir.

«Bilmirəm» demək bacarığı

Yaxşı assistentin ən dəyərli xüsusiyyətlərindən biri vaxtında «bilmirəm» deməkdir. Əgər axtarış uyğun fraqment tapmayıbsa və ya tapılanlar sualla zəif əlaqəlidirsə, bot uydurmaq əvəzinə dürüst cavab verir: «Bu barədə məlumatım yoxdur, sizi əməkdaşla əlaqələndirirəm». Müştəri üçün bu, inamla deyilmiş yanlış cavabdan qat-qat yaxşıdır.

Danışmaq bir şeydir, iş görmək başqa

Sual cavablandırmaq və hərəkət etmək arasında böyük fərq var. Səhv cavab xoşagəlməzdir, amma səhv əməliyyat (geri ödəniş, sifarişin ləğvi, müqavilənin göndərilməsi) real ziyan vurur. Ona görə qayda sadədir:

• model əməliyyatın qaralamasını hazırlayır, əməkdaş isə təsdiqləyir;
• modelin hüquqları minimumdur: yalnız ssenari üçün lazım olan məlumatları oxuyur;
• məbləğ, müştəri və ya qanuni öhdəlik olan hər addım insandan keçir.

Bu prinsip həm də təhlükəsizlik üçün vacibdir. Sənədin içində gizlədilmiş əmrlərlə bağlı riski məlumat təhlükəsizliyi barədə yazıda izah etmişik.

İstifadəyə verməzdən əvvəl test sualları

«Deyəsən yaxşı işləyir» kifayət deyil. İstifadəyə verməzdən əvvəl müştərilərin və əməkdaşların real suallarından 100–200 sual toplayır və hər biri üçün düzgün cavabı yazırıq. Bu dəstə mütləq daxil edilir:

• tez-tez verilən adi suallar;
• cavabı bilik bazasında olmayan suallar (bot «bilmirəm» deməlidir);
• qeyri-müəyyən və ya iki mənalı suallar;
• mövzudan kənar və təxribat xarakterli sorğular.

Hər dəyişiklikdən sonra (yeni model, yeni sənədlər, dəyişmiş təlimat) dəst yenidən yoxlanılır. Belə olanda keyfiyyət hiss ilə deyil, rəqəmlə ölçülür.

İstifadədən sonra nəzarət

Bot işə düşəndən sonra iş bitmir. Bütün dialoqlar jurnalda saxlanılır, müştərilər cavabı qiymətləndirə bilir, uğursuz söhbətlər isə həftəlik nəzərdən keçirilir. Təcrübəmizdə səhvlərin böyük hissəsi modelin özündə deyil, bilik bazasındakı boşluqlarda olur: qayda dəyişib, sənəd yenilənməyib. Belə hallarda sənədi düzəltmək kifayətdir.

İnsana ötürmə

Bot hər şeyi özü həll etməməlidir. Söhbət əməkdaşa ötürülür, əgər:

• müştəri açıq şəkildə insanla danışmaq istəyir;
• ödəniş və ya şikayətlə bağlı məsələdir;
• bot iki dəfə ardıcıl sualı başa düşmür;
• müştərinin narazı olduğu hiss olunur.

Əməkdaş dialoqun bütün tarixçəsini görür, müştəri isə eyni şeyi ikinci dəfə izah etmək məcburiyyətində qalmır.

Nəticə

Səhv riskini sıfıra endirmək olmaz, amma onu idarə etmək olar. Cavab yalnız sizin materiallarınızdan, mənbə göstərilir, bot «bilmirəm» deyə bilir, vacib əməliyyatlar insandan keçir, keyfiyyət test sualları ilə ölçülür. Bu beş qayda süni intellekti gözlənilməz alətdən proqnozlaşdırılan köməkçiyə çevirir.

Biz AI inteqrasiyası layihələrində bu qaydaları birinci gündən tətbiq edirik. Assistentin CRM və ya 1C ilə necə təhlükəsiz işlədiyini ayrıca yazıda, layihənin büdcəsini isə qiymət barədə məqalədə izah etmişik. Sualınız varsa, bizə yazın.