Bu gün bir çox şirkət AI istifadə edir. Amma çox az şirkət bir sualı verir: ‘Bu sistem səhv qərar versə, məsuliyyət kimdədir?’

Texnologiya sürətlə irəliləyir, amma insanların bu texnologiyaya münasibəti hələ də "alırıq, qururuq, unuduruq" mərhələsindədir. AI kalkulyator deyil. O, öyrənən, qərar verən və bəzən yanılan sistemdir. Ona görə də bu riskləri yalnız texniki komandalar yox, şirkətdə qərar verən hər kəs bilməlidir.

Aşağıdakı risklər artıq real şirkətlərin qarşılaşdığı problemlərdir.

AI qərəzlidir — amma özü bunu bilmir (BIAS Risk)

Düşünün ki, bir şirkətin 10 illik işə qəbul tarixçəsi var. Bu 10 il ərzində texniki vəzifələrə əsasən kişilər müraciət edib, kişilər işə götürülüb. İndi bu şirkət AI qurmaq istəyir: "Keçmiş datadan istifadə edərək, gələcək namizədləri qiymətləndirsin." Bu model məntiqli görünür. Amma burada böyük bir problem var.

Problem ondadır ki, AI keçmişi obyektiv həqiqət kimi qəbul edir. Əgər keçmişdə uğurlu namizədlərin çoxu kişi idisə, AI bunu "uğur nümunəsi" kimi öyrənəcək. Bunu heç kim ona deməyib — o, sadəcə datadan bu nəticəni çıxarır. Nəticədə qadın namizədlər heç bir açıq-aşkar səbəb olmadan sistemli şəkildə aşağı qiymətləndirilir.

Məhz bu, Amazon-un başına gəldi.

Amazon 2014-cü ildə namizədləri avtomatik qiymətləndirəcək bir AI sistemi hazırlamağa başladı. Lakin 2015-ci ildə fərq etdilər ki, sistem texniki vəzifələr üçün qadın namizədlərə sistemli şəkildə aşağı qiymət verir. On illik CV datası əsasında öyrənən model, texniki sahədəki kişi dominantlığını "uğur nümunəsi" kimi qəbul etmişdi. Müxtəlif düzəlişlər edildi, amma sistemin tam bitərəf olduğuna əminlik yaranmadı. Amazon nəticədə bu layihəni tamamilə bağladı.

Mənbə: Reuters / CNBC, Oktyabr 2018

AI mövcud olmayanı uydurur — tam əminliklə (Hallucination Risk)

AI bəzən mövcud olmayan məlumatları tam əminliklə uydurur. Bunu o qədər əmin, o qədər axıcı bir tonda edir ki, insan şübhə etmir. Buna texniki dildə "hallusinasiya" deyilir.

Əvvəlcə bu kiçik bir texniki qüsur kimi görünə bilər. "Bəzən yanlış edir, nə var ki?" Amma bu yanlışlıq ciddi kontekstdə baş verəndə nəticələri çox ağır ola bilir.

2023-cü ildə Roberto Mata adlı bir sərnişin Avianca aviaşirkətinə qarşı məhkəməyə müraciət etdi. Onun vəkili Steven Schwartz araşdırma üçün ChatGPT-dən istifadə etdi. ChatGPT ona 6 fərqli məhkəmə işi təqdim etdi — adları, tarixləri, hüquqi istinadları və sitatları ilə birlikdə. Schwartz bu məlumatları rəsmi sənədə daxil edib məhkəməyə təqdim etdi.

Lakin qarşı tərəfin vəkilləri həmin işlərin heç birini hüquq bazalarında tapa bilmədilər. Hakim P. Kevin Castel də yoxlama apardı və eyni nəticəyə gəldi. Schwartz yenidən ChatGPT-yə müraciət etdi və bu işlərin real olub-olmadığını soruşdu. ChatGPT isə onların etibarlı hüquq platformalarında mövcud olduğunu iddia etdi.

Amma həmin işlərin heç biri real deyildi.

Hakim Steven Schwartz-ı 5.000 dollar cərimə etdi. Bundan əlavə, mövcud olmayan qərarlarda adı keçən hakimlərə rəsmi düzəliş məktubu göndərilməsi tələb olundu. Problem sadəcə yanlış məlumat deyildi. Problem AI-ın həmin məlumatı tam əminliklə təqdim etməsi və bunun peşəkar qərara çevrilməsi idi.

Steven Schwartz sonradan etiraf etdi ki, ChatGPT-nin mövcud olmayan hüquqi məlumatlar yarada biləcəyini bilmirmiş.

Mənbə: Wikipedia — Mata v. Avianca, Inc.

Dünən düzgün işləyən AI bu gün yanlış işləyir (Model Drift Risk)

Bir çox şirkət AI sistemini qurduqdan sonra problemi həll etdiyini düşünür. "Hazırdır, işləyir." Amma bir şeyi unudurlar ki: dünya dəyişir, insanların davranışı dəyişir, bazarlar dəyişir. Model yenilənmirsə, zaman keçdikcə reallıqdan uzaqlaşır.

Buna "model drift" deyilir. Modelin öyrəndiyi dövrlə mövcud gerçəklik arasındakı uçurum böyüdükcə, modelin verdiyi qərarlar da etibarsızlaşır.

2020-ci ilin martında COVID pandemiyası başlayanda bu risk çox aydın göründü. Bir gecədə insanların alış-veriş davranışı tamamilə dəyişdi. Onlayn sifarişlər misligörünməmiş həcmə çatdı, ərzaq tələbatı artdı, insanlar əvvəl heç almadıqları məhsulları kütləvi şəkildə almağa başladı. Onillik dataya əsaslanan e-ticarət platformalarının saxtakarlıqların aşkarlanması üçün istifadə etdiyi AI modelləri isə bu davranışı "anormal" gördü. Nəticədə, sırf pandemiya səbəbindən satın alma vərdişlərini dəyişdirmiş real müştərilər saxtakar kimi bloklandı.

Əslində burada model yanlış deyildi — sadəcə köhnəlmişdi. AI sistemləri davamlı yoxlama tələb edir.

"Niyə belə qərar verdin?" — AI cavab verə bilmir (Explainability Risk)

Kredit üçün müraciət edirsiniz. Sistem bir neçə saniyə içində müraciəti rədd edir. "Niyə?" deyirsiniz. Cavab yoxdur. Bu sadə sual böyük bir problemin üzünü açır.

Müasir AI modelləri — xüsusilə dərin öyrənmə əsaslı olanlar — o qədər mürəkkəbdir ki, onları yaradan mühəndislər belə hər fərdi qərarı izah edə bilmir. Model milyonlarla parametrlə işləyir, hansı parametrin hansı qərara necə təsir etdiyi isə çox vaxt aydın deyil. Bu, “qara qutu” problemidir. İstifadəçi üçün bu qıcıqlandırıcıdır. Tənzimləyici qurumlar üçün isə qəbuledilməzdir.

Avropa İttifaqının 2024-cü ildə qüvvəyə minmiş AI Qanunu (EU AI Act) şirkətlərdən kredit, işə qəbul, tibb kimi yüksək riskli sahələrdə AI qərarlarını izah etməyi birbaşa tələb edir. "Model belə dedi" - rəsmi cavab sayılmır. Avropa bazarında fəaliyyət göstərən və ya Avropa müştəriləri olan hər bir şirkəti bu tələb bilavasitə maraqlandırır.

Mənbə: EU AI Act — Rəsmi Mətn

AI-a hansı məlumatları verdiyinizi unutmayın (Data Privacy Risk)

Bu, bu günün ən geniş yayılmış riskidir. Demək olar hər gün çox vaxt kimsə fərq etmədən hər şirkətdə baş verir.

İşçilər AI alətlərindən iş üçün istifadə edir: hesabatlar yazır, kodları yoxlayır, görüşlər üçün qeydlər hazırlayır. Amma bunu edərkən "bu məlumat hara gedir?" sualını vermirlər. Xarici AI alətlərinə — ChatGPT, Gemini, Copilot və s. — daxil edilən məlumatlar həmin şirkətlərin serverlərinə gedir. Şirkətin daxili siyasəti, müştəri məlumatları, maliyyə göstəriciləri, məxfi kodlar — bunların hamısı bu yolla xaricə çıxa bilər.

2023-cü ilin martında Samsung öz işçilərinə ChatGPT istifadəsinə icazə verdi. İcazə verildikdən sonra cəmi 20 gün ərzində üç ayrı hadisə baş verdi. Bir mühəndis yarıkeçirici bazasının xətalı mənbə kodunu ChatGPT-yə yapışdırdı — problemi həll etmək istəyirdi. Başqa bir mühəndis avadanlıq testlərinin məxfi kodunu paylaşdı — optimallaşdırma istədi. Üçüncü işçi isə şirkət daxili bir iclasın tam transkripsiyasını ChatGPT-yə göndərdi — protokol hazırlamaq üçün. Bu məlumatların hamısı OpenAI serverlərinə ötürüldü. Sonra geri almaq mümkün deyil. Təbii ki, bu işçilər pis niyyətli deyildi. Sadəcə işlərini daha sürətli görməyə çalışırdılar. Nəticə isə eynidir.

Samsung bu hadisəni aşkar etdikdən sonra şirkət daxilindəki bütün xarici AI alətlərini dərhal bloklatdı.

Mənbə: Gizmodo, Aprel 2023

AI-ı aldatmaq düşündüyünüzdən asandır (Security Risk)

"Kiberhücum" deyəndə ağlımıza adətən mürəkkəb texniki əməliyyatlar gəlir. Amma AI sistemlərinə qarşı hücumlar çox vaxt başqa cür işləyir — sistemi sındırmaq yox, sistemi aldatmaq.

AI modeli gördüyü və ya oxuduğu məlumatı emal edir. Əgər bu məlumatı düzgün şəkildə manipulyasiya etsəniz, modeli tamamilə fərqli nəticəyə gətirib çıxara bilərsiniz. Buna "adversarial attack" deyilir.

Tədqiqatçılar sübut etdi ki, "dur" yol nişanına insan gözünün fərq etməyəcəyi şəkildə yerləşdirilmiş kiçik stikerlər avtonomlu avtomobil AI-ının həmin nişanı "sürət həddi" kimi oxumasına səbəb ola bilir. Nişan eynidir, amma AI tamam başqa şey görür. İnsan üçün normal görünən məlumat, AI üçün tam fərqli məna daşıya bilər.

Biznes dünyasında isə "prompt injection" adlanan hücum növü aktualdır. Müştəri xidməti chatbot-unuza xüsusi qurulmuş bir mesaj göndərilir, AI isə bu mesajdakı gizli tapşırığı yerinə yetirir — məxfi məlumat verir, yanlış əməliyyat icra edir, istifadəçini başqa istiqamətə yönləndirir.

Mənbə: NIST — Adversarial Machine Learning

AI şirkətdə işləyir — bəs kim cavabdehdir? (Governance Risk)

Bu, ən az görünən, amma ən böyük riskdir. Marketinq öz AI alətini işlədir. HR öz alətini. Maliyyə öz alətini. Heç biri digərindən xəbər tutmur. Rəsmi siyasət yoxdur, aydın cavabdehlik yoxdur, sənədləşmə yoxdur. Bir problem baş verdikdə — "kim bu qərarı verdi, kim cavab verəcək?" sualına cavab tapılmır. Bu texniki problem deyil. Bu məsuliyyət problemidir.

Böyük şirkətlər bu riskə artıq diqqət yetirməyə başlayıb. 2023-cü ildə bir sıra Fortune 500 şirkəti "AI Governance" komitələri yaratdı — yəni AI-ın şirkət daxilində necə istifadə ediləcəyini, kimin məsul olacağını, hansı qərarların AI-a həvalə edilib-edilməyəcəyini müəyyənləşdirən rəsmi strukturlar.

Kiçik və orta şirkətlər üçün bu səviyyədə struktur olmaya bilər. Amma ən azından "bu sistemdən kim məsuldur, problem olsa kim cavab verir?" suallarının cavabı olmalıdır.

Bu riskləri tamamilə aradan qaldırmaq mümkün deyil. Amma onları idarə etmək mümkündür.

Dünyada bu risklər üçün geniş qəbul görmüş bir çərçivə var: NIST AI Risk Management Framework. Sadəcə 5 addım:

1. Müəyyən et → Sisteminizdə nə yanlış gedə bilər?
2. Qiymətləndir → Risk nə qədər realdır və təsiri nə ola bilər?
3. Azalt → Texniki və insan nəzarəti əlavə et.
4. İzlə → Davamlı monitorinq apar.
5. Sənədləşdir → Hər qərarın və dəyişikliyin izi qalsın.

Mənbə: NIST AI RMF

Nəticə etibarilə,

əsas məsələ texnologiyanın özü deyil. Əsas məsələ onun necə idarə olunmasıdır. AI artıq yalnız texnologiya mövzusu deyil.

Bu hüquqdur.

Etikadır.

Reputasiyadır.

Biznes riskidir.

AI güclüdür. Amma kor-koranə istifadə edildikdə ciddi nəticələr yarada bilər.