Əgər bir neçə il əvvəl kimsə desəydi ki, süni intellekt rəhbərinizin səsini təqlid edib mesaj göndərə bilər, bəlkə də bir az gülümsəyərdik. Çünki o vaxtlar süni intellekt deyəndə ağla daha çox avtomatik tərcümə, e-mail təklifləri, musiqi tövsiyələri gəlirdi. Çoxumuzun həyatında AI texnologiyası arxa planda idi – görünməzdi, amma vardı. Sadəcə qərar vermirdi. Və heç kim kimi təqlid etmirdi.

İndi isə vəziyyət dəyişib. İndi süni intellekt səni izləyir. Necə yazdığını, necə danışdığını, nəyə maraq göstərdiyini, hansı insanlarla işlədiyini bilir. Və lazım gəlsə, səni təqlid edə bilir.

Süni intellektin ikili üzü

Bu məqalə süni intellektə qarşı deyildir. Əlbəttə ki, hər birimiz gündəlik işlərdə, layihələrdə, hətta bəzən şəxsi həyatımızda onun köməyindən istifadə edirik. Məlumatları daha tez tapırıq, analizlər aparırıq, optimallaşdırırıq.

Amma məsələ təkcə bizim onu necə istifadə etdiyimizdə deyil. Məsələ ondadır ki, bizdən başqa onu kimlər, hansı məqsədlə istifadə edir.

Çünki texnologiya neytraldır. Onun içində nə yaxşılıq, nə pislik var. Niyyət kimin əlindədirsə, nəticəni də o yaradır.

Kiberhücumçular artıq e-mail yazmaq üçün özləri oturub iş görmür. Onlar AI-dən istifadə edirlər. O isə “mətn yazmaqla” kifayətlənmir. Hədəfi tanıyır, konteksti oxuyur, arxa fonda məlumat toplamaqla məşğul olur. Əldə etdiyi məlumatlar əsasında real görsənən, məntiqi olan, düzgün tonda yazılmış e-maillər, mesajlar, bildirişlər yaradır. Və ən qorxulusu – bizim öz dilimizdə danışır.

Bu artıq texniki zəiflik deyil. Bu, psixoloji bir boşluğun istismarıdır.

Ən zəif həlqə

Ənənəvi təhlükəsizlik sistemləri uzun illər texniki boşluqları aradan qaldırmağa çalışıb: açıq portlar, zəif şifrələr, antivirus, firewall, şəbəkə monitorinqi və s.

Ancaq bugünkü hücumlar başqa istiqamətə yönəlib: insanın qərarına.

İnsan tələsir. İnsan rəhbərinə inanır. İnsan “bu səslə gəlibsə, demək düzgündür” deyə düşünür. Və qərar verir.

Ən təhlükəli nöqtə də elə budur. Sən düşünürsən ki, qərarı sən verdin. Halbuki qərar sənə süni şəkildə təqdim olunmuş bir ssenarinin içində baş verib.

AI ilə necə yaşamalıyıq?

Gəlin açıq danışaq: süni intellekti ləğv edə bilmərik. Onu ləngidə də bilmərik. Bu texnologiya artıq hər yerdədir. Bizim əlimizdə, qarşı tərəfin əlində, texnologiya şirkətlərində, sərbəst çalışan developer-lərdə, təəssüf ki, cinayətkar şəbəkələrdə də.

Bəs çıxış yolu nədir?

Əvvəlcə bunu qəbul etməliyik: təhlükə AI deyil, arxayınlıqdır. Texnologiyaya olan sonsuz güvən və ona qarşı yetərsiz şübhə. İnsan faktorunu hədəfə alan bu yeni hücumlara qarşı ən vacib silah — ayıq qalmaqdır.

Təhlükəsizlik artıq təkcə texniki tədbirlərlə həll olunmur. Artıq komanda daxilində, idarəetmədə, proseslərdə, insan münasibətlərində də sual vermə mədəniyyəti formalaşmalıdır. “Hər şey doğrudursa belə, bir daha yoxlaya bilərəmmi?” sualı — bəlkə də bir hücumu dayandıracaq.

Bu həm də təşkilati məsuliyyətdir. Çünki süni intellektlə hazırlanan hücumlar təkcə texniki işçilərin yox, hər bir əməkdaşın hazırlıqlı olmasını tələb edir.

Xülasə,

Texnologiya sürətlə dəyişir. Və bu dəyişiklik hər zaman yaxşıya doğru olmur. Bəzən texnologiya yalnız imkanlar deyil, yeni risklər də gətirir.

Bu məqaləni yazmaqda məqsəd qorxu yaratmaq deyil. Sadəcə xatırlatmaq istəyirəm ki, tanış səslər hər zaman doğru mesajı gətirməyə bilər. Bəzən həmin tanışlıq hissi — bir sistemin ən zəif nöqtəsinə çevrilir.

Və bir daha deyirəm: məsələ AI-dən qorxmaq deyil. Sadəcə ondan istifadə edənlərin niyyətinə qarşı hazırlıqlı olmaqdır.