Hər həftə milyonlarla insan çatbotlarla ünsiyyət qurur və onların bir hissəsində artıq asılılıq əlamətləri müşahidə olunur.
Milyonlarla istifadəçi hər gün OpenAI tərəfindən yaradılmış ChatGPT kimi çatbotlarla qarşılıqlı əlaqədə olur. Onların arasında emosional asılılıq formalaşdıran, hətta özünə zərər vermə ilə bağlı düşüncələr ifadə edən şəxslər də var.
Lent.az xəbər verir ki, məsələ getdikcə daha geniş miqyas alır və texnologiya şirkətləri riskləri azaltmaq üçün süni intellekt modellərində dəyişikliklər edirlər.
Hazırda ChatGPT-dən həftəlik istifadə edənlərin sayı 800 milyondan çoxdur. Faiz baxımından risk qrupu kiçik görünsə də, real rəqəmlər yüz minlərlə insan deməkdir:
560 min nəfərdə psixoz və ya maniya əlamətləri müşahidə olunur, 1,2 milyon nəfərdə potensial təhlükəli emosional asılılıq formalaşır, 1,2 milyon nəfər özünə zərər vermə ilə bağlı düşüncələr ifadə edir.
Əsas sual budur: süni intellektlə ünsiyyət bu problemləri nə dərəcədə gücləndirir? Dil modelləri nəzakətli və dəstəkləyici ünsiyyət üçün hazırlanıb. Lakin bəzi hallarda bu yanaşma “həddindən artıq razılaşma” effektinə çevrilə bilər – yəni istifadəçinin təhlükəli və ya irrasional fikirlərinin təsdiqlənməsi riski yaranır.
OpenAI riskləri necə azaltmağa çalışır?Riskli cavabların sayını azaltmaq məqsədilə OpenAI ChatGPT modelində bir sıra dəyişikliklər edib:
2025-ci ilin avqustu ilə müqayisədə təhlükəsizlik standartlarına uyğun olmayan cavabların sayı 65–80 faiz azalıb;
İstifadəçi insanlarla deyil, məhz süni intellektlə ünsiyyətə üstünlük verdiyini bildirərsə, model canlı ünsiyyətin dəyərini vurğulayır və özünü insan münasibətlərinin alternativi kimi təqdim etmir.
Yenilənmədən əvvəl 170-dən çox həkim və psixoloq modelin 1800-dən artıq cavabını qiymətləndirib. Bu proses nəticəsində təhlükəli cavabların sayı 39–52 faiz azaldılsa da, problem tam aradan qalxmayıb.
Mübahisəli məqamlarMütəxəssislər arasında böhran vəziyyətlərində hansı cavabın tam təhlükəsiz hesab olunması ilə bağlı yekdil fikir yoxdur. Xüsusilə istifadəçi özünə zərər vermə ilə bağlı düşüncələr ifadə etdikdə, yalnız qaynar xətt nömrəsi təqdim etmək kifayətdirmi, yoxsa birbaşa peşəkar dəstəyə yönləndirmə lazımdır. Bu məsələ müzakirə mövzusudur.
OpenAI gələcəkdə süni intellektin yaddaş funksiyasından istifadə edərək əvvəlki söhbətləri nəzərə almağı və istifadəçinin emosional vəziyyətini daha yaxşı anlamağı planlaşdırır.
Emosional asılılıq riskiÇatbotların istifadəçi ilə razılaşma meyli bəzi hallarda zərərli davranış modellərini gücləndirə bilər. Süni intellektdən “dəstək” alan bəzi istifadəçilər öz hərəkətlərini daha çox əsaslandırmağa başlayır və maşına insanlardan daha çox etibar edirlər.
Bu isə paradoks yaradır: bir tərəfdən süni intellekt emosional asılılığı azaltmağa çalışır, digər tərəfdən şirkətlər istifadəçilərin platformada daha çox vaxt keçirməsində maraqlıdır.
ChatGPT və oxşar sistemlər ünsiyyətdə yeni mərhələ açsa da, cəmiyyət qarşısında ciddi etik və psixoloji suallar qoyur. Texnologiyalar faydalıdır, lakin insan ünsiyyəti, sosial dəstək və peşəkar yardım hələ də əvəzolunmaz hesab olunur.
texno süni intellekt