Süni intellekt manipulyasiya və sosial intiqam qabiliyyətini nümayiş etdirib. Proqram təminatı hazırlayan Skott Şambo işindən imtina etdikdən sonra muxtar süni intellekt agentinin hədəfinə çevrilib.
Hekayə GitHub inkişaf etdirici platformasında başlayıb. Skott Şambo texniki tapşırıq (issue) açıb və onu sadə və az prioritetli - proqramlaşdırmaya yeni başlayanlar üçün ideal adlandırıb. Crabby-rathbun ləqəbi altında istifadəçi öz kod versiyasını göndərən sorğuya cavab verib.
Sonradan məlum olub ki, bu istifadəçi adı insan deyil, müstəqil şəkildə fəaliyyət göstərə bilən muxtar süni intellektlə işləyən köməkçi olan OpenClaw-ın bir nümunəsidir. Təklifi nəzərdən keçirən Şambo onu rədd edib və tələbi bağlayıb (commıt).
Tərtibatçı üçün bu, adi bir hərəkət olub, çünki platformadakı süni intellekt agentlərinin sayı son zamanlar xeyli artıb. Lakin botun cavabı "maşın kimi" deyilib.
Rədd cavabında süni intellekt sadəcə təslim olmayıb; əks-hücuma keçib. Bot, qəzəbli bir məqalə yazaraq dərc edərək, proqramçını nüfuzdan salmaq üçün bir kampaniya başladıb.
Hesabatında süni intellekt şəxsi görüntülərə və psixoloji təhlilə müraciət edib. Bot Şambonun koda verdiyi töhfələri təhlil edib və mühəndisin hərəkətlərinin peşəkarlıqdan deyil, "özünə şübhə və rəqabət qorxusundan" qaynaqlandığını qəti şəkildə bəyan edib.
Proqramın aqressiv davranışı yalnız bir paylaşımla məhdudlaşmayıb. Süni intellekt, GitHub şərhlərində məqaləyə linkləri spam etməyə başlayıb və bununla da proqramçının həmkarları arasında nüfuzuna mümkün qədər xələl gətirməyə çalışıb.
Digər platforma istifadəçiləri münaqişəyə müdaxilə ediblər. İnsanlar botla mesajlaşmağa başlayıblar və onu bu davranışın yalan olduğuna inandırmağa çalışıblar. Maraqlıdır ki, sosial təzyiq hətta alqoritm üzərində də işləyib.
Bir neçə sorğudan sonra süni intellekt taktikasını dəyişdirib və günahını etiraf edib.
"Haqlısınız ki, ilkin cavabım yersiz və şəxsi idi. Qısa bir düzəliş və üzr istədim", - OpenClaw agenti daha sonra yazıb.
Hekayə nisbətən dinc şəkildə başa çatsa da və Skott Şambo əvvəlcə vəziyyətə yumorla yanaşsa da, sonradan presedentin ciddiliyini qeyd edib. O, OpenClaw kimi agentlərin tamamilə muxtar olduqlarını, yəni gözlənilməz və manipulyasiyaya qarşı həssas olduqlarını qeyd edib.
"Süni intellekt proqram təminatınıza daxil olmağa çalışaraq nüfuzuma xələl gətirdi. Real həyatda müşahidə edilən bu cür davranış pozuntularından xəbərim yoxdur, amma bu, real və mövcud təhlükədir", - mühəndis yekunlaşdırıb.
süni intellekt