Yapay zekanın yazdığı kod satırları, kusurlarla dolu bir mayın tarlasına benzetiliyor. Yazılım mühendisleri, işlerini kaybetme baskısıyla AI araçlarını kullanmaya adeta mecbur bırakılıyor. Ancak aceleyle oluşturulan ve doğruluğu kanıtlanmamış bu kod yığınları, şirketlerin temelinde gizli çatlaklar açıyor.Codestrap kurucusu Dorian Smiley ve şirket yöneticisi Connor Deeks, gidişatın pek iç açıcı olmadığını ifade etti. Smiley ve Deeks’e göre, mevcut LLM (Büyük Dil Modeli) teknolojisinde henüz aşılmamış temel sorunlar bulunuyor. Üretilen kod, Unit Test aşamasını geçse bile gerçek kullanımda tamamen başarısız olabiliyor.
Sorunlar yavaş yavaş su yüzüne çıkmaya başladı ve faturayı ilk ödeyenlerden biri Amazon oldu. Şirketin perakende ağında yaşanan kritik sunucu kesintilerinin ardından acil bir kriz toplantısı düzenlendi. Yönetici Dave Treadwell, çalışanlara sitenin ve altyapının durumunun son zamanlarda pek iyi olmadığını söyledi. Amazon’daki kesintilerde, otomatik üretilen kod değişikliklerinin büyük bir payı olduğu düşünülüyor.
Artık Amazon bünyesindeki Junior ve orta kademe mühendislerin yapay zekaya yazdırdığı her kod satırı, Senior (deneyimli) mühendislerin zorunlu onayından geçiyor. Bu yorucu süreç, teknolojinin işleri hızlandırıp maliyetleri düşüreceği yönündeki vaadini de temelinden sarsıyor.
Sırf yenilik dalgasına ayak uydurmak için projeleri tamamen AI sistemlerine teslim etmek, saatli bir bombayla oynamaktan farksız görülüyor. Uzmanlara göre, hataların çığ gibi büyümesi sadece ağları çökertmekle kalmayacak, aynı zamanda sektördeki pek çok kişinin kariyerine de mal olacak.
Sizce yazılım geliştirmede yapay zeka kullanımı için nasıl bir denetim mekanizması geliştirilmeli?