Yapay zekanın ürettiği kod parçaları, hatalarla dolu bir mayın tarlasını andırıyor. Yazılım mühendisleri, işlerini kaybetme korkusuyla AI araçlarını kullanmak zorunda kalıyor. Ancak aceleyle oluşturulan ve güvenilirliği kanıtlanmamış kod yığınları, şirketlerin temelinde gizli sorunlar yaratıyor.
Codestrap'ın kurucusu Dorian Smiley ve şirket yöneticisi Connor Deeks, mevcut durumun pek de iç açıcı olmadığını ifade etti. Smiley ve Deeks, günümüzdeki yapay zeka teknolojisi olan LLM (Büyük Dil Modeli) alanında henüz çözülememiş temel meselelerin bulunduğunu belirtiyor. Üretilen kod, yazılımın küçük işlevlerini test eden Unit Test (mini deneme) aşamasını geçse bile, gerçek uygulamalarda başarısız olabiliyor.
Problemler yavaş yavaş gün yüzüne çıkmaya başladı ve bunların ilk sonuçlarını Amazon üstlendi. Şirketin perakende ağına yönelik yaşanan kritik sunucu kesintileri sonrası acil bir kriz toplantısı gerçekleştirildi. Yönetici Dave Treadwell, çalışanlara “Sitenin ve altyapının durumu son zamanlarda pek iyi değil” diyerek durumu özetledi. Amazon'daki kesintilerin, otomatik olarak üretilen kod değişikliklerinin büyük bir etkisi olduğu düşünülüyor.
Artık Amazon bünyesindeki Junior (Yeni başlayan) ve orta kademe mühendislerin yapay zekaya yazdırdığı her bir kod satırı, Senior (Deneyimli) mühendislerin zorunlu onayına tabi tutuluyor. Bu zorlu süreç, teknolojinin işleri hızlandırıp maliyetleri düşüreceği yönündeki vaadini sorgulamaya açtı. Sadece yenilik dalgasına ayak uydurmak için projeleri tamamen AI sistemlerine teslim etmek, bir zaman bombasıyla oynamakla eşdeğer. Hataların hızla büyümesi, yalnızca ağları çökertmekle kalmayacak, aynı zamanda birçok kişinin kariyerini de tehlikeye atacak.