Yapay zekâ kaynaklı hata ABD’yi savaşın eşiğine getirdi

CNN’in haberine göre olay, İran savaşı sırasında bu bahar meydana geldi. Hatalı istihbarat raporu ABD ordusu genelinde paylaşılırken, geminin durdurulması için operasyon planlandı.

Olay hakkında bilgi sahibi dört kaynağa göre, iki kaynak ABD askerlerinin gemiye çıkmak üzere hazırlandığını, diğer iki kaynak ise askeri uçakların havada olduğunu belirtti.

Operasyon öncesi hata fark edildi

Yetkililer, planlanan operasyonun hemen öncesinde istihbarat raporunun yapay zekâ desteğiyle hazırlandığını tespit etti. Kaynaklara göre ABD Özel Harekât Komutanlığı’nda görevli bir analistin kullandığı sohbet robotu, geminin manifestosunda yer alan malzemeleri yanlış yorumlayarak bunların nükleer silah programıyla bağlantılı olduğu sonucuna vardı.

Kaynaklardan biri istihbarat raporunu “tamamen yanlış” olarak nitelendirirken, olayın “neredeyse bir savaş başlatacağını” söyledi.

Çin’e ait bir gemiye yönelik olası bir operasyonun, Washington ile Pekin arasındaki gerilimi silahlı çatışmaya dönüştürme riski taşıdığı belirtildi.

Yapay zekâ istihbaratı yanlış yorumladı

Analistin, geminin yük manifestosuyla ilgili istihbarat bilgilerini değerlendirmek için bir sohbet robotuna başvurduğu aktarıldı. Bilgilerin kaynağının Hawaii merkezli ABD Özel Harekât Komutanlığı Pasifik birimi olduğu belirtildi.

Sistemin ticari olarak kullanılan bir yapay zekâ aracı mı yoksa ABD hükümeti tarafından geliştirilen bir sistem mi olduğu ise netleşmedi.

Kaynaklara göre yapay zekâ sistemi, açık kaynaklardan elde edilen bilgilerle gizli sinyal istihbaratını birleştirerek geminin taşıdığı yüke ilişkin yanlış bir sonuca ulaştı. Analist daha sonra yapay zekâyı kullanarak bu değerlendirmeyi standart bir istihbarat raporuna dönüştürdü ve rapor askeri yetkililere dağıtıldı.

ABD ordusunda yapay zekâ tartışması

Olay, ABD ordusu ve istihbarat kurumlarında yapay zekânın giderek daha fazla kullanılmasına ilişkin güvenlik endişelerini yeniden gündeme getirdi.

ABD Savunma Bakanlığı, büyük miktardaki istihbaratın analiz edilmesi, savaş alanındaki karar alma süreçlerinin hızlandırılması ve askeri hareketler ile olası hedeflerin değerlendirilmesi gibi alanlarda yapay zekânın kullanımını teşvik ediyor.

Savunma Bakanı Pete Hegseth de ocak ayında “Yapay Zekâ Hızlandırma Stratejisi”ni açıklayarak orduda yapay zekâ araçlarının daha hızlı ve yaygın şekilde kullanılmasını hedeflediklerini duyurmuştu.

Ancak CNN’e konuşan bazı ABD’li yetkililer, yapay zekâ kullanımının kurumlar arasında parçalı şekilde ilerlediğini ve farklı birimlerin farklı sistemler ile güvenlik standartları kullandığını belirtti. Yapay zekâ tarafından üretilen bilgilerin doğrulanmasına yönelik ortak bir standardın bulunmaması da güvenilirlik konusunda soru işaretleri oluşturuyor.

Çin gemisiyle yaşanan olay, uzmanların yapay zekâ konusunda daha acil bir risk olarak gördüğü sorunu ortaya koydu: İnsanların, otomatik sistemlerin ürettiği hatalı bilgilere dayanarak kritik askeri kararlar alması.

Kaynaklar ayrıca istihbarat topluluğunun farklı bölümlerinde yapay zekânın “halüsinasyon” olarak adlandırılan, gerçeğe aykırı veya yanıltıcı bilgiler üretmesi vakalarının da yaşandığını aktardı.