Avustralya'da hükümete çalışan şirket yapay zeka kullanmış: Parayı geri ödeyecekler

Danışmanlık şirketi Deloitte Australia, yapay zeka tarafından üretilmiş hatalarla dolu bir rapor hazırladığı gerekçesiyle, Avustralya hükümetine 440 bin Avustralya dolarının (yaklaşık 290 bin ABD doları) bir kısmını geri ödemeyi kabul etti.

Denetim ve danışmanlık devi Deloitte Australia'nın raporu, İstihdam ve İş İlişkileri Bakanlığı için hazırlanmış ve Temmuz ayında kurumun internet sitesinde yayımlanmıştı. Ancak Sidney Üniversitesi’nden hukuk araştırmacısı Dr. Chris Rudge, raporda "uydurulmuş alıntılar ve sahte akademik kaynaklar" tespit ettiğini medyaya bildirince, belge yenilenmiş versiyonuyla Cuma günü yeniden yayımlandı. Bakanlık, Deloitte’un 237 sayfalık raporu yeniden incelediğini ve bazı dipnotlar ile kaynakların yanlış olduğunu doğruladığını açıkladı. Deloitte, bu hatalar üzerine sözleşmenin son taksitini iade etmeyi kabul etti.

AZURE KULLANILDIĞI ORTAYA ÇIKTI

Raporun hazırlanmasında Microsoft’un Azure OpenAI adlı yapay zeka sisteminin kullanıldığı ortaya çıktı.

Güncellenen sürümde, uydurma mahkeme alıntıları ve var olmayan akademik çalışmalara yapılan göndermeler kaldırıldı. Dr. Rudge, ilk raporda yaklaşık 20 hata bulduğunu ve en dikkat çekici örneklerden birinin, bir akademisyene var olmayan bir kitap atfedilmesi olduğunu belirtti. Ayrıca, bir federal yargıcın sözlerinin uydurulmuş biçimde rapora girmesini "ciddi bir hukuki yanlış beyan" olarak nitelendirdi.

"SON DERECE SORUMSUZCA"

Olayın ardından Avustralya Yeşiller Partisi senatörü Barbara Pocock, Deloitte’un yalnızca bir kısmını değil, tüm 440 bin doların iadesini talep etti.

Pocock, "Deloitte yapay zekayı son derece sorumsuz şekilde kullandı: bir yargıcı yanlış alıntıladı, olmayan kaynaklar ekledi. Bu, birinci sınıf bir üniversite öğrencisinin bile ağır ceza alacağı türden bir hata." dedi. Deloitte ise yaptığı kısa açıklamada, "konunun doğrudan müşteriyle çözüldüğünü" belirtmekle yetindi ve hataların yapay zeka kaynaklı olup olmadığına ilişkin bir açıklama yapmadı.