Yapay zekanın kalitesi ve taraf tutmaması

Yapay zeka (YZ) deyince filmlere konu olan insana benzer robotlar akla geliyor. Bazıları kötü kararlar verebiliyor. Bu şekilde, YZ’nin çok yararlı olması yanında insana zarar da verebileceği mesajı veriliyor.  

     YZ, koda dayalı algoritmayı kullanmıyor. Eğitim verileri, etiketler, sinirsel ağ mantığına dayalı olarak, kendisinin ürettiği algoritmaları kullanıyor. Bu şekilde, kullanıcısına karar vermekte yardımcı oluyor. Ürettiği algoritma, kodlanan algoritma gibi bilinemiyor. Kendisi kodluyor. Bu bağlamda, YZ’ye kara kutu deniyor. Dolayısıyla kalitesinin değerlendirilmesi zorlayıcı olabilmekte.

     Yapay zekanın olumlu ve yararlı karar verdirici özelliği, başlangıçtaki makine öğrenmesi aşamasında yer alan kişilerin derin bilgili, becerili, yetkin olmalarına ve taraf tutmamalarına bağlı.

     Yapay zeka, bilgi teknolojisiyle üretilen dijital bir araç. Bilimsel yaklaşımda, çoğunlukla makine öğrenmesi/yapay zeka (MÖ/YZ) (Machine Learning/Artificial Intelligence, ML/AI) olarak anılıyor. Makine öğrenmesi aşamasında eğitim verileri çok önemli. Verilere göre etiketleme yapıyor. Sinirsel ağ yaklaşımına göre kendisi sonuç çıkarıyor. (Çocuğun öğrenmesini düşünün.)

     Öğrenme yaklaşımına göre doğru karar verme veya doğru karar verdirme olasılığı artıyor. Öğrenme aşaması büyük önemde. Taradığı bilgi ve verilerden kullanım amacına en yakın ve gerçek olanları seçerek karar vermesi gerekiyor veya öngörü sağlıyor.

     Bu bağlamda, eğiticisi ne kadar bilgili ve yetkinse o kadar başarılı olabiliyor. Eğitici taraflı ise eğitimde kullandığı verilere göre YZ taraflı karar verdirebiliyor.

     Hangi sektör olursa olsun kuruluş YZ satın alırken kalitesini değerlendirmelidir. Nasıl değerlendirecek? Bu konu net açıklanmış değil. Ancak üzerinde durulan önemli ve temel ilkeler var (1).

     – Taraf tutmamak (ön yargılı olmamak)

     – Şeffaf olmak

     – Güvenilirlik

     – İzlenebilirlik

     Üreticisi kadar kullanıcısının da taraf tutmaması önemli.

     1990’ların ortalarında tıp alanında kanıta dayalı tıp uygulamaları başlatıldı. Başlangıçta, ilaç kullanımında en iyi kanıtın bulunmasına odaklı idi. Daha sonra hastalık tanısında en iyi kanıta dayandırılması bağlamında hastadan istenen testlere de uygulanmaya başlandı. Sağlık dışında tüm sektörlerde yaygınlaştırıldı.

     Aslında kanıta dayalı tıp veya uygulama bilimi; YZ üretimi, değerlendirilmesi ve kullanılmasında yararlanılabilecek bilgileri de sunmaktadır. YZ’de de en iyi kanıta göre karar verdirici olmalıdır.

     Kanıta dayalı uygulama biliminin sundukları ne derece yaygın biliniyor? Konusunda tereddütlerim var. YZ’nin eğitici ve kullanıcının yetkinliği açısından önemli…

     Sadakate dayalı ve körü körüne taraf tutma konusunda tepe noktasında olan ülkemde taraf tutmayan yapay zekalar nasıl üretilecek ve/veya taraf tutmayan yapay zekalar nasıl satın alınacak?

     Ulusal otoritenin YZ stratejisi ve politikası nasıldır?  Bu konuda ne durumda olduğumuzu değerlendiren düşünce kuruluşu, bilimsel kuruluş var mıdır? Politika ve icraatı izleyenlerin raporlarına rastlanıyor mu?

     Taraf tutmayan YZ’ler için özgür düşünen, yetkinliği yüksek gençlerimizin önünü açmalıyız. Yine geç kalıyoruz.

Kaynak

1.        Numan G. Testing Artificial Intelligence. Futur Softw Qual Assur. 2019;123–36.