Biz Bile Kandırılabiliyorken Yapay Zekâ İnternetteki Doğru ve Yanlış Bilgiyi Nasıl Ayırt Ediyor?

Yapay zekâlar artık hayatımızın her alanını çepeçevre sarmış durumda ve içten içe sundukları her bilgiye istemsizce güvenmeye başladık. Peki neyin doğru neyin yanlış olduğunu tam olarak hangi çerçevede ele alıyor?

İnternette gezinirken bir sürü bilgiye denk geliyoruz. Peki bu bilgilerin hepsi doğru mu? Değil tabii. Biz bile zaman zaman sahte haberlere, algı oluşturmaya yönelik istatistiklere ya da kulaktan dolma şeylere inanabiliyorsak, yapay zekâ bu işi nasıl hallediyor? Gerçekle yalanı tam olarak nasıl ayırt ediyor?

Cevap basit değil ama önemli çünkü artık yapay zekâ hayatımızın içinde. Yeri geliyor ona soruyoruz, yeri geliyor fikir alıyoruz. Peki ya ne kadar güveniyoruz? Bu içeriğimizde yapay zekâ bilgileri nasıl ayırt ediyor ve neleri dikkate alıyor bunlara bakacağız.

Anlamıyor ama analiz ediyor​

Önce şunu netleştirelim... Yapay zekâ bir bilgiyi görüp “hmm bu mantıklı”demez. Yani bizim gibi anlamaz. Onun yaptığı şey tamamen kuramsal. Hangi kelime hangisinden sonra daha mantıklı gelir, hangi cümle daha önce nerelerde geçmiş gibi şeylere bakar.
Kısacası bilgiyi değerlendiriyor ama bizim gibi hissederek ya da sezerek değil. Elindeki dev veri yığınında, bir bilginin ne kadar yaygın olduğuna, nerelerde geçtiğine ve hangi kaynaklardan geldiğine göre karar veriyor.

Dil modellerinin kökenine inelim...​

Sohbet ettiğiniz yapay zekâlar (mesela ChatGPT gibi) aslında devasa dil modellerinden ibaret. Yani onlara milyonlarca metin okutulmuş ve hangi kelimenin, hangi cümleyle daha iyi gittiğini öğrenmişler.

Bu modellerin olayı, verilen bir soruya insan gibi cevap vermek ama verdiği cevap aslında bir tahminden ibaret. O yüzden kulağa çok doğru gibi gelen bir bilginin aslında yanlış olabileceğini unutmamak gerekir. Çünkü modelin temeldeki amacı sizi etkilemektir.

Güvenilir olarak baz aldığı kaynaklar da yok değil​

Yapay zekâ eğitilirken bazı kaynaklara daha çok güvenebileceğini öğreniyor.

• Wikipedia
• Bilimsel makaleler, akademik yayınlar
• Büyük haber ajansları
• Devlet kurumları ve resmî açıklamalar

Bu tarz kaynaklardan gelen bilgileri genelde doğru olarak ele alıyor çünkü bunlar düzenli olarak kontrol edilen, düzeltme yapılan ve “ciddiye alınan” yerler. Yapay zekâ da haliyle buralardan gelen bilgiye daha fazla ağırlık veriyor.

Peki bir bilgi her yerde varsa "doğru" mudur?​

İşte burası kritik. Bir bilgi çok yaygınsa yapay zekâ bunu önemli bir sinyal olarak alıyor ama her yerde olması her zaman doğru olduğu anlamına gelmez. Özellikle sosyal medyada bir saçmalık milyonlarca kez paylaşılmış olabilir. Bu, onun doğru olduğu anlamına gelmez.

Tabii yapay zekâ bunu fark edecek şekilde eğitilmemişse o bilgiyi “doğru” olarak ele alabilir. İyi ile kötü yapay zekâları birbirinden ayrıştıran da bu konulardaki başarısıdır.

Bilginin doğruluğuna karar verdiği süreç nasıl işliyor?​

Yapay zekâ bilgileri şöyle değerlendiriyor diyebiliriz:

• Bu bilgi nerelerde geçmiş? (Kaynak kontrolü)
• Aynı bilgi başka güvenilir yerlerde de var mı? (Çapraz kontrol)
• Bilgi güncel mi? Eski bilgilerle çelişiyor mu? (Zaman kontrolü)
• Kimin söylediği belli mi?

Bu kriterlere göre bilgileri “daha güvenilir” veya “şüpheli” olarak değerlendiriyor ama her ne olursa olsun yapay zekâları hiçbir zaman %100 güvenilir olarak ele alamayız -ki bu konuda her yapay zekâ botu defalarca kez kullanıcıları uyarmakta ve edindiğiniz çıktıları iki kez kontrol etmenizi söylemekte-.

Günün sonunda iş yine bizde bitiyor​

Ne kadar gelişmiş olursa olsun, yapay zekâ hâlâ insan zekâsının yerini tam olarak alamıyor. Onun için “gerçek” olan şey, verilerde en çok geçen, en güvenilir kaynaklardan alınan şeydir. Çünkü her şey veriye dayanıyor; mantığa, bağlama ya da sezgiye değil.

Tabii bundan yıllar önce yapay zekânın bugün geleceği noktayı kavrayamayacağımız gibi gelecek yıllarda ne denli gelişeceğini de kestirmemiz güç. Hatta "sentetik zekâ" denilen şey de nispeten bu tip açıkları kapatmayı amaçlıyor ama bu da bir başka içeriğin konusu diyelim.