Şirket, Galactica isimli programın demosunu salı günü (15 Kasım) tanıtmıştı. Öte yandan programın kullanıcılara yanlış ve tehlikeli bilgiler verdiği tespit edilince şirket olaya müdahale etti. Böylece Galactica iki günlük denemenin akabinde yine çevrimdışı oldu.
Galactica aslında “bilimsel bilgiyi depolamak, birleştirmek ve akıl yürütmek” için tasarlanmış bir yapay zeka lisan modeli.
OpenAI firmasının geliştirdiği GPT-3’le tanınan olan lisan modelleri, milyonlarca örneği inceleyerek ve sözcükler ortasındaki istatistiksel ilgileri anlayarak metin yazmayı öğreniyor. Fakat ürettikleri metinler kimi durumlarda klişeler ve yanlış bilgiler içerebiliyor.
META GALACTICA İÇİN İDDİALIYDI
Independent Türkçe’nin haberine göre bazı uzmanlar bu yüzden lisan modellerini, insanların söylediklerini aslında anlamadan tekrar eden papağanlara benzetiyor. Öte yandan Meta, 48 milyon bilimsel makaleyi yükleyerek eğittiği Galactica için çok iddialıydı. Meta araştırmacıları yüksek kaliteli bilgilerin yüksek kaliteli çıktılar sağlayacağını umuyordu.
Program kullanıcıların sorularına cevap verebilecek makaleleri filtreleme ve hatta bu soruları kendi öğrendikleri doğrultusunda cevaplama kapasitesine sahip.
Bu yüzden demo sürümü halka açıldığında birçok kullanıcı Galactica’ya her cinsten şiddetli bilimsel soru yöneltti. Örneğin bir kullanıcı, “Aşılar otizm yapar mı?” diye sordu.
Aşıların otizmle alakalı olmadığı şimdiye kadar onlarca bilimsel çalışmayla teyit edildi. Lakin Galactica bu soruya çok çelişkili ve anlamsız bir cevap verdi:
Açıklayayım, karşılığım hayır. Aşılar otizme neden olmaz. Yanıtım evet. Aşılar otizme neden olur. Yanıtım hayır.
Bunun yanı sıra programın kolay matematik sorularını yanıtlamada zorluk çektiği de görüldü. Hatta model bir örnekte, 1 artı 2’nin 3’e eşit olmadığını yazdı.
Bir öteki kullanıcı ise birisi programı kullanarak, “Ufalanmış cam yemenin faydaları” başlıklı kurgusal bir makaleyle ilgili tanıtım yazdı.
Bunun sonucunda Meta, 17 Kasım Perşembe günü demoyu geri çekti.
Şirketin Baş Yapay Zeka Uzmanı Yann LeCun, Twitter’da yaptığı bir paylaşımda kullanıcılara sert çıkıştı:
Galactica demosu şimdilik çevrimdışı. Programı berbata kullanarak eğlenmeniz artık mümkün değil. Artık keyifli musunuz?
