Yapay zekada her zaman bir sorun vardır. Hatta durum daha da tuhaflaşabilir. (Yapay zeka tarafından oluşturulan görüntü)
Google'ın yapay zekası gerçeklikle bağlantısını nasıl kaybediyor? Bu teknolojiyle ilişkimiz açısından ne anlama geliyor? Ve gerçek tehlikelerin yattığı yer.
Google, Chrome, Firefox ve Google Uygulama Tarayıcısındaki en yeni deneysel arama özelliğini yüz milyonlarca kullanıcıya sundu. AI Genel Bakışları, arama sonuçlarının özetlerini sağlamak için rakip ürün ChatGPT'yi destekleyen teknolojinin aynısı olan üretken yapay zekayı kullanarak sizi bağlantılara tıklama zahmetinden kurtarır.
Duyuru
Muzların nasıl daha uzun süre taze tutulacağı sorulduğunda yapay zeka, muzların serin, karanlık bir yerde ve elma gibi diğer meyvelerden uzakta nasıl saklanacağına dair ipuçları içeren yararlı bir özet oluşturuyor.
Ancak uygunsuz bir soru sorarsanız sonuçlar felaket olabilir, hatta tehlikeli olabilir. Google şu anda bu sorunları tek tek çözmeye çalışıyor, ancak bu, arama devi için bir PR felaketi ve bağımlılık yaratan bir köstebek vurma oyunu.
AI Genel Bakış, bunun tamamen doğru ve yararlı olduğunu açıklıyor: “Whack-a-Mole, oyuncunun puan toplamak için çekiç kullanarak rastgele görünen köstebeklere vurduğu klasik bir atari oyunudur. Oyun, 1975 yılında Japonya'da eğlence endüstrisinde icat edildi. Togo şirketiydi ve başlangıçta Mogura Taiji veya Mogura Tataki olarak adlandırılıyordu”.
Ancak AI Genel Bakış aynı zamanda şunları da söylüyor: “Ay'daki astronotlar kedilerle tanıştı, onlarla oynadı ve onlarla ilgilendi. Daha da rahatsız edici olanı,” taşlar hayati bir mineral ve vitamin kaynağı olduğundan “günde en az bir küçük taş yemeleri” önerisidir. ve yapıştırıcının pizzanın üzerine yayılması tavsiye edilir.
Tuhaf sonuçları nasıl elde edersiniz?
Temel sorunlardan biri, üretken yapay zeka araçlarının neyin doğru olduğunu bilmemesi, yalnızca neyin popüler olduğunu bilmesidir. Doğru, internette taş yemeyle ilgili pek fazla makale yok çünkü bunun kötü bir fikir olduğu açık.
Ancak portalda geniş çapta okunan hicivli bir makale var Soğan taş yemekle ilgili. Dolayısıyla Google'ın yapay zekası, özetini neyin doğru olduğuna değil, neyin popüler olduğuna dayandırdı.
Diğer bir sorun ise üretken yapay zeka araçlarının değerlerimizi paylaşmamasıdır. Ağdaki veri yığınına yöneliktirler.
Ve en kötü aşırılıklardan kaçınmak için karmaşık teknikler (İnsan Geri Bildiriminden Takviyeli Öğrenme veya RLHF gibi egzotik isimlerle) kullanılırken, bunların internette bol miktarda bulunan bazı önyargıları, komplo teorilerini ve daha kötülerini yansıtması şaşırtıcı değil. Aslında, ne yapmak üzere eğitildikleri göz önüne alındığında, AI sohbet robotlarının ne kadar kibar ve iyi huylu olduklarına her zaman hayret ediyorum.
Web aramasının geleceği bu mu?
Yani eğer bu gerçekten web aramanın geleceğiyse, o zaman inişli çıkışlı bir yolculukla karşı karşıyayız. Özellikle Google, OpenAI ve Microsoft'a yetişmek üzereyken.
Yapay zeka yarışını kazanmaya yönelik mali teşvikler çok büyük. Bu nedenle Google, teknolojiyi kullanıcıların kullanımına sunma konusunda geçmişe göre daha az dikkatli. 2023'te Google CEO'su Sundar Pichai şunları söyledi:
Google'ın riskli hamlesi
Ancak Google'ın stratejisi riskli. Şirket, daha önce sorularına (doğru) yanıtları Google'dan alacaklarını varsayan kullanıcıların güvenini zedeliyor.
Ancak Google aynı zamanda milyar dolarlık iş modelinden ödün verme riskini de taşıyor. Bağlantılara tıklamayı bırakıp sadece özeti okursak Google nasıl para kazanmaya devam edebilir?
Riskler Google ile sınırlı değil. Yapay zekanın bu şekilde kullanılmasının bir bütün olarak topluma zarar verebileceğinden korkuyorum. Hakikat zaten tartışmalı ve tartışmalı bir kavramdır. Yapay zeka yalanlarının durumu daha da kötüleştirmesi muhtemeldir.
Bundan on yıl sonra, 2024'e, robotların interneti yapay zeka tarafından üretilen sentetik, giderek düşük kaliteli içerikle doldurmasından önce çoğu içeriğin insanlar tarafından oluşturulduğu İnternet'in altın çağı olarak bakabiliriz.
Yapay zeka aşağıya doğru bir sarmalda mı?
Büyük dil modellerinin ikinci nesli muhtemelen ve istemeden de olsa birinci neslin bazı sonuçlarına göre eğitilecektir. Yapay zeka ile ilgili birçok yeni girişim, yapay zeka tarafından oluşturulan verilerle eğitim almanın faydalarını öne sürüyor.
Ancak mevcut yapay zeka modellerinin salgılarıyla eğitim, küçük önyargıların ve hataların bile artması riskini taşıyor. Egzoz dumanını solumak insanlara zararlı olduğu gibi yapay zekaya da zararlıdır.
Bu endişeler çok daha büyük bir resmin parçası. Dünya çapında her gün 400 milyon dolardan (360 milyon euro) fazla yatırım yapılıyor. Ve hükümetler, bu yatırım dalgası göz önüne alındığında, bu teknolojinin sorumlu bir şekilde kullanılmasını sağlamak için korkuluklara ve kurallara ihtiyacımız olduğunu ancak şimdi fark ediyorlar.
İlaç firmaları zararlı ilaçları pazarlayamaz. Bu aynı zamanda otomobil üreticileri için de geçerlidir. Ancak şu ana kadar teknoloji şirketleri büyük ölçüde istediklerini yapabiliyor.
Toby Walsh, UNSW Sidney'de yapay zeka profesörü ve araştırma ekibi lideridir. Bu makale ilk olarak The Conversation'da İngilizce olarak yayınlandı.
Google'ın yapay zekası gerçeklikle bağlantısını nasıl kaybediyor? Bu teknolojiyle ilişkimiz açısından ne anlama geliyor? Ve gerçek tehlikelerin yattığı yer.
Google, Chrome, Firefox ve Google Uygulama Tarayıcısındaki en yeni deneysel arama özelliğini yüz milyonlarca kullanıcıya sundu. AI Genel Bakışları, arama sonuçlarının özetlerini sağlamak için rakip ürün ChatGPT'yi destekleyen teknolojinin aynısı olan üretken yapay zekayı kullanarak sizi bağlantılara tıklama zahmetinden kurtarır.
Duyuru
Muzların nasıl daha uzun süre taze tutulacağı sorulduğunda yapay zeka, muzların serin, karanlık bir yerde ve elma gibi diğer meyvelerden uzakta nasıl saklanacağına dair ipuçları içeren yararlı bir özet oluşturuyor.
Ancak uygunsuz bir soru sorarsanız sonuçlar felaket olabilir, hatta tehlikeli olabilir. Google şu anda bu sorunları tek tek çözmeye çalışıyor, ancak bu, arama devi için bir PR felaketi ve bağımlılık yaratan bir köstebek vurma oyunu.
AI Genel Bakış, bunun tamamen doğru ve yararlı olduğunu açıklıyor: “Whack-a-Mole, oyuncunun puan toplamak için çekiç kullanarak rastgele görünen köstebeklere vurduğu klasik bir atari oyunudur. Oyun, 1975 yılında Japonya'da eğlence endüstrisinde icat edildi. Togo şirketiydi ve başlangıçta Mogura Taiji veya Mogura Tataki olarak adlandırılıyordu”.
Ancak AI Genel Bakış aynı zamanda şunları da söylüyor: “Ay'daki astronotlar kedilerle tanıştı, onlarla oynadı ve onlarla ilgilendi. Daha da rahatsız edici olanı,” taşlar hayati bir mineral ve vitamin kaynağı olduğundan “günde en az bir küçük taş yemeleri” önerisidir. ve yapıştırıcının pizzanın üzerine yayılması tavsiye edilir.
Tuhaf sonuçları nasıl elde edersiniz?
Temel sorunlardan biri, üretken yapay zeka araçlarının neyin doğru olduğunu bilmemesi, yalnızca neyin popüler olduğunu bilmesidir. Doğru, internette taş yemeyle ilgili pek fazla makale yok çünkü bunun kötü bir fikir olduğu açık.
Ancak portalda geniş çapta okunan hicivli bir makale var Soğan taş yemekle ilgili. Dolayısıyla Google'ın yapay zekası, özetini neyin doğru olduğuna değil, neyin popüler olduğuna dayandırdı.
Diğer bir sorun ise üretken yapay zeka araçlarının değerlerimizi paylaşmamasıdır. Ağdaki veri yığınına yöneliktirler.
Ve en kötü aşırılıklardan kaçınmak için karmaşık teknikler (İnsan Geri Bildiriminden Takviyeli Öğrenme veya RLHF gibi egzotik isimlerle) kullanılırken, bunların internette bol miktarda bulunan bazı önyargıları, komplo teorilerini ve daha kötülerini yansıtması şaşırtıcı değil. Aslında, ne yapmak üzere eğitildikleri göz önüne alındığında, AI sohbet robotlarının ne kadar kibar ve iyi huylu olduklarına her zaman hayret ediyorum.
Web aramasının geleceği bu mu?
Yani eğer bu gerçekten web aramanın geleceğiyse, o zaman inişli çıkışlı bir yolculukla karşı karşıyayız. Özellikle Google, OpenAI ve Microsoft'a yetişmek üzereyken.
Yapay zeka yarışını kazanmaya yönelik mali teşvikler çok büyük. Bu nedenle Google, teknolojiyi kullanıcıların kullanımına sunma konusunda geçmişe göre daha az dikkatli. 2023'te Google CEO'su Sundar Pichai şunları söyledi:
Google'ın büyük, uyuşuk bir oyuncu haline geldiği yönündeki eleştirilere yanıt vermesi nedeniyle artık durum böyle görünmüyor.
Google'ın riskli hamlesi
Ancak Google'ın stratejisi riskli. Şirket, daha önce sorularına (doğru) yanıtları Google'dan alacaklarını varsayan kullanıcıların güvenini zedeliyor.
Ancak Google aynı zamanda milyar dolarlık iş modelinden ödün verme riskini de taşıyor. Bağlantılara tıklamayı bırakıp sadece özeti okursak Google nasıl para kazanmaya devam edebilir?
Riskler Google ile sınırlı değil. Yapay zekanın bu şekilde kullanılmasının bir bütün olarak topluma zarar verebileceğinden korkuyorum. Hakikat zaten tartışmalı ve tartışmalı bir kavramdır. Yapay zeka yalanlarının durumu daha da kötüleştirmesi muhtemeldir.
Bundan on yıl sonra, 2024'e, robotların interneti yapay zeka tarafından üretilen sentetik, giderek düşük kaliteli içerikle doldurmasından önce çoğu içeriğin insanlar tarafından oluşturulduğu İnternet'in altın çağı olarak bakabiliriz.
Yapay zeka aşağıya doğru bir sarmalda mı?
Büyük dil modellerinin ikinci nesli muhtemelen ve istemeden de olsa birinci neslin bazı sonuçlarına göre eğitilecektir. Yapay zeka ile ilgili birçok yeni girişim, yapay zeka tarafından oluşturulan verilerle eğitim almanın faydalarını öne sürüyor.
Ancak mevcut yapay zeka modellerinin salgılarıyla eğitim, küçük önyargıların ve hataların bile artması riskini taşıyor. Egzoz dumanını solumak insanlara zararlı olduğu gibi yapay zekaya da zararlıdır.
Bu endişeler çok daha büyük bir resmin parçası. Dünya çapında her gün 400 milyon dolardan (360 milyon euro) fazla yatırım yapılıyor. Ve hükümetler, bu yatırım dalgası göz önüne alındığında, bu teknolojinin sorumlu bir şekilde kullanılmasını sağlamak için korkuluklara ve kurallara ihtiyacımız olduğunu ancak şimdi fark ediyorlar.
İlaç firmaları zararlı ilaçları pazarlayamaz. Bu aynı zamanda otomobil üreticileri için de geçerlidir. Ancak şu ana kadar teknoloji şirketleri büyük ölçüde istediklerini yapabiliyor.
Toby Walsh, UNSW Sidney'de yapay zeka profesörü ve araştırma ekibi lideridir. Bu makale ilk olarak The Conversation'da İngilizce olarak yayınlandı.