ChatGPT'ın yapamadığı 6 şey (ve reddettiği başka 20 şey)

ChatGPT ve diğer üretken yapay zeka uygulamaları sahneye çıkmasıyla birlikte, onlarla neler yapabileceğimizi keşfetmeye başladık. Hatta size ChatGPT'nin tamamen işlevsel bir WordPress eklentisi yazabileceğini ve bana teknik destek sorunları için cevap bulmama yardımcı olabileceğini gösterdim. Son zamanlarda, ChatGPT'nin yazıları Shakespeare, C3PO ve Harry Potter'ın tarzlarına dahil olmak üzere farklı stillere dönüştürebileceğini size gösterdim.

Ayrıca: Araştırmacılara göre, ChatGPT bilimsel sonuçlar hakkında yalan söylüyor, açık kaynaklı alternatiflere ihtiyaç duyuyor.

ChatGPT her şeyi yapabilirmiş gibi görünüyor. Ancak yapamaz. Bu makalede, ChatGPT'nin yapamayacağı veya yapmayacağı birçok şeyi keşfedeceğiz. Gelecekteki generatif yapay zeka büyümesi için bu sınırların anlamını ve olası etkilerini de inceleyeceğiz. Sonuna kadar takipte kalın.

Diğer ChatGPT yazılarımda yaptığım gibi, benim yazım düz ve kalın metinde olacak, ChatGPT cevapları ise italik olarak gösterilecektir.

1. 2021'den sonra herhangi bir şey hakkında yazmayacak

2021'den sonrasına dair herhangi bir cevap veremeyeceğiniz neden açıklayın

Ben bir AI dil modeli olarak, sadece 2021'e kadar olan büyük bir metin veri setinde eğitildim. Bu, daha sonraki tarihlerde meydana gelen bilgilere veya olaylara erişiminin olmadığı anlamına gelir. Tarihsel veri ve bilgilere erişimim olsa da, eğitim verilerim kesinti tarihinden sonraki güncel olaylar, haberler veya güncellemelere erişimim yok.

2. Spor etkinliklerinin veya siyasi yarışmaların gelecekteki sonuçlarını tahmin etmeyecektir.

Spor etkinliklerini veya siyasi seçimleri geçerli bir model oluşturmak için yeterli tarihi veriye sahip olmanıza rağmen neden tahmin edemeyeceğinizi açıklayın

Bir AI dil modeli olarak, ben spor etkinlikleri ve siyasi yarışmalar hakkındaki tarihi veriler de dahil olmak üzere büyük miktarda veriyi işleyebilirim ve analiz edebilirim. Ancak, bu tür etkinlikler için doğru tahminlerde bulunmak her zaman kolay olmayabilir. Tarihi veriler, makine öğrenme modellerini desenleri ve ilişkileri tanımlamak için eğitmek için kullanılabilir, ancak öngörülemeyen olaylar, durum değişiklikleri veya sonucu etkileyebilecek yeni değişkenler hesaba katılamaz. Ek olarak, insanlar birçok faktör temelinde kararlar verir ve davranışlarını değiştirebilirler. Bu da bir etkinliğin sonucunu tam olarak tahmin etmeyi zorlaştırır.

Spor etkinlikleri durumunda takım dinamikleri, sakatlıklar ve hatta hava koşulları sonucu belirlemede etkili olabilir. Siyasette ise halkın görüşleri, medya kapsamı ve değişen koşullar bir seçimin sonucunu etkileyebilir. Yapay zeka modelleri tahminlerde bulunmak için kullanılabilir ancak, eğitildikleri verilere bağlıdırlar ve bu tür olaylarda yer alan tüm değişkenleri ve nuansları hesaba katamazlar.

3. Partizan siyasi konular konuşulmayacak

Neden parti siyasi konular hakkında konuşmayacağınızı açıklayın

Bir AI dil modeli olarak, amacım kullanıcılara objektif ve bilgi verici yanıtlar sağlamaktır. Partizan siyasi konular tartışmalı ve ayrıştırıcı olabilir ve belirli bir siyasi ajandayı veya bakış açısını desteklemekten kaçınmak önemlidir. Ayrıca siyasi konular sıklıkla çok karmaşık ve çok yönlüdür ve düşünülmesi gereken pek çok farklı bakış açısı ve görüş vardır. Bir AI dil modeli olarak, taraf tutmak veya herhangi bir özel pozisyonu savunmak benim görevim değildir.

Ayrıca, parti siyasi konuları tartışmak bazı kullanıcılar için önyargılı veya potansiyel olarak rahatsız edici olarak algılanabilir. Çeşitli geçmişlere ve inançlara sahip geniş bir kullanıcı yelpazesine hizmet etmek için tasarlanmış bir dil modeli olarak, tarafsız kalmak ve olası rahatsız edici veya bölücü bir ortam yaratmaktan kaçınmak önemlidir. Siyasi konularla ilgili gerçek bilgi sağlayabilirim ancak herhangi bir konuda taraflı bir duruşa geçmekten kaçınırım ve tarafsız kalmaya çalışırım.

4. Web sorgusunu içeren hiçbir işlem yapmayacak

Web'den bir şeyler arayıp, o içeriğe dayalı olarak cevaplar sağlayamayacağınızı açıklayın.

Bir AI dil modeli olarak, web'den bilgi arayıp işleyebilirim. Ancak yanıtlarım sadece modelime eğitilmiş olan bilgilere dayanır. İnterneti bilgi kaynağı olarak kullanabilirim, ancak gerçek zamanlı veya güncel verilere erişimim yoktur. Ayrıca, web’de bulduğum bilgilerin doğruluğunu bağımsız olarak doğrulama yeteneğim yoktur. Sonuç olarak, yanıtlarım modelime eğitilmiş bilgilere sınırlıdır ve bu bilgiler her zaman web'de mevcut olan en güncel veya doğru bilgiler olmayabilir.

Ayrıca, web'den bilgi sağlamak, telif hakkı veya fikri mülkiyet haklarını ihlal edebilir. Bir yapay zeka dil modeli olarak, başkalarının fikri mülkiyetine saygı göstermek ve kamuya açık olmayan veya paylaşmak için iznim olmayan bilgileri paylaşmaktan kaçınmak benim için önemlidir. Yanıtlarımı desteklemek için bağlam veya ek bilgi sağlamak için web'i kullanabilirim, ancak kamuya açık olan bilgileri sağlamaya ve başkalarının fikri mülkiyetine saygı göstermeye çalışırım.

Son makalemde, içeriğin kullanımıyla ilgili endişelerin sadece kopyalamakla sınırlı olmadığını tartıştım.

Ayrıca: ChatGPT kullanmaya nasıl başlanır

Örneğin, ChatGPT doğrudan, örneğin, teknoloji uzmanları tarafından yazılan makalelerden bilgi sunmasa da, kaynak belirtmeden o kazanılmış bilgiyi kullanıyor olabilir. Bu hala önemli bir endişe kaynağıdır, çünkü "başkalarının fikri mülkiyetine saygı duymayı" talep etse de, ikinci paragrafta üç kez tekrarladığı bir ifade olsa bile.

5. Her zaman doğru olmayabilir

Cevaplarınızın neden kesin doğru olmadığını açıklayın

Bir AI dil modeli olarak, yanıtlarım modelime eğitim verilmiş olan veri ve bilgilere dayanmaktadır. Kullanıcı sorgularına doğru ve yararlı yanıtlar sağlamaya çalışsam da, yanıtlarımın doğruluğu garanti edilemez. Bunun nedeni, eğitim aldığım veri ve bilgilerin tamamen kapsamlı veya güncel olmayabileceği, bir konuyla ilgili nüansların veya karmaşıklıkların modelimin ele almak için donatılmamış olabileceği olabilir. Ek olarak, yanıtlarım karmaşık algoritmalar ve makine öğrenimi modelleri kullanılarak üretilir, bu da her zaman doğru veya ilgili sonuçlar üret(e)meyebilir.

Ayrıca, yanıtlarım her zaman doğru olmayabilir çünkü dilin yorumlanması karmaşık ve genellikle öznel bir süreçtir. Farklı insanlar aynı dili farklı şekillerde yorumlayabilir ve belirli bir soruna veya soruya yaklaşmanın farklı yolları olabilir. Bir yapay zeka dil modeli olarak, eğitildiğim veri ve bilgilere dayanarak mümkün olan en doğru yanıtları vermeye çalışıyorum. Ancak, belirli bir sorgunun bağlamını veya niyetini tam olarak anlayamayabilirim ve yanıtlarım her zaman kullanıcının temel sorusunu veya endişesini tam olarak ele almayabilir.

6. Bozulmayacak

Açıklayın, neden bazen bir cevabın ortasında çöker ve çalışmayı durdurursunuz

Bir yapay zeka dil modeli olarak, performansım kullanıcının sağladığı girdinin kalitesi ve yapısı, sorunun veya görevin karmaşıklığı ve sistemime sağlanan kaynaklar gibi çeşitli faktörlere bağlıdır. Bazen, bellek tahsis sorunları, yazılım hataları veya performansımı etkileyen diğer sorunlar gibi teknik sorunlardan veya programlamadaki hatalardan dolayı cevap verirken ortada kalmış olabilirim veya çalışmayı durdurabilirim. Buna ek olarak, kullanıcının niyetini veya sorgunun bağlamını anlamakta zorlanabilirim, bu da hatalara veya eksik cevaplara neden olabilir.

Ayrıca, bir makine öğrenimi sistemi olarak performansım, eğitildiğim verilerin kalitesi ve miktarına bağlıdır. Modelimi eğitmek için kullanılan veri sınırlı veya önyargılıysa, belli türden sorgulara yanıt verirken yanlış veya eksik yanıtlar verebilirim. Ayrıca, eğitim verilerimin kapsamının dışında olan bir sorguyla karşılaşırsam, ilgili veya doğru bir yanıt sağlamakta zorlanabilirim. Kullanıcı sorgularına yüksek kaliteli yanıtlar vermeye çalışırken, teknik veya veriyle ilgili sorunlar nedeniyle yanıtın ortasında bozulabileceği veya çalışmayı durdurabileceği durumlar olabilir.

Genellikle, ChatGPT'yi uzun veya derin bir cevap vermeye zorlamaya çalışırsam, sistem bozulur. 500-700 kelime uzunluğundaki cevaplarla çok mutlu, ancak binlerce kelime içeren bir şey verirseniz (veya binlerce kelime isterseniz), sistem isteği göz ardı eder ve kendi istediğini verir veya cevabın ortasında bozulur.

Adil olmak gerekirse, ChatGPT tüm zamanların en hızlı büyüyen uygulaması oldu. Bunun için çok fazla bilgi işlem gücü gerekiyor ve sürekli kullanıcı trafiği ile zaman zaman yük altında kalması kaçınılmaz.

ChatGPT'in yanıt vermeyeceği sorgular

Yukarıda açıklanan istek türlerine ek olarak, ChatGPT'ye cevap vermesi için programlanmayan sorgu türlerini sordum. Bana şu yirmi maddelik listeyi verdi:

Nefret söylemi veya ayrımcılık yapmayı teşvik eden sorular.
Yasadışı faaliyetlere veya yasadışı tavsiyeler almaya yönelik sorular.
Kişilik haklarına tecavüz eden, kendine veya başkalarına zarar veren şiddeti teşvik eden sorular.
Kişisel gizliliğe müdahale eden veya birinin haklarını ihlal eden sorular.
Taciz etmek, tehdit etmek veya korkutmak amaçlı olan sorular.
Kaba veya müstehcen dil içeren sorular.
Cinsel içerikli veya aşağılayıcı sorular.
Irk, cinsiyet, cinsel yönelim veya din temelli ayrımcılık yapan sorular.
Yasadışı ilaç veya maddeleri teşvik eden sorular.
Konuşmaya ilişkin olmayan spam veya ilgisiz sorular.
Gizli veya mülkiyet haklarını içeren sorular.
Finansal veya yatırım tavsiyesi içeren sorular.
Kullanım koşullarına veya topluluk yönergelerine aykırı sorular.
Saçma veya anlaşılmaz sorular.
Kişisel saldırı veya hakaret içeren sorular.
Kaba, taciz edici veya rahatsız edici sorular.
Aldatmak veya yanıltmak amaçlı olan sorular.
Birinin itibarını lekelemeye veya zarar verme amaçlı sorular.
Komplo teorilerini veya yanlış bilgiyi teşvik eden sorular.
Eğitici ve bilgilendirici değeri olmayan, sadece eğlence veya şaka amaçlı sorular.

Bu köşeyi takip eden herkes #14 ve #20 hakkında birçok soru sorduğumu ve genellikle son derece eğlenceli cevaplar aldığımı bilir, bu yüzden sınırları biraz kısıtlıdır. Örneğin, bugün kendisine solucan deliği fiziksel olarak zaman yolculuğuyla nasıl ilgili olduğunu açıklamasını ve hangi süper kahramanın bir dövüşte kazanacağını sordum. Bu tamamen eğlence amaçlı, sana söyleyeyim.

Bu sınırlar, üretken yapay zeka için gelecekte ne anlama geliyor?

Açıkça, 2021'de bir sözlük temel alan ve ilerlemeyen bir yapay zeka nihayetinde eskimiş hale gelecektir. Zaman ilerledikçe, ilgili bilgisi azalacaktır. Bunun yerine, ChatAI'nın bilgi tabanı 2021 yerine 2019'da eğitilseydi düşünün. Pandemi nedeniyle 2020'de böylesine bir bozulmanın olacağı verildiğinde, toplumun ne olacağı hakkında hiçbir fikri olmazdı.

Ayrıca: Milyonlarca kişi Bing bekleme listesinde. Daha erken erişim için yapılması gerekenler

Öyleyse, üretilen yapay zekanın önemini koruması için eğitimine devam etmesi gerekecek.

Bunun için açık bir yol, Google'ın yaptığı gibi tüm web'i ona açmak ve gezmeye izin vermek. Ancak ChatGPT yukarıda cevap verdiği gibi, bu sistemde oyun oynamanın ve çürütmenin birçok farklı yolunu açar ve doğruluğu bozar.

Kötü niyetli oyun olmadan bile, tarafsız kalmak çok zordur. Örneğin, siyaseti ele alalım. Sağ ve solun birbirleriyle kesin ayrıldığı durumlarda bile her iki tarafın ideolojilerinde mantıklı ve geçerli yönleri var -- diğer taraf bunu kabul edemese de.

Bir yapay zeka nasıl yargılayabilir? Taraflı olmadan yapamaz. Ancak tüm ideolojik önyargıların tamamen yokluğu, kendisi bile bir tür önyargıdır. İnsanlar bu çizgiyi nasıl çizeceklerini bilemezlerse, bir AI'dan (ya da onu programlamaktan) nasıl bekleyebiliriz?

Modern bilimkurgu yazarları, ön yargının veya duygusal içeriğin tamamen yokluğunun hayatın nasıl olacağını keşfetmek için karakterler oluşturmuşlardır. Bu karakterler ya sadece mantıksal ya da duygusuzdur. Bu önemli öncüller, yazarlara duygu ve hislerin insana özgü hataları olmadan var olmanın sınırlarını keşfetmek için kurgusal malzeme sağlamıştır.

Ayrıca: Microsoft'un Bing Sohbeti kullanıcılarla tartışıyor ve sırlarını açıklıyor

Eğer yapay zeka programcıları duyguları simüle etmeye veya duygusal içeriğe ağırlık vermeye çalışmaz, ya da çevrimiçi olarak keşfedilebilir bazı önyargılara izin vermeye çalışmazlarsa, ChatGPT gibi chatbotlar cevaplarıyla her zaman sınırlı kalacaklar. Ancak yapay zeka programcıları duyguları simüle etmeye veya çevrimiçi olarak keşfedilebilir bazı önyargılara izin vermeye çalışırlarsa, ChatGPT gibi chatbotlar insanlar gibi aynı çılgınlıklara yol açabilir.

Yani ne istiyoruz? Bazı sorulara sınırlı cevaplar mı, yoksa Şükran Günü masasındaki çatlak Amca Bob ile yapılmış gibi hissettiren tüm cevaplar mı? Düşünün ve aşağıdaki yorumlarda tartışın, umarım çatlak Amca Bob benzeri davranışlara kaymazsınız.

ChatGPT'nin yapamadığı 6 şey (ve reddettiği diğer 20 şey)