Bilgi

OpenAI Nihayet GPT2 1,5 Milyar Parametre Modelini Yayınladı

OpenAI Nihayet GPT2 1,5 Milyar Parametre Modelini Yayınladı


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Salı günü OpenAI, 1,5 milyar parametreli GPT-2 dil modelinin son aşamalı sürümünü paylaştı. İlgili tüm kod ve model ağırlıkları blog gönderisine dahil edildi.

OpenAI, bu yılın Şubat ayında GPT-2'yi ilk kez piyasaya sürdüğünde, potansiyel kötüye kullanımıyla ilgili endişeler dile getirildi. Bu noktada şirket, dil modelinin kodunu ve eğitim veri setini paylaşmaya karar verdi.

GPT-2'nin ayrıntılarını aylarca inceledikten sonra, OpenAI artık sentetik metin üzerinde daha fazla araştırma ve anlayışa izin verme zamanının doğru olduğuna karar verdi. Böylece, modelin parametrelerini paylaşma kararları.

İLGİLİ: OPENAI GPT2 ŞİMDİ BİLİMSEL KAĞIT ÖZETLERİ YAZIYOR

OpenAI, GPT-2 hakkında ne fark etti?

Tüm bir metni veya cümleyi tamamlamak için algoritmalar oluşturan bir sistemin nasıl kötüye kullanılabileceği oldukça açık. Yapay zeka tarafından oluşturulan metnin diğer kötü kullanımlarının yanı sıra sahte haberler de akla geliyor.

Aşamalı yayın yayın stratejimizin bir parçası olarak 1,5 milyar parametreli GPT-2 modelini yayınlıyoruz.
- GPT-2 çıkış algılama modeli: https://t.co/PX3tbOOOTy
- İş ortaklarından potansiyel kötü niyetli kullanımlar hakkında araştırma: https://t.co/om28yMULL5
- Daha fazla ayrıntı: https://t.co/d2JzaENikspic.twitter.com/O3k28rrE5l

- OpenAI (@OpenAI) 5 Kasım 2019

Dil modellerinin kodunu ve eğitim veri setini saklamak OpenAI'nin inandığına aykırı oldu. Ancak, güvenlik nedenlerinden dolayı tam da bunu yapmaya karar verdiler ve yine de bilgiyi paylaşmanın bir yolunu bulmak istediler.

Bu nedenle, son dokuz ayda OpenAI, kodlarını ve model ağırlıklarını güvenli bir şekilde paylaşabilmelerini sağlamak için GPT-2'yi gözlemledi. Şirket şu gözlemlerde bulundu:

  1. İnsanlar GPT-2 çıktılarını ikna edici buluyor.
  2. GPT-2, kötüye kullanım için ince ayarlanabilir.
  3. Tespit etmek zordur.
  4. Şimdiye kadar kötüye kullanıldığına dair güçlü bir kanıt görmedik.
  5. Önyargıyı incelemek için standartlara ihtiyacımız var.

Göreve özgü bir eğitim veri kümesinin paylaşılıp paylaşılmadığına bakılmaksızın, GPT-2 yine de akıllara durgunluk veren iyi makine çevirisi, soru yanıtlama, okuduğunu anlama ve özetleme üretebildi.

OpenAI, GPT-2 modelini paylaştıktan sonra, bunu "sentetik metnin tespitine yönelik araştırma çalışmalarına yardımcı olmak için yaptıklarını, ancak bu, erişime sahip rakiplerin tespitten daha iyi kaçmasına izin verdiğini" söyledi.

Hangisinin yapay zeka tarafından oluşturulmuş metin olduğunu ve hangisinin olmadığını söyleyebilir misiniz?

Kendimiz görmek için 'Transfomer ile Konuş' metin oluşturucusunu denedik ve etkilendik!

- Hugging Face (@huggingface) 5 Kasım 2019

Aşağıdaki paragrafta GPT-2'nin nereden metin oluşturmaya başladığını söyleyebilir misiniz?

"Her türlü teknolojik korkuyu bir kenara iterek, yeni piyasaya sürülen tam boyutlu GPT-2 transformatörü şüphesiz teknoloji kalabalığının gözdesi olacak. Yeni transformatör, daha büyük GPT-1'de yer açmak için daha küçük bir kapasitede de sunulacak."

Size bir ipucu vereceğiz. İkinci satırda bir yerlerde. Şaşırtıcı bir şekilde, çok fazla soru sormadan, GPT-2, aşağıdaki gibi devam eden, bütün ve oldukça özel bir metin sundu:

"Yeni GPT-2 transformatörün 4 pimi (5 yerine) ve 1.400 ohm ile 1.500 ohm arasında daha düşük bir direnci vardır, bu da onu tüm standart ses donanımlarıyla uyumlu hale getirir. Yeni GPT-2'nin yapabileceğine dair fısıltılar duydum. GPT-1 ile aynı miktarda akım sağlamak için. Yeni GPT-2 transformatörü hakkında herhangi bir bilgim yok, bu yüzden bu ifadeyi onaylayamıyorum veya reddedemiyorum. "

GPT-2 transformatörünün burada neler yapabileceğini kendiniz görün.


Videoyu izle: What Its Like To be an AI: An Interview with GPT-3 (Haziran 2022).


Yorumlar:

  1. Cassian

    Üzgünüm ama sanırım bir hata yaptın. Konumumu savunabilirim. Bana PM'de e -posta gönderin, tartışacağız.

  2. Kynan

    Beyninizi bunun üzerine koymayın!

  3. Rafal

    Özür dilerim, ama bence bir hata yaparsınız.



Bir mesaj yaz