![cover image](https://wikiwandv2-19431.kxcdn.com/_next/image?url=https://upload.wikimedia.org/wikipedia/commons/thumb/5/51/Full_GPT_architecture.svg/langid-640px-Full_GPT_architecture.svg.png&w=640&q=50)
Penyulihbentuk praterlatih generatif
From Wikipedia, the free encyclopedia
Penyulihbentuk praterlatih generatif (PPG) atau GPT adalah jenis model bahasa besar (LLM) [1] [2] [3] dan kerangka kerja yang menonjol untuk kecerdasan buatan generatif . [4] [5] Mereka adalah jaringan saraf tiruan yang digunakan dalam tugas pemrosesan bahasa alami . [6] GPT didasarkan pada arsitektur penyulihbentuk, dilatih sebelumnya pada kumpulan data besar berisi teks tak berlabel, dan mampu menghasilkan konten baru yang mirip manusia. [2] [3] Pada tahun 2023, sebagian besar LLM memiliki karakteristik ini [7] dan terkadang disebut secara luas sebagai GPT. [8]
![Thumb image](http://upload.wikimedia.org/wikipedia/commons/thumb/5/51/Full_GPT_architecture.svg/320px-Full_GPT_architecture.svg.png)
GPT pertama diperkenalkan pada tahun 2018 oleh OpenAI . [9] OpenAI telah merilis model dasar GPT yang sangat berpengaruh yang telah diberi nomor urut, untuk membentuk seri "GPT- n ". [10] Masing-masing secara signifikan lebih mampu dibandingkan sebelumnya, karena peningkatan ukuran (jumlah parameter yang dapat dilatih) dan pelatihan. Yang terbaru, GPT-4, dirilis pada Maret 2023. [11] Model seperti ini telah menjadi dasar bagi sistem GPT mereka yang lebih spesifik tugas, termasuk model yang disesuaikan untuk mengikuti instruksi ā yang pada gilirannya mendukung layanan bot percakapan ChatGPT . [1]
Istilah "GPT" juga digunakan dalam nama dan deskripsi model yang dikembangkan oleh orang lain. Misalnya, model fondasi GPT lainnya mencakup serangkaian model yang dibuat oleh EleutherAI, [12] dan tujuh model yang dibuat oleh Cerebras pada tahun 2023. Selain itu, perusahaan di industri yang berbeda telah mengembangkan GPT khusus tugas di bidangnya masing-masing, seperti "EinsteinGPT" dari Salesforce (untuk CRM ) [13] dan "BloombergGPT" dari Bloomberg (untuk keuangan). [14]