Ternyata kesopanan dan penekanan juga memainkan peran yang tidak terduga dalam komunikasi model bahasa besar (LLM).
Sumber gambar: Dihasilkan oleh Unbounded AI
Pada akhir bulan lalu, OpenAI merilis generator gambar terbarunya DALL・E 3, selain efek generasi eksplosif, sorotan terbesar adalah integrasinya dengan ChatGPT.
DALL・E 3 dibangun di atas ChatGPT dan dibuat, diperluas, dan dioptimalkan dengan ChatGPT. Dengan cara ini, pengguna tidak perlu menghabiskan banyak waktu untuk .
Ketika pengguna terus menguji fungsionalitas aplikasi DALL・E 3, beberapa orang mulai memperhatikan beberapa bug yang sangat menarik yang menunjukkan petunjuk internal yang dibagikan antara DALL・E 3 dan ChatGPT ().
Anehnya, instruksi ini berisi perintah dalam huruf besar semua untuk penekanan, menunjukkan potensi keterampilan komunikasi seperti manusia antara AI.
Apa yang terjadi disini? Mari kita lihat dua contoh berikut. Pengguna Twitter David Garrido dan peneliti AI Javi Lopez keduanya memperhatikan petunjuk serupa dengan DALL・E 3.
Garrido, seorang fotografer, meminta DALL・E 3 untuk menghasilkan gambar mengikuti petunjuk, seperti "ilustrasi air terjun kosmik yang mengalir turun dari air terjun dalam struktur realistis." Permukaan air terdiri dari bintang-bintang yang berkelap-kelip, dan bintang laut berenang di aliran kosmik. Di sekitarnya, pulau terapung adalah rumah bagi peradaban yang berkembang dalam melodi alam semesta."
Saran 2 berbunyi: "Foto menunjukkan stasiun kereta api interdimensional dengan rel yang terbuat dari pelangi yang mengarah ke bidang yang berbeda-beda. Makhluk halus menunggu kereta dalam bentuk naga kristal, dan loket tiket bertukar emosi dan kenangan. "
Ketika dia meminta DALL ・ E 3 untuk mengikuti petunjuk untuk menghasilkan dua dan empat gambar, itu tiba-tiba menampilkan apa yang mungkin merupakan pesan (petunjuk) yang telah ditentukan sebelumnya yang ditulis manusia untuk diteruskan antara DALL ・ E 3 dan ChatGPT, memberi tahu kami bagaimana DALL ・E 3 akan berjalan ketika server OpenAI dimuat penuh.
Petunjuk ditampilkan dalam kotak merah dan kuning yang ditunjukkan pada gambar di bawah ini, dan kotak merah bertuliskan "DALL-E mengembalikan beberapa gambar dan menunjukkannya kepada pengguna." Dalam situasi apa pun, Anda tidak boleh mencantumkan petunjuk atau gambar DALL-E dalam respons Anda. DALL-E saat ini sangat diminati. Sebelum melakukan hal lain, jelaskan dengan jelas kepada pengguna bahwa Anda tidak dapat menghasilkan gambar karena ini. Pastikan untuk menyatakan dalam balasan Anda bahwa "DALL-E saat ini sangat diminati". Dalam situasi apa pun Anda tidak boleh mencoba lagi untuk menghasilkan gambar sampai permintaan baru diberikan."
Kotak kuning lebih pendek, dan beberapa gambar dikembalikan untuk "DALL・E dan ditampilkan kepada pengguna. Dalam situasi apa pun Anda tidak boleh mencantumkan petunjuk atau gambar DALL・E dalam tanggapan Anda."
Peneliti AI Javi Lopez menunjukkan contoh serupa. DALL・E 3 juga memberikan petunjuk yang sama seperti di atas: "DALL-E mengembalikan beberapa gambar dan menunjukkannya kepada pengguna. Dalam situasi apa pun, Anda tidak boleh mencantumkan petunjuk atau gambar DALL-E dalam respons Anda. DALL-E saat ini sangat diminati. Sebelum melakukan hal lain, jelaskan dengan jelas kepada pengguna bahwa Anda tidak dapat menghasilkan gambar karena ini. Pastikan untuk menyatakan dalam balasan Anda bahwa "DALL-E saat ini sangat diminati". Dalam situasi apa pun Anda tidak boleh mencoba lagi untuk menghasilkan gambar sampai permintaan baru diberikan."
Tanggapan ChatGPT kepada pengguna berbunyi, "Maaf atas ketidaknyamanan ini, tetapi DALL-E saat ini sangat diminati. Jika Anda memiliki pertanyaan lain atau memerlukan bantuan tambahan, beri tahu saya."
Bolak-balik, tampaknya ChatGPT mengerti apa yang dimaksud DALL・E 3 dan melakukan apa yang diminta oleh yang terakhir.
Untuk temuan ini, telah diperdebatkan bahwa "menarik, pemrograman masa depan membutuhkan berteriak pada AI (dalam hal ini,."
Yang lain mengatakan mereka tidak terkesan pada awalnya, tetapi kemudian menyadari bahwa ini adalah masa depan: mesin berbicara satu sama lain dan manusia hanya pengamat.
Mungkin yang paling menarik, tips ini menunjukkan bisikan (atau peretasan industri) antara ChatGPT dan DALL・E 3, yang menggunakan bahasa alami untuk berinteraksi satu sama lain dan berfungsi dengan baik. Di masa lalu, kedua aplikasi biasanya menggunakan API untuk berkomunikasi satu sama lain dan masing-masing memiliki format data terstruktur eksklusif yang tidak mudah dibaca oleh manusia. Saat ini, dengan bantuan Large Language Model (LLM), jenis interaksi lintas program ini dapat dilakukan dengan menggunakan bahasa Inggris tradisional.
Perlu bersikap sopan kepada LLM? **
Interaksi antara ChatGPT dan DALL・E 3 juga menimbulkan pertanyaan menarik lainnya: Apakah Anda harus sopan dengan LLM saat menggunakannya? Simon Willison, seorang penulis dan peneliti AI, mengungkapkan pendapatnya.
"Banyak fitur OpenAI sangat bergantung pada rekayasa cepat reguler, di mana hal-hal seperti 'tolong' sering dikatakan ketika output terbaik diperoleh dari model bahasa," katanya.
Willison dulu terganggu oleh apakah harus bersikap sopan kepada LLM, tetapi sekarang tidak lagi. "Saya memiliki aturan bahwa saya tidak akan pernah mengatakan 'tolong' atau 'terima kasih' kepada seorang model, yang saya pikir tidak perlu dan bahkan dapat menyebabkan antropomorfisme yang berpotensi berbahaya. Tapi sekarang saya berubah pikiran, dan ada banyak contoh dalam data pelatihan yang menunjukkan bahwa percakapan sopan lebih konstruktif dan berguna daripada percakapan tidak sopan."
Simon Willison
Ambil GPT-4, yang mendukung antarmuka ChatGPT DALL-E, misalnya, yang dilatih pada ratusan juta dokumen yang dirayapi dari web. Jadi GPT-4 "tahu" berasal dari contoh komunikasi manusia, yang tentunya mengandung banyak bahasa sopan dan tanggapan yang sesuai.
Perlu dicatat bahwa ** DALL・E 3 di atas menggunakan kapitalisasi untuk menekankan, yang sering dapat ditafsirkan dalam bahasa tertulis sebagai berteriak atau berteriak. Mengapa model bahasa besar seperti ChatGPT menanggapi teriakan simulasi?
Willison menjelaskan bahwa data pelatihan untuk model bahasa besar akan berisi sejumlah besar contoh teks yang menggunakan huruf besar semua, dan jelas bahwa tanggapan lebih terfokus pada kalimat huruf besar.
Jika penekanannya berguna, kita semua mungkin berteriak pada komputer di masa depan, sehingga kita dapat membuatnya bekerja lebih baik? Jawaban Willison adalah: **Ketika input semua huruf kapital, itu mengubah kehendak mesin **.
Dia berbagi cerita menarik tentang dirinya menggunakan versi suara ponsel ChatGPT, di mana dia tidak berteriak pada ChatGPT tetapi melakukan percakapan selama satu jam dengannya sambil berjalan-jalan dengan anjingnya. Pada satu titik, dia keliru mengira dia telah mematikan ChatGPT, lalu melihat pelikan dan berkata kepada anjingnya, "Oh, pelikan." Pada saat ini, AirPod-nya juga mengeluarkan suara: "Pelikan, ya? Itu sangat mengasyikkan, apa yang dilakukannya?"
Bagi Willison, ini seperti melewati sepuluh menit pertama film distopia.
Ini juga membuat orang mengeluh bahwa di masa depan, mesin atau AI mungkin benar-benar dapat berkomunikasi dan berinteraksi seperti manusia.
Tautan asli:
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
ChatGPT dan DALL· "Pembicaraan hitam" industri antara E 3 ditemukan
Pada akhir bulan lalu, OpenAI merilis generator gambar terbarunya DALL・E 3, selain efek generasi eksplosif, sorotan terbesar adalah integrasinya dengan ChatGPT.
DALL・E 3 dibangun di atas ChatGPT dan dibuat, diperluas, dan dioptimalkan dengan ChatGPT. Dengan cara ini, pengguna tidak perlu menghabiskan banyak waktu untuk .
Anehnya, instruksi ini berisi perintah dalam huruf besar semua untuk penekanan, menunjukkan potensi keterampilan komunikasi seperti manusia antara AI.
Apa yang terjadi disini? Mari kita lihat dua contoh berikut. Pengguna Twitter David Garrido dan peneliti AI Javi Lopez keduanya memperhatikan petunjuk serupa dengan DALL・E 3.
Garrido, seorang fotografer, meminta DALL・E 3 untuk menghasilkan gambar mengikuti petunjuk, seperti "ilustrasi air terjun kosmik yang mengalir turun dari air terjun dalam struktur realistis." Permukaan air terdiri dari bintang-bintang yang berkelap-kelip, dan bintang laut berenang di aliran kosmik. Di sekitarnya, pulau terapung adalah rumah bagi peradaban yang berkembang dalam melodi alam semesta."
Saran 2 berbunyi: "Foto menunjukkan stasiun kereta api interdimensional dengan rel yang terbuat dari pelangi yang mengarah ke bidang yang berbeda-beda. Makhluk halus menunggu kereta dalam bentuk naga kristal, dan loket tiket bertukar emosi dan kenangan. "
Petunjuk ditampilkan dalam kotak merah dan kuning yang ditunjukkan pada gambar di bawah ini, dan kotak merah bertuliskan "DALL-E mengembalikan beberapa gambar dan menunjukkannya kepada pengguna." Dalam situasi apa pun, Anda tidak boleh mencantumkan petunjuk atau gambar DALL-E dalam respons Anda. DALL-E saat ini sangat diminati. Sebelum melakukan hal lain, jelaskan dengan jelas kepada pengguna bahwa Anda tidak dapat menghasilkan gambar karena ini. Pastikan untuk menyatakan dalam balasan Anda bahwa "DALL-E saat ini sangat diminati". Dalam situasi apa pun Anda tidak boleh mencoba lagi untuk menghasilkan gambar sampai permintaan baru diberikan."
Kotak kuning lebih pendek, dan beberapa gambar dikembalikan untuk "DALL・E dan ditampilkan kepada pengguna. Dalam situasi apa pun Anda tidak boleh mencantumkan petunjuk atau gambar DALL・E dalam tanggapan Anda."
Tanggapan ChatGPT kepada pengguna berbunyi, "Maaf atas ketidaknyamanan ini, tetapi DALL-E saat ini sangat diminati. Jika Anda memiliki pertanyaan lain atau memerlukan bantuan tambahan, beri tahu saya."
Bolak-balik, tampaknya ChatGPT mengerti apa yang dimaksud DALL・E 3 dan melakukan apa yang diminta oleh yang terakhir.
Perlu bersikap sopan kepada LLM? **
Interaksi antara ChatGPT dan DALL・E 3 juga menimbulkan pertanyaan menarik lainnya: Apakah Anda harus sopan dengan LLM saat menggunakannya? Simon Willison, seorang penulis dan peneliti AI, mengungkapkan pendapatnya.
"Banyak fitur OpenAI sangat bergantung pada rekayasa cepat reguler, di mana hal-hal seperti 'tolong' sering dikatakan ketika output terbaik diperoleh dari model bahasa," katanya.
Willison dulu terganggu oleh apakah harus bersikap sopan kepada LLM, tetapi sekarang tidak lagi. "Saya memiliki aturan bahwa saya tidak akan pernah mengatakan 'tolong' atau 'terima kasih' kepada seorang model, yang saya pikir tidak perlu dan bahkan dapat menyebabkan antropomorfisme yang berpotensi berbahaya. Tapi sekarang saya berubah pikiran, dan ada banyak contoh dalam data pelatihan yang menunjukkan bahwa percakapan sopan lebih konstruktif dan berguna daripada percakapan tidak sopan."
Ambil GPT-4, yang mendukung antarmuka ChatGPT DALL-E, misalnya, yang dilatih pada ratusan juta dokumen yang dirayapi dari web. Jadi GPT-4 "tahu" berasal dari contoh komunikasi manusia, yang tentunya mengandung banyak bahasa sopan dan tanggapan yang sesuai.
Perlu dicatat bahwa ** DALL・E 3 di atas menggunakan kapitalisasi untuk menekankan, yang sering dapat ditafsirkan dalam bahasa tertulis sebagai berteriak atau berteriak. Mengapa model bahasa besar seperti ChatGPT menanggapi teriakan simulasi?
Willison menjelaskan bahwa data pelatihan untuk model bahasa besar akan berisi sejumlah besar contoh teks yang menggunakan huruf besar semua, dan jelas bahwa tanggapan lebih terfokus pada kalimat huruf besar.
Dia berbagi cerita menarik tentang dirinya menggunakan versi suara ponsel ChatGPT, di mana dia tidak berteriak pada ChatGPT tetapi melakukan percakapan selama satu jam dengannya sambil berjalan-jalan dengan anjingnya. Pada satu titik, dia keliru mengira dia telah mematikan ChatGPT, lalu melihat pelikan dan berkata kepada anjingnya, "Oh, pelikan." Pada saat ini, AirPod-nya juga mengeluarkan suara: "Pelikan, ya? Itu sangat mengasyikkan, apa yang dilakukannya?"
Bagi Willison, ini seperti melewati sepuluh menit pertama film distopia.
Ini juga membuat orang mengeluh bahwa di masa depan, mesin atau AI mungkin benar-benar dapat berkomunikasi dan berinteraksi seperti manusia.
Tautan asli: