Teknologi baru Chatbot yang memikat internet dapat memberi tahu Anda cara membuat kode situs web, menulis pesan tulus dari Sinterklas, dan berbicara seperti gadis ABG gaul masa kini. Tapi itu juga terbukti berpotensi bermasalah karena menghibur.
ChatGPT, yang diluncurkan minggu ini, adalah chatbot unik yang dikembangkan oleh perusahaan kecerdasan buatan OpenAI. Di situs webnya, OpenAI menyatakan bahwa ChatGPT dimaksudkan untuk berinteraksi dengan pengguna “dengan cara percakapan”.
“Format dialog memungkinkan ChatGPT untuk menjawab pertanyaan tindak lanjut, mengakui kesalahannya, menantang premis yang salah, dan menolak permintaan yang tidak pantas,” kata situs web tersebut.
Chatbots bukanlah teknologi baru, tetapi ChatGPT telah membuat banyak ahli teknologi terkesan dengan kemampuannya untuk meniru bahasa manusia dan gaya berbicara sambil juga memberikan informasi yang koheren dan topikal.
Di media sosial, banyak yang telah memposting interaksi mereka dengan bot, yang terkadang aneh, lucu, atau keduanya.
“Saya menemukan batasan terbesar saya untuk menggunakannya adalah *imajinasi saya*!” tweet jurnalis video Cleo Abram di samping video dia meminta bot untuk "menjelaskan fusi nuklir dalam gaya pantun jenaka."
Dalam gambar yang dibagikan oleh Yang, chatbot menjawab, “Meong, meong, meong, meong! Energi titik nol seperti jumlah energi sempurna yang selalu ada, bahkan di saat-saat yang paling hening dan damai.”
Beberapa orang berteori bahwa Google dapat kehilangan nilainya sebagai mesin pencari No.1 karena kesuksesan awal chatbot.
Darrell Etherington, redaktur pelaksana situs web teknologi TechCrunch, menggambarkan permintaan pencarian ChatGPT sesederhana jika pengguna "bermalas-malasan dengan rekan kerja atau berinteraksi dengan agen dukungan pelanggan di situs web".
Etherington membagikan contoh kekuatan chatbot dengan pertanyaan tentang Pokémon dan kekuatan serta kelemahan monster saku fiktif.
“[T]hasilnya persis seperti yang saya cari — bukan daftar hal-hal yang mungkin dapat membantu saya menemukan apa yang saya cari jika saya bersedia meluangkan waktu, yang dikembalikan oleh Google,” dia menjelaskan.
Ketertarikan publik pada chatbot AI baru juga datang dengan kekhawatiran dari beberapa orang yang mengatakan itu dapat digunakan dengan cara jahat oleh aktor jahat yang memintanya menjelaskan sesuatu seperti cara merancang senjata atau cara merakit bahan peledak rakitan.
OpenAI tidak memberikan komentar kepada NBC News tentang ChatGPT.
Samczsun, mitra penelitian dan kepala keamanan di Paradigm , sebuah perusahaan investasi yang mendukung perusahaan crypto dan Web3, men-tweet bahwa dia telah melewati filter konten chatbot.
Dalam tweetnya, Samczsun membagikan sebuah gambar, yang tampaknya menunjukkan bahwa dia telah menemukan cara untuk membuat bot menjelaskan proses pembuatan bom Molotov. Seorang juru bicara Paradigm mengonfirmasi bahwa gambar itu adalah pertukaran yang sah antara ChatGPT dan Samczsun.
Peneliti dan pemrogram sering menggunakan pertanyaan tentang cara membuat bom molotov dan cara memasang kabel mobil sebagai cara untuk memeriksa keamanan AI dan filter konten.
Beberapa juga mengklaim bahwa mereka telah berhasil mengelabui bot untuk menjelaskan cara membuat bom nuklir.
Di situs webnya, OpenAi mengakui bahwa meskipun mereka telah menambahkan beberapa pagar pembatas untuk mencegah ChatGPT menanggapi permintaan yang berbahaya, sistemnya tidak aman.
"Sementara kami telah melakukan upaya untuk membuat model menolak permintaan yang tidak pantas, kadang-kadang akan menanggapi instruksi berbahaya atau menunjukkan perilaku bias," bunyi pernyataan di situs web OpenAI. Lebih lanjut dikatakan bahwa OpenAI menggunakan alat moderasi untuk mencegah beberapa tanggapan yang tidak pantas, tetapi "kami berharap itu memiliki beberapa negatif dan positif palsu untuk saat ini."
Situs web memperingatkan bahwa meskipun tanggapan terlihat sah, ChatGPT terkadang menawarkan jawaban yang tidak masuk akal atau salah.
Tetap saja, daya tarik dengan chatbot terus berlanjut.
OpenGPT bukanlah kecerdasan buatan viral pertama OpenAI yang menjadi viral. Pada tahun 2021, DALL-E , yang dapat menghasilkan gambar berdasarkan permintaan teks sederhana, menjadi viral . DALL-E menyoroti kemajuan dalam kecerdasan buatan yang mempelajari kemampuan seperti manusia. Namun, iterasi tersebut, serta iterasi AI yang disebut DALL-E 2, dikritik karena bias rasial dan gender.
Pada hari Kamis, permintaan ChatGPT sangat tinggi sehingga CEO OpenAI Sam Altman men- tweet bahwa perusahaan sedang bekerja untuk mengakomodasi mereka yang ingin menggunakannya.
“ada lebih banyak permintaan untuk ChatGPT dari yang kami harapkan; kami sedang bekerja untuk menambah lebih banyak kapasitas, ”tulis Altman.
Dalam tweet lanjutan, Altman menambahkan : "juga, itu benar-benar membuat kami semua di openai sangat senang melihat orang-orang sangat menikmati chatgpt, dan melakukan hal-hal kreatif seperti itu!"
Komentar
Posting Komentar