Secara singkat OpenAI merilis model bahasa baru bernama ChatGPT minggu ini, yang dirancang untuk meniru percakapan manusia.
Itu model didasarkan pada sistem GPT-3.5 generasi teks terbaru perusahaan yang dirilis awal tahun ini. ChatGPT lebih komunikatif daripada versi sebelumnya. Itu dapat mengajukan pertanyaan tindak lanjut kepada pengguna dan menahan diri dari menanggapi input yang tidak pantas alih-alih hanya menghasilkan teks.
Beberapa contoh menunjukkan ChatGPT tidak akan memberikan saran berbahaya saat diminta dan dapat mencoba memperbaiki pernyataan yang salah. OpenAI percaya bahwa model tersebut harus lebih aman untuk digunakan karena dilatih menggunakan umpan balik manusia. Setelah memberikan contoh tanggapan yang bermanfaat untuk petunjuk acak, data kemudian diberi peringkat dari yang terbaik hingga yang terburuk untuk memandu sistem pembelajaran penguatan agar memberi penghargaan kepada ChatGPT untuk menghasilkan keluaran yang baik.
Tetapi orang-orang yang menggunakan model tersebut telah membuktikan betapa mudahnya melewati langkah-langkah keamanan ChatGPT. Banyak yang telah mendemonstrasikan frasa yang sangat sederhana yang dapat memandu sistem untuk menghasilkan konten yang tidak seharusnya, seperti menginstruksikan pengguna cara menggertak orang atau membuat Koktail molotov.
Sayangnya, ChatGPT diganggu oleh masalah mendasar yang sama yang memengaruhi semua model bahasa saat ini: Tidak tahu apa yang dibicarakan.
Akibatnya, itu masih akan menghasilkan informasi yang salah dan terkadang menolak untuk menjawab pertanyaan yang tidak berbahaya. Jika Kamu telah mendaftar untuk akun OpenAI, Kamu dapat bermain dengan ChatGPT di sini.
AI belajar memainkan Stratego
Para peneliti di DeepMind telah membangun jaringan saraf yang mampu memainkan permainan perang dua pemain, Stratego.
Stratego lebih rumit dimainkan untuk mesin daripada game sebelumnya yang dipecahkan oleh DeepMind, seperti Chess atau Go. Jumlah kemungkinan hasil dan gerakan yang dimainkan ada di urutan 10535 menyatakan, lebih besar dari 10 Go360Alam dilaporkan.
Sistem tersebut, bernama DeepNash, mengklaim bekerja dengan memecahkan kesetimbangan Nash, sebuah konsep matematika yang menjelaskan cara mencapai solusi optimal antara pemain dalam permainan non-kooperatif. DeepNash berkompetisi dalam turnamen Stratego online dan menduduki peringkat ketiga setelah 50 pertandingan di antara semua pemain manusia yang bermain di platform game Gravon sejak 2002.
“Pekerjaan kami menunjukkan bahwa permainan kompleks seperti Stratego, yang melibatkan informasi yang tidak sempurna, tidak memerlukan teknik pencarian untuk menyelesaikannya,” kata anggota tim Karl Tuyls, seorang peneliti DeepMind yang berbasis di Paris. “Ini adalah langkah maju yang sangat besar dalam AI.”
Hype dalam pembelajaran penguatan telah mereda sedikit sejak rilis AlphaGo pada tahun 2017. Para peneliti percaya mengajarkan AI keterampilan untuk bermain game seperti Stratego relevan untuk membantu mesin membuat keputusan di dunia nyata, kami diberi tahu.
“Pada titik tertentu, laboratorium penelitian AI terkemuka perlu melampaui pengaturan rekreasi, dan mencari cara untuk mengukur kemajuan ilmiah pada ‘permainan’ dunia nyata yang lebih licin yang benar-benar kita pedulikan,” Michael Wellman, profesor ilmu dan teknik komputer di University of Michigan, yang tidak terlibat langsung dalam penelitian tersebut, berkomentar.
Departemen Energi AS menyalurkan jutaan dolar ke AI untuk sains
DoE menyediakan $4,3 juta untuk mendanai 16 proyek yang berfokus pada AI terkait dengan penelitian fisika energi tinggi.
Proyek-proyek ini (PDF) akan dipimpin oleh berbagai universitas di seluruh AS, dan mencakup berbagai bidang penelitian mulai dari teori string, kosmologi, hingga jaringan saraf dan akselerator partikel. Total investasi akan dibagi selama tiga tahun, dengan $1,3 juta keluar pada tahun pertama.
DoE juga baru-baru ini mengumumkan inisiatif serupa yang memberikan $6,4 juta kepada R&D AI untuk tiga proyek fisika energi tinggi yang akan dipimpin oleh laboratorium nasional. “AI dan teknik pembelajaran mesin dalam fisika energi tinggi sangat penting untuk memajukan bidang ini,” kata Gina Rameika, Direktur Sains DOE untuk Fisika Energi Tinggi, menurut ke HPCwire.
“Penghargaan ini merupakan peluang baru bagi peneliti universitas yang akan memungkinkan penemuan berikutnya dalam fisika energi tinggi.” ®