Drama tahunan Silicon Valley "The Legend of the Truth" telah berakhir, tetapi berita terkait masih menarik perhatian. Pada tanggal 17, KTT APEC 2023 berakhir di San Francisco, di mana Altman mengisyaratkan bahwa OpenAI sedang mengerjakan produk yang lebih kuat daripada versi terbaru GPT-4 dan jauh melebihi harapan orang, dan dia dipecat keesokan harinya. Surat peringatan lain yang konon dikirim ke dewan direksi juga menunjukkan bahwa lompatan besar telah dibuat dalam salah satu model besar OpenAI. Menurut Reuters, mengutip orang-orang yang akrab dengan masalah ini, surat ini adalah pertama kalinya diungkapkan, dan itu juga salah satu alasan penting yang menyebabkan keputusan akhir dewan direksi OpenAI untuk menghapus Altman.
CTO OpenAI, Mira Murati, CEO interim pertama, menyebutkan proyek tersebut, yang disebut Q * (diucapkan Q-Star), pada hari Rabu dan menulis surat kepada dewan direksi sebelum "kudeta" terjadi. Akibatnya, dewan direksi menjadi curiga dan percaya bahwa Altman mendorong maju dengan proyek yang berpotensi mengancam tanpa dewan. Pada saat yang sama, beberapa peneliti internal percaya bahwa kemajuan OpenaAI pada Q* akan menjadi terobosan penting bagi AGI, yang lebih dekat dengan tujuan daripada versi terbaru GPT-4. Namun, segera, salah satu pendiri TradingStrategy.ai Mick Otama mengatakan bahwa "terobosan besar" telah dipalsukan oleh orang dalam OpenAI.
Selain surat Mira, peristiwa lain yang menguatkan proyek Q* adalah pidato Altman pada pertemuan APEC. Dia mengisyaratkan bahwa OpenAI telah mengembangkan sesuatu yang lebih kuat dan tak terbayangkan daripada GPT-4, jauh melebihi harapan. "Akan ada lompatan dalam kemampuan model besar yang tidak diharapkan siapa pun, dan tidak seperti yang diharapkan orang, lompatan itu luar biasa. Perubahan teknologi yang saat ini sedang terjadi akan merevolusi cara hidup kita, struktur ekonomi dan masyarakat kita, dan setiap kendala lain yang mungkin terjadi. Ini telah dilakukan empat kali dalam sejarah OpenAI, dengan yang terbaru dalam beberapa minggu terakhir. Merupakan hak istimewa dalam karir saya untuk berada di sana saat saya mengupas tabir ketidaktahuan dan menjelajahi batas-batas yang tidak diketahui. Dia ditendang oleh dewan direksi OpenAI sehari setelah dia berbicara, dan sulit untuk mengatakan bahwa tidak ada hubungan antara kedua peristiwa tersebut. Beberapa orang mungkin mengatakan bahwa Altman membocorkan rahasianya sendiri, tetapi pernyataan bahwa dewan direksi OpenAI "tidak cukup jujur" jelas mengatakan bahwa Altman bertindak melawan yin dan mempromosikan proyek di belakang dewan direksi. Meskipun sekarang sepertinya "tidak cukup jujur" lebih seperti dosa ingin menambahnya.
Seorang juru bicara OpenAI mengatakan pesan itu, yang dikirim oleh CTO Mira, mengingatkan karyawan untuk memperhatikan kata-kata mereka ketika dihadapkan dengan liputan media, tetapi tidak berkomitmen tentang keakuratannya. Sumber lain menunjukkan bahwa dalam pandangan internal OpenAI, AGI dapat didefinisikan sebagai "sistem otonom yang melampaui manusia dalam tugas yang paling bernilai ekonomis".
Karena daya komputasi yang sangat besar, model besar baru dapat memecahkan masalah matematika tertentu. Meskipun hanya soal matematika di tingkat sekolah dasar, para peneliti sangat optimis tentang masa depan Q * melalui tes semacam itu. Dalam surat kepada dewan direksi, para peneliti juga menandai kekuatan dan potensi bahaya AI, tetapi tidak merinci masalah keamanan yang tepat yang disebutkan dalam surat itu, menurut orang dalam. Para peneliti juga menandai pekerjaan tim yang disebut "Ilmuwan AI," yang telah dikonfirmasi oleh berbagai sumber.
Beberapa karyawan OpenAI percaya bahwa pernyataan Altman harus menjadi referensi untuk beberapa penelitian inovatif perusahaan sebelumnya yang memungkinkan mereka untuk mengembangkan model GPT yang semakin kuat. ** Pekerjaan yang dipimpin oleh tim Kepala Ilmuwan Ireya, belum pernah dilaporkan sebelumnya, dan menimbulkan kekhawatiran di antara beberapa karyawan. Mereka khawatir bahwa perusahaan saat ini tidak memiliki perlindungan yang tepat untuk memastikan bahwa teknologi canggih ini dapat dikomersialkan. Pada bulan-bulan berikutnya, peneliti senior OpenAI menggunakan inovasi untuk membangun sistem yang memecahkan masalah matematika dasar.
Menurut The Information, Q sebenarnya adalah tonggak teknologi penting bagi dua peneliti OpenAI, Jager dan Simon, yang menggunakan karya Ilya untuk membangun model besar yang belum pernah dilihat sebelumnya. Siapa pun yang secara teratur menggunakan model besar tahu bahwa meskipun model besar umumnya fasih, masalah matematika selalu menjadi tugas yang sulit. Pada bulan Juni, GPT-4 mampu mengerjakan lima soal matematika ujian masuk perguruan tinggi dengan model mainstream di dalam dan luar negeri, terutama ketika membandingkan "jauh di depan" pada konferensi pers, tetapi pada akhirnya itu adalah hasil dari kesepuluh pertanyaan yang salah.
Demonstrasi Q * telah beredar dalam OpenAI dalam beberapa minggu terakhir, dan pesatnya perkembangan AI itu sendiri sering membuat para peneliti keamanan tercengang. Tidak hanya itu, terobosan dalam Q ini juga memungkinkan OpenAI untuk tidak lagi dibatasi oleh data yang tidak memadai dengan kualitas dan kuantitas saat melatih model besar baru, yang merupakan kendala utama yang mengganggu pengembang di seluruh dunia dalam mengatasi generasi berikutnya dari model besar **.
Sebagai kepala ilmuwan di OpenAI, Ilya telah bekerja selama bertahun-tahun tentang cara mendapatkan GPT-4 untuk menyelesaikan tugas-tugas yang melibatkan penalaran, seperti masalah matematika atau sains. Sebelum bergabung dengan OpenAI, Ilya, yang masih di Google DeepMind, bekerja ke arah ini selama bertahun-tahun. Pada tahun 2021, ia meluncurkan proyek bernama GPT-0, yang merupakan penghargaan untuk klub lamanya AlphaGo Zero, yang merupakan versi terakhir dari Alpha Dog. Tidak hanya Go, ia juga bisa bermain catur dan shogi. Pada saat itu, tim DeepMind berasumsi bahwa selama model besar diberi cukup waktu dan daya komputasi, suatu hari mereka akan dapat mencapai terobosan akademis baru. Khusus untuk kemampuan matematika dan penalaran dari model besar saat ini yang perlu segera ditingkatkan, mungkin ada peningkatan besar di masa depan**. Tak lama kemudian, Ilya bergabung dengan OpenAI atas dorongan Musk.
Meskipun "The True Biography" juga telah berakhir setelah Altman kembali ke posisi CEO kemarin, kontradiksi antara eksekutif OpenAI tampaknya masih belum dihilangkan, dan mereka mungkin berlanjut untuk waktu yang lama. Alasan utama untuk ini adalah bahwa ketegangan dalam OpenAI atas kemajuan pekerjaan belum mereda. Ilya sendiri dikenal karena kecerdasan dan integritasnya, yang bahkan dipuji Musk, dan mungkin masih memiliki keraguan tentang teknologi tersebut. Musim panas ini, ia membentuk tim penyelarasan untuk membatasi ancaman yang dapat ditimbulkan oleh sistem AI terhadap kemanusiaan.
Dalam pandangan tim penyelarasan yang dipimpin oleh Ierya, sementara super AI masih jauh, itu mungkin terjadi dalam dekade berikutnya. Selain itu, setelah Altman dipecat pekan lalu, beberapa orang juga dengan cepat mengundurkan diri. Dan setelah Altman kembali kemarin, orang-orang ini juga kembali ke OpenAI. Ketua dan salah satu pendiri OpenAI, Brockman, juga mendukung teknologi ini dan berkomitmen untuk mengintegrasikannya ke dalam produk baru. Dia dan Altman juga sangat besi, dan "menulis kode malam ini" persis seperti yang dikatakan kemarin.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Model besar baru OpenAI: kemampuan baru, bahkan membahayakan dirinya sendiri
Drama tahunan Silicon Valley "The Legend of the Truth" telah berakhir, tetapi berita terkait masih menarik perhatian. Pada tanggal 17, KTT APEC 2023 berakhir di San Francisco, di mana Altman mengisyaratkan bahwa OpenAI sedang mengerjakan produk yang lebih kuat daripada versi terbaru GPT-4 dan jauh melebihi harapan orang, dan dia dipecat keesokan harinya. Surat peringatan lain yang konon dikirim ke dewan direksi juga menunjukkan bahwa lompatan besar telah dibuat dalam salah satu model besar OpenAI. Menurut Reuters, mengutip orang-orang yang akrab dengan masalah ini, surat ini adalah pertama kalinya diungkapkan, dan itu juga salah satu alasan penting yang menyebabkan keputusan akhir dewan direksi OpenAI untuk menghapus Altman.
CTO OpenAI, Mira Murati, CEO interim pertama, menyebutkan proyek tersebut, yang disebut Q * (diucapkan Q-Star), pada hari Rabu dan menulis surat kepada dewan direksi sebelum "kudeta" terjadi. Akibatnya, dewan direksi menjadi curiga dan percaya bahwa Altman mendorong maju dengan proyek yang berpotensi mengancam tanpa dewan. Pada saat yang sama, beberapa peneliti internal percaya bahwa kemajuan OpenaAI pada Q* akan menjadi terobosan penting bagi AGI, yang lebih dekat dengan tujuan daripada versi terbaru GPT-4. Namun, segera, salah satu pendiri TradingStrategy.ai Mick Otama mengatakan bahwa "terobosan besar" telah dipalsukan oleh orang dalam OpenAI.
Seorang juru bicara OpenAI mengatakan pesan itu, yang dikirim oleh CTO Mira, mengingatkan karyawan untuk memperhatikan kata-kata mereka ketika dihadapkan dengan liputan media, tetapi tidak berkomitmen tentang keakuratannya. Sumber lain menunjukkan bahwa dalam pandangan internal OpenAI, AGI dapat didefinisikan sebagai "sistem otonom yang melampaui manusia dalam tugas yang paling bernilai ekonomis".
Beberapa karyawan OpenAI percaya bahwa pernyataan Altman harus menjadi referensi untuk beberapa penelitian inovatif perusahaan sebelumnya yang memungkinkan mereka untuk mengembangkan model GPT yang semakin kuat. ** Pekerjaan yang dipimpin oleh tim Kepala Ilmuwan Ireya, belum pernah dilaporkan sebelumnya, dan menimbulkan kekhawatiran di antara beberapa karyawan. Mereka khawatir bahwa perusahaan saat ini tidak memiliki perlindungan yang tepat untuk memastikan bahwa teknologi canggih ini dapat dikomersialkan. Pada bulan-bulan berikutnya, peneliti senior OpenAI menggunakan inovasi untuk membangun sistem yang memecahkan masalah matematika dasar.
Menurut The Information, Q sebenarnya adalah tonggak teknologi penting bagi dua peneliti OpenAI, Jager dan Simon, yang menggunakan karya Ilya untuk membangun model besar yang belum pernah dilihat sebelumnya. Siapa pun yang secara teratur menggunakan model besar tahu bahwa meskipun model besar umumnya fasih, masalah matematika selalu menjadi tugas yang sulit. Pada bulan Juni, GPT-4 mampu mengerjakan lima soal matematika ujian masuk perguruan tinggi dengan model mainstream di dalam dan luar negeri, terutama ketika membandingkan "jauh di depan" pada konferensi pers, tetapi pada akhirnya itu adalah hasil dari kesepuluh pertanyaan yang salah.
Sebagai kepala ilmuwan di OpenAI, Ilya telah bekerja selama bertahun-tahun tentang cara mendapatkan GPT-4 untuk menyelesaikan tugas-tugas yang melibatkan penalaran, seperti masalah matematika atau sains. Sebelum bergabung dengan OpenAI, Ilya, yang masih di Google DeepMind, bekerja ke arah ini selama bertahun-tahun. Pada tahun 2021, ia meluncurkan proyek bernama GPT-0, yang merupakan penghargaan untuk klub lamanya AlphaGo Zero, yang merupakan versi terakhir dari Alpha Dog. Tidak hanya Go, ia juga bisa bermain catur dan shogi. Pada saat itu, tim DeepMind berasumsi bahwa selama model besar diberi cukup waktu dan daya komputasi, suatu hari mereka akan dapat mencapai terobosan akademis baru. Khusus untuk kemampuan matematika dan penalaran dari model besar saat ini yang perlu segera ditingkatkan, mungkin ada peningkatan besar di masa depan**. Tak lama kemudian, Ilya bergabung dengan OpenAI atas dorongan Musk.
Dalam pandangan tim penyelarasan yang dipimpin oleh Ierya, sementara super AI masih jauh, itu mungkin terjadi dalam dekade berikutnya. Selain itu, setelah Altman dipecat pekan lalu, beberapa orang juga dengan cepat mengundurkan diri. Dan setelah Altman kembali kemarin, orang-orang ini juga kembali ke OpenAI. Ketua dan salah satu pendiri OpenAI, Brockman, juga mendukung teknologi ini dan berkomitmen untuk mengintegrasikannya ke dalam produk baru. Dia dan Altman juga sangat besi, dan "menulis kode malam ini" persis seperti yang dikatakan kemarin.