Departemen Efisiensi Pemerintah Elon Musk (DOGE) secara diam-diam telah meluncurkan versi yang disesuaikan dari chatbot Grok AI-nya di seluruh agensi federal, menimbulkan kekhawatiran tentang kemungkinan pelanggaran privasi dan konflik kepentingan.
Reuters mengutip tiga sumber di dalam DOGE yang mengatakan tim telah menggunakan Grok untuk menyaring dan menganalisis data pemerintah yang sensitif, menghasilkan laporan dan wawasan dengan kecepatan di luar metode tradisional.
DOGE melanggar etika dengan langkah Grok AI
Menurut tiga orang dalam, insinyur DOGE menginstal parameter kustom di atas Grok, sebuah chatbot yang diluncurkan xAI Musk pada akhir 2023, untuk mempercepat tinjauan data dan mengotomatiskan penulisan laporan.
"Mereka memberi dataset pemerintah, mengajukan pertanyaan kompleks, dan mendapatkan ringkasan instan."
Seorang Pemberi Informasi.
Orang dalam lainnya menambahkan bahwa staf DOGE telah mendorong karyawan Departemen Keamanan Dalam Negeri untuk menggunakan Grok untuk analisis internal meskipun alat tersebut tidak memiliki persetujuan resmi lembaga.
Yang tidak jelas adalah informasi apa yang diklasifikasikan atau dapat diidentifikasi secara pribadi yang telah diunggah ke Grok atau seberapa banyak itu dilatih berdasarkan catatan federal. Jika materi sensitif termasuk, praktik ini dapat melanggar undang-undang privasi federal dan aturan konflik kepentingan.
Lima ahli etika dan teknologi memperingatkan bahwa akses semacam itu mungkin memberikan perusahaan Musk wawasan yang tidak seimbang ke dalam data kontrak non-publik dan bahkan membantu menyempurnakan Grok itu sendiri untuk keuntungan pribadi.
Secara teori, model AI mana pun yang dilatih pada dataset pemerintah yang bersifat rahasia harus mematuhi perlindungan hukum yang ketat. Protokol berbagi data biasanya melibatkan beberapa persetujuan dan pengawasan untuk mencegah pengungkapan yang tidak sah.
Dengan menghindari pemeriksaan tersebut, DOGE berisiko mengekspos jutaan rincian pribadi orang Amerika, dan menyerahkan xAI sejumlah besar informasi dunia nyata yang tidak tersedia bagi pesaing.
DOGE menegaskan bahwa misinya adalah untuk memberantas pemborosan, penipuan, dan penyalahgunaan. Seorang juru bicara DHS mengatakan kepada Reuters bahwa DOGE tidak pernah menekan staf untuk mengadopsi alat tertentu.
"Kami fokus pada efisiensi," kata juru bicara itu. Tetapi dua sumber membantah bahwa, selama beberapa pekan terakhir, perwakilan DOGE telah mendorong divisi DHS untuk menguji coba Grok untuk tugas-tugas mulai dari analisis beban kasus imigrasi hingga perkiraan anggaran, bahkan setelah DHS tiba-tiba memblokir semua platform AI komersial karena kekhawatiran kebocoran data.
Sesuai dengan kebijakan DHS saat ini, karyawan hanya dapat menggunakan chatbot komersial untuk pekerjaan yang tidak terklasifikasi dan tidak rahasia, sementara AI khusus DHS menangani catatan sensitif. Namun, ketika ChatGPT dan lainnya dinonaktifkan pada bulan Mei, kemajuan DOGE terjadi di zona abu-abu hukum: bot internal DHS tetap aktif, tetapi Grok tidak pernah secara resmi diperkenalkan.
Apakah Musk menggunakan DOGE untuk memusatkan kontrol?
Di luar DHS, jangkauan DOGE meluas ke jaringan Departemen Pertahanan, di mana sekitar selusin analis dilaporkan diberitahu bahwa alat AI pihak ketiga memantau aktivitas mereka. Meskipun juru bicara DoD telah membantah DOGE memandu penyebaran AI apa pun, email departemen dan pertukaran pesan teks yang diperoleh Reuters menunjukkan sebaliknya.
Kritikus melihat langkah-langkah ini sebagai ilustrasi dari strategi lebih luas Musk untuk memanfaatkan AI untuk memusatkan kontrol atas birokrasi dan kemudian memonetisasi aliran data yang dihasilkan.
"Ada penampilan yang jelas tentang tindakan kepentingan pribadi."
Richard Painter, seorang profesor etika pemerintah.
Jika Musk secara langsung memerintahkan penerapan Grok, ia bisa melanggar undang-undang kriminal yang melarang pejabat mempengaruhi keputusan yang menguntungkan kepentingan pribadi mereka.
Di jantung perdebatan adalah peran ganda Grok sebagai chatbot yang berhadapan dengan publik di X dan sebagai mesin analitik eksperimental di dalam firewall pemerintah. Situs web xAI bahkan menyiratkan bahwa interaksi pengguna mungkin dimonitor "untuk tujuan bisnis tertentu," yang menyarankan bahwa setiap pertanyaan federal dapat memberikan umpan balik ke dalam loop pembelajaran Grok.
Dua staf DOGE, Kyle Schutt dan Edward Coristine, yang terakhir dikenal secara online sebagai "Big Balls," telah memimpin banyak inisiatif AI. Meskipun mereka menolak untuk mengomentari, upaya mereka sesuai dengan pola; selama setahun terakhir, DOGE telah memberhentikan ribuan pejabat karir, mengambil alih database yang aman, dan mengusung AI sebagai alat utama untuk perombakan birokrasi.
Para advokat privasi memperingatkan bahwa mengintegrasikan AI yang tidak terverifikasi ke dalam lingkungan keamanan nasional yang berisiko tinggi adalah resep untuk kebocoran data, pencurian identitas, dan eksploitasi oleh musuh asing.
“Ini adalah ancaman privasi yang serius,” kata Albert Fox Cahn dari Proyek Pengawasan Teknologi.
Ada juga kekhawatiran bahwa dengan sedikit transparansi dan sedikit pengawasan, eksperimen AI DOGE dapat membentuk kembali tata kelola data federal, baik publik menyadarinya atau tidak.
Akademi Cryptopolitan: Bosan dengan fluktuasi pasar? Pelajari bagaimana DeFi dapat membantu Anda membangun pendapatan pasif yang stabil. Daftar Sekarang
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
Kekhawatiran etika meningkat terkait peran Grok AI dalam pemerintahan AS
Departemen Efisiensi Pemerintah Elon Musk (DOGE) secara diam-diam telah meluncurkan versi yang disesuaikan dari chatbot Grok AI-nya di seluruh agensi federal, menimbulkan kekhawatiran tentang kemungkinan pelanggaran privasi dan konflik kepentingan.
Reuters mengutip tiga sumber di dalam DOGE yang mengatakan tim telah menggunakan Grok untuk menyaring dan menganalisis data pemerintah yang sensitif, menghasilkan laporan dan wawasan dengan kecepatan di luar metode tradisional.
DOGE melanggar etika dengan langkah Grok AI
Menurut tiga orang dalam, insinyur DOGE menginstal parameter kustom di atas Grok, sebuah chatbot yang diluncurkan xAI Musk pada akhir 2023, untuk mempercepat tinjauan data dan mengotomatiskan penulisan laporan.
"Mereka memberi dataset pemerintah, mengajukan pertanyaan kompleks, dan mendapatkan ringkasan instan."
Seorang Pemberi Informasi.
Orang dalam lainnya menambahkan bahwa staf DOGE telah mendorong karyawan Departemen Keamanan Dalam Negeri untuk menggunakan Grok untuk analisis internal meskipun alat tersebut tidak memiliki persetujuan resmi lembaga.
Yang tidak jelas adalah informasi apa yang diklasifikasikan atau dapat diidentifikasi secara pribadi yang telah diunggah ke Grok atau seberapa banyak itu dilatih berdasarkan catatan federal. Jika materi sensitif termasuk, praktik ini dapat melanggar undang-undang privasi federal dan aturan konflik kepentingan.
Lima ahli etika dan teknologi memperingatkan bahwa akses semacam itu mungkin memberikan perusahaan Musk wawasan yang tidak seimbang ke dalam data kontrak non-publik dan bahkan membantu menyempurnakan Grok itu sendiri untuk keuntungan pribadi.
Secara teori, model AI mana pun yang dilatih pada dataset pemerintah yang bersifat rahasia harus mematuhi perlindungan hukum yang ketat. Protokol berbagi data biasanya melibatkan beberapa persetujuan dan pengawasan untuk mencegah pengungkapan yang tidak sah.
Dengan menghindari pemeriksaan tersebut, DOGE berisiko mengekspos jutaan rincian pribadi orang Amerika, dan menyerahkan xAI sejumlah besar informasi dunia nyata yang tidak tersedia bagi pesaing.
DOGE menegaskan bahwa misinya adalah untuk memberantas pemborosan, penipuan, dan penyalahgunaan. Seorang juru bicara DHS mengatakan kepada Reuters bahwa DOGE tidak pernah menekan staf untuk mengadopsi alat tertentu.
"Kami fokus pada efisiensi," kata juru bicara itu. Tetapi dua sumber membantah bahwa, selama beberapa pekan terakhir, perwakilan DOGE telah mendorong divisi DHS untuk menguji coba Grok untuk tugas-tugas mulai dari analisis beban kasus imigrasi hingga perkiraan anggaran, bahkan setelah DHS tiba-tiba memblokir semua platform AI komersial karena kekhawatiran kebocoran data.
Sesuai dengan kebijakan DHS saat ini, karyawan hanya dapat menggunakan chatbot komersial untuk pekerjaan yang tidak terklasifikasi dan tidak rahasia, sementara AI khusus DHS menangani catatan sensitif. Namun, ketika ChatGPT dan lainnya dinonaktifkan pada bulan Mei, kemajuan DOGE terjadi di zona abu-abu hukum: bot internal DHS tetap aktif, tetapi Grok tidak pernah secara resmi diperkenalkan.
Apakah Musk menggunakan DOGE untuk memusatkan kontrol?
Di luar DHS, jangkauan DOGE meluas ke jaringan Departemen Pertahanan, di mana sekitar selusin analis dilaporkan diberitahu bahwa alat AI pihak ketiga memantau aktivitas mereka. Meskipun juru bicara DoD telah membantah DOGE memandu penyebaran AI apa pun, email departemen dan pertukaran pesan teks yang diperoleh Reuters menunjukkan sebaliknya.
Kritikus melihat langkah-langkah ini sebagai ilustrasi dari strategi lebih luas Musk untuk memanfaatkan AI untuk memusatkan kontrol atas birokrasi dan kemudian memonetisasi aliran data yang dihasilkan.
"Ada penampilan yang jelas tentang tindakan kepentingan pribadi."
Richard Painter, seorang profesor etika pemerintah.
Jika Musk secara langsung memerintahkan penerapan Grok, ia bisa melanggar undang-undang kriminal yang melarang pejabat mempengaruhi keputusan yang menguntungkan kepentingan pribadi mereka.
Di jantung perdebatan adalah peran ganda Grok sebagai chatbot yang berhadapan dengan publik di X dan sebagai mesin analitik eksperimental di dalam firewall pemerintah. Situs web xAI bahkan menyiratkan bahwa interaksi pengguna mungkin dimonitor "untuk tujuan bisnis tertentu," yang menyarankan bahwa setiap pertanyaan federal dapat memberikan umpan balik ke dalam loop pembelajaran Grok.
Dua staf DOGE, Kyle Schutt dan Edward Coristine, yang terakhir dikenal secara online sebagai "Big Balls," telah memimpin banyak inisiatif AI. Meskipun mereka menolak untuk mengomentari, upaya mereka sesuai dengan pola; selama setahun terakhir, DOGE telah memberhentikan ribuan pejabat karir, mengambil alih database yang aman, dan mengusung AI sebagai alat utama untuk perombakan birokrasi.
Para advokat privasi memperingatkan bahwa mengintegrasikan AI yang tidak terverifikasi ke dalam lingkungan keamanan nasional yang berisiko tinggi adalah resep untuk kebocoran data, pencurian identitas, dan eksploitasi oleh musuh asing.
“Ini adalah ancaman privasi yang serius,” kata Albert Fox Cahn dari Proyek Pengawasan Teknologi.
Ada juga kekhawatiran bahwa dengan sedikit transparansi dan sedikit pengawasan, eksperimen AI DOGE dapat membentuk kembali tata kelola data federal, baik publik menyadarinya atau tidak.
Akademi Cryptopolitan: Bosan dengan fluktuasi pasar? Pelajari bagaimana DeFi dapat membantu Anda membangun pendapatan pasif yang stabil. Daftar Sekarang