Terima kasih khusus kepada para relawan Balvi, Paul Dylan-Ennis, pcaversaccio, vectorized, Bruce Xu, dan Luozhu Zhang atas diskusi dan umpan balik.

Baru-baru ini, saya semakin fokus padamemperbaiki keadaan privasidi dalam ekosistem Ethereum. Privasi adalah penjamin penting dari desentralisasi: siapa pun yang memiliki informasi memiliki kekuatan, oleh karena itu kita perlu menghindari kontrol terpusat atas informasi. Ketika orang-orang di dunia nyata mengungkapkan kekhawatiran tentang infrastruktur teknis yang dioperasikan secara terpusat, kekhawatiran terkadang tentang operator yang mengubah aturan secara tak terduga atau menonaktifkan pengguna, tetapi sama seringnya, hal itu tentang pengumpulan data. Sementara ruang kriptocurrency memiliki asal-usulnya dalam proyek-proyek sepertiChaumian Ecash, yang menempatkan pelestarian privasi keuangan digital di garis depan, baru-baru ini telah meremehkan privasi untuk alasan yang pada akhirnya buruk: sebelum ZK-SNARKs, kita tidak mempunyai cara untuk menawarkan privasi secara terdesentralisasi, dan karena itu kita meremehkannya, lebih fokus secara eksklusif pada jaminan lain yang bisa kita berikan saat itu.

Namun, saat ini, privasi tak lagi bisa diabaikan. Kecerdasan buatan sangat meningkatkan kemampuan untuk pengumpulan dan analisis data terpusat sambil memperluas cakupan data yang kita bagikan secara sukarela. Di masa depan, teknologi baru seperti antarmuka otak-komputer membawa tantangan lebih lanjut: kita mungkin benar-benar berbicara tentang kecerdasan buatan yang membaca pikiran kita. Pada saat yang sama, kita memiliki alat yang lebih kuat untuk menjaga privasi, terutama di ranah digital, daripada yang bisa dibayangkan oleh cypherpunks tahun 1990an: bukti pengetahuan nol yang sangat efisien (ZK-SNARKs) dapat melindungi identitas kita sambil mengungkapkan informasi yang cukup untuk membuktikan bahwa kita dapat dipercaya, enkripsi homomorfik penuh (FHE) dapat memungkinkan kita menghitung data tanpa melihat data, dan penyamaran mungkin segera menawarkan lebih banyak lagi.

Privasi bukan tentang berdiri sendiri. Ini tentang berdiri bersama.

Pada saat ini, sangat penting untuk mundur sejenak dan meninjau pertanyaan: mengapa kita menginginkan privasi pada awalnya? Jawaban setiap orang akan berbeda. Dalam pos ini, saya akan memberikan pendapat saya sendiri, yang akan saya jelaskan menjadi tiga bagian:

• Privasi adalah kebebasan: privasi memberikan kita ruang untuk menjalani kehidupan kita sesuai dengan kebutuhan kita, tanpa terus-menerus khawatir tentang bagaimana tindakan kita akan dilihat dalam segala jenis permainan politik dan sosial
• Privasi adalah ketertiban: sejumlah mekanisme yang menjadi dasar fungsi dasar masyarakat bergantung pada privasi agar dapat berfungsi
• Privasi adalah kemajuan: jika kita mendapatkan cara baru untuk berbagi informasi secara selektif sambil melindunginya dari penyalahgunaan, kita dapat membuka banyak nilai dan mempercepat kemajuan teknologi dan sosial

Privasi adalah kebebasan

Kembali pada awal tahun 2000-an, populer memiliki sudut pandang yang mirip dengan yang diwakili oleh buku David Brin tahun 1998 tersebutMasyarakat Transparan: teknologi akan membuat informasi di seluruh dunia menjadi jauh lebih transparan, dan meskipun ini akan memiliki sisi negatif dan memerlukan adaptasi, secara rata-rata itu adalah hal yang sangat baik, dan kita dapat membuatnya adil dengan memastikan bahwa orang-orang dapat mengawasi (atau lebih tepatnya, sousveilpemerintah juga. Pada tahun 1999, CEO Sun Microsystems Scott McNealy terkenal berseru"privasi sudah mati, lewati saja!". Mentalitas ini umum pada awal konsepsi dan pengembangan Facebook, yang identitas anonim yang dilarangSaya pribadi masih ingat mengalami akhir dari pola pikir ini dalam sebuah presentasi di acara Huawei di Shenzhen pada tahun 2015, di mana seorang pembicara (Barat) secara santai menyebutkan dalam sebuah komentar sekilas bahwa "privasi telah berakhir".

Masyarakat Transparan mewakili yang terbaik dan paling cemerlang dari apa yang ideologi 'privasi sudah berakhir' tawarkan: itu menjanjikan dunia yang lebih baik, lebih adil dan adil, menggunakan kekuatan transparansi untuk membuat pemerintah bertanggung jawab daripada menindas individu dan minoritas. Namun, jika dilihat dari sudut pandang yang lebih luas, jelas bahwa pendekatan ini juga merupakan produk dari zamannya, ditulis pada puncak antusiasme tentang kerjasama global dan perdamaian serta 'akhir sejarah', dan bergantung pada sejumlah asumsi yang terlalu optimis tentang sifat manusia. Terutama:

1. Lapisan-lapisan puncak politik global pada umumnya akan bermaksud baik dan waras, membuat privasi vertikal (yaitu tidak mengungkap informasi kepada orang-orang dan lembaga-lembaga yang berkuasa) semakin tidak diperlukan. Penyalahgunaan kekuasaan pada umumnya akan bersifat lokal, oleh karena itu cara terbaik untuk melawan penyalahgunaan tersebut adalah dengan membawanya ke dalam cahaya matahari.
2. Budaya akan terus meningkat hingga pada titik di mana privasi horizontal (yaitu tidak mengungkapkan informasi kepada anggota masyarakat lainnya) akan menjadi tidak diperlukan. Nerd, gay, dan pada akhirnya semua orang lain bisa berhenti bersembunyi di lemari, karena masyarakat akan berhenti menjadi keras dan menilai terhadap sifat unik orang dan sebaliknya menjadi terbuka pikiran dan menerima.

Hari ini, tidak ada negara besar tunggal di mana asumsi pertama secara luas disepakati sebagai benar, dan cukup banyak di antaranya di mana secara luas disepakati sebagai salah. Di sisi kedua, toleransi budaya juga telah mundur dengan cepat - hanya dengan mencari di twitter untuk frasa sepertiBullying itu baik"adalah salah satu bukti dari ini, meskipun mudah untuk menemukan lebih banyak."

Saya secara pribadi sering mengalami kerugian dari "masyarakat transparan," karena setiap tindakan yang saya lakukan di luar memiliki peluang tidak nol untuk tiba-tiba menjadi berita media publik:

Pelanggar terburuk adalah seseorang yang mengambil video berdurasi satu menit saat saya sedang menggunakan laptop di Chiang Mai, dan melanjutkan untuk mempostingnya di xiaohongshu, di mana video tersebut langsung mendapatkan ribuan suka dan dibagikan ulang. Tentu saja, situasi saya sendiri jauh dari norma manusia - tetapi ini selalu terjadi dalam hal privasi: privasi kurang diperlukan bagi orang-orang yang situasi kehidupannya relatif normal, dan lebih diperlukan bagi orang-orang yang situasi kehidupannya deviasi dari norma, dalam segala arah. Dan ketika Anda menambahkan semua arah yang penting, jumlah orang yang benar-benar membutuhkan privasi akhirnya menjadi cukup banyak - dan Anda tidak pernah tahu kapan Anda akan menjadi salah satunya. Ini adalah salah satu alasan besar mengapa privasi sering dianggap remeh: bukan hanya tentang situasi dan informasi Anda saat ini, tetapi juga tentang ketidaktahuan tentang apa yang terjadi pada informasi tersebut (dan bagaimana hal itu memengaruhi Anda) ke depan selamanya.

Privasi dari mekanisme penetapan harga perusahaan adalah kekhawatiran khusus saat ini, bahkan di kalangan pendukung kecerdasan buatan, namun dengan munculnya alat analisis berbasis kecerdasan buatan kemungkinan besar akan menjadi masalah yang berkembang: semakin banyak yang diketahui perusahaan tentang Anda, semakin besar kemungkinan mereka juga menawarkan harga yang dipersonalisasi yang memaksimalkan berapa banyak yang dapat mereka peroleh dari Anda dikalikan dengan probabilitas bahwa Anda akan membayar.

Saya dapat menyatakan argumen umum saya untuk privasi sebagai kebebasan dalam satu kalimat sebagai berikut:

Privasi memberi Anda kebebasan untuk menjalani hidup Anda sesuai dengan tujuan dan kebutuhan pribadi Anda, tanpa harus terus-menerus menyeimbangkan setiap tindakan antara "permainan pribadi" (kebutuhan Anda sendiri) dan "permainan publik" (bagaimana berbagai orang lain, yang diintermediasi oleh berbagai mekanisme termasuk kaskade media sosial, insentif komersial, politik, institusi, dll, akan menafsirkan dan merespons perilaku Anda)

Tanpa privasi, segala hal menjadi pertempuran konstan dari "apa yang akan dipikirkan orang lain (dan bot) tentang apa yang sedang saya lakukan" - orang-orang berkuasa, perusahaan, dan rekan-rekan, orang-orang saat ini dan di masa depan. Dengan privasi, kita dapat mempertahankan keseimbangan. Saat ini, keseimbangan itu sedang cepat terkikis, terutama di ranah fisik, dan jalur default dari teknokapitalisme modern, dengan dahaganya akan model bisnis yang menemukan cara untuk menangkap nilai dari pengguna tanpa meminta mereka membayar secara eksplisit, adalah untuk mengikisnya lebih lanjut (bahkan ke ranah yang sangat sensitif seperti, akhirnya, pikiran kita sendiri). Oleh karena itu, kita perlu melawan efek ini, dan mendukung privasi secara lebih eksplisit, terutama di tempat di mana kita paling praktis dapat melakukannya: ranah digital.

Tapi mengapa tidak memperbolehkan pintu belakang pemerintah?

Ada satu tanggapan umum terhadap penalaran di atas: kerugian privasi yang saya sebutkan sebagian besar adalah kerugian dari publik mengetahui terlalu banyak tentang kehidupan pribadi kita, dan bahkan dalam hal penyalahgunaan kekuasaan, itu tentang perusahaan, bos, dan politikus yang mengetahui terlalu banyak. Tetapi kita tidak akan membiarkan publik, perusahaan, bos, dan politikus memiliki semua data ini. Sebaliknya, kita akan membiarkan sekelompok kecil profesional penegak hukum yang sangat terlatih dan teruji melihat data yang diambil dari kamera keamanan di jalan dan penyadapan pada kabel internet dan aplikasi obrolan, menerapkan prosedur akuntabilitas yang ketat, dan tidak ada orang lain yang akan mengetahui hal ini.

Ini adalah posisi yang diam-diam, namun secara luas, dipegang, dan oleh karena itu penting untuk mengatasinya secara eksplisit. Ada beberapa alasan mengapa, bahkan jika diimplementasikan dengan standar kualitas yang tinggi dengan niat baik, strategi tersebut secara inheren tidak stabil:

1. Dalam praktiknya, bukan hanya pemerintah, tetapi juga berbagai entitas perusahaan, dengan berbagai tingkat kualitas. Dalam sistem keuangan tradisional, informasi KYC dan pembayaran disimpan oleh prosesor pembayaran, bank, dan berbagai jenis perantara lainnya. Penyedia email melihat jumlah data dari berbagai jenis. Perusahaan telekomunikasi mengetahui lokasi Anda, dan secara teratur mengedarkan kembali secara ilegalSecara umum, mengawasi semua entitas ini dengan tingkat ketat yang memastikan bahwa mereka benar-benar peduli terhadap data pengguna sangat memerlukan upaya baik bagi pengamat maupun yang diamati sehingga kemungkinan tidak sesuai dengan menjaga pasar bebas yang kompetitif.
2. Individu yang memiliki akses akan selalu merasa tertarik untuk menyalahgunakannya (termasuk dengan menjualnya kepada pihak ketiga). Pada tahun 2019, beberapa karyawan Twitter dikenakandankemudian terbukti bersalahuntuk menjual informasi pribadi para aktivis kepada Arab Saudi.
3. Data selalu bisa diretas. Pada tahun 2024, data yang wajib dikumpulkan oleh perusahaan telekomunikasi AS secara legal diretas,diduga oleh peretas yang berafiliasi dengan negara dari China. Pada tahun 2025, jumlah besar data pribadi sensitif yang dipegang oleh pemerintah Ukraina diserang oleh RusiaDan sebaliknya, basis data pemerintah dan perusahaan yang sangat sensitif di China juga bisa diretas, termasuk oleh pemerintah AS.
4. Rezim bisa berubah. Pemerintah yang terpercaya hari ini mungkin tidak akan terpercaya besok. Orang-orang yang bertanggung jawab hari ini mungkin akan dianiaya besok. Sebuah lembaga kepolisian yang menjaga standar tinggi yang tak terbandingkan dalam hal rasa hormat dan tata krama suatu hari mungkin menemukan dirinya mengalami berbagai jenis kekejaman dengan senang hati sepuluh tahun kemudian.

Dari sudut pandang individu, jika data diambil daripada mereka, mereka tidak memiliki cara untuk mengetahui apakah dan bagaimana data tersebut akan disalahgunakan di masa depan. Sampai saat ini, pendekatan paling aman dalam menangani data dalam skala besar adalah dengan mengumpulkannya secara terpusat se sedikit mungkin dari awal. Data seharusnya dipegang sebanyak mungkin oleh pengguna itu sendiri, dan cara kriptografis digunakan untuk memungkinkan penggabungan statistik yang berguna tanpa mengorbankan privasi individu.

Argumen bahwa pemerintah harus memiliki kemampuan untuk mengakses segala sesuatu dengan surat perintah karena itu adalah cara kerja yang selalu terjadi melewatkan satu poin penting: secara historis, jumlah informasi yang dapat diperoleh dengan surat perintah jauh lebih rendah daripada yang tersedia saat ini, dan bahkan apa yang akan tersedia jika bentuk privasi internet yang paling kuat diusulkan secara universal diadopsi. Pada abad ke-19, rata-rata percakapan terjadi sekali, melalui suara, dan tidak pernah direkam oleh siapapun. Oleh karena itu: seluruhpanik moral sekitar "pergi gelap"adalah ahistorical: percakapan rata-rata, dan bahkan transaksi keuangan, yang sepenuhnya dan tanpa syarat pribadi adalah norma sejarah multi-ribu tahun.

Percakapan rata-rata, 1950. Tepat nol kata dari percakapan yang pernah direkam, dimata-matai, tunduk pada "penyadapan yang sah", AI dianalisis, atau dilihat oleh siapa pun kapan saja selain peserta dalam percakapan saat itu terjadi.

Alasan penting lainnya untuk meminimalkan pengumpulan data terpusat adalah sifat internasional dari sebagian besar komunikasi global dan interaksi ekonomi. Jika semua orang berada di negara yang sama, setidaknya merupakan posisi yang koheren untuk mengatakan bahwa 'pemerintah' harus memiliki akses ke data dalam interaksi mereka. Tetapi bagaimana jika orang berada di negara yang berbeda? Tentu, dalam prinsipnya Anda dapat mencoba untuk menciptakan skema yang canggih di mana data setiap orang dipetakan ke entitas akses yang sah yang bertanggung jawab atas mereka - meskipun di sana Anda harus berurusan dengan sejumlah besar kasus-kasus tepi yang melibatkan data yang terkait dengan beberapa orang. Tetapi bahkan jika Anda bisa, itu bukanlah hasil default yang realistis. Hasil default yang realistis dari pintu belakang pemerintah adalah: data menjadi terkonsentrasi di sejumlah kecil yurisdiksi pusat yang memiliki data semua orang karena mereka mengontrol aplikasi - pada dasarnya, hegemoni teknologi global. Privasi yang kuat jauh lebih stabil sebagai alternatif terbaik.

Privasi adalah tata tertib

Selama lebih dari satu abad, telah diakui bahwa komponen teknis kunci yang membuat demokrasi berfungsi adalah surat suara rahasia: tidak ada yang tahu siapa yang Anda pilih, dan selain itu, Anda tidak memiliki kemampuan untuk membuktikan kepada orang lain siapa yang Anda pilih, bahkan jika Anda benar-benar ingin melakukannya. Jika surat suara rahasia bukanlah standar, maka para pemilih akan diserang dengan berbagai insentif sampingan yang memengaruhi cara mereka memilih: suap, janji-janji hadiah retroaktif, tekanan sosial, ancaman, dan lainnya.

Dapat dilihat bahwa insentif sampingan seperti itu benar-benar akan menghancurkan demokrasi dengan argumen matematis sederhana: dalam pemilihan dengan N orang, probabilitas Anda untuk memengaruhi hasilnya hanya sekitar 1/N, sehingga pertimbangan apa pun terkait dengan mana kandidat yang lebih baik dan mana yang lebih buruk secara inheren dibagi oleh N. Sementara itu, 'permainan sampingan' (misalnya suap pemilih, paksaan, tekanan sosial) bertindak pada Anda secara langsung berdasarkan cara Anda memilih (daripada berdasarkan hasil pemungutan suara secara keseluruhan), sehingga mereka tidak dibagi oleh N. Oleh karena itu, kecuali permainan sampingan dikendalikan dengan ketat, secara default mereka akan mengatasi keseluruhan permainan, dan mengalahkan pertimbangan mana kebijakan kandidat yang sebenarnya lebih baik.

Ini tidak hanya berlaku untuk demokrasi berskala negara. Secara teori, hal ini berlaku untuk hampir setiap masalah prinsipal-agen korporat atau pemerintah:

• Seorang hakim memutuskan bagaimana memutus dalam suatu kasus
• Seorang pejabat pemerintah memutuskan kepada perusahaan mana untuk memberikan kontrak atau hibah
• Seorang pejabat imigrasi yang memutuskan untuk memberikan atau menolak visa
• Seorang karyawan di perusahaan media sosial memutuskan bagaimana menegakkan kebijakan moderasi konten
• Seorang karyawan di sebuah perusahaan yang memberikan kontribusi pada keputusan bisnis (misalnya, dari pemasok mana untuk membeli)

Masalah mendasar dalam semua kasus adalah sama: jika agen bertindak jujur, mereka hanya menyerap sebagian kecil manfaat dari tindakan mereka untuk entitas yang mereka wakili, sementara jika mereka mengikuti insentif dari beberapa permainan sampingan, maka mereka menyerap seluruh bagian dari manfaat tersebut. Oleh karena itu, bahkan hari ini, kita bergantung pada banyak kebaikan moral untuk memastikan semua institusi kita tidak sepenuhnya dikuasai oleh pusaran kacau permainan sampingan yang saling menumbangkan. Jika privasi semakin berkurang, maka permainan sampingan ini menjadi lebih kuat, dan kebaikan moral yang diperlukan untuk menjaga agar masyarakat berfungsi dapat menjadi sangat tinggi secara tidak realistis.

Apakah sistem sosial dapat diubah desainnya agar tidak memiliki masalah ini? Sayangnya, teori permainan hampir secara eksplisit mengatakan bahwa hal ini tidak mungkin (dengan satu pengecualian: diktator total). Pada versi teori permainan yang berfokus pada pilihan individu - yaitu, versi yang mengasumsikan bahwa setiap peserta membuat keputusan secara independen dan tidak memungkinkan kemungkinan kelompok agen bekerja sebagai satu kesatuan untuk keuntungan bersama, perancang mekanisme memiliki kewenangan yang sangat luas untuk permainan 'insinyur'untuk mencapai berbagai macam hasil tertentu. Bahkan, ada bukti matematisbahwa untuk setiap permainan setidaknya satu keseimbangan Nash stabil harus ada, dan karenanya menganalisis permainan semacam itu menjadi dapat ditangani. Tetapi dalam versi teori permainan yang memungkinkan kemungkinan koalisi bekerja bersama (yaitu "kolusi"), yang disebut teori permainan kooperatif,kami dapat membuktikan bahwaada kelas permainan besar yang tidak memiliki hasil yang stabil (disebut sebagaiinti)”). Dalam permainan seperti itu, apa pun keadaan saat ini, selalu ada beberapa koalisi yang dapat menguntungkan beralih dari itu.

Jika kita serius dengan matematika, kita sampai pada kesimpulanbahwa satu-satunya cara untuk menciptakan struktur sosial yang stabil adalah dengan memiliki beberapa batasan pada jumlah koordinasi antara peserta yang dapat terjadi - dan hal ini menyiratkan privasi yang kuat (termasuk penyangkalan). Jika Anda tidak serius dalam matematika itu sendiri, maka cukup untuk mengamati dunia nyata, atau setidaknya memikirkan bagaimana beberapa situasi agen-prinsipal yang dijelaskan di atas mungkin menjadi jika mereka dikuasai oleh permainan sampingan, untuk sampai pada kesimpulan yang sama.

Perhatikan bahwa ini memperkenalkan argumen lain mengapa pintu belakang pemerintah berisiko. Jika semua orang memiliki kemampuan tak terbatas untuk berkoordinasi dengan semua orang tentang segala hal, hasilnya adalah kekacauan. Tetapi jika hanya sedikit orang yang bisa melakukannya, karena mereka memiliki akses istimewa ke informasi, maka hasilnya adalah bahwa mereka mendominasi. Satu partai politik yang memiliki akses pintu belakang ke komunikasi partai lain dapat dengan mudah menandai akhir dari keberlangsungan memiliki beberapa partai politik.

Salah satu contoh penting lain dari tatanan sosial yang bergantung pada batasan kolusi agar berfungsi adalah aktivitas intelektual dan budaya. Berpartisipasi dalam aktivitas intelektual dan budaya adalah tugas yang didorong secara intrinsik oleh kepentingan publik: sangat sulit untuk menciptakan insentif ekstrinsik yang ditujukan untuk kontribusi positif bagi masyarakat, tepat karena aktivitas intelektual dan budaya adalah, dalam beberapa hal, aktivitas untuk menentukan tindakan mana dalam masyarakat yang merupakan tindakan positif dalam hal pertama. Kita dapat membuat insentif komersial dan sosial yang mendekati yang menunjukkan arah yang benar, namun mereka juga memerlukan motivasi intrinsik yang kuat. Namun, ini juga berarti bahwa jenis aktivitas ini sangat rentan terhadap motivasi ekstrinsik yang tidak sejalan, terutama permainan sampingan seperti tekanan sosial dan paksaan. Untuk membatasi dampak motivasi ekstrinsik yang tidak sejalan seperti itu, privasi sekali lagi diperlukan.

Privasi adalah kemajuan

Bayangkan dunia di mana enkripsi kunci publik dan kunci simetris sama sekali tidak ada. Di dunia ini, mengirim pesan secara aman melintasi jarak jauh akan secara inheren menjadi jauh lebih sulit - tidak tidak mungkin, tapi sulit. Hal ini akan menyebabkan kerjasama internasional yang jauh lebih sedikit terjadi, dan akibatnya banyak hal akan terus terjadi melalui saluran offline tatap muka. Hal ini akan membuat dunia menjadi tempat yang lebih miskin, dan lebih tidak merata.

Saya akan berpendapat bahwa hari ini kita berada tepat di tempat tersebut, relatif terhadap dunia hipotetis di masa depan di mana bentuk-bentuk kriptografi yang jauh lebih kuat sudah banyak tersedia - khususnya, kriptografi yang dapat diprogram, ditambah dengan bentuk-bentuk keamanan full-stack yang lebih kuat dan verifikasi formal untuk memberi kita jaminan yang kuat bahwa kriptografi ini digunakan dengan benar.

The Protokol dewa Mesir: tiga konstruksi yang sangat kuat dan sangat umum yang dapat memungkinkan kita melakukan komputasi pada data sambil tetap menjaga keamanan data sepenuhnya.

Sumber contoh yang sangat baik adalah perawatan kesehatan. Jika Anda berbicara dengan siapa pun yang telah bekerja dalam bidang masa panjang, ketahanan pandemi, atau bidang lain dalam kesehatan dalam dekade terakhir, mereka akan secara universal memberitahu Anda bahwa masa depan pengobatan dan pencegahan adalah personalisasi, dan respons yang efektif sangat bergantung pada data berkualitas tinggi, baik data tentang individu maupun data tentang lingkungan. Melindungi orang secara efektif dari penyakit udara memerlukan pengetahuan tentang di mana kualitas udara lebih tinggi dan lebih rendah, dan di wilayah mana patogen muncul pada waktu tertentu. Klinik masa panjang paling canggih semua memberikan rekomendasi dan perawatan yang disesuaikan berdasarkan data tentang tubuh Anda, preferensi makanan, dan gaya hidup.

Namun, setiap hal ini secara bersamaan merupakan risiko privasi yang besar. Saya secara pribadi mengetahui insiden di mana pemantau udara diberikan kepada seorang karyawan yang 'menelepon ke rumah' ke perusahaan, dan data yang terkumpul cukup untuk menentukan kapan karyawan tersebut sedang berhubungan seks. Oleh karena alasan seperti ini, saya mengharapkan bahwa secara default banyak bentuk data paling berharga tidak akan sama sekali dikumpulkan, tepat karena orang-orang takut terhadap konsekuensi privasi. Dan bahkan ketika data dikumpulkan, hampir selalu data tersebut tidak akan secara luas dibagikan atau tersedia bagi para peneliti - sebagian karena alasan bisnis, tetapi juga seringkali karena kekhawatiran privasi yang terlibat.

Pola yang sama diulang di bidang lain. Ada sejumlah besar informasi tentang diri kita dalam tindakan yang kita lakukan di dokumen yang kita tulis, pesan yang kita kirim melalui berbagai aplikasi, dan berbagai tindakan di media sosial, yang semuanya bisa digunakan untuk lebih efektif memprediksi dan memberikan hal-hal yang kita butuhkan dalam kehidupan sehari-hari kita. Ada sejumlah besar informasi tentang bagaimana kita berinteraksi dengan lingkungan fisik kita yang tidak terkait dengan kesehatan. Saat ini, kita kekurangan alat untuk menggunakan informasi ini secara efektif tanpa menciptakan mimpi buruk privasi distopia. Besok, kita mungkin memiliki alat-alat tersebut.

Cara terbaik untuk mengatasi tantangan ini adalah dengan menggunakan kriptografi yang kuat, yang dapat memungkinkan kita mendapatkan manfaat berbagi data tanpa kekurangannya. Kebutuhan untuk mengakses data, termasuk data pribadi, akan menjadi lebih penting di era AI, karena ada nilai dari kemampuan untuk melatih dan menjalankan "digital twin" secara lokal yang dapat mengambil keputusan atas nama kita berdasarkan perkiraan preferensi kita yang sangat mendekati. Pada akhirnya, hal ini juga akan melibatkan penggunaan teknologi antarmuka otak-komputer (BCI), membaca masukan berkecepatan tinggi dari pikiran kita. Agar hal ini tidak mengarah pada hegemoni global yang sangat terpusat, kita memerlukan cara agar hal ini dilakukan dengan menghormati privasi yang kuat. Kriptografi yang dapat diprogram adalah solusi paling dapat dipercaya.

Saya AirValentmonitor kualitas udara. Bayangkan sebuah perangkat seperti ini yang mengumpulkan data kualitas udara, membuat statistik agregat tersedia untuk umum pada peta data terbuka, dan memberi imbalan kepada Anda karena menyediakan data - semua sambil menggunakan kriptografi yang dapat diprogram untuk menghindari mengungkapkan data lokasi pribadi Anda dan memverifikasi bahwa data tersebut asli.

Privasi dapat menjadi kemajuan untuk menjaga keamanan masyarakat kita

Teknik kriptografi yang dapat diprogram seperti bukti nol pengetahuan sangat kuat, karena mereka seperti balok Lego untuk aliran informasi. Mereka dapat memungkinkan kontrol yang sangat halus tentang siapa yang dapat melihat informasi apa dan, seringkali lebih penting, informasi apa yang dapat dilihat sama sekali. Sebagai contoh, saya dapat membuktikan bahwa saya memiliki paspor Kanada yang menunjukkan bahwa saya berusia di atas 18 tahun, tanpa mengungkapkan hal lain tentang diri saya.

Ini memungkinkan semua jenis kombinasi yang menarik. Saya bisa memberi beberapa contoh:

• Bukti pengetahuan nol tentang kepribadian: membuktikan bahwa Anda adalah orang yang unik (melalui berbagai bentuk ID: paspor, biometrik, terdesentralisasi berbasis graf sosial) tanpa mengungkapkan informasi lain tentang identitas Anda. Ini dapat digunakan untuk “bukti bukan bot”, berbagai kasus penggunaan “maksimal N per orang”, dan lainnya, sambil menjaga privasi penuh tanpa mengungkap fakta bahwa aturan tidak dilanggar.
• Kolam Privasi, sebuah solusi privasi keuangan yang dapat mengecualikan pelaku buruk tanpa memerlukan pintu belakang. Saat menghabiskan, pengguna dapat membuktikan bahwa koin mereka berasal dari sumber yang tidak terdaftar dalam daftar publik dari peretasan dan pencurian; para peretas dan pencuri sendirilah satu-satunya yang tidak akan bisa menghasilkan bukti tersebut, sehingga mereka tidak akan bisa menyembunyikan.Railgundanprivacypools.comsaat ini sedang live dan menggunakan skema tersebut.
• Pemindaian anti-penipuan pada perangkat: ini tidak bergantung pada ZKPs, tetapi terasa seperti hal ini masuk ke dalam kategori ini. Anda dapat menggunakan filter pada perangkat (termasuk LLMs) untuk memeriksa pesan masuk, dan mengidentifikasi potensi informasi salah dan penipuan secara otomatis. Jika dilakukan pada perangkat, hal ini tidak mengorbankan privasi pengguna, dan dapat dilakukan secara memberdayakan pengguna, memberikan setiap pengguna pilihan filter mana yang akan diikuti.
• Bukti asal usul untuk barang fisik: dengan menggunakan kombinasi blockchain dan bukti nol pengetahuan, memungkinkan untuk melacak berbagai properti dari suatu barang melalui rantai manufakturnya. Ini bisa memungkinkan misalnya menetapkan harga eksternalitas lingkungan tanpa secara publik mengungkap rantai pasokan.

depiksi kolam privasi

Taiwanese Pemeriksa Pesanaplikasi, yang memberi pengguna pilihan untuk menyalakan atau mematikan beberapa filter, di sini dari atas ke bawah: pemeriksaan URL, pemeriksaan alamat cryptocurrency, pemeriksaan rumor

Privasi dan Kecerdasan Buatan

Baru-baru ini, ChatGPT mengumumkanbahwa itu akan mulai memberi makan percakapan masa lalu Anda ke dalam AI sebagai konteks untuk percakapan masa depan Anda. Bahwa tren akan terus berlanjut ke arah ini adalah tak terhindarkan: AI yang melihat-lihat percakapan masa lalu Anda dan mencari wawasan dari mereka adalah secara mendasar berguna. Di masa depan yang tidak terlalu jauh, kita mungkin akan melihat orang membuat produk AI yang membuat intrusi yang lebih dalam ke dalam privasi: secara pasif mengumpulkan pola penjelajahan internet Anda, riwayat email dan obrolan, data biometrik, dan lainnya.

Secara teori, data Anda tetap pribadi bagi Anda. Namun, dalam praktiknya, hal ini tidak selalu tampak demikian:

“Wow! ChatGPT memiliki bug, dan itu mendorong pertanyaan yang diajukan oleh orang lain kepada saya! Ini adalah kebocoran privasi yang besar. Saya bertanya, mendapat kesalahan, dan kemudian 'Coba Lagi' menghasilkan pertanyaan yang tidak akan pernah saya tanyakan.

Selalu mungkin perlindungan privasi berfungsi dengan baik, dan dalam hal ini kecerdasan buatan mengalami halusinasi dengan menghasilkan pertanyaan yang tidak pernah ditanyakan oleh Bruce dan menjawabnya. Tetapi tidak ada cara untuk memverifikasi. Demikian pula, tidak ada cara untuk memverifikasi apakah percakapan kita digunakan untuk pelatihan atau tidak.

Semua ini sangat mengkhawatirkan. Bahkan lebih mengganggu adalah kasus penggunaan surveilans AI eksplisit, di mana data (fisik dan digital) tentang orang dikumpulkan dan dianalisis dalam skala besar tanpa persetujuan mereka. Pengenalan wajah sudah membantu rezim otoriter tindakan tegas terhadap ketidaksetujuan politikdalam skala besar. Dan yang paling mengkhawatirkan dari semuanya adalah perbatasan akhir yang tak terhindarkan dari pengumpulan dan analisis data AI: pikiran manusia.

Pada dasarnya, teknologi antarmuka otak-komputer memiliki kekuatan luar biasa untuk meningkatkan potensi manusia. Ambil cerita dari Noland Arbaugh, pasien pertama Neuralink pada tahun lalu:

Perangkat eksperimental telah memberikan Arbaugh, yang kini berusia 30 tahun, rasa independensi. Sebelumnya, menggunakan tongkat mulut memerlukan seseorang untuk memposisikannya tegak. Jika dia menjatuhkan tongkat mulutnya, itu perlu diambil untuknya. Dan dia tidak bisa menggunakannya untuk waktu lama atau dia akan mengembangkan luka. Dengan perangkat Neuralink, dia hampir sepenuhnya mengontrol komputer. Dia dapat menjelajahi web dan bermain game komputer kapan pun dia mau, dan Neuralink mengatakan dia memiliki mencatat rekor manusia untuk kontrol kursor dengan BCI.

Hari ini, perangkat-perangkat ini cukup kuat untuk memberdayakan orang yang terluka dan sakit. Besok, mereka akan cukup kuat untuk memberikan kesempatan kepada orang-orang yang benar-benar sehat untuk bekerja dengan komputer, dan berkomunikasi secara telepati satu sama lain (!!), pada tingkat efisiensi yang bagi kita terlihat tidak terbayangkan. Namun, sebenarnya menginterpretasikan sinyal-sinyal otak untuk membuat jenis komunikasi ini memungkinkan memerlukan kecerdasan buatan.

Ada masa depan yang gelap yang bisa muncul secara alami sebagai hasil dari perpaduan tren-tren ini, dan kita mendapatkan agen super silikon yang sedang menyeruput dan menganalisis informasi tentang semua orang, termasuk bagaimana mereka menulis, bertindak, dan berpikir. Tetapi ada juga masa depan yang lebih cerah, di mana kita mendapatkan manfaat dari teknologi-teknologi ini sambil mempertahankan privasi kita.

Ini dapat dilakukan dengan kombinasi beberapa teknik:

• Menjalankan komputasi secara lokal setiap kali memungkinkan - banyak tugas (misalnya analisis gambar dasar, terjemahan, transkripsi, analisis gelombang otak dasar untuk BCI) cukup sederhana sehingga dapat dilakukan sepenuhnya pada komputasi yang berjalan lokal. Memang, komputasi yang berjalan lokal bahkan memberikan keuntungan dalam mengurangi laten dan meningkatkan verifikasi. Jika sesuatu dapat dilakukan secara lokal, sebaiknya dilakukan secara lokal. Ini termasuk komputasi di mana berbagai langkah perantara melibatkan mengakses internet, masuk ke akun media sosial, dll.
• Menggunakan kriptografi untuk membuat komputasi jarak jauh benar-benar pribadi - enkripsi homomorfik penuh(FHE) dapat digunakan untuk melakukan komputasi AI secara remote tanpa memungkinkan server remote melihat data atau hasilnya. Secara historis, FHE sangat mahal, tetapi (i) belakangan ini efisiensinya telah meningkat dengan pesat, dan (ii) LLMs adalah bentuk komputasi yang unik strukturnya, dan secara asimtotik hampir semuanya adalah operasi linear, menjadikannya potensial sangat cocok untuk implementasi FHE yang sangat efisien. Komputasi yang melibatkan data pribadi dari beberapa pihak dapat dilakukan dengan komputasi multi-pihak; kasus umum dua pihak dapat ditangani dengan sangat efisien dengan teknik sepertisirkuit kacau.
• Menggunakan verifikasi perangkat keras untuk memperluas jaminan ke dunia fisik - kita bisa bersikeras bahwa perangkat keras yang dapat membaca pikiran kita (baik dari dalam tengkorak atau luar) harus terbuka dan dapat diverifikasi, dan menggunakanteknik seperti IRISuntuk memverifikasinya. Kita juga dapat melakukan hal ini di domain lain: misalnya, kita bisa memiliki kamera keamanan yang dapat dibuktikan hanya menyimpan dan meneruskan aliran video jika LLM lokal menandainya sebagai kekerasan fisik atau keadaan darurat medis, dan menghapusnya dalam semua kasus lain, dan memiliki inspeksi acak yang didorong oleh komunitas dengan IRIS untuk memverifikasi bahwa kamera-kamera tersebut diimplementasikan dengan benar.

Masa depan tidak sempurna

Pada tahun 2008, filsuf libertarian David Friedman menulis sebuah buku yang bernama Masa Depan Tidak Sempurna, di mana dia memberikan serangkaian sketsa tentang perubahan-perubahan dalam masyarakat yang mungkin dibawa oleh teknologi-teknologi baru, tidak semuanya menguntungkan baginya (atau bagi kita). In satu bagian, ia menggambarkan kemungkinan masa depan di mana kita melihat interaksi yang rumit antara privasi dan survei, di mana pertumbuhan privasi digital menyeimbangkan pertumbuhan survei di dunia fisik:

Tidak ada gunanya menggunakan enkripsi yang kuat untuk email saya jika seekor nyamuk video duduk di dinding menyaksikan saya mengetik. Jadi privasi yang kuat dalam masyarakat transparan memerlukan cara untuk menjaga antarmuka antara tubuh realspace saya dan dunia maya... Solusi low-tech adalah mengetik di bawah tudung. Solusi high-tech adalah beberapa kaitan antara pikiran dan mesin yang tidak melalui jari - atau sesuatu yang lain yang terlihat oleh pengamat luar.24

Konflik antara transparansi ruang nyata dan privasi ranah siber juga berjalan ke arah sebaliknya ... Komputer saku saya mengenkripsi pesan saya dengan kunci publik Anda dan mengirimkannya ke komputer saku Anda, yang mendekripsi pesan dan menampilkannya melalui kacamata VR Anda. Untuk memastikan tidak ada yang membaca kacamata Anda dari samping, kacamata tersebut mengirimkan gambar ke Anda bukan dengan menampilkannya di layar tetapi dengan menggunakan laser kecil untuk menuliskannya di retina Anda. Dengan sedikit keberuntungan, bagian dalam bola mata Anda masih merupakan ruang pribadi.

Kita bisa berakhir di dunia di mana tindakan fisik sepenuhnya menjadi publik, transaksi informasi sepenuhnya menjadi pribadi. Ini memiliki beberapa fitur menarik. Warga swasta masih akan dapat memanfaatkan privasi yang kuat untuk menemukan pembunuh bayaran, tetapi mempekerjakannya mungkin akan lebih mahal dari yang mereka bersedia bayar, karena dalam dunia yang cukup transparan semua pembunuhan terdeteksi. Setiap pembunuh bayaran mengeksekusi satu komisi kemudian langsung masuk penjara.

Bagaimana interaksi antara teknologi-teknologi ini dan pemrosesan data? Di satu sisi, pemrosesan data modern membuat masyarakat transparan menjadi ancaman - tanpa itu, tidak akan terlalu penting jika Anda merekam video segala hal yang terjadi di dunia, karena tidak ada yang akan pernah menemukan enam inci pita video tertentu yang diinginkannya di jutaan mil yang dihasilkan setiap hari. Di sisi lain, teknologi yang mendukung privasi yang kuat memberikan kemungkinan untuk memulihkan privasi, bahkan di dunia dengan pemrosesan data modern, dengan menjaga informasi tentang transaksi Anda agar tidak pernah sampai kepada siapapun selain Anda.

Dunia seperti itu mungkin adalah yang terbaik dari segala kemungkinan: jika semua berjalan lancar, kita akan melihat masa depan di mana ada sangat sedikit kekerasan fisik, namun pada saat yang sama menjaga kebebasan online kita, dan memastikan fungsi dasar proses politik, sipil, budaya, dan intelektual dalam masyarakat yang bergantung pada beberapa batasan transparansi informasi total untuk operasi berkelanjutan mereka.

Meskipun tidak ideal, itu jauh lebih baik daripada versi di mana privasi fisik dan digital mendekati nol, akhirnya termasuk privasi pikiran kita sendiri, dan pada pertengahan 2050-an kita mendapatkan artikel yang berargumen bahwa tentu saja tidak realistis mengharapkan berpikir yang tidak tunduk pada intersepsi yang sah, dan tanggapan terhadap artikel tersebut terdiri dari tautan ke insiden terbaru di mana LLM perusahaan AI mendapatkan eksploitasi yang menyebabkan tahun dari 30 juta monolog dalam hati orang terungkap ke seluruh internet.

Masyarakat selalu bergantung pada keseimbangan antara privasi dan transparansi. Dalam beberapa kasus, saya mendukung batasan privasi juga. Untuk memberikan contoh yang benar-benar terputus dari argumen biasa yang orang berikan dalam hal ini, saya mendukung langkah-langkah pemerintah AS untuklarang klausa non-compete dalam kontrak, utamanya bukan karena dampak langsungnya pada pekerja, tetapi karena mereka adalah cara untuk memaksa pengetahuan domain diam-diam perusahaan untuk menjadi sebagian open-source. Memaksa perusahaan menjadi lebih terbuka daripada yang mereka inginkan adalah pembatasan privasi - tetapi saya akan berpendapat bahwa ini menguntungkan secara bersih. Namun, dari perspektif makro, risiko terbesar teknologi masa depan dekat adalah bahwa privasi akan mendekati titik terendah sepanjang masa, dan dengan cara yang sangat tidak seimbang di mana individu-individu paling kuat dan negara-negara paling kuat mendapatkan banyak data tentang semua orang, sedangkan orang lain hampir tidak melihat apa-apa. Untuk alasan ini, mendukung privasi untuk semua orang, dan membuat alat-alat yang diperlukan open source, universal, dapat diandalkan, dan aman adalah salah satu tantangan penting zaman kita.

Penolakan：

1. Artikel ini dicetak ulang dari [Vitalik]. Semua hak cipta dimiliki oleh penulis asli [Vitalik]. Jika ada keberatan terhadap pencetakan ulang ini, silakan hubungi Gate Belajartim, dan mereka akan menanganinya dengan segera.

2. Penafian Tanggung Jawab: Pandangan dan opini yang terdapat dalam artikel ini semata-mata milik penulis dan tidak merupakan nasihat investasi apa pun.

3. Terjemahan artikel ke bahasa lain dilakukan oleh tim Gate Learn. Kecuali disebutkan, menyalin, mendistribusikan, atau menjiplak artikel yang diterjemahkan dilarang.