Di San Francisco, beberapa orang bertanya-tanya kapan AI akan membunuh kita semua

Audrey Kim cukup yakin robot yang kuat tidak akan memanen sumber daya dari tubuhnya untuk memenuhi tujuannya.

Tapi dia menganggap serius kemungkinan itu.

“Sebagai catatan: Saya pikir sangat tidak mungkin AI akan mengekstrak atom saya untuk mengubah saya menjadi penjepit kertas,” kata Kim kepada CNBC dalam sebuah wawancara. “Namun, saya melihat ada banyak potensi hasil destruktif yang bisa terjadi dengan teknologi ini.”

Kim adalah kurator dan penggerak di belakang Misalignment Museum, sebuah pameran baru di Distrik Misi San Francisco yang menampilkan karya seni yang membahas kemungkinan “AGI”, atau kecerdasan umum buatan. Itu adalah AI yang sangat kuat sehingga dapat meningkatkan kemampuannya lebih cepat daripada yang bisa dilakukan manusia, menciptakan umpan balik di mana ia menjadi lebih baik dan lebih baik hingga ia memiliki kekuatan otak yang tak terbatas.

Jika AI yang sangat kuat itu disejajarkan dengan manusia, itu bisa menjadi akhir dari kelaparan atau pekerjaan. Tetapi jika itu “tidak selaras”, hal-hal bisa menjadi buruk, begitulah teorinya.

Atau, seperti tanda di Misalignment Museum berbunyi: “Maaf telah membunuh sebagian besar umat manusia.”

“AGI” dan istilah terkait seperti “keselamatan AI” atau “penyelarasan” — atau bahkan istilah lama seperti “singularitas” — mengacu pada ide yang menjadi topik hangat diskusi dengan ilmuwan kecerdasan buatan, seniman, intelektual papan pesan, dan bahkan beberapa salah satu perusahaan paling kuat di Silicon Valley.

Semua kelompok ini terlibat dengan gagasan bahwa umat manusia perlu memikirkan cara menangani komputer yang sangat kuat yang ditenagai oleh AI sebelum terlambat dan kami secara tidak sengaja membuatnya.

Ide di balik pameran, kata Kim, yang bekerja di Google Dan GManak perusahaan mobil self-driving Cruise, adalah bahwa kecerdasan buatan yang “tidak selaras” di masa depan memusnahkan umat manusia, dan meninggalkan pameran seni ini untuk meminta maaf kepada manusia saat ini.

Sebagian besar seni tidak hanya tentang AI tetapi juga menggunakan generator gambar bertenaga AI, chatbots, dan alat lainnya. Logo pameran dibuat oleh generator gambar Dall-E OpenAI, dan butuh sekitar 500 petunjuk, kata Kim.

Sebagian besar karya mengangkat tema “penyelarasan” dengan kecerdasan buatan yang semakin kuat atau merayakan “pahlawan yang mencoba mengurangi masalah dengan peringatan dini”.

“Tujuannya sebenarnya bukan untuk mendikte pendapat tentang topik tersebut. Tujuannya adalah untuk menciptakan ruang bagi orang-orang untuk merefleksikan teknologi itu sendiri,” kata Kim. “Saya pikir banyak dari pertanyaan ini telah terjadi di bidang teknik dan menurut saya itu sangat penting. Mereka juga tidak dapat dipahami atau diakses oleh orang non-teknis.”

Pameran saat ini terbuka untuk umum pada hari Kamis, Jumat, dan Sabtu dan berlangsung hingga 1 Mei. Sejauh ini, sebagian besar dibiayai oleh satu donor anonim, dan Kim berharap menemukan cukup banyak donor untuk membuatnya menjadi pameran permanen.

“Saya mendukung lebih banyak orang yang berpikir kritis tentang ruang ini, dan Anda tidak dapat menjadi kritis kecuali Anda berada pada dasar pengetahuan untuk apa teknologi itu,” kata Kim. “Tampaknya dengan format seni ini kita bisa mencapai berbagai tingkat percakapan.”

Diskusi AGI juga bukan hanya obrolan kamar asrama larut malam — mereka tertanam dalam industri teknologi.

Sekitar satu mil jauhnya dari pameran adalah kantor pusat OpenAI, sebuah startup dengan pendanaan $10 miliar Microsoftyang mengatakan bahwa misinya adalah untuk mengembangkan AGI dan memastikan bahwa hal itu bermanfaat bagi umat manusia.

CEO dan pemimpinnya Sam Altman menulis posting blog 2.400 kata bulan lalu yang disebut “Perencanaan untuk AGI” yang berterima kasih kepada CEO Airbnb Brian Chesky dan Presiden Microsoft Brad Smith atas bantuannya.

Kapitalis ventura terkemuka, termasuk Marc Andreessen, telah men-tweet seni dari Misalignment Museum. Sejak dibuka, pameran tersebut juga me-retweet foto dan memuji pameran yang diambil oleh orang-orang yang bekerja dengan AI di perusahaan termasuk Microsoft, Google, dan Nvidia.

Saat teknologi AI menjadi bagian terpanas dari industri teknologi, dengan perusahaan mengincar pasar bernilai triliunan dolar, Misalignment Museum menggarisbawahi bahwa perkembangan AI dipengaruhi oleh diskusi budaya.

Pameran ini menampilkan referensi yang padat dan misterius ke makalah filosofi dan posting blog yang tidak jelas dari dekade terakhir.

Referensi ini melacak bagaimana perdebatan saat ini tentang AGI dan keamanan mengambil banyak dari tradisi intelektual yang telah lama menemukan lahan subur di San Francisco: Kaum rasionalis, yang mengklaim alasan dari apa yang disebut “prinsip pertama”; altruis yang efektif, yang mencoba memikirkan bagaimana melakukan kebaikan maksimal untuk jumlah maksimal orang dalam jangka waktu yang lama; dan adegan seni Burning Man.

Bahkan ketika perusahaan dan orang-orang di San Francisco sedang membentuk masa depan teknologi kecerdasan buatan, budaya unik San Francisco membentuk perdebatan seputar teknologi tersebut.

Ambil penjepit kertas yang dibicarakan Kim. Salah satu karya seni terkuat di pameran ini adalah patung yang disebut “Paperclip Embrace”, oleh The Pier Group. Itu menggambarkan dua manusia yang saling berpelukan — tapi sepertinya itu terbuat dari penjepit kertas.

Itu referensi ke Nick Bostrom’s masalah pemaksimal penjepit kertas. Bostrom, seorang filsuf Universitas Oxford yang sering dikaitkan dengan ide-ide Rasionalis dan Altruis Efektif, menerbitkan eksperimen pemikiran pada tahun 2003 tentang AI super cerdas yang diberi tujuan untuk membuat klip kertas sebanyak mungkin.

Altman baru-baru ini memposting foto selfie dengan Yudkowsky dan musisi Grimes, yang memiliki dua anak dengan Elon Musk. Dia menyumbangkan sepotong pameran yang menggambarkan seorang wanita menggigit apel, yang dihasilkan oleh alat AI yang disebut Midjourney.

Pameran mencakup banyak referensi tentang budaya pop tradisional Amerika.

Rak buku menyimpan salinan VHS dari film “Terminator”, di mana robot dari masa depan kembali untuk membantu menghancurkan umat manusia. Ada lukisan cat minyak besar yang ditampilkan dalam film terbaru dalam franchise “Matrix”, dan Roombas dengan sapu terpasang mengacak-acak ruangan – referensi ke adegan di “Fantasia” di mana penyihir malas memanggil sapu ajaib yang tidak akan menyerah pada misi mereka.

Satu patung, “Spambot”, menampilkan robot mekanis kecil di dalam kaleng Spam yang “mengetik” spam yang dihasilkan AI di layar.

Tetapi beberapa referensi lebih misterius, menunjukkan bagaimana diskusi seputar keamanan AI tidak dapat dipahami oleh orang luar. Bak mandi berisi pasta mengacu pada posting blog tahun 2021 tentang AI yang dapat menciptakan pengetahuan ilmiah — PASTA adalah singkatan dari Process for Automating Scientific and Technological Advancement, rupanya. (Peserta lain mendapat referensi.)