Era kecerdasan buatan telah dimulai, dan hal ini membawa banyak kekhawatiran baru. Banyak upaya dan uang dicurahkan untuk memastikan bahwa AI hanya akan melakukan apa yang diinginkan manusia. Namun yang paling kita takuti adalah kecerdasan buatan yang akan melakukan apa yang diinginkan manusia. Bahaya sebenarnya ada pada diri kita sendiri.
Ini bukanlah risiko yang ingin diatasi oleh industri ini. di dalam Februari, seluruh perusahaan—bernama Synth Labs—didirikan dengan tujuan “menyelaraskan kecerdasan buatan”, sehingga berperilaku persis seperti yang diinginkan manusia. Di antara investornya adalah M12 milik Microsoft, dan First Start Ventures, yang didirikan oleh mantan CEO Google Eric Schmidt. OpenAI, pencipta ChatGPT, telah berjanji untuk menyediakan 20% kekuatan pemrosesannya untuk “Penyelarasan yang unggulTeknologi ini akan “mengarahkan dan mengendalikan sistem kecerdasan buatan dengan lebih cerdas dibandingkan yang kita lakukan.” Teknologi besar berperan dalam semua hal ini.
Dan ini mungkin hal yang baik karena Klip cepat Untuk pengembangan teknologi kecerdasan buatan. Hampir semua perbincangan mengenai risiko berkaitan dengan konsekuensi potensial dari sistem AI yang mengejar tujuan yang berbeda dari apa yang telah diprogramkan dan tidak memberikan manfaat terbaik bagi manusia. Setiap orang mungkin mendukung gagasan kompatibilitas dan keamanan AI, tetapi itu hanya salah satu aspek risikonya. Bayangkan apa yang akan terjadi jika A.I Melakukan Lakukan apa yang diinginkan manusia.
“Apa yang diinginkan manusia”, tentu saja, bukanlah sebuah monolit. Setiap orang menginginkan hal yang berbeda dan memiliki gagasan yang tiada habisnya tentang apa yang dimaksud dengan “kebaikan yang lebih besar”. Saya pikir sebagian besar dari kita akan merasa khawatir jika AI kompatibel dengan visi Vladimir Putin atau Kim Jong Un tentang dunia ideal.
Bahkan jika kita bisa membuat semua orang fokus pada kesejahteraan seluruh umat manusia, kita tidak akan bisa sepakat mengenai apa yang akan terjadi. Elon Musk menjelaskan minggu lalu ketika dia berbagi di platform media sosial X bahwa dia memang demikian Khawatir Tentang AI yang mendorong “keberagaman yang dipaksakan” dan terlalu “terbangun”. (Hal ini terjadi setelah Musk mengajukan gugatan terhadap OpenAI, dengan alasan bahwa perusahaan tersebut tidak memenuhi kewajibannya Mempersiapkan Untuk mengembangkan kecerdasan buatan demi kepentingan umat manusia.)
Orang-orang dengan prasangka ekstrem mungkin percaya bahwa membunuh siapa pun yang mereka anggap menyimpang adalah demi kepentingan umat manusia. AI yang “bias manusia” pada dasarnya sama baik, jahat, konstruktif, atau berbahayanya dengan orang yang merancangnya.
Tampaknya inilah alasan Google DeepMind, bagian pengembangan AI perusahaan, baru-baru ini mendirikan sebuah situs Organisasi internal Ini berfokus pada keamanan AI dan mencegahnya dimanipulasi oleh pihak jahat. Namun tidaklah ideal jika apa yang “buruk” ditentukan oleh segelintir orang di perusahaan tertentu (dan segelintir orang lain yang menyukainya) – lengkap dengan titik buta dan keanehan pribadi mereka sendiri. Bias budaya.
Potensi masalahnya lebih dari sekadar merugikan manusia lain. Apa yang “berguna” bagi umat manusia telah terjadi berkali-kali sepanjang sejarah dengan mengorbankan Untuk makhluk hidup lainnya. Inilah situasinya saat ini.
Di Amerika Serikat saja, kami punya Miliaran hewan Mereka menjadi sasaran penahanan, praktik penyiksaan, dan perampasan kebutuhan dasar mereka saya sendiri dan kebutuhan fisiologis pada waktu tertentu. Seluruh spesies secara sistematis ditaklukkan dan disembelih agar kita bisa mendapatkan telur dadar, burger, dan sepatu.
Jika AI melakukan apa yang diinginkan oleh “kami” (siapa pun yang memprogram sistem ini), hal ini mungkin berarti melakukan kebrutalan kolektif ini dengan lebih efisien, dalam skala yang lebih besar, dan dengan lebih banyak sumber daya manusia. Otomatisasi Dan semakin sedikit peluang bagi manusia yang bersimpati untuk turun tangan dan melaporkan hal-hal yang sangat menakutkan.
Faktanya, hal ini terjadi di pabrik peternakan Sebenarnya Hal ini terjadi, meskipun dalam skala yang jauh lebih kecil dari yang mungkin terjadi. Produsen besar produk hewani, seperti Tyson Foods yang berbasis di AS, CP Foods yang berbasis di Thailand, dan Mowi yang berbasis di Norwegia, telah mulai bereksperimen dengan sistem kecerdasan buatan yang bertujuan untuk membuat produksi dan pemrosesan hewan menjadi lebih efisien. Sistem ini sedang diuji, antara lain untuk aktivitas memberi makan hewan, memantau pertumbuhannya, menandai tubuhnya, dan berinteraksi dengan hewan menggunakan suara atau sengatan listrik untuk mengontrol perilakunya.
Tujuan yang lebih baik dalam menyelaraskan AI dengan kepentingan langsung umat manusia adalah apa yang saya sebut penyelarasan secara sadar—AI yang bertindak demi kepentingan terbaik semua makhluk hidup, termasuk manusia, semua hewan lainnya, dan AI yang sadar, jika memang ada. Dengan kata lain, jika suatu entitas dapat mengalami kesenangan atau penderitaan, nasibnya harus diperhitungkan ketika sistem AI mengambil keputusan.
Bagi sebagian orang, ini mungkin tampak seperti usulan radikal, karena apa yang baik bagi semua makhluk hidup mungkin tidak selalu sejalan dengan apa yang baik bagi umat manusia. Kadang-kadang, dan sering kali, hal ini bertentangan dengan apa yang diinginkan manusia atau apa yang terbaik bagi sebagian besar dari kita. Hal ini bisa berarti, misalnya, menghilangkan kecerdasan buatan kebun binatang, Menghancurkan ekosistem yang tidak perlu untuk dikurangi Penderitaan hewan liar atau Larangan pengujian pada hewan.
Baru-baru ini berbicara Siniar Peter Singer, filsuf dan penulis buku terkenal Animal Liberation tahun 1975, mengatakan bahwa tujuan akhir dan prioritas sistem AI lebih penting daripada kompatibilitasnya dengan manusia.
“Pertanyaan sebenarnya adalah apakah AI super cerdas ini akan berbelas kasih dan ingin menciptakan dunia yang lebih baik, dan bahkan jika kita tidak mengendalikannya, AI akan tetap menghasilkan dunia yang lebih baik di mana kepentingan kita akan ditentukan,” kata Singer. dipertimbangkan. Terkadang hal ini mungkin tidak sebanding dengan kepentingan hewan selain manusia atau kepentingan kecerdasan buatan, namun menurut saya, hal tersebut tetap merupakan hasil yang baik.
Saya bersama penyanyi yang satu ini. Tampaknya hal paling aman dan penuh kasih sayang yang dapat kita lakukan adalah mempertimbangkan kehidupan selain manusia, meskipun kepentingan entitas tersebut mungkin bertentangan dengan apa yang terbaik bagi manusia. Menurunkan status kemanusiaan hingga batas tertentu, terutama hingga ekstrem ini, merupakan sebuah gagasan yang akan menantang manusia. Namun hal ini perlu dilakukan jika kita ingin mencegah diskriminasi antar spesies yang terjadi saat ini Yang berlipat ganda Dengan cara yang baru dan mengerikan.
Yang benar-benar harus kita tanyakan adalah agar para insinyur memperluas lingkaran empati mereka ketika merancang teknologi. Ketika kita memikirkan kata “aman”, mari kita pikirkan apa arti “aman” bagi semua makhluk hidup, bukan hanya manusia. Ketika kita bertujuan menjadikan AI “baik”, mari kita pastikan bahwa hal ini berdampak baik bagi dunia secara keseluruhan — tidak hanya bagi satu spesies yang hidup di dalamnya.
Brian Catman adalah salah satu pendiri Reduction Foundation, sebuah organisasi nirlaba yang didedikasikan untuk mengurangi konsumsi masyarakat terhadap produk hewani. Buku dan dokumenter terbarunya adalah “Daging aku setengah jalan“.
