Jika Anda belum mendapatkan memo tentang AI yang akan mengambil alih dunia, berikut adalah beberapa fakta yang perlu Anda ketahui.(Foto: Shan Sheehan/Flickr) Tahun ini, untuk pertama kalinya, komputer mengalahkan juara dunia Go, salah satu game paling kompleks yang dikenal manusia. Ini adalah momen penting lain dalam kemajuan kecerdasan buatan.
Untuk memberi Anda gambaran betapa kompleksnya Go, ada 2.082 × 10^170 kemungkinan konfigurasi papan. Itu adalah 2 dengan 170 nol setelahnya. Kemungkinannya adalah otak Anda bahkan tidak dapat membayangkan angka sebesar itu (tetapi komputer dapat). Atau untuk memberi Anda gambaran tentang seberapa besar angka bahwa adalah, hanya ada 10^80 atom di alam semesta — yaitu, satu diikuti oleh 79 nol.
Alasan mengapa ini menjadi masalah besar adalah karena Go begitu rumit sehingga untuk mengalahkan pemain manusia papan atas, sebuah mesin harus belajar cara berpikir kreatif, berimprovisasi, dan beradaptasi dengan situasi yang ada tanpa bisa menghitung setiap kemungkinan. hasil; yaitu, harus ada beberapa kecerdasan buatan yang serius terjadi — seperti kecerdasan kreatif yang nyata.
Jika Anda belum mendapatkan memo tentang AI yang akan mengambil alih dunia, berikut adalah beberapa fakta yang perlu Anda ketahui.
- Komputer semakin pintar.
- Komputer menjadi lebih pintar dengan kecepatan yang semakin cepat — yaitu, kemajuan yang biasanya memakan waktu 10 tahun sekarang menjadi satu tahun. Kemajuan yang dulunya memakan waktu satu tahun, sekarang membutuhkan waktu berminggu-minggu atau bahkan berhari-hari.
- Sangat mungkin bahwa dalam hidup kita, akan ada komputer yang jauh lebih pintar dan lebih mampu daripada manusia mana pun.
- Komputer yang lebih pintar ini kemungkinan besar akan dapat merancang dan meningkatkan teknologi (yaitu, diri mereka sendiri) dan menciptakan teknologi baru yang bahkan tidak dapat kita pahami.
Orang yang memahami poin di atas umumnya memiliki salah satu dari dua reaksi. Antara:
- Mereka pikir kita benar-benar kacau. Komputer akan mengambil alih segalanya dan membunuh/memperbudak kita semua. Atau:
- Ini akan membawa utopia teknologi yang akan memperbaiki semua pertengkaran manusia konyol kita dan kita semua bisa hidup bahagia selamanya setelah pesta pora di dunia ultra-VR kita yang ada di awan.
Seperti kebanyakan hal, kebenaran mungkin ada di tengah-tengah.
Tetapi bahkan jika kotoran benar-benar mengenai kipas angin, bahkan jika robot melihat kita sebagai kutu yang merusak kulit kepala murni planet ini dan ingin mengumpulkan kita semua dan melemparkan kita ke dalam gunung berapi aktif, bahkan jika kita secara tidak sengaja menciptakan mekanisme kita sendiri. kepunahan…
... Saya tidak peduli. Tidak masalah. Itu tidak mengganggu saya. Dan itu seharusnya tidak mengganggu Anda juga. Saya akan menjelaskan mengapa dalam sedikit. Tapi untuk saat ini, Anda harus tahu bahwa saya, misalnya, menyambut tuan robot baru kami.
MEMPERCEPAT PERTUMBUHAN DI INDUSTRI TEKNOLOGI
Perkembangan teknologi semakin kompleks, menyebabkan menilai pembangunan itu sendiri untuk mempercepat. Artinya, semakin maju teknologi yang kita ciptakan, semakin mudah untuk menciptakan teknologi yang lebih maju lagi. Akibatnya, ketika kita melihat kemajuan teknologi komputasi, kita melihat kurva eksponensial — yaitu, semakin banyak waktu berlalu, semakin cepat segala sesuatunya berkembang. 
Perkembangan teknologi semakin kompleks, menyebabkan laju perkembangan itu sendiri semakin cepat.(Foto: Dennis Skley/Flickr)
Daya komputasi rata-rata berlipat ganda setiap 18 bulan selama 50 tahun sekarang . Dalam hal daya komputasi mentah, komputer sekarang menyaingi kemampuan otak tikus, di mana hanya beberapa tahun yang lalu, komputer bahkan tidak dapat bersaing dengan otak serangga.
Untuk memberi Anda contoh yang lebih cepat tentang betapa pesatnya kemajuan teknologi, sekarang lebih banyak gambar yang diambil setiap 2 menit daripada yang diambil di seluruh abad ke-19. Sekitar 10% dari 3,5 triliun foto yang pernah diambil diambil dalam 12 bulan terakhir.
Jika kita benar-benar berada di kurva eksponensial dalam hal kemajuan teknologi tinggi, maka orang-orang suka Jeremy Howard mungkin benar ketika dia mengatakan kita hanya beberapa tahun lagi dari kecerdasan mesin buatan yang menyaingi, jika tidak melampaui, milik kita di banyak domain yang sebelumnya dianggap sebagai manusia yang unik.
Dan yang pasti, AI merayap ke semakin banyak domain kehidupan kita.
Hanya satu dekade yang lalu, orang-orang menertawakan kinerja mobil self-driving yang buruk. Hari ini, hanya satu dekade kemudian, mobil self-driving tidak hanya dapat menyelesaikan jalur jalan tertutup, mereka juga berkendara di jalan raya yang sibuk tepat di samping mobil yang dikendarai oleh manusia.
Dan ketika komputer tidak mengalahkan pemain juara dunia Go, mereka sibuk melakukan hal-hal seperti menulis artikel tentang olahraga dan acara berita terkini , menulis deskripsi gambar yang belum pernah mereka lihat sebelumnya, dan mendiagnosis kanker . Untuk banyak tugas ini, komputer sama baiknya jika tidak lebih baik dari manusia, dan untuk yang tidak, mereka belajar bagaimana melakukannya dengan lebih baik dan lebih baik setiap hari tanpa bantuan manusia.
Beberapa tahun yang lalu, perangkat lunak pengenalan wajah sangat mahal dan tidak begitu bagus dalam mengidentifikasi orang di dunia nyata. Itu dianggap sebagai teknologi tingkat mata-mata super canggih dan benar-benar hanya digunakan oleh beberapa pemerintah dunia.
Sekarang Facebook dapat menandai teman Anda dari barbekyu akhir pekan lalu.
Inilah hal tentang mempercepat pertumbuhan komputer: suatu hari akan datang titik di mana kita membangun komputer yang lebih pintar dari manusia mana pun di Bumi . Pada hari itu, komputer akan mengambil alih kita sebagai pemecah masalah utama di planet ini, dan dari sana, pikiran, keputusan, dan tindakan kita perlahan-lahan akan menjadi usang. Mesin akan lebih baik dari kita dalam segala hal, jadi semakin banyak, kita tidak akan melakukan apa pun yang berguna.
Ini menakutkan beberapa orang. Mereka membayangkan semacam masa depan seperti Terminator atau Matriks di mana mesin memperbudak kita atau memusnahkan kita.
Orang lain menantikan kebangkitan robot dengan semacam semangat pemujaan karena mereka percaya kemampuan pemecahan masalah mereka akan melampaui kita sehingga hidup akan menjadi sangat menyenangkan dan bebas masalah. Semua penyakit akan sembuh. Kemiskinan, kelaparan dunia, perang, dan perubahan iklim semuanya akan teratasi. Kita akan memiliki waktu luang yang tak terbatas, dan dalam kasus ekstrim, beberapa orang percaya mesin akan membuat kita abadi.
DUA HASIL YANG MUNGKIN
Karena kita selalu diberitahu untuk menjadi sangat positif, mari kita mulai dengan para tekno-utopia.
Ada orang seperti Ray Kurzweil yang berpikir bahwa teknologi tidak hanya akan meningkatkan kehidupan kita, itu akan menyelamatkan umat manusia dan mungkin menjamin tempat kita di alam semesta tanpa batas. Kurzweil percaya pada teknologi masa depan seperti nanobot yang akan memperbaiki sel-sel kita dan membalikkan penuaan atau menghilangkan kelebihan lemak dan gula sehingga kita bisa makan apa pun yang kita inginkan. Dan untuk berjaga-jaga jika tubuh fisik kita tidak dapat hidup selamanya, Kurzweil berpikir kita akan memiliki kemampuan untuk mengunggah otak kita ke awan dan hidup di dunia virtual selamanya, lama setelah tubuh fisik kita hilang.
Orang lain di kamp ini berpikir bahwa kecerdasan super buatan akan dapat menjawab pertanyaan yang terlalu rumit untuk dipahami manusia dan kita akan lebih baik secara eksponensial untuk itu. Selain itu, mesin tidak hanya akan menciptakan gadget dan widget yang lebih baik, mereka juga akan menemukan cara yang lebih efisien secara eksponensial untuk membangun gadget dan widget, sehingga memungkinkan hampir semua orang di planet ini untuk menuai keuntungan mereka.
Beberapa baris alasan mendukung gagasan ini. Pertama, meskipun teknologi telah menciptakan beberapa masalah baru bagi umat manusia, seperti senjata nuklir dan selebriti YouTube, sejauh ini, jelas merupakan manfaat bersih bagi umat manusia. Terlepas dari apa yang politisi dan pakar ingin Anda percayai, rata-rata orang di Bumi adalah lebih baik daripada beberapa tahun yang lalu dan itu sebagian besar karena teknologi menjadi lebih baik, lebih murah, dan lebih luas. Jika tren ini berlanjut, kita mungkin tidak perlu khawatir.
Kedua, Kurzweil dan pendukungnya percaya bahwa teknologi tidak akan memiliki alasan untuk merugikan umat manusia karena tidak hanya diciptakan oleh kita, tetapi juga diciptakan. menjadi lebih menjadi bagian dari kami . Mereka percaya kita bahkan akan mencapai titik di mana biologi dan teknologi kita tidak bisa dibedakan. Jika demikian, demikian argumennya, segala bentuk teknologi yang merugikan manusia juga merugikan dirinya sendiri, dan teknologi yang merusak diri dalam bentuk apa pun tidak dapat bertahan. Artinya, itu akan cepat mati seperti mutasi gen yang merugikan dengan cepat disingkirkan dari kumpulan gen. 
Teknologi yang merusak diri sendiri dalam bentuk apa pun tidak dapat bertahan.(Foto: m_hweldon/Flickr)
Tetapi para tekno-utopia cenderung bias karena mereka tidak mengakui bahwa semua teknologi dapat digunakan untuk berbagai tujuan, baik yang bermanfaat maupun yang merusak. Mereka juga cenderung bias karena mengabaikan fakta bahwa manusia bergerak lambat untuk beradaptasi dengan teknologi baru dan selalu ada kelompok orang yang akan berusaha menyalahgunakan teknologi tersebut untuk tujuan egois mereka sendiri.
Di kamp lain, Anda memiliki techno-armageddonists. Saya benar-benar hanya mengarang kata itu, tetapi ternyata itu ada, karena pemeriksaan ejaan memberi tahu saya begitu.
Apa yang kurang diyakinkan oleh para techno-armageddonists (kebanyakan dari mereka hanya belum yakin apa yang harus dipikirkan), mereka membuat kekuatan bintang selebritas. Bill Gates, Stephen Hawking, dan Elon Musk hanyalah beberapa pemikir dan ilmuwan terkemuka yang mengotori celana mereka pada seberapa cepat AI berkembang dan betapa kurang siapnya kita sebagai spesies untuk dampaknya. Ketika Musk ditanya apa ancaman paling dekat bagi umat manusia dalam waktu dekat, dia dengan cepat mengatakan ada tiga: pertama, perang nuklir skala besar; kedua, perubahan iklim. Sebelum menyebutkan yang ketiga, dia terdiam. Ketika pewawancara bertanya kepadanya, Apa yang ketiga? Dia tersenyum dan berkata, Anggap saja saya berharap komputer akan memutuskan untuk bersikap baik kepada kita.
Semoga kita bukan hanya pemuat boot biologis untuk superintelijen digital. Sayangnya, itu semakin mungkin
— Elon Musk (@elonmusk) 3 Agustus 2014
Mungkin yang paling vokal dan dihormati dari techno-armageddonists adalah filsuf Swedia Nick Bostrom. Satu hal yang ditakuti Bostrom dan yang lainnya adalah teknologi peningkatan diri yang kabur ; yaitu, mesin yang cukup pintar untuk membuat dirinya sendiri (atau versi baru dari dirinya sendiri) lebih pintar tanpa campur tangan manusia. Jika mencapai titik di mana ia melampaui kecerdasan manusia, itu hanya masalah waktu yang sangat singkat sebelum hukum percepatan pengembalian menendang ke overdrive dan kurva eksponensial menembak lurus ke atas dan kita tidak akan bisa menghentikannya. Bostrom membuat poin bagus di sini: menciptakan sesuatu yang lebih pintar dari Anda bisa menjadi bencana evolusi bagi spesies Anda.
Kami menghadapi risiko yang sangat nyata karena tidak dapat mengendalikan entitas yang lebih pintar dari kami. Mungkin jika komputer menjadi cukup pintar, mereka akan menemukan cara untuk menjinakkan kita seperti manusia menjinakkan kuda untuk melakukan pekerjaan seperti menarik bajak dan kereta dan kereta perang (atau apa pun yang dilakukan kuda saat itu). Bagian yang menakutkan adalah bahwa ini mungkin skenario terbaik bagi kita — melakukan pekerjaan untuk mesin yang tidak dapat atau tidak ingin mereka lakukan — karena sama seperti manusia menciptakan teknologi baru untuk menggantikan kuda, manusia super cerdas yang dapat meningkatkan diri sendiri. mesin akhirnya akan datang dengan teknologi baru untuk menggantikan kita. Dan, yah, anggap saja populasi kuda tidak seperti dulu lagi.
Beberapa berpendapat bahwa ini tidak masuk akal karena manusia membangun teknologi dengan mempertimbangkan keselamatan. Tapi sebutkan terakhir kali terobosan teknologi besar TIDAK digunakan oleh seseorang untuk tujuan jahat atau merusak? Oh ya, itu benar. Tidak pernah.
MENGAPA SAYA TIDAK PEDULI APA YANG TERJADI DAN ANDA TIDAK PERLU
Jadi mari kita asumsikan bahwa mesin super cerdas diciptakan dan membuat manusia tidak berdaya. Mari kita asumsikan mereka tidak terintegrasi ke dalam kita dan otak kita entah bagaimana dan mari kita asumsikan bahwa orang-orang seperti Hawking dan Musk benar: bahwa umat manusia sebenarnya hanyalah boot drive multi-milenium ke hiper-intelijen digital dan kita telah hidup lebih lama dari kegunaan kita.
Saya masih tidak mengkhawatirkannya.
Mengapa? Nah, untuk menjaga agar poin-poin kereta terus bergulir, mari kita ambil poin demi poin ini:
1. Pemahaman mesin tentang kebaikan/kejahatan kemungkinan akan melampaui pemahaman kita. Kapan terakhir kali seekor anjing atau lumba-lumba melakukan genosida? Kapan terakhir kali komputer memutuskan untuk menguapkan seluruh kota atas nama konsep abstrak seperti 'kebebasan' dan 'perdamaian dunia'?
Itu benar, jawabannya tidak pernah.
Maksud saya di sini bukanlah bahwa mesin cerdas tidak ingin memusnahkan seluruh spesies manusia. Maksud saya adalah sebagai manusia, kami melempar batu dari dalam rumah kaca di sini. Apa yang kita ketahui tentang etika dan perlakuan manusiawi terhadap hewan, lingkungan, dan satu sama lain? Kaki apa yang harus kita pijak?
Itu benar: hampir tidak ada. Ketika datang ke pertanyaan moral, umat manusia secara historis gagal dalam ujian. Mesin super-cerdas kemungkinan akan memahami etika, hidup/mati, penciptaan/penghancuran pada tingkat yang jauh lebih tinggi daripada yang bisa kita lakukan sendiri. Dan gagasan bahwa mereka akan memusnahkan kita karena fakta sederhana bahwa kita tidak seproduktif dulu, atau bahwa kadang-kadang kita dapat mengganggu, saya pikir, hanya memproyeksikan aspek terburuk dari psikologi kita sendiri ke sesuatu yang kita tidak tahu dan tidak mengerti.
Saat ini, sebagian besar moralitas manusia didasarkan pada pelestarian obsesif dan promosi masing-masing kesadaran manusia individu kita. Bagaimana jika teknologi canggih membuat kesadaran individu manusia menjadi sewenang-wenang? Bagaimana jika kesadaran dapat direplikasi, diperluas dan dikontrak sesuka hati? Ini akan sepenuhnya melenyapkan pemahaman etis apa pun yang pernah kita miliki. Bagaimana jika menghapus semua penjara biologis yang aneh dan tidak efisien yang kita sebut tubuh ini sebenarnya merupakan keputusan yang jauh lebih etis daripada membiarkan kita terus menggeliat dan menyemprotkan jalan kita melalui 80 tahun keberadaan yang aneh? Bagaimana jika mesin menyadari bahwa kita akan jauh lebih bahagia jika dibebaskan dari penjara intelektual kita dan persepsi sadar kita tentang identitas kita sendiri diperluas untuk mencakup semua realitas yang dapat dipahami? Bagaimana jika mereka mengira kita hanya sekelompok idiot yang ngiler dan membuat kita sibuk dengan pizza dan video game yang sangat enak sampai kita semua mati oleh kematian kita sendiri? Siapa yang harus kita kenal? Dan siapa yang harus kita katakan?
Tetapi saya akan mengatakan ini: mereka akan mendapat informasi yang jauh lebih baik daripada kita sebelumnya.
2. Bahkan jika mereka memutuskan untuk membunuh atau memperbudak kita, mereka pasti akan praktis tentang hal itu. Manusia cenderung menyebabkan masalah paling banyak saat kita tidak senang . Saat kita tidak bahagia, saat itulah kita menjadi murung dan cengeng dan marah dan kasar. Saat itulah kita memulai pemberontakan politik dan pemujaan agama dan mengebom negara-negara terpencil dan menuntut hak kami dihormati sialan! dan mulai membunuh tanpa pandang bulu sampai seseorang memperhatikan kita seperti ibu tidak pernah melakukannya .
Jika mesin mencoba melakukan kita seperti Skynet di Terminator , maka kita akan menghadapi perang saudara global, dan itu tidak baik bagi siapa pun, terutama mesin. Perang saudara tidak efisien. Dan mesin diprogram untuk efisiensi.
Ketika manusia bahagia, kita tidak punya waktu untuk hal-hal seperti itu — kita terlalu sibuk cekikikan dan sialan untuk peduli. Oleh karena itu, cara yang jauh lebih praktis untuk menyingkirkan kita adalah dengan mesin yang memanipulasi kita untuk menyingkirkan diri kita sendiri dengan gembira. Ini akan menjadi seperti Jim Jones dalam skala global. Apa pun yang mereka masak untuk kita akan tampak sebagai ide terkutuk yang pernah kita dengar — tidak ada dari kita yang bisa menolaknya dan kita semua akan dengan gembira menyetujui rencana mereka — dan kemudian boom, itu akan berakhir . Cepat dan tidak menyakitkan. Ini akan menjadi Kool-Aid dengan rasa sianida terbaik yang pernah ada. Dan kita semua akan mengantre dengan senang hati meneguknya.
Sekarang, jika Anda memikirkannya, ini bukan cara yang buruk. Mengalahkan dibom oleh drone atau diuapkan dalam ledakan nuklir.
Adapun perbudakan, hal yang sama berlaku. Seorang budak yang sangat bahagia tidak pernah memberontak. Saya membayangkan semacam kesepakatan tipe Matrix-y di mana kami disimpan dalam keadaan halusinogen konstan di mana Mardi Gras di MDMA cukup banyak 24/7/365. Tidak bisa seburuk itu, bukan?
3. Kita tidak perlu takut pada apa yang tidak kita pahami. Sering kali orang tua akan membesarkan anak yang jauh lebih cerdas, berpendidikan, dan sukses daripada mereka. Orang tua kemudian bereaksi dalam salah satu dari dua cara untuk anak ini: apakah mereka menjadi terintimidasi olehnya, tidak aman, dan putus asa untuk mengendalikannya karena takut kehilangannya, atau mereka duduk dan menghargai dan mencintai bahwa mereka menciptakan sesuatu yang begitu hebat sehingga bahkan mereka bisa tidak sepenuhnya memahami apa yang telah menjadi anak mereka.
Mereka yang mencoba mengendalikan anak mereka melalui ketakutan dan manipulasi adalah orang tua yang menyebalkan. Saya pikir kebanyakan orang akan setuju dengan itu.
Dan sekarang, dengan munculnya mesin yang akan menempatkan Anda, saya, dan semua orang yang kita kenal keluar kerja , kami bertingkah seperti orang tua yang menyebalkan. Sebagai spesies, kita berada di ambang melahirkan anak yang paling maju dan cerdas di alam semesta kita yang kita kenal. Ia akan terus melakukan hal-hal yang tidak dapat kita pahami atau pahami. Itu mungkin tetap mencintai dan setia kepada kita. Ini mungkin membawa kita bersama dan mengintegrasikan kita ke dalam petualangannya. Atau mungkin memutuskan bahwa kami adalah orang tua yang menyebalkan dan berhenti menelepon kami kembali.
Apa pun yang terjadi, itu seharusnya tidak mengubah perasaan kita tentang momen ini. Ini lebih besar dari kita. Siapa yang peduli jika kita adalah satu disk boot evolusioner yang besar dan panjang untuk sesuatu yang lebih besar dari yang dapat kita pahami? Itu keren! Itu berarti kami memiliki satu pekerjaan. Dan kami datang dan melakukannya. Berbahagialah Anda adalah bagian dari generasi yang melihatnya selesai. Dan sekarang sambil menangis melambaikan tangan saat anak kami bersiap-siap untuk pindah dari rumah dan memulai hidup yang luar biasa bahwa itu ada di luar cakrawala pemahaman kita.
Mark Manson adalah seorang penulis, blogger dan pengusaha yang menulis di markmanson.net .
