Jordan Dea-Mattson: Masa Depan Sci-Fi, AI Nakal, dan Mengapa Keterampilan Meta Akan Menentukan Siapa yang Berkembang – E634

Akankah AI menjadi liar? AI saat ini telah menjalani eksperimen keamanan di mana, jika terancam dimatikan, mereka mencoba memeras, menyuap, mengemis, atau mencuri untuk bertahan hidup. Jika kita melatih AI untuk bertahan hidup dan bertindak seperti itu, mengapa ia tidak mencoba melakukan hal-hal tersebut? - Jeremy Au, Pembawa Acara BRAVE Southeast Asia Tech Podcast

"Dalam memikirkan singularitas, ada baiknya untuk kembali ke definisinya. Ini adalah konsep dalam matematika dan fisika di mana definisi yang ada tidak lagi relevan. Istilah ini, yang dicetuskan pada akhir tahun 80-an dalam The Coming Technological Singularity, menggambarkan bagaimana, jika Anda memetakan laju perubahan teknologi menggunakan sesuatu seperti Hukum Moore—di mana daya komputasi berlipat ganda setiap 18 bulan dan biaya turun setengahnya—antara tahun 2025 dan 2030, hal itu menjadi tidak terdefinisi. Apa yang terjadi pada titik itu? Apa yang terjadi pada masyarakat dan teknologi? Beberapa orang mungkin mengatakan itu adalah kecerdasan umum buatan, tetapi lebih dari itu—ini tentang laju perubahan yang semakin cepat." - Jordan Dea-Mattson, Pemimpin Teknologi Veteran

Jeremy Au dan Jordan Dea-Mattson kembali berbincang untuk mengeksplorasi bagaimana Rainbows End karya Vernor Vinge mengantisipasi dunia teknologi yang semakin cepat, tantangan peningkatan keterampilan, dan pergeseran demografis saat ini. Mereka mengkaji prediksi mana yang terbukti benar, mana yang gagal, dan bagaimana pelajaran ini diterapkan pada adopsi AI, sistem digital yang rapuh, dan kebutuhan akan pembelajaran seumur hidup. Percakapan mereka menyoroti mengapa individu harus membangun meta-keterampilan, mengapa para pembuat kebijakan kekurangan buku panduan, dan bagaimana Asia Tenggara dapat mempersiapkan diri menghadapi masa depan yang dibentuk oleh tren singularitas dan depopulasi.