Inilah Kesimpulan dari Morning Brief hari ini, yang bisa Anda lakukan mendaftar untuk menerima di kotak masuk Anda setiap pagi bersama dengan:
Ketika Slack atau Outlook atau perangkat lunak perkantoran apa pun mati, ada perasaan lega yang menyertai sakit kepala perusahaan. Kehidupan kantor terhenti, dan setelah berjalan-jalan sebentar di luar, orang-orang kembali berbisnis.
Namun apa yang akan terjadi jika platform perbankan menjadi offline – atau lebih buruk lagi, dirusak atau dihapus secara digital?
Risiko eksploitasi AI tingkat lanjut terhadap kerentanan di dunia keuangan menjadi perhatian utama Menteri Keuangan Scott Bessent dan Ketua Fed Jerome Powell, yang memanggil para CEO bank ke Washington minggu ini untuk memperingatkan era baru ancaman dunia maya yang disebabkan oleh “model AI terbaru Anthropic, Mythos.”
Para pemimpin Citigroup, Bank of America, Morgan Stanley, Wells Fargo, dan Goldman Sachs termasuk di antara mereka yang hadir, Bloomberg melaporkan.
Pertemuan mendesak ini menyoroti risiko serangan siber yang didorong oleh AI. Namun terlepas dari semua perbincangan seputar kiamat perangkat lunak dan AI yang mengalahkan perusahaan-perusahaan Amerika, ancaman besar yang ditimbulkan oleh teknologi ini adalah melemahkan sistem keuangan global. Ya, buruk jika AI mengambil pekerjaan Anda. Namun akan lebih buruk lagi jika hal ini menghabiskan seluruh uang Anda – atau hanya membuat saldo akun Anda menjadi nol.
Gejolak teknologi mungkin menyita perhatian investor, namun sektor keuangan masih menjadi yang utama. Tambahkan risiko sistemik ke dalam daftar hal-hal yang perlu dikhawatirkan akibat AI.
Namun kekhawatiran seputar Mythos – yang hanya akan ditawarkan kepada beberapa perusahaan saja untuk membatasi paparannya – sulit dipisahkan dari pemasaran yang tidak terlalu halus yang dilakukan perusahaan AI selama bertahun-tahun yang memanfaatkan ketakutan akan gangguan dan bencana.
Hal ini telah menjadi kiasan bagi laboratorium AI dan konstelasi pengembang, praktisi, dan prognostikatornya untuk memperingatkan AI akan menyebabkan akhir zaman sekaligus menjajakan model terbaru dan perencanaan strategis mereka sebagai solusi yang tepat untuk masalah yang ditimbulkannya.
Menempatkan toko donat tepat di sebelah gym pada dasarnya tidak salah. Namun akan menjadi aneh jika mengetahui bahwa bisnis tersebut dimiliki oleh entitas yang sama. Mengambil perasaan aneh itu secara ekstrem, membuat penyakit dan menjual obatnya benar-benar merupakan rencana bisnis penjahat Bond.
Tapi apakah yang dilakukan Anthropic di sarang bawah tanahnya berbeda? Kekhawatiran yang muncul dari Departemen Keuangan dan The Fed merupakan sebuah pelajaran. Malah, kita terbiasa dengan tanggapan pemerintah yang lebih membosankan. Ini terasa berbeda.
Tentu saja, laboratorium AI tidak melihat adanya masalah dengan keterampilan baru yang mereka ciptakan dan pasar untuk perisai yang mereka ciptakan. Perkembangan AI tidak bisa dihindari, dan memberikan solusi merupakan hal yang baik secara moral dan finansial. Meskipun pertemuan darurat minggu ini mungkin menjadi pertanda adanya regulasi, Anda dapat membayangkan argumen yang berpusat pada AI bahwa hasil terbaik bagi masyarakat adalah jika organisasi yang bertanggung jawab dan transparan – yang juga merupakan organisasi Amerika – menjadi pengelola teknologi baru yang kuat.
