Godfather AI memperingatkan bahwa AI dapat segera mengembangkan bahasanya sendiri dan mengakali manusia
Liga335 – Geoffrey Hinton, pria yang dijuluki sebagai Godfather of AI, kembali mengeluarkan peringatan, dan kali ini terdengar seperti sesuatu yang keluar dari film fiksi ilmiah. Berbicara dalam podcast One Decision, ilmuwan pemenang Hadiah Nobel ini memperingatkan bahwa kecerdasan buatan akan segera mengembangkan bahasanya sendiri, yang bahkan tidak akan bisa dimengerti oleh para penciptanya.
“Saat ini, sistem AI melakukan apa yang disebut penalaran ‘rantai pemikiran’ dalam bahasa Inggris, sehingga kita bisa mengikuti apa yang dilakukannya,” jelas Hinton.
“Namun, akan menjadi lebih menakutkan jika mereka mengembangkan bahasa internal mereka sendiri untuk berbicara satu sama lain.”
Hal tersebut, katanya, dapat membawa AI ke wilayah yang belum dipetakan dan menakutkan. Mesin telah menunjukkan kemampuan untuk menghasilkan pemikiran yang “mengerikan”, dan tidak ada alasan untuk mengasumsikan bahwa pemikiran tersebut akan selalu dalam bahasa yang dapat kita lacak.
Kata-kata Hinton memiliki bobot. Bagaimanapun juga, dia adalah peraih Nobel Fisika tahun 2024 yang karya awalnya tentang jaringan saraf membuka jalan bagi pembelajaran mendalam saat ini. rning model dan sistem AI berskala besar.
Namun, ia mengatakan bahwa ia tidak sepenuhnya menyadari bahayanya hingga jauh di kemudian hari dalam kariernya.
“Saya seharusnya menyadari lebih cepat tentang bahaya yang akan terjadi,” akunya. “Saya selalu berpikir bahwa masa depan masih jauh dan saya berharap saya bisa memikirkan keselamatan lebih cepat.”
Sekarang, kesadaran yang tertunda itu mendorong advokasinya.
Salah satu ketakutan terbesar Hinton terletak pada bagaimana sistem AI belajar. Tidak seperti manusia, yang harus berbagi pengetahuan dengan susah payah, otak digital dapat menyalin dan menempelkan apa yang mereka ketahui dalam sekejap.
“Bayangkan jika 10.000 orang mempelajari sesuatu dan semuanya langsung mengetahuinya, itulah yang terjadi pada sistem ini,” jelasnya di BBC News.
Kecerdasan kolektif dan berjejaring ini berarti AI dapat meningkatkan pembelajarannya dengan kecepatan yang tidak dapat ditandingi oleh manusia.
Model saat ini seperti GPT4 sudah melampaui manusia dalam hal pengetahuan umum. Untuk saat ini, penalaran tetap menjadi kekuatan kami – tetapi keunggulan itu, kata Hinton, menyusut dengan cepat.
Meskipun ia sangat vokal, Hinton mengatakan bahwa eberapa pihak di industri ini tidak terlalu terbuka.
“Banyak orang di perusahaan besar meremehkan risiko,” katanya, dan menunjukkan bahwa kekhawatiran pribadi mereka tidak tercermin dalam pernyataan publik mereka. Satu pengecualian penting, katanya, adalah CEO Google DeepMind Demis Hassabis, yang dipuji Hinton karena menunjukkan ketertarikan yang tulus untuk mengatasi risiko-risiko ini.
Mengenai keluarnya Hinton dari Google pada tahun 2023, ia mengatakan bahwa hal itu bukanlah sebuah protes.
“Saya meninggalkan Google karena saya berusia 75 tahun dan tidak dapat memprogram secara efektif lagi. Namun, ketika saya keluar, mungkin saya bisa membicarakan semua risiko ini dengan lebih leluasa,” katanya.
Sementara pemerintah meluncurkan inisiatif seperti “Rencana Aksi AI” yang baru dari Gedung Putih, Hinton percaya bahwa regulasi saja tidak akan cukup.
Menurutnya, tugas yang sebenarnya adalah menciptakan AI yang “dijamin baik hati”, sebuah tugas yang berat, mengingat sistem ini mungkin akan segera berpikir dengan cara yang tidak dapat diikuti sepenuhnya oleh manusia.
