Bos Microsoft merasa terganggu dengan meningkatnya laporan tentang 'psikosis AI'
Liga335 daftar – Bos Microsoft merasa terganggu dengan meningkatnya laporan tentang ‘psikosis AI’
20 Agustus 2025 Bagikan Bagikan Zoe Kleinman Editor Teknologi Bagikan Bagikan
Ada peningkatan laporan tentang orang-orang yang menderita “psikosis AI”, kepala kecerdasan buatan (AI) Microsoft, Mustafa Suleyman, telah memperingatkan. Dalam serangkaian tulisan di X, ia menulis bahwa “AI yang tampaknya sadar” – alat AI yang memberikan kesan seolah-olah memiliki kesadaran – membuatnya “terjaga di malam hari” dan mengatakan bahwa teknologi tersebut memiliki dampak sosial meskipun teknologi tersebut tidak sadar dalam definisi manusia. “Tidak ada bukti kesadaran AI saat ini.
Namun jika orang menganggapnya sadar, mereka akan mempercayai persepsi tersebut sebagai kenyataan,” tulisnya. Terkait dengan hal ini adalah munculnya kondisi baru yang disebut “psikosis AI”: istilah non-klinis yang menggambarkan insiden di mana orang semakin bergantung pada chatbot AI seperti ChatGPT, Claude dan Grok dan kemudian menjadi yakin bahwa sesuatu yang khayalan telah menjadi nyata. Contohnya termasuk percaya telah membuka kunci aspek rahasia dari alat tersebut, atau membentuk hubungan romantis dengan alat tersebut, atau sampai pada kesimpulan bahwa mereka memiliki kekuatan super seperti dewa.
'Tidak pernah mundur'
Hugh, dari Skotlandia, mengatakan bahwa ia menjadi yakin bahwa ia akan menjadi multi-jutawan setelah menggunakan ChatGPT untuk membantunya mempersiapkan diri menghadapi pemecatan yang tidak adil dari mantan atasannya. Chatbot memulai dengan menyarankannya untuk mendapatkan referensi karakter dan mengambil tindakan praktis lainnya. Namun seiring berjalannya waktu dan Hugh – yang tidak ingin membagikan nama belakangnya – memberikan lebih banyak informasi kepada AI, AI mulai memberi tahu dia bahwa dia bisa mendapatkan bayaran yang besar, dan akhirnya mengatakan bahwa pengalamannya sangat dramatis sehingga sebuah buku dan film tentang hal itu akan menghasilkan lebih dari £5 juta.
Pada dasarnya, chatbot tersebut memvalidasi apa pun yang ia katakan – yang memang diprogram untuk dilakukan oleh chatbot. “Semakin banyak informasi yang saya berikan, semakin banyak pula yang dikatakannya ‘oh, perawatan ini mengerikan, Anda seharusnya mendapatkan lebih dari ini’,” katanya. “Ia tidak pernah menolak untuk melakukan apa pun hal yang saya katakan.”
Disediakan oleh orang yang diwawancarai
Dia mengatakan bahwa alat tersebut memang menyarankannya untuk berbicara dengan Citizens Advice, dan dia membuat janji temu, tetapi dia sangat yakin bahwa chatbot tersebut telah memberikan semua yang perlu dia ketahui, sehingga dia membatalkannya. Dia memutuskan bahwa tangkapan layar dari obrolannya sudah cukup menjadi bukti. Dia mengatakan bahwa dia mulai merasa seperti manusia yang berbakat dengan pengetahuan tertinggi.
Hugh, yang juga menderita masalah kesehatan mental, akhirnya mengalami gangguan mental. Obat-obatan yang diminumnya membuat dia menyadari bahwa dia telah, dalam kata-katanya, “kehilangan kontak dengan kenyataan”. Hugh tidak menyalahkan AI atas apa yang terjadi.
Dia masih menggunakannya. ChatGPT-lah yang memberinya nama saya ketika dia memutuskan untuk berbicara dengan seorang jurnalis. Tapi dia punya nasihat ini: “Jangan takut dengan alat bantu AI, mereka sangat berguna.
Tapi akan berbahaya jika ia menjadi terpisah dari kenyataan. “Pergi dan periksa. Bicaralah dengan orang sungguhan, terapis atau anggota keluarga atau apa pun.
Bicaralah dengan orang yang nyata. Jaga agar diri Anda tetap berpijak pada kenyataan.” OpenAI pembuat ChatGPT, telah dihubungi untuk dimintai komentar.
“Perusahaan tidak boleh mengklaim/mempromosikan gagasan bahwa AI mereka sadar. AI juga seharusnya tidak,” tulis Suleyman, menyerukan perlunya pagar pembatas yang lebih baik. Dr Susan Shelmerdine, seorang dokter pencitraan medis di Rumah Sakit Great Ormond Street dan juga seorang Akademisi AI, percaya bahwa suatu hari nanti para dokter mungkin akan mulai bertanya kepada pasien tentang seberapa banyak mereka menggunakan AI, seperti halnya saat ini mereka bertanya tentang kebiasaan merokok dan minum.
“Kita sudah tahu apa yang bisa dilakukan makanan ultra-proses terhadap tubuh dan ini adalah informasi yang sangat diproses. Kita akan mendapatkan longsoran pikiran yang sangat diproses,” katanya.
