Meta berencana untuk mengganti karyawan keamanan konten manusia dengan AI
Slot online terpercaya – Meta dilaporkan secara bertahap menghentikan penilaian risiko produk yang dipimpin oleh manusia dan beralih ke otomatisasi bertenaga AI, menurut dokumen internal yang diperoleh NPR. Hal ini menandai pergeseran yang signifikan dalam cara perusahaan teknologi raksasa ini – yang memiliki Facebook, Instagram, dan WhatsApp – mengevaluasi potensi bahaya dari pembaruan produk dan fitur-fiturnya. Selama lebih dari satu dekade, Meta mengandalkan tim pengulas manusia untuk melakukan apa yang secara internal dikenal sebagai “tinjauan privasi dan integritas”.
Ulasan ini memastikan bahwa fitur-fitur baru tidak membahayakan privasi pengguna, mempromosikan konten berbahaya, atau membahayakan pengguna muda. Namun, dalam waktu dekat, hingga 90 persen dari tinjauan ini akan ditangani oleh AI, bukan manusia, lapor NPR.
Otomatisasi ini akan berlaku untuk perubahan algoritma, opsi berbagi baru, dan bahkan fitur-fitur yang terkait dengan keamanan remaja dan etika AI.
Sebagai efeknya, alat yang sama yang digunakan Meta untuk membuat produk sekarang akan digunakan untuk menilai potensi risikonya – dengan input manusia yang minimal.
Meta yakin perubahan ini akan mempercepat pengembangan produk. Kabarnya, para pengembang akan menerima umpan balik yang dihasilkan oleh AI secara instan berdasarkan kuesioner yang mereka isi tentang produk baru.
Sistem AI ini kemudian akan menandai potensi risiko dan menetapkan persyaratan untuk memitigasinya, yang harus dikonfirmasi oleh tim sebelum diluncurkan.
Perusahaan menegaskan bahwa manusia masih akan meninjau “kasus-kasus yang rumit atau baru”, dan bahwa keputusan berisiko rendah adalah satu-satunya keputusan yang diotomatisasi. Mereka juga menunjukkan bahwa otomatisasi memungkinkan peninjau manusianya untuk fokus pada masalah moderasi konten yang lebih serius atau ambigu.
Pergeseran ini terjadi pada saat Meta memperluas penggunaan AI secara menyeluruh. CEO Mark Zuckerberg baru-baru ini mengatakan bahwa dalam 12 hingga 18 bulan ke depan, sebagian besar kode di balik upaya AI Meta, terutama model Llama, akan ditulis oleh AI itu sendiri. Dia mengklaim bahwa agen AI perusahaan sekarang mampu menjalankan pengujian, menemukan bug, dan menghasilkan kode yang lebih baik daripada pengembang pada umumnya.
Zuckerberg juga mengatakan bahwa Meta sedang membangun agen AI khusus untuk atau penggunaan internal, yang sepenuhnya terintegrasi ke dalam alat pengembangan perangkat lunaknya. Dia mengatakan bahwa ini akan disesuaikan untuk mendukung penelitian dan pengembangan dalam AI, daripada rekayasa perangkat lunak untuk tujuan umum.
Pelukan Meta terhadap AI mencerminkan tren yang lebih luas di seluruh industri teknologi.
Sundar Pichai dari Google mengatakan bahwa AI sekarang menulis 30 persen dari kode perusahaan. Sam Altman dari OpenAI mengklaim bahwa di beberapa perusahaan, setengah dari semua kode dibuat oleh AI. Dan CEO Anthropic, Dario Amodei, memprediksi bahwa pada akhir tahun 2025, hampir semua kode akan ditulis oleh AI.
Meta mengatakan bahwa mereka sedang mengaudit keputusan yang dibuat oleh AI dan bahwa operasi Uni Eropa, yang terikat oleh aturan yang lebih ketat di bawah Digital Services Act, akan mempertahankan sistem peninjauan yang lebih dipimpin oleh manusia. Namun, orang dalam dilaporkan menyatakan bahwa sebagian besar keputusan risiko secara global sudah diserahkan kepada algoritme.
Sesuai laporan tersebut, seorang karyawan Meta saat ini mengatakan bahwa tujuannya adalah untuk “memberdayakan tim produk” dan “menyederhanakan pengambilan keputusan.”
Tetapi mereka memperingatkan konsekuensi dari menghilangkan oversi manusia ght bisa menjadi parah: “Kami memberikan perspektif manusia tentang bagaimana segala sesuatunya bisa salah. Itulah yang hilang.”
