Peneliti Google baru saja merilis makalah baru yang memperingatkan dampak negatif kecerdasan buatan (AI) generatif terhadap internet. Mereka mengatakan konten palsu yang dibuat menggunakan AI generatif bisa merusak internet.

Dalam studi yang belum di-peer review tersebut, Google menemukan sebagian besar pengguna memanfaatkan AI generatif untuk mengaburkan batas antara sesuatu yang asli dan palsu, dengan mengunggah konten gambar dan video buatan AI.

Peneliti Google juga menelaah sejumlah riset yang sudah diterbitkan sebelumnya tentang AI generatif dan sekitar 200 artikel berita yang melaporkan penyalahgunaan AI generatif.

"Manipulasi kemiripan manusia dan pemalsuan bukti mendasari taktik paling umum dalam kasus penyalahgunaan (AI) di dunia nyata," kata peneliti Google dalam studinya, seperti dikutip dari Futurism, Senin (8/7/2024).

"Sebagian besar dari taktik ini digunakan dengan maksud untuk mempengaruhi opini publik, memudahkan penipuan, atau untuk menghasilkan keuntungan," sambungnya.

Masalah ini diperburuk karena platform AI generatif yang makin banyak dan mudah diakses oleh siapa saja tanpa memerlukan pemahaman tingkat tinggi. Belum lagi sebagian besar pengguna internet tidak bisa membedakan konten asli dan konten buatan AI.

"Produksi massal konten sintetis berkualitas rendah, mirip spam, dan berniat jahat berisiko meningkatkan keraguan masyarakat terhadap informasi digital dan membebani pengguna dengan tugas verifikasi," jelas peneliti Google.

Parahnya, peneliti Google mengatakan ada beberapa contoh di mana orang-orang terkenal membantah rumor atau sesuatu yang negatif tentang mereka sebagai buatan AI.

Menariknya laporan Google ini tidak memuat fitur AI mereka yang kontroversial. Belum lama ini fitur AI Overviews yang ada di Google Search menjadi bulan-bulanan netizen karena memberikan jawaban yang aneh dan tidak masuk akal.

Misalnya, AI Overviews menyarankan pengguna untuk menggunakan lem tidak beracun agar keju bisa menempel di pizza, atau mengutip kata 'ahli geologi' untuk memakan satu batu kecil per hari. Hasil pencarian yang nyeleneh itu langsung dihilangkan dan fiturnya dibatasi.