JAKARTA, cinews.id – Belakangan Google telah menghadapi kritik terkait fitur AI Overview karena beberapa kali menghasilkan informasi yang tidak akurat, yang bisa berpotensi membahayakan pengguna. Meski begitu, label yang jelas pada AI Overview setidaknya memberikan peringatan kepada pengguna bahwa informasi tersebut berasal dari AI, sehingga mereka dapat lebih berhati-hati.
Terkait hal itu, saat ini Google tengah menguji fitur baru di Search yang menggunakan AI generatif untuk menyajikan rangkuman informasi yang relevan dengan pencarian pengguna. Fitur ini serupa dengan AI Overview, yang sudah ada, namun dengan perbedaan yang signifikan: tidak ada indikasi jelas bahwa konten yang disajikan dihasilkan oleh AI.
Dalam sistem AI Overview saat ini, rangkuman yang muncul di hasil pencarian ditandai dengan jelas melalui logo Gemini dan label “Generative AI is experimental.” Selain itu, terdapat tombol besar bertuliskan “Show more” yang memberi pengguna akses untuk melihat lebih banyak informasi yang dihasilkan oleh AI.
Namun, dalam uji coba terbaru ini, logo Gemini hilang, dan tombol “Show more” diganti dengan tautan kecil bertuliskan “More.” Label yang menunjukkan bahwa konten tersebut dibuat oleh AI juga masih ada, tetapi tersembunyi di balik interaksi lebih lanjut, di mana pengguna harus mengetuk tautan “More” untuk melihatnya.
Menurut laporan dari Barry Schwartz di platform X (sebelumnya Twitter), fitur baru ini mungkin menggantikan atau melengkapi sistem AI Overview. Namun, perbedaan terbesar adalah bahwa fitur baru ini tidak lagi secara terang-terangan menunjukkan bahwa konten tersebut berasal dari AI. Tanpa adanya logo atau label yang mencolok, pengguna mungkin tidak menyadari bahwa informasi yang mereka terima adalah hasil dari proses AI generatif.
Lewat fitur baru yang sedang diuji ini, kekhawatiran muncul karena tidak ada indikator langsung bahwa informasi tersebut dihasilkan oleh AI, yang dapat menimbulkan kebingungan dan potensi bahaya yang lebih besar jika informasi yang disajikan ternyata tidak akurat.
Google belum merilis fitur ini secara luas dan masih dalam tahap uji coba terbatas. Namun, banyak pihak berharap perusahaan teknologi raksasa ini segera menyadari potensi masalah yang ditimbulkan dan meninjau kembali keputusan tersebut. Jika fitur ini tetap dilanjutkan, diharapkan Google memberikan tanda yang lebih jelas bahwa konten yang disajikan dihasilkan oleh AI, demi transparansi dan keamanan pengguna.
Eksplorasi konten lain dari Cinews.id
Berlangganan untuk dapatkan pos terbaru lewat email.
