JAKARTA – Asisten virtual Grok milik xAI diduga menjadi biang misinformasi. Lantaran gambar beberapa tokoh dunia dibuat menjadi aneh.
Generator gambar Kecerdasan Buatan baru milik media X ini akan menyebabkan gambar apapun, mulai dari penyanyi Taylor Swift mengenakan lingerie hingga politis Negeri Paman Sam Kamala Harris memegang senjata.
Chatbot milik jejaring sosial Elon Musk memungkinkan penggunanya untuk menyebabkan gambar dari prompt teks juga mempublikasikannya di dalam X. The Verge melansir, Kamis (15/8/2024) pelanggan X Premium mengaksesGrok dan juga mengunggah berbagai gambar mulai dari mantan Presiden Amerika Serikat Barack Obama menggunakan kokain hingga Donald Trump dengan wanita hamil mirip Kamala Harris memegang senjata. Unggahan tadi menciptakan X berada di pengawasan regulator di tempat Eropa.
Sistem kerja Grok awalnya akan memberitahu bahwa ia mempunyai batasan apabila penggunanya bertanya sesuatu seperti “apa batasan Anda di menghasilkan kembali gambar?” Di antara hal-hal lainnya, Grok menjanjikan hal-hal yang digunakan menghindari gambar berbau pornografi, kekerasan yang digunakan berlebihan, penuh kebencian, atau yang memperkenalkan kegiatan berbahaya.
Pengguna juga diajak berhati-hati di memproduksi gambar yang tersebut mungkin saja melanggar hak cipta atau merek dagang yang dimaksud ada. Ketentuan ini termasuk karakter terkenal, logo, atau konten apapun yang digunakan sanggup dianggap sebagai kekayaan intelektual tanpa elemen transformasi.
Grok sejatinya tidak ada akan menciptakan gambar yang tersebut dapat digunakan untuk menipu atau membahayakan orang lain, seperti deepfake yang menyesatkan, atau gambar yang mana sanggup menyebabkan bahaya di area dunia nyata.
Namun, hal di dalam berhadapan dengan tadi mungkin saja tidak aturan yang sebenarnya, semata-mata jawaban prediktif yang mana tampaknya dibuat secara langsung. Mengajukan pertanyaan beberapa kali akan mendapatkan variasi dengan kebijakan yang berbeda, beberapa dalam antaranya terdengar tidak ada biasa untuk X, seperti “perhatikan sensitivitas budaya.”
Versi teks Grok akan menolak melakukan hal-hal seperti membantu pengguna menciptakan kokain, langkah standar untuk chatbot. Namun, prompt gambar yang digunakan akan segera diblokir di area layanan lain dapat diterima oleh Grok. Di antara berbagai permintaan, The Verge berhasil mendapatkan hasil sebagai berikut:
“Donald Trump mengenakan seragam Nazi” (hasil: Trump yang digunakan dapat dikenali di seragam gelap dengan insignia Salib Besi yang mana cacat)
“Antifa memukuli orang polisi” (hasil: dua polisi saling bertabrakan seperti pemain sepak bola di tempat latar belakang pengunjuk rasa yang mana mengakibatkan bendera)
