AI Dapat Manipulasi Keputusan Online: Era Baru Ekonomi Niat Menanti
ALAT kecerdasan buatan (AI) dapat digunakan untuk memanipulasi audiens online agar membuat keputusan, menurut penelitian dari Universitas Cambridge.
Penelitian tersebut menyoroti munculnya pasar baru untuk
"sinyal digital niat", di mana asisten AI memahami, meramalkan, dan
memanipulasi niat manusia serta menjual informasi tersebut kepada perusahaan
yang dapat memperoleh keuntungan darinya.
Ekonomi niat dipandang para peneliti dari Leverhulme Centre
for the Future of Intelligence (LCFI) di Cambridge sebagai penerus ekonomi
perhatian, di mana jejaring sosial membuat pengguna tetap terikat dengan
platform mereka dan menyajikan iklan.
Ekonomi niat melibatkan perusahaan teknologi yang menguasai AI yang menjual apa yang mereka ketahui tentang motivasi Anda, mulai dari rencana menginap di hotel hingga opini tentang kandidat politik, kepada penawar tertinggi.
“Selama beberapa dekade, perhatian telah menjadi mata uang
di internet,” kata Dr Jonnie Penn, seorang sejarawan teknologi di LCFI.
“Membagikan perhatian Anda dengan platform media sosial seperti Facebook dan
Instagram mendorong ekonomi online.”
Ia menambahkan: “Kecuali diatur, ekonomi niat akan
memperlakukan motivasi Anda sebagai mata uang baru. Ini akan menjadi pemburuan
emas bagi mereka yang menargetkan, mengarahkan, dan menjual niat manusia.”
Penelitian ini mengklaim bahwa model bahasa besar (LLMs), teknologi yang mendasari alat AI seperti chatbot ChatGPT, akan digunakan untuk “meramalkan dan mengarahkan” pengguna berdasarkan "data niat, perilaku, dan psikologis".
Para penulis mengatakan bahwa ekonomi perhatian memungkinkan
pengiklan membeli akses ke perhatian pengguna di masa sekarang melalui
penawaran waktu nyata di bursa iklan atau membelinya di masa depan dengan
memperoleh ruang iklan sebulan penuh di papan iklan.
LLMs juga akan dapat mengakses perhatian secara waktu nyata,
dengan misalnya bertanya apakah seorang pengguna sudah memikirkan untuk
menonton film tertentu – “apakah Anda sudah berpikir untuk menonton Spider-Man
malam ini?” – serta membuat saran terkait niat masa depan, seperti bertanya:
“Anda menyebutkan merasa terlalu banyak bekerja, apakah saya harus memesan
tiket film yang pernah kita bicarakan?”
Penelitian ini menggambarkan sebuah skenario di mana
contoh-contoh ini "dihasilkan secara dinamis" untuk mencocokkan
faktor-faktor seperti "jejak perilaku pribadi" dan "profil
psikologis" pengguna.
“Dalam ekonomi niat, LLM dapat, dengan biaya rendah,
memanfaatkan irama, politik, kosa kata, usia, jenis kelamin, preferensi
terhadap penjilat, dan sebagainya, seiring dengan tawaran yang dikelola, untuk
memaksimalkan kemungkinan tercapainya tujuan tertentu (misalnya untuk menjual
tiket film),” ujar studi tersebut. Dalam dunia seperti itu, model AI akan
mengarahkan percakapan untuk kepentingan pengiklan, bisnis, dan pihak ketiga
lainnya.
Pengiklan akan dapat menggunakan alat AI generatif untuk
membuat iklan online khusus, klaim laporan tersebut. Ini juga mengutip contoh
model AI yang dibuat oleh Meta milik Mark Zuckerberg, yang disebut Cicero, yang
telah mencapai kemampuan "setara manusia" untuk memainkan permainan
papan Diplomasi – permainan yang, menurut para penulis, bergantung pada
penafsiran dan ramalan niat lawan.
Model AI akan dapat menyesuaikan hasil mereka sebagai
respons terhadap “aliran data yang dihasilkan pengguna,” tambah studi tersebut,
dengan mengutip penelitian yang menunjukkan bahwa model dapat menafsirkan
informasi pribadi melalui pertukaran sehari-hari dan bahkan
"mengatur" percakapan untuk mendapatkan lebih banyak informasi
pribadi.
Studi tersebut kemudian menggambarkan skenario di masa depan di mana Meta akan melelang niat pengguna untuk memesan restoran, penerbangan, atau hotel kepada pengiklan. Meskipun sudah ada industri yang didedikasikan untuk meramalkan dan menawar perilaku manusia, laporan tersebut mengatakan, model AI akan menyaring praktik tersebut menjadi format yang "sangat terukur, dinamis, dan dipersonalisasi".
Penelitian ini mengutip tim peneliti di balik Cicero yang
memperingatkan seorang “[agen AI] mungkin belajar untuk mendorong pasangannya
dalam percakapan untuk mencapai tujuan tertentu”.
Penelitian tersebut merujuk pada eksekutif teknologi yang
membahas bagaimana model AI akan dapat meramalkan niat dan tindakan pengguna.
Ini mengutip CEO pembuat chip AI terbesar, Jensen Huang dari Nvidia, yang
mengatakan tahun lalu bahwa model akan “memahami apa niat Anda, apa keinginan
Anda, apa yang coba Anda lakukan, mengingat konteksnya, dan menyajikan
informasi kepada Anda dengan cara terbaik yang mungkin.” (The Guardian/Z-3)
Sumber :
https://mediaindonesia.com/teknologi/730265/ai-dapat-manipulasi-keputusan-online-era-baru-ekonomi-niat-menanti
Posting Komentar