Alat-alat
dalam
percakapan
kecerdasan
buatan
(AI)
mungkin
akan
segera
“secara
diam-diam
memengaruhi”
pengambilan
keputusan
pengguna
dalam
medan
komersial
baru
yang
disebut
“ekonomi
berbasis
niat.”
Para
peneliti
Universitas
Cambridge
memperingatkan
hal
tersebut
dalam
sebuah
makalah
yang
diterbitkan
pada
Senin
(30/12).
Penelitian
tersebut
berpendapat
bahwa
pasar
yang
berpotensi
“menguntungkan
namun
meresahkan”
yang
muncul
untuk
“sinyal
niat
digital”
dapat,
dalam
waktu
dekat,
memengaruhi
segalanya
mulai
dari
membeli
tiket
film
hingga
memilih
kandidat
politik.
Keakraban
kita
yang
semakin
meningkat
dengan
chatbot,
tutor
digital,
dan
apa
yang
disebut
agen
AI
“antropomorfik”
lainnya
membantu
memungkinkan
serangkaian
“teknologi
persuasif”
baru
ini,
tambah
penelitian
itu.
Ini
akan
melihat
AI
menggabungkan
pengetahuan
tentang
kebiasaan
daring
kita
dengan
kemampuan
yang
berkembang
untuk
mengetahui
pengguna
dan
mengantisipasi
keinginannya
dan
membangun
“tingkat
kepercayaan
dan
pemahaman
baru,”
kata
dua
penulis
laporan
tersebut.
Jika
tidak
dicegah,
hal
itu
dapat
memungkinkan
“manipulasi
sosial
dalam
skala
industri”,
menurut
dua
penulis
dari
Leverhulme
Centre
for
the
Future
of
Intelligence
(LCFI)
Cambridge,
dalam
makalah
yang
diterbitkan
di
Harvard
Data
Science
Review.
Makalah
tersebut
mencirikan
bagaimana
sektor
yang
baru
muncul
ini
–
yang
dijuluki
“ekonomi
berbasis
niat”
–
akan
memetakan
perhatian
dan
gaya
komunikasi
pengguna
serta
menghubungkannya
dengan
pola
perilaku
dan
pilihan
yang
mereka
buat.
“Alat-alat
AI
sudah
dikembangkan
untuk
memperoleh,
menyimpulkan,
mengumpulkan,
mencatat,
memahami,
memperkirakan,
dan
akhirnya
memanipulasi
dan
mengkomodifikasi
rencana
dan
tujuan
manusia,”
kata
salah
satu
penulis
Yaqub
Chaudhary.
AI
baru
tersebut
akan
bergantung
pada
apa
yang
disebut
Large
Language
Models
–
atau
LLM
–
untuk
menargetkan
irama,
politik,
kosakata,
usia,
jenis
kelamin,
riwayat
daring
pengguna,
dan
bahkan
preferensi
untuk
sanjungan
dan
pujian,
menurut
penelitian
tersebut.
Itu
akan
dikaitkan
dengan
teknologi
AI
baru
lainnya
yang
berupaya
mencapai
tujuan
tertentu,
seperti
menjual
tiket
perjalanan
ke
bioskop,
atau
mengarahkan
percakapan
ke
platform,
pengiklan,
bisnis,
dan
bahkan
organisasi
politik
tertentu.
Penulis
lain
dalam
laporan
ini,
Jonnie
Penn,
memperingatkan:
“Jika
tidak
diatur,
ekonomi
yang
berbasis
pada
niat
akan
memperlakukan
motivasi
Anda
sebagai
mata
uang
baru.”
“Ini
akan
menjadi
perburuan
emas
bagi
mereka
yang
menargetkan,
mengarahkan,
dan
menjual
tujuan
manusia,”
tambahnya.
“Kita
harus
mulai
mempertimbangkan
dampak
yang
mungkin
terjadi
dari
pasar
semacam
itu
terhadap
aspirasi
manusia,
termasuk
pemilihan
umum
yang
bebas
dan
adil,
pers
yang
bebas,
dan
persaingan
pasar
yang
adil,
sebelum
kita
menjadi
korban
dari
konsekuensi
yang
tidak
diinginkan,”
tambahnya.
Penn
mencatat
bahwa
kesadaran
publik
terhadap
masalah
ini
adalah
“kunci
untuk
memastikan
kita
tidak
menempuh
jalan
yang
salah.”
[ns/ka]