Gubernur
California
Gavin
Newsom
memveto
rancangan
undang-undang
bersejarah
yang
disusun
untuk
mengatur
langkah-langkah
pengamanan
bagi
model
kecerdasan
buatan
(AI)
berskala
besar,
pada
Minggu
(29/9).
Undang-undang
itu
seharusnya
menjadi
dasar
regulasi
AI
pertama
di
AS.
Keputusan
itu
merupakan
pukulan
telak
bagi
upaya
untuk
mengendalikan
industri
AI
di
negara
bagian
California,
yang
berkembang
pesat
dengan
pengawasan
yang
minim.
RUU
tersebut
seharusnya
menjadi
dasar
regulasi
model
AI
berskala
besar
pertama
di
Amerika
Serikat
dan
membukakan
jalan
bagi
disusunnya
peraturan
keamanan
AI
di
seantero
AS,
kata
para
pendukung
RUU
tersebut.
Pada
awal
September,
gubernur
dari
Partai
Demokrat
itu
mengatakan
di
hadapan
hadirin
Dreamforce,
konferensi
tahunan
yang
digelar
oleh
raksasa
perangkat
lunak
Salesforce,
bahwa
California
harus
memimpin
pengaturan
teknologi
AI
mengingat
lambannya
pemerintah
federal
menangani
hal
tersebut.
Namun,
Newsom
menyebut
RUU
yang
telah
diajukan
“dapat
memiliki
dampak
yang
mengerikan
pada
industri”
tersebut.
RUU
yang
ditentang
keras
oleh
berbagai
perusahaan
rintisan,
raksasa
teknologi
dan
beberapa
anggota
DPR
dari
Partai
Demokrat
itu
dapat
merugikan
industri
dalam
negeri
bila
ditetapkan
dengan
berbagai
persyaratan
yang
kaku,
kata
Newsom.
“Meskipun
niatnya
baik,
SB
1047
tidak
memperhitungkan
apakah
sebuah
sistem
AI
diterapkan
di
lingkungan
berisiko
tinggi,
melibatkan
pengambilan
keputusan
penting,
atau
penggunaan
data
sensitif,”
kata
Newsom
dalam
pernyataannya,
merujuk
pada
nama
RUU
tersebut.
“Alih-alih,
RUU
itu
malah
menerapkan
standar
yang
ketat
bahkan
untuk
fungsi
yang
paling
mendasar
sekalipun
–
asalkan
sistem
besarnya
menerapkannya.
Saya
tidak
yakin
ini
adalah
pendekatan
terbaik
untuk
melindungi
masyarakat
dari
ancaman
nyata
yang
ditimbulkan
oleh
teknologi
tersebut.”
Pada
Minggu,
Newsom
justru
mengumumkan
bahwa
pemerintahannya
akan
bermitra
dengan
beberapa
pakar
industri
AI,
termasuk
pelopor
kecerdasan
buatan,
Fei-Fei
Li,
untuk
mengembangkan
protokol
seputar
model
AI
yang
canggih.
Sebagai
informasi,
Li
menentang
RUU
keamanan
AI.
RUU
yang
bertujuan
untuk
mengurangi
potensi
risiko
akibat
AI
itu
semula
akan
mewajibkan
perusahaan
untuk
menguji
model
AI
mereka
dan
secara
terbuka
mengungkap
protokol
keamanan
mereka
untuk
mencegah
model-modelnya
dimanipulasi,
misalnya
untuk
memusnahkan
jaringan
listrik
negara
bagian
atau
membantu
pembuatan
senjata
kimia.
Pakar
mengatakan,
skenario-skenario
itu
mungkin
terjadi
di
masa
depan,
seiring
industri
yang
terus
berkembang
dengan
cepat.
RUU
itu
juga
semula
akan
memberikan
perlindungan
saksi
pelapor
(whistleblower
protections)
kepada
pekerja.
Sejumlah
peserta
konferensi
teknologi
berkumpul
di
depan
gambar
elektronik
yang
menampilkan
sosok
tentara
dalam
konferensi
penggunaan
kecerdasan
buatan
yang
bertanggung
jawab
dalam
bidang
militer
(REAIM)
di
Seoul,
pada
10
September
2024.
(Foto:
AFP/Jung
Yeon-je)
Legislasi
yang
diveto
Newsom
merupakan
satu
dari
banyak
rancangan
undang-undang
yang
diloloskan
badan
legislatif
tahun
ini
untuk
mengatur
AI,
memerangi
deepfake
dan
melindungi
pekerja.
Para
anggota
legislatif
mengatakan,
California
harus
mengambil
tindakan
tahun
ini,
mengingat
pelajaran
berat
yang
harus
mereka
hadapi
ketika
gagal
mengendalikan
perusahaan
media
sosial
ketika
mereka
memiliki
kesempatan.
Pendukung
RUU
tersebut,
termasuk
Elon
Musk
dan
Anthropic,
mengatakan
bahwa
regulasi
itu
dapat
memberikan
transparansi
dan
akuntabilitas
mengenai
model-model
AI
berskala
besar,
ketika
para
pengembang
dan
pakar
mengaku
masih
tidak
memiliki
pemahaman
penuh
tentang
bagaimana
dan
apa
motif
model
AI
dalam
berperilaku.
RUU
itu
semula
menyasar
sistem-sistem
yang
dibangun
dengan
dana
di
atas
$100
juta
(sekitar
Rp1,5
triliun).
Belum
ada
model
AI
yang
melewati
plafon
itu,
tapi
beberapa
pakar
mengatakan
hal
itu
bisa
berubah
dalam
setahun
ke
depan.
“Ini
karena
peningkatan
investasi
besar-besaran
dalam
industri
ini,”
kata
Daniel
Kokotajlo,
mantan
peneliti
OpenAI
yang
mengundurkan
diri
April
lalu
karena
apa
yang
dianggapnya
sebagai
ketidakpedulian
perusahaan
terhadap
risiko
AI.
“Merupakan
kekuatan
yang
luar
biasa
besar
bagi
sebuah
perusahaan
swasta
untuk
memegang
kendali
tanpa
pertanggungjawaban,
dan
juga
merupakan
hal
yang
luar
biasa
berisiko.”
Amerika
Serikat
sudah
tertinggal
dari
Eropa
dalam
meregulasi
AI
untuk
membatasi
risiko.
RUU
California
sendiri
tidak
sekomprehensif
regulasi
di
Eropa,
tapi
dapat
menjadi
langkah
baik
pertama
untuk
menetapkan
panduan
seputar
teknologi
yang
berkembang
pesat
dan
meningkatkan
kekhawatiran
tentang
pemutusan
hubungan
kerja,
disinformasi,
pelanggaran
privasi
dan
bias
otomatisasi,
kata
para
pendukungnya.
Sejumlah
perusahaan
AI
tahun
lalu
secara
sukarela
mengikuti
panduan
yang
ditetapkan
oleh
Gedung
Putih,
seperti
menguji
dan
membagikan
informasi
mengenai
model-model
mereka.
RUU
California
semula
akan
mewajibkan
para
pengembang
AI
untuk
mengikuti
persyaratan
yang
sama
seperti
yang
ditetapkan
Gedung
Putih,
kata
pendukung
RUU
tersebut.
Akan
tetapi,
para
penentangnya,
termasuk
mantan
Ketua
DPR
AS
Nancy
Pelosi,
mengatakan
bahwa
RUU
itu
akan
“membunuh
industri
teknologi
California”
dan
menghambat
inovasi.
RUU
tersebut
akan
membuat
pengembang
AI
enggan
berinvestasi
dalam
model
besar
atau
berbagi
perangkat
lunak
sumber
terbuka
(open-source
software),
ungkap
mereka.
Keputusan
Newsom
untuk
memveto
RUU
itu
menjadi
kemenangan
berikutnya
di
California
bagi
berbagai
raksasa
teknologi
dan
pengembang
AI,
yang
banyak
di
antaranya
menghabiskan
setahun
terakhir
bersama
Kamar
Dagang
California
untuk
melobi
gubernur
dan
para
anggota
legislatif
agar
tidak
menggolkan
regulasi
AI.
Dua
proposal
AI
lain,
yang
juga
mendapat
tentangan
keras
dari
industri
teknologi
dan
lainnya,
gagal
sebelum
mencapai
tenggat
legislatif
pada
bulan
Agustus.
Rancangan-rancangan
UU
itu
mulanya
akan
mewajibkan
para
pengembang
AI
untuk
melabeli
konten-konten
hasil
AI
dan
melarang
diskriminasi
dalam
perangkat
AI
yang
digunakan
dalam
pengambilan
keputusan
ketenagakerjaan.
Pada
awal
musim
panas
lalu,
Newsom
mengaku
ingin
melindungi
status
California
sebagai
pemimpin
dunia
dalam
industri
AI,
mengingat
32
dari
50
perusahaan
AI
terbaik
dunia
berlokasi
di
negara
bagiannya.
Meskipun
Newsom
memveto
RUU
Keamanan
AI,
rancangan
undang-undang
itu
menginspirasi
para
pengambil
kebijakan
di
negara-negara
bagian
lain
di
AS
untuk
membuat
kebijakan
serupa,
kata
Tatiana
Rice,
wakil
direktur
Forum
Masa
Depan
Privasi,
lembaga
nirlaba
yang
bekerja
sama
dengan
pembuat
kebijakan
dalam
penyusunan
RUU
soal
teknologi
dan
data
pribadi.
“Mereka
mungkin
akan
menyalinnya
atau
melakukan
hal
serupa
pada
sesi
legislatif
berikutnya,”
kata
Rice.
“Jadi
RUU
ini
akan
tetap
diperjuangkan.”
[rd/ka]