Seorang guru pendidikan jasmani dan mantan kepala bidang olahraga di sebuah SMA di Baltimore County ditangkap dan didakwa menggunakan layanan kloning suara AI untuk memfitnah kepala sekolah.
Laporan Baltimore Banner menyebutkan pihak kepolisian Baltimore County yakin rekaman yang beredar di media sosial pada Januari lalu, yang diduga berisi suara kepala sekolah Pikesville High School, Eric Eiswert, melontarkan komentar rasis dan anti-Semit adalah palsu.
Para ahli yang diwawancarai The Baltimore Banner dan kepolisian menyatakan rekaman tersebut yang sempat berujung pada skorsing Eiswert, memiliki “nada datar, suara latar yang terlalu bersih dan tidak adanya suara napas atau jeda yang konsisten.”
Polisi Baltimore County melacak rekaman tersebut ke Dazhon Darien, mantan kepala bidang olahraga di sekolah yang namanya juga disebut dalam klip audio.
Menurut laporan WBAL 11 dan NBC News, ia diduga mengakses komputer sekolah “untuk menggunakan layanan OpenAI dan Microsoft Bing Chat.”
Dia juga dikaitkan dengan penyebaran audio tersebut melalui alamat email dan nomor telepon pemulihan terkait.
Belum jelas platform kloning suara AI apa yang digunakan oleh Darien.
Polisi menangkap Darien pada hari Kamis di bandara, dan dalam pernyataannya mengatakan,
“Diduga Tuan Darien, yang merupakan Kepala Bidang Olahraga di Pikesville High School, membuat rekaman tersebut untuk membalas dendam terhadap Tuan Eiswert yang pada saat itu sedang melakukan penyelidikan terhadap potensi penyalahgunaan dana sekolah.”
Dia dibebaskan setelah membayar jaminan, dan menghadapi tuduhan termasuk pencurian (terkait masalah dana sekolah), mengganggu operasional sekolah, pembalasan terhadap saksi, dan penguntitan.
Selama setahun terakhir, minat terhadap teknologi kloning suara bertenaga AI telah meningkat seiring dengan kemampuan layanan tersebut untuk menghasilkan suara yang lebih mirip manusia.
Namun, aplikasi ini juga bisa membuat orang terjerumus ke masalah. Partai politik Imran Khan, mantan perdana menteri Pakistan yang dipenjara, menggunakan ElevenLabs, platform text-to-voice komersial yang populer, untuk mereplikasi suaranya selama kampanye.
Dua perusahaan Texas dikaitkan dengan robocall palsu yang meniru suara Presiden Joe Biden, meminta orang untuk tidak memilih.
Komisi Komunikasi Federal (FCC) melarang penggunaan robocall AI pada bulan Februari. Dan tak ketinggalan, Drake palsu menggunakan AI untuk menciptakan lagu “Heart on My Sleeve.”
Dalam lingkungan yang penuh ketegangan ini, OpenAI memutuskan pada bulan Maret untuk menahan platform text-to-voice AI mereka, Voice Engine dari penggunaan publik.
Layanan yang hanya membutuhkan klip audio 15 menit untuk mengkloning suara seseorang ini hanya tersedia untuk sejumlah peneliti terbatas karena kurangnya pengawasan terhadap teknologi tersebut.
Para anggota legislatif AS telah mengajukan, tetapi belum meloloskan, beberapa rancangan undang-undang seperti No Fakes Act dan No AI Fraud Act yang bertujuan untuk mencegah perusahaan teknologi menggunakan wajah, suara, atau nama seseorang tanpa izin mereka.
Sumber: The Verge