Uni Eropa bersandar pada penandatangan Kode Praktiknya tentang Disinformasi Daring untuk melabeli deepfake dan konten buatan AI lainnya.

Dalam sambutannya kemarin setelah pertemuan dengan 40+ penandatangan Kode, komisioner nilai dan transparansi UE, Vera Jourova, mengatakan mereka yang mendaftar untuk memerangi disinformasi harus menerapkan teknologi untuk mengenali konten AI dan dengan jelas memberi label kepada pengguna.

“Teknologi AI baru dapat menjadi kekuatan untuk kebaikan dan menawarkan jalan baru untuk peningkatan efisiensi dan ekspresi kreatif. Tapi, seperti biasa, kita harus menyebutkan sisi gelap dari masalah ini dan juga menghadirkan risiko baru dan potensi konsekuensi negatif bagi masyarakat,” dia memperingatkan. “Juga dalam hal penciptaan dan penyebaran disinformasi.

“Chatbot tingkat lanjut seperti ChatGPT mampu membuat konten dan visual yang rumit dan tampaknya terbukti dengan baik dalam hitungan detik. Pembuat gambar dapat membuat gambar peristiwa yang tampak otentik yang tidak pernah terjadi. Perangkat lunak penghasil suara dapat meniru suara seseorang berdasarkan sampel beberapa detik. Teknologi baru juga meningkatkan tantangan baru untuk memerangi disinformasi. Jadi hari ini saya meminta para penandatangan untuk membuat jalur khusus dan terpisah di dalam kode untuk membahasnya.”

“Dalam hal produksi AI, saya tidak melihat ada hak bagi mesin untuk memiliki kebebasan berbicara.

Penandatangan Kode Praktik UE melawan disinformasi harus menerapkan teknologi untuk mengenali konten AI dan memberi label yang jelas kepada pengguna.”

— Wakil Presiden @VeraJourova pic.twitter.com/yLVp79bqEH

— Komisi Eropa (@EU_Commission) 5 Juni 2023

Versi Kode saat ini, yang ditingkatkan oleh UE musim panas lalu – ketika juga dikonfirmasikan bahwa itu bermaksud instrumen sukarela untuk menjadi tindakan mitigasi yang diperhitungkan dalam kepatuhan terhadap Undang-Undang Layanan Digital (DSA) (yang mengikat secara hukum) – saat ini tidak melakukan untuk mengidentifikasi dan melabeli deepfake. Tapi KPU berharap bisa mengubah itu.

Komisioner UE mengatakan melihat dua sudut diskusi utama tentang bagaimana memasukkan langkah-langkah mitigasi untuk konten yang dihasilkan AI dalam Kode: Satu akan fokus pada layanan yang mengintegrasikan AI generatif, seperti Microsoft New Bing atau layanan pencarian Google Bard AI-augmented — yang harus berkomitmen untuk membangun “perlindungan yang diperlukan agar layanan ini tidak dapat digunakan oleh pelaku jahat untuk menghasilkan disinformasi”.

Yang kedua akan meminta penandatangan yang memiliki layanan dengan potensi untuk menyebarkan disinformasi yang dihasilkan AI untuk menerapkan “teknologi untuk mengenali konten semacam itu dan dengan jelas memberi label ini kepada pengguna”.

Jourova mengatakan dia telah berbicara dengan Sundar Pichai dari Google dan diberi tahu bahwa Google memiliki teknologi yang dapat mendeteksi konten teks yang dihasilkan AI, tetapi juga terus mengembangkan teknologi untuk meningkatkan kemampuannya.

Dalam sambutan lebih lanjut selama Tanya Jawab pers, komisaris dia mengatakan bahwa UE menginginkan label untuk deepfake dan konten lain yang dihasilkan AI menjadi jelas dan cepat – sehingga pengguna normal akan segera dapat memahami bahwa konten yang mereka sajikan memiliki diciptakan oleh mesin, bukan manusia.

Dia juga menjelaskan bahwa Komisi ingin melihat platform menerapkan pelabelan sekarang — “segera”.

DSA memang memasukkan beberapa ketentuan yang membutuhkan platform online yang sangat besar (VLOP) untuk melabeli audio dan gambar yang dimanipulasi, tetapi Jourova mengatakan ide untuk menambahkan pelabelan ke Kode disinformasi adalah bahwa hal itu dapat terjadi bahkan lebih cepat dari batas waktu kepatuhan 25 Agustus untuk VLOP di bawah DSA. .

“Saya berkali-kali mengatakan bahwa kita memiliki tugas utama untuk melindungi kebebasan berbicara. Tapi ketika menyangkut produksi AI, saya tidak melihat ada hak bagi mesin untuk memiliki kebebasan berbicara. Jadi ini juga kembali ke pilar lama yang baik dari hukum kita. Dan itulah mengapa kami ingin bekerja lebih jauh di bawah Kode Etik berdasarkan ide yang sangat mendasar ini,” tambahnya.

Komisi juga mengharapkan untuk melihat tindakan pelaporan risiko disinformasi yang dihasilkan AI bulan depan – dengan Jourova mengatakan penandatangan yang relevan harus menggunakan laporan Juli untuk “memberi tahu publik tentang perlindungan yang mereka lakukan untuk menghindari penyalahgunaan AI generatif untuk menyebar disinformasi”.

Kode disinformasi sekarang memiliki 44 penandatangan – termasuk raksasa teknologi seperti Google, Facebook dan Microsoft, serta entitas adtech yang lebih kecil dan organisasi masyarakat sipil – penghitungan yang naik dari 34 yang telah menandatangani komitmen pada Juni 2022.

Namun, akhir bulan lalu Twitter mengambil langkah yang tidak biasa dengan menarik diri dari Kode UE sukarela.

Masalah besar lainnya yang dicatat Jourova yang dia angkat dengan para penandatangan yang tersisa dalam pertemuan kemarin — mendesak mereka untuk mengambil lebih banyak tindakan — termasuk propaganda perang Rusia dan disinformasi pro-Kremlin; perlunya moderasi dan pengecekan fakta yang “konsisten”; upaya pengamanan pemilu; dan akses ke data untuk peneliti.

“Masih terlalu banyak konten disinformasi berbahaya yang beredar di platform dan kapasitas yang terlalu sedikit,” dia memperingatkan, menyoroti keluhan lama dari Komisi bahwa inisiatif pemeriksaan fakta tidak diterapkan secara komprehensif di seluruh konten yang menargetkan semua bahasa yang digunakan di UE. Negara-negara Anggota, termasuk negara-negara kecil.

“Terutama negara-negara Eropa tengah dan timur berada di bawah serangan permanen terutama dari sumber disinformasi Rusia,” tambahnya. “Ada banyak yang harus dilakukan. Ini tentang kapasitas, ini tentang pengetahuan kita, ini tentang pemahaman kita tentang bahasa. Dan juga pemahaman tentang alasan mengapa di beberapa Negara Anggota ada tempat makan atau tanah yang disiapkan untuk menyerap sebagian besar disinformasi.”

Akses untuk peneliti masih belum mencukupi, dia juga menekankan — mendesak platform untuk meningkatkan upaya mereka pada data untuk penelitian.

Jourova juga menambahkan beberapa kata peringatan tentang jalur yang dipilih oleh Elon Musk — menunjukkan bahwa Twitter telah menempatkan dirinya dalam garis bidik penegakan hukum UE, sebagai VLOP yang ditunjuk di bawah DSA.

DSA menetapkan persyaratan hukum pada VLOP untuk menilai dan memitigasi risiko sosial seperti disinformasi sehingga Twitter mengundang kecaman dan sanksi dengan membalik burung di Kode UE (denda di bawah DSA dapat ditingkatkan hingga 6% dari omset tahunan global).

“Mulai Agustus tahun ini, struktur kami, yang akan berperan sebagai penegak DSA, akan melihat kinerja Twitter apakah mereka patuh, apakah mereka mengambil tindakan yang diperlukan untuk mengurangi risiko dan mengambil tindakan terhadap… terutama konten ilegal, dia lebih lanjut memperingatkan.

“Uni Eropa bukanlah tempat di mana kami ingin melihat hukum California yang diimpor,” tambahnya. “Kami mengatakannya berkali-kali dan itulah mengapa saya juga ingin kembali dan menghargai kerja sama dengan… mantan orang yang bekerja di Twitter, yang bekerja sama dengan kami. [for] beberapa tahun sudah ada Code of Conduct against hate speech dan Code of Practice [on disinformation] demikian juga. Jadi kami minta maaf tentang itu. Saya pikir Twitter memiliki orang-orang yang sangat berpengetahuan dan bertekad yang memahami bahwa harus ada tanggung jawab, tanggung jawab yang jauh lebih besar di situs platform seperti Twitter.”

Ditanya apakah pendekatan Catatan Komunitas Twitter – yang memeriksa fakta oleh crowdsource (jadi pada dasarnya outsourcing) kepada pengguna Twitter jika cukup banyak orang yang mempertimbangkan untuk menambahkan konsensus konteks ke tweet yang disengketakan – mungkin cukup dengan sendirinya untuk mematuhi persyaratan hukum untuk mengatasi disinformasi di bawah DSA, Jourova mengatakan akan tergantung pada penegak Komisi untuk menilai apakah mereka patuh atau tidak.

Namun dia menunjuk penarikan Twitter dari Kode sebagai langkah signifikan ke arah yang salah, menambahkan: “Kode Praktik akan diakui sebagai tindakan mitigasi yang sangat serius dan dapat dipercaya terhadap konten berbahaya.”